披露边缘部署愿景:模型走向离线个人终端
在戴尔科技举办的“AI 领导力研讨会”上,Deepgram 主任技术项目经理 Nick Mann 接受 theCUBE Research 分析师 John Furrier 采访时公开透露,公司正在开发将其语音 AI 模型原生运行在无网络连接(air-gapped)的个人笔记本电脑上的技术能力。
Nick Mann 强调了这一边缘部署目标,表示希望团队研发的模型能在这些个人硬件设备上原生且完全断网运行,以在用户实际工作场景中直接满足使用需求。
携手戴尔支撑海量算力与多元自托管需求
目前,戴尔科技正为 Deepgram 的语音 AI 基础设施和客户部署提供算力支持,并在其“客户解决方案中心创新实验室”中运行 Deepgram 的语音模型。
据 Nick Mann 介绍,Deepgram 内部拥有 45 名顶尖研究人员,研发过程消耗海量算力和数据;同时,公司还需服务数以万计外部 API 客户,这些客户的工作负载具备高度的不可预测性与扩展性要求。
面对多样化的落地环境,很大一部分客户选择在 Deepgram 自身的云环境之外自行托管模型。戴尔涵盖从大型企业到小型公司的广泛客户群体,帮助 Deepgram 的技术跨越不同硬件规模实现部署。
在模型开发策略上,Deepgram 假定其发布的任何模型都会很快被超越,因此将每一个上线版本都视为一旦获取更优数据即可重新训练的候选者。
私有化演进与个人数据主权新趋势
拥有 13 年市场历史的 Deepgram,在空中交通管制和紧急医疗服务等嘈杂环境下的语音模型微调中拥有深厚经验,并在 2026 年早些时候将其 Flux 模型扩展到了 10 种语言。
为满足安全与监管需求,Deepgram 于 2026 年 6 月联合 Fortanix 与 NVIDIA,利用机密计算技术为医疗、金融等受监管行业提供私有化本地部署服务,确保模型权重和音频数据在运行时全程加密与硬件隔离。
当前企业 AI 部署重心正从单纯关注模型参数与 GPU,转向考量底层基础设施、成本效益、数据控制与运行时治理,将工作负载推回本地及边缘设备已成明确趋势。
SiliconANGLE 与 Dealroom 分析认为,Deepgram 推动语音 AI 登陆断网笔记本电脑的举措,预示着个人 AI 与个人数据主权将成为语音领域的下一前沿;Dealroom 亦将其定位为“隐形设计”战略,即通过与戴尔合作构建始终在线且可扩展的基础设施,消除阻碍创新的技术壁垒。

