· · 1 分钟阅读

Foundry Local 正在让边缘 AI 开发变得更实际

Foundry Local 的最新更新扩展了语言支持、Linux ARM64 支持、取消流程和 Windows 加速。更大的故事是,本地和边缘 AI 开发正变得越来越容易投入实际运营。

Microsoft Foundry Local AI Edge AI AI Developer Tools
这篇文章也有其他语言版本:English, Català, Español, Deutsch, Français, Português, Italiano, 日本語, 한국어, Русский, हिन्दी, Polski, Türkçe, العربية, Bahasa Indonesia, Nederlands

本文已自动翻译。查看原文,请点击这里

边缘 AI 听起来很吸引人,直到你必须把它打包、运行、优化,并在真实硬件上支持它。

这就是为什么最新的 Foundry Local 更新会脱颖而出。

这次版本正好扩展了那些会把 demo 变成真正可部署方案的能力:

  • 多语言转录
  • Linux ARM64 支持
  • 取消支持
  • Windows ML 改进
  • 更广泛的硬件可移植性

原文从正确的地方开始

我喜欢原文一开始就承认了开发者已经知道的一件事:

AI 不再局限于云端实验。

这听起来很显然,但它很重要,因为它改变了需求。

一旦 AI 进入应用、边缘系统、AI PC 和受监管环境,平台要解决的问题就远不止推理访问。

它还必须解决:

  • 打包
  • 运行时差异
  • 硬件支持
  • 取消和控制流程
  • 部署一致性
  • 隐私和本地执行限制

在这里,本地 AI 要么变成真正的工程问题,要么就只是一个好看的 keynote 点子。

为什么这个版本比愿景更偏实践

我喜欢这里的一点是,这个公告并没有试图用一个巨大的抽象承诺来让我惊叹。

它正好改进了让本地 AI 在实践中变难的那些部分:

  • 实时转录中的更多语言
  • Linux ARM64 支持
  • SDK 范围内的取消支持
  • 通过 WinML 2.0 实现更简单的 Windows 加速
  • 更强的设备可移植性

这并不炫目。

但它有用。

而有用的东西,才是真正把团队从实验带到产品的东西。

GitHub Copilot CLI 语音示例是一个聪明的证明点

我特别喜欢的一部分,是对 GitHub Copilot CLI 语音输入基于 Foundry Local 的具体说明。

这比笼统的“看看能做到什么”式演示好得多。

它展示了:

  • 一个真实的工作流
  • 一个真实的产品表面
  • 真实的性能问题
  • 本地执行的真实价值

这让平台故事变得更加扎实。

隐私和可移植性才是真正的长期主题

我最想持续关注的部分,不是某一个 API 增加。

而是以下组合:

  • 以隐私优先的执行
  • 硬件可移植性
  • 混合/本地部署支持
  • 面向企业的控制能力

这种组合,才让本地 AI 超越小众实验,变得真正可行。

因为对于很多工作负载来说,本地故事不只是延迟问题。它更是控制问题。

我的看法

这里真正重要的变化是,本地 AI 开始不那么像一个特殊场景,而更像一个真正的工程目标。

这对重视隐私、响应速度、硬件多样性,以及更接近设备运行的 AI 的开发者来说,是个好消息。

这也是为什么 Foundry Local 值得比大多数 “AI at the edge” 公告更多的关注。

原文链接: Accelerate Edge AI Development with Foundry Local

分享:
在GitHub上查看此文章的源代码 ↗
← dotnet new WinUI:无需 Visual Studio 即可创建 Windows 应用
Foundry Local 1.1:实时转录、Embeddings 和 Responses API →