您的位置:首页 >要闻 >正文

微软推出适用于基于NPU的Copilot+PC的Phi Silica AI小型语言模型

摘要 作为Build 2024开发者大会的一部分,微软正式宣布了其 Phi-3 AI 小型语言模型家族的新成员:基于多模型的 Phi-3-vision 。不过,还有...

作为Build 2024开发者大会的一部分,微软正式宣布了其 Phi-3 AI 小型语言模型家族的新成员:基于多模型的 Phi-3-vision 。不过,还有另一位 Phi SLM 成员,与周一发布的大型 Copilot+ PC相配套。

微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 透露,新的 SLM Phi Silica 是该公司 Windows Copilot 库的一部分。这是一个 33 亿参数的模型,这也使其成为 Phi 系列 AI 模型中最小的一个。

微软补充道:

它经过优化,可在 Copilot+ PC 中的 NPU 上运行,带来本地推理并实现第一令牌延迟性能。开发人员可以访问 Phi Silica API 并在整个 Windows 生态系统中提供用户体验。​

新的设备内置 Phi Silica SLM 是微软最新 Windows Copilot 库的一部分。它是一组 API,由 40 多个将随 Windows 一起提供的设备内置模型提供支持。微软补充道:

Windows Copilot Library 提供了丰富的功能,可增强开发人员利用 Windows 中的 AI 的能力。作为 6 月份 Windows App SDK 版本的一部分,开发人员将能够访问 Studio Effects、实时字幕翻译、Phi Silica、OCR 和 Recall User Activity API。更多 API(如文本摘要、矢量嵌入和 RAG API)将在稍后推出。

据昨日报道,Copilot+ PC 是微软用来描述拥有自己的神经网络的 Windows PC 的整体品牌名称,这些专门用于运行 Copilot 和 Phi Silica 等 AI 应用程序。

首批 Copilot+ PC 计划于 6 月中旬发货,将搭载高通基于 Arm 的 Snapdragon X Elite 和 Plus 。微软和许多其他主要 PC 制造商将在今年夏天推出这类笔记本电脑。英特尔还计划在2024 年第三季度推出自己的基于 Copilot+ PC 的处理器,目前代号为 Lunar Lake 。

版权声明:本文由用户上传,如有侵权请联系删除!