对于AI的iPhone时刻Nvidia推出大型语言模型芯片
•
2023-04-14 16:04:40
摘要 周二，Nvidia联合创始人兼首席执行官黄仁勋将OpenAI 的 ChatGPT的热议称为人工智能世界的iPhone 时刻 ，并在该公司的春季 GTC 会议上
周二，Nvidia联合创始人兼首席执行官黄仁勋将OpenAI 的 ChatGPT的热议称为人工智能世界的“iPhone 时刻” ，并在该公司的春季 GTC 会议上宣布了两款为此类应用提供动力的新芯片。
其一，NVIDIA H100 NVL for Large Language Model Deployment，专为处理所谓的大型语言模型上的“推理”任务而量身定制，ChatGPT 就是自然语言程序的一个例子。
推理是机器学习程序部署的第二阶段，此时运行经过训练的程序以通过预测来回答问题。
Nvidia 表示，H100 NVL 附带 94 GB 的内存。该公司表示，与数据中心规模的上一代 A100 相比，其 Transformer Engine 加速“在 GPT-3 上提供高达 12 倍的推理性能”。
Nvidia 的产品在某种程度上可以被视为取代英特尔的游戏，英特尔的服务器 CPU，Xeon 系列，长期以来一直主导着推理任务，而 Nvidia 控制着“训练”领域，这是 ChatGPT 等机器学习程序的阶段。最先开发。
Nvidia 表示，H100 NVL 预计将在今年“下半年”上市。
周二发布的第二款芯片是用于 AI Video 的 L4，该公司称其“可以提供比 CPU 高 120 倍的 AI 视频性能，同时能效提高 99%。”
Nvidia 表示，谷歌是第一家提供 L4 视频芯片的云提供商，使用 G2 虚拟机，目前处于私人预览版。Nvidia 表示，L4 将集成到谷歌的 Vertex AI 模型商店中。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：