英伟达推出更新的设计可加快生成AI任务的速度
•
2023-08-10 15:51:28
摘要 英伟达为其先进人工智能芯片推出了更新设计，以加速生成人工智能任务。改进后的 Grace Hopper Superchip 版本增强了高带宽内存，支持Ch...
英伟达为其先进人工智能芯片推出了更新设计，以加速生成人工智能任务。
改进后的 Grace Hopper Superchip 版本增强了高带宽内存，支持ChatGPT等应用程序的更大 AI 模型。
Nvidia 副总裁 Ian Buck 表示，该配置针对高效 AI 推理进行了优化，这对于生成 AI 功能至关重要。
该设计将 Nvidia 开发的中央处理器与 H100 GPU 结合起来，以提高人工智能处理能力。这种适应满足了高级生成人工智能任务的需求。
“拥有更大的内存允许模型保留在单个 GPU 上，并且必须需要多个系统或多个 GPU 才能运行，”巴克在与的电话会议上解释道。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：