新的人工智能基准测试对用户查询的响应速度
•
2024-04-25 11:07:43
摘要 人工智能基准测试组织 MLCommons 周三发布了一组新的测试和结果，对顶级硬件运行人工智能应用程序和响应用户的速度进行了评估。MLCommons...
人工智能基准测试组织 MLCommons 周三发布了一组新的测试和结果，对顶级硬件运行人工智能应用程序和响应用户的速度进行了评估。
MLCommons 添加的两个新基准衡量人工智能芯片和系统从充满数据的强大人工智能模型中生成响应的速度。结果大致展示了诸如 ChatGPT 之类的 AI 应用程序可以多快地响应用户查询。
新的基准测试之一增加了测量大型语言模型问答场景速度的功能。它名为 Llama 2，包含 700 亿个参数，由 Meta Platforms 开发。MLCommons 官方还在基准测试工具套件中添加了第二个文本到图像生成器，称为 MLPerf，基于 Stability AI 的 Stable Diffusion XL 模型。
原始性能并不是部署人工智能应用程序时唯一重要的衡量标准。先进的人工智能芯片会消耗大量的能源，人工智能公司面临的最重大挑战之一是部署能够以最少的能源提供最佳性能的芯片。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：