OpenAI组建新团队来引导控制超级智能人工智能系统
•
2023-07-10 10:48:41
摘要 微软旗下的OpenAI表示，它正在组建一支由顶尖机器学习研究人员和工程师组成的团队，以引导和控制超级智能人工智能 (AI) 系统。超级智能的...
微软旗下的OpenAI表示，它正在组建一支由顶尖机器学习研究人员和工程师组成的团队，以引导和控制“超级智能”人工智能 (AI) 系统。
超级智能的概念是指一种假想的人工智能模型，它擅长多种不同的技能，而不是像某些上一代模型那样只擅长某一领域。
新团队将由 Ilya Sutskever(OpenAI 首席科学家、公司联合创始人之一)和 Jan Leike(研究实验室协调负责人)共同领导。
“超级智能将是人类发明的最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。但超级智能的巨大力量也可能非常危险，并可能导致人类丧失权力，甚至人类灭绝，”OpenAI 在周三的一篇博文中表示。
据该公司称，这种模型可能会在本世纪末到来。
此外，该公司表示将在未来四年内将迄今为止所获得的计算资源的 20% 用于解决超级智能对齐问题。
“虽然这是一个令人难以置信的雄心勃勃的目标，而且我们不能保证一定会成功，但我们乐观地认为，通过集中一致的努力可以解决这个问题。有许多想法在初步实验中显示出希望，我们有越来越有用的进展指标，我们可以使用今天的模型来实证研究其中许多问题，”研究人员说。
此外，该公司表示，新团队的工作是 OpenAI 现有工作的补充，旨在提高 ChatGPT 等现有模型的安全性，以及了解和减轻人工智能带来的其他风险，例如滥用、经济破坏、虚假信息、偏见和歧视、成瘾和过度依赖等等。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：