全球最大的计算专业人士协会发布生成人工智能技术原则
•
2023-07-13 15:42:16
摘要 为了应对生成式人工智能技术的重大进步，以及这些技术在知识产权、未来工作甚至人类安全等领域提出的重大问题，计算机协会的全球技术政策委...
为了应对生成式人工智能技术的重大进步，以及这些技术在知识产权、未来工作甚至人类安全等领域提出的重大问题，计算机协会的全球技术政策委员会 (ACM TPC) 发布了“生成式人工智能技术的开发、部署和使用原则。”
ACM TPC 声明借鉴了和欧洲计算机科学家深厚的技术专业知识，概述了八项原则，旨在促进有关生成和所有其他人工智能技术的公平、准确和有益的决策。其中四项原则专门针对生成式人工智能，另外四项原则改编自 TPC 的 2022 年“负责任的算法系统原则声明”。
新原则的简介提出了核心论点，即“生成式人工智能系统的力量不断增强、其进化速度、广泛应用以及造成重大甚至灾难性伤害的潜力，意味着在研究、设计时必须非常小心”。 、开发、部署和使用它们。现有的避免此类伤害的机制和模式可能还不够。”
该文件随后列出了这八项工具性原则，此处以缩写形式概述：
生成式 AI 特定原则
部署和使用的限制和指南：应与所有利益相关者协商，审查和应用书面或修订的法律和法规，以在需要时限制生成人工智能技术的部署和使用，以最大程度地减少危害。如果没有明确和充分的保障措施，包括“人在循环中”以及相关利益相关者之间的明确共识，即该系统的好处将大大超过其潜在的负面影响，则不应允许任何高风险的人工智能系统运行。一种方法是定义风险级别的层次结构，最高级别为不可接受的风险，最低级别为最小风险。
所有权：知识产权 (IP) 法律和法规尚未充分考虑生成式人工智能系统的结构和功能的固有方面。
个人数据控制：生成式人工智能系统应该允许人们选择不使用他们的数据来训练系统或促进其信息生成。
可纠正性：生成人工智能系统的提供商应创建和维护公共存储库，可以记录系统所犯的错误，并可以选择进行更正。
版权声明：本文由用户上传，如有侵权请联系删除！
标签：