OpenAI推出基于GPT4的模型CriticGPT可帮助程序员发现错误和缺陷
OpenAI 最近推出了基于 GPT 4 的新 AI 工具 CriticGPT，用于发现 ChatGPT 生成的代码中的错误。这项最新创新是改进 AI 系统以提供准确答案的努力的一部分。据该公司称，与未使用 CriticGPT 的相比，CriticGPT 将代码审查结果提高了 60%。OpenAI 将很快将 CriticGPT 集成到其从人类反馈中强化学习 (RLHF) 标签管道中。这一举措将为 AI 训练师提供更好的工具来评估 AI 输出，无论输出多么复杂。
该公司分享了其研究论文，指出 CriticGPT 的目的是帮助人类 AI 审阅者完成审阅 ChatGPT 生成的代码的任务。CriticGPT 是使用 GPT-4 LLM 构建的，在分析代码和识别错误方面表现出令人鼓舞的能力，使其人类同事能够发现自己可能无法注意到的 AI“幻觉”。
OpenAI 解释说，在训练过程中，人类开发人员被要求编辑 ChatGPT 编写的代码，引入一系列错误并提供示例反馈。这教会了 CriticGPT 如何识别最常见的以及一些不太常见的编码错误。
训练结束后，OpenAI 表示结果令人印象深刻。然而，CriticGPT 需要克服的挑战之一是，一些 AI 幻觉是分布在多个不同代码串中的错误的结果，这使得 CriticGPT 更难以识别问题的根源。
该工具是正在开发的众多新工具之一，旨在改进大型语言模型并使其生成式人工智能更加强大。
新技术可能还会对 OpenAI 即将开发的 AI 模型有所帮助。该公司最近表示，他们正在开发新的、更强大的 AI 模型。OpenAI 首席技术官Mira Murati最近详细介绍了即将推出的 AI 模型及其智能。
Murati 表示，GPT-3 拥有幼儿级别的智能，GPT-4 拥有高中生级别的智能，而下一代模型将拥有博士学位的人在特定任务上的智能。她还透露，下一代 GPT 有望在“一年半内”问世。她甚至说，当你与下一代聊天机器人交谈时，在很多事情上你可能会觉得它比你更聪明。
版权声明：本文由用户上传，如有侵权请联系删除！