OpenAI 发布 CriticGPT 模型，旨在识别 ChatGPT 响应中的不准确性

人工智能研究组织OpenAI推出了基于GPT-4的新模型CriticGPT，旨在识别和纠正ChatGPT代码生成的输出中的错误。

新模型经过专门训练，可以生成批评意见，指出 ChatGPT 提供的答案中的错误。它是支持 ChatGPT 的 GPT-4 系列模型之一，专注于通过一种称为“从人类反馈中强化学习”（RLHF）的方法增强其实用性和交互性。这种方法涉及收集各种 ChatGPT 响应的 AI 训练师评分。

随着 ChatGPT 等大型 AI 模型在推理和行为方面的进步，它们的准确性得到了提高，错误也变得更加细微。这种演变给负责在 RLHF 比较期间识别不准确性的 AI 训练员带来了挑战。如果没有增强的工具，评估这些系统可能会很困难。OpenAI 强调，CriticGPT 模型旨在通过提供一种评估高级 AI 系统输出的方法来解决这一问题。

据该公司介绍，当用户为 ChatGPT 分配“编写特定 Python 函数”等任务时，ChatGPT 会生成相应的代码。同时，CriticGPT 在评估 ChatGPT 生成的代码之一时，可能会建议更好的替代方案。

然而，OpenAI 指出，CriticGPT 的建议并不总是准确的。尽管如此，它仍然可以帮助 AI 训练师识别模型生成的答案中的问题，而没有 AI 帮助则无法做到这一点。此外，与人工努力结合使用时，CriticGPT 可以增强用户的能力，从而产生更彻底的批评，与模型独立运行时相比，幻觉错误更少。

OpenAI 与 Oracle 云基础设施携手推动 AI 模型开发

OpenAI 致力于人工智能 (AGI) 和生成模型领域的研究和开发，并以其聊天机器人 ChatGPT 而闻名。据报道，该公司目前正在开发其最新版本 ChatGPT-5。

最近，OpenAI 与 Oracle Cloud Infrastructure (OCI) 合作以增强其功能。通过此次合作，它将利用 OCI 超级集群来训练和推理其下一代 AI 模型。

OpenAI 发布 CriticGPT 模型，旨在识别 ChatGPT 响应中的不准确性，该帖子首先出现在 Metaverse Post 上。

热点：nft模型 非小号不准 信息要准确 BTG币 nft模板