Meta 推出新的生成式AI工具 提高AI响应的准确性

本文概要:

1. Meta 推出了一种名为 "Shepherd" 的新的生成式 AI 工具，旨在通过使用 AI 本身来改进生成式 AI 工具产生的不准确或误导性的回答。

2. "Shepherd" 利用高质量的反馈数据集对模型的回答进行批判性评价，并提出改进建议，以提供更准确的生成式 AI 输出。

3. 这项技术的目标是通过迫使生成式 AI 系统重新评估其错误或不完整的答案，以产生更好的回复。

Meta 推出了一种名为 "Shepherd" 的新的生成式 AI 工具，旨在通过使用 AI 本身来改进生成式 AI 工具产生的不准确或误导性的回答。

通过对模型的回答进行批判性评价，并提出改进建议，"Shepherd" 能够帮助用户更好地理解并完善生成式 AI 的输出。

正如Meta所解释的:

“我们方法的核心是高质量的反馈数据集，我们根据社区反馈和人工注释来整理该数据集。尽管 Shepherd 很小（7B 参数），但它的批评与包括 ChatGPT 在内的已建立模型的批评相同或更受欢迎。使用 GPT-4进行评估，与竞争对手相比，Shepherd 的平均胜率达到53-87%。在人类评估中，Shepherd 严格优于其他模型，并且平均与 ChatGPT 密切相关。”

尽管这项技术仍处于发展阶段，最终的目标是将这种反馈机制整合到主要的 AI 模型中，以产生更准确的回答。现在已经有一些 AI 系统（如 GPT-4）能够产生比当前可用的商业化 AI 系统更好的结果，并且一些社交媒体平台已经开始使用 GPT-4作为内容审核的基础，其表现甚至可以媲美人工审核。

这些进展可能会在社交媒体平台的 AI 应用中带来重大的突破。尽管这些系统可能永远无法像人类一样准确地理解细微差别和含义，但是随着技术的不断进步，生成式 AI 将越来越成为我们工作流程中不可或缺的辅助工具。