英伟达发布ChatQA模型 性能达到GPT-4级别

英伟达推出了ChatQA模型，据悉其性能可以对飚GPT-4，使用两阶段指令调整和改进的上下文检索等高效的训练方法。

ChatQA是一组对话式问答 （QA） 模型，可以获得GPT-4级别的精度。具体来说，开发团队提出了一种两阶段指令调优方法，可以显着改善大型语言模型(LLM)的零样本对话QA结果。

为了处理对话式 QA 中的检索，在多轮 QA 数据集上微调了密集检索器，这提供了与使用最先进的查询重写模型相当的结果，同时大大降低了部署成本。值得注意的是，ChatQA-70B 在10个对话式 QA 数据集（54.14对53.90）上的平均得分方面优于 GPT-4，而无需依赖来自 OpenAI GPT 模型的任何合成数据。