微软预览 TypeChat：面向开发人员的结构化对话式人工智能

微软的一个团队，包括 TypeScript 创始人 Anders Heljsberg 在内，推出了 TypeChat，旨在为对话式 AI 添加结构。

发布新库的文章中表示：「当前的大型语言模型（LLM）默认为对话式自然语言，即人类用英语等语言进行交流。解析自然语言是一项非常困难的任务。」TypeChat 基于 TypeScript 类型。开发人员定义表示应用程序处理的问题或「意图」的类型。TypeChat 库将构建用于向 LLM（大型语言模型）AI（如 OpenAI 的 ChatGPT）发出的提示，要求以符合这些类型的方式返回数据。如果响应未通过验证，它将尝试通过进一步的交互来修复。最后，TypeChat 将对交互进行总结，以便在执行任何操作之前进行确认。数据以 JSON 格式传输，因为文档中指出，「许多语言模型在生成 JSON 方面表现出色」。

团队提供的示例包括用户输入的情感分析、咖啡馆或餐厅的食品订购、日历安排、数学计算和在 Spotify 上播放音乐等。

该项目宣称的优势包括更高的准确性、更易接近的编程和更大的安全性，因为这些类型限制了 AI 的响应。

TypeChat 的推出是在 OpenAI 推出「Chat Completions API 中的新函数调用功能」几周后。这允许开发人员通过 JSON Schema 描述函数，并且 LLM 输出带有参数的 JSON 来调用这些函数。这个想法有些类似，因为它意味着 LLM 的输出与开发人员的代码集成。

这是否使 TypeChat 变得多余？在 TypeChat 的 GitHub 存储库上已经问过这个问题；但毫无疑问，部分答案是 TypeChat 设计为与任何 LLM 一起使用，而不仅仅是 OpenAI——尽管目前团队提供的所有示例都在 OpenAI 或 Azure OpenAI 端点上运行，这并不奇怪，考虑到微软与 OpenAI 的密切关联。

开发人员对此反应褒贬不一，从「迫不及待地想试一试」到「为什么我们要试图从专门设计用于生成自然语言输出的东西中获取结构化输出？」还有许多其他项目解决了相同的问题，尤其是微软自己的 Guidance 项目。

然而，TypeChat 的吸引力在于 TypeScript 已经为数百万开发人员所熟悉，并且背后的团队包括 Hejlsberg，TypeScript 高级项目经理 Daniel Rosenwasser，技术高级项目经理 Steve Lucco 等人。

问题可能在于，到目前为止，该项目的微软和 OpenAI 的浓厚风格可能会阻碍该团队表示希望看到的那种供应商中立的采用。