首页站长资讯Hugging Face组建H4团队,开源开发类似ChatGPT的AI模型
12487

Hugging Face组建H4团队,开源开发类似ChatGPT的AI模型

站长网2023-11-09 10:46:270

划重点:

- Hugging Face的两人团队H4致力于开源构建类似ChatGPT的AI模型。

- H4团队已发布多个开源大型语言模型,包括聊天型Zephyr-7B-α和改进型Falcon-40B。

- H4的主要研究重点是对齐技术,以使语言模型根据人类反馈行为进行学习。

AI初创公司Hugging Face最近组建了一个名为H4的两人团队,旨在开源开发类似ChatGPT的人工智能模型。H4的目标是提供工具和“配方”,以便AI社区能够构建类似ChatGPT的AI聊天机器人。

H4团队的两名成员Lewis Tunstall和Ed Beeching近期透露了一些有关他们的工作的信息。H4团队的成立灵感来自于OpenAI于2022年底发布的ChatGPT。当ChatGPT发布时,他们开始思考如何使用开源库和模型来复制其功能,这促使了H4团队的成立。

H4团队的主要研究重点是对齐技术,这意味着他们致力于教导大型语言模型(LLMs)如何根据人类的反馈行为来表现。为了训练他们的模型,H4团队依赖于一个拥有超过1000个Nvidia A100GPU的专用集群。虽然H4的两名成员都远程驻扎在欧洲,但他们得到了来自Hugging Face内部团队的支持。

不仅如此,H4团队还发布了多个开源大型语言模型,其中包括Zephyr-7B-α,这是法国AI初创公司Mistral最近发布的Mistral7B模型的聊天型版本。此外,他们还对来自阿布扎比技术创新研究所的Falcon-40B模型进行了修改,使其在自然语言请求方面更具帮助性。

尽管Hugging Face已从一系列投资者中筹集了数亿美元,但H4团队的Lewis Tunstall表示,H4并没有直接从他们的工具中获得商业化利益。相反,他们的工具有助于Hugging Face的专家加速计划,该计划旨在为企业提供来自Hugging Face团队的指导,以构建定制的AI解决方案。

此外,H4团队的Ed Beeching表示,他们并不将H4视为与其他开源AI倡议竞争的实体。相反,他们的意图是通过发布与其聊天模型相关的训练代码和数据集来“赋能”开源AI社区。

最近,H4团队一直在研究不同的对齐技术,并构建工具来测试社区和行业提出的技术的实际效果。该团队本月发布了一本手册,其中包含了用于构建Zephyr的所有源代码和数据集,并计划随着未来AI模型的发布更新手册。

0000
评论列表
共(0)条