信也科技推出第一代大语言模型应用开发框架E-LADF
站长网2023-07-15 11:18:531阅
近日,信也科技推出第一代LLM(大语言模型)应用开发框架E-LADF。E-LADF以类ChatGPT大模型引擎、向量数据库等基础组件为底座,旨在提供一系列功能接口,帮助开发者构建和部署基于LLM的应用程序。
目前,E-LADF包含四大核心接口功能:本地知识库管理、通用场景流式对话、基于本地知识库的问答和长文本实体抽取与摘要。
此外,它在大模型支持方面也具有出色的灵活性和可扩展性,不仅适配并支持云服务商的LLM服务接口,还提供本地化部署方案。
E-LADF不仅支持适配OpenAI的ChatGPT服务接口,还提供了本地化方式部署LLM的功能。
目前,E-LADF已经成功集成并支持了几个性能仅次于ChatGPT在英文和中文上表现优秀的本地LLM模型,包括ChatGLM、Vicuna系列模型。用户甚至可以基于这些模型进行微调,以满足特定应用场景更高精度的需求。
0001
评论列表
共(0)条相关推荐
- 0000
- 0001
- 0000
- 0000
- 0000