周鸿祎透露360大模型安全解决方案 将推 Agent框架

文章概要:

1.360公司创始人周鸿祎在计算机安全学术交流会上介绍了360大模型安全解决方案，着重解决大模型的安全挑战。

2. 安全风险分为短期、中期、长期三个阶段，涉及网络安全、数据安全、生成内容安全等问题，以及人为恶意应用和更强大人工智能对安全的长期挑战。

3.360将推出Agent框架，将人的能力赋予大模型，同时构建原生安全大模型“360智脑”来确保大模型在企业级场景中安全应用。

360公司创始人周鸿祎在计算机安全学术交流会上详细介绍了360大模型安全解决方案。他指出，大模型发展已进入第二阶段，关键问题是如何构建真正安全可用的大模型。

周鸿祎将安全风险分为短期、中期、长期三个阶段。短期风险主要涉及大模型自身引发的问题，如网络安全、数据安全和生成内容安全。中期风险则包括人为恶意应用，如AI换脸和AI换声诈骗。长期风险是指随着更强大的人工智能的出现，可能对人类生存带来安全挑战。

为了解决这些问题，360公司打造了原生安全大模型“360智脑”，遵循安全、向善、可信、可控的四大原则，以确保大模型在企业级场景中得以应用。

360还将推出Agent框架，将人的能力赋予大模型，既提升大模型的性能，又能对其进行约束。周鸿祎表示，360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户，以外挂式“360大模型安全管家”的形式对外赋能，提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。