高通和微软合作构建 Snapdragon 计算平台上的生成式人工智能

在 Microsoft Build 2023 活动中，高通技术公司展示了其在设备上人工智能方面的最新创新，包括在 Snapdragon 计算平台上运行生成式人工智能，并为在搭载 Snapdragon 的 Windows 11 PC 上构建应用程序的开发者提供新的路径。

高通技术公司产品管理高级副总裁 Ziad Asghar 表示：「要使生成式人工智能真正成为主流，大部分推理过程需要在边缘设备上执行。」「我们一流的人工智能硬件和软件使开发者能够充分利用我们强大的人工智能能力，在搭载 Snapdragon 的笔记本电脑、手机和其他设备上提供令人难以置信的全新用户体验。」

人工智能的未来需要同时涵盖设备上和云端的应用。在设备上运行人工智能应用可以提高成本效益、隐私性、个性化和延迟。Snapdragon 平台包括专用的高通 AI 引擎，可以比在 CPU 或 GPU 上纯粹进行处理更高效地处理 AI 工作负载，使得即使在小型、薄型和轻型设备上也可以实现设备上人工智能。

在 Microsoft Build 活动上，高通技术将展示演示和提供工具，以帮助开发下一代 Windows 11 PC 上的生成式人工智能。Stable Diffusion 是一个文本到图像的生成式人工智能模型，具有超过 10 亿个参数，现在可以完全在本地设备上运行，该公司表示未来几个月内将能够在设备上运行具有高达 100 亿个参数的模型，包括大型语言模型。为增强高通 AI 堆栈并帮助开发者创建下一代设备上人工智能体验，高通 AI 引擎直接软件开发工具包将首次向公众提供。借助 ONNX Runtime 和高通 AI 堆栈，您可以在 Surface Pro 9 5G 和 Lenovo ThinkPad x13s 上的 Snapdragon 8cx Gen 3 AI 引擎上运行您的人工智能工作负载。

微软 Windows Silicon 和系统集成企业副总裁 Pavan Davuluri 表示：「扩展人工智能到广阔的设备和应用程序领域需要云端和设备处理的共同努力。」「通过将微软的云端人工智能领导地位和 Windows 平台的能力与高通技术的设备上人工智能专业知识结合起来，我们将加速生成式人工智能体验的机会。」