首页站长资讯英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗
5202

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗

站长网2023-07-08 16:23:091

站长之家(ChinaZ.com) 7月7日消息:在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指出,全球数据中心计算问题存在两个重要趋势。

首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。

据了解,目前,AI GPU 市场主要由英伟达和 AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPU 方面,英伟达占据了 90% 以上的市场份额。

0001
评论列表
共(0)条