2023 年 7 月 7 日
英伟达(NVIDIA)中国区首席技术官赖俊杰表示,英伟达在全球数据中心计算问题上观察到两个重要趋势:一是人们对人机交互的期望大大提高,引发了全球第二波关于大模型的投入浪潮 … 二是很多互联网公司面临着用户需求增长、功耗越来越多的问题,特别是人工智能的大模型访问比例增加,意味着需要更多的能耗投入 … 针对第二个趋势,英伟达提出如果能更多地将任务负载从 CPU 移至 GPU,那么能在支撑同样多的用户请求之同时,节省更多的能耗。
CPU 时代变了 NVIDIA:转移到 GPU 将节省更多能耗
凤凰科技 / 快科技
英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU,整体能耗将节省更多
搜狐 / 36Kr / 钛媒体 / 新浪
话题追踪
2023-07-07
英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU,整体能耗将节省更多2023-05-29
英伟达:CPU 已落伍,用 GPU 训练大语言模型成本可降低 96%