英伟达联手韩企建AI推理设施
摘要
英伟达与Rebellions、SK Telecom合作，用NVLink Fusion和MGX机架开发大规模AI推理设施；Rebellions的R200 NPU将接入英伟达平台，SK Telecom计划在AI数据中心部署；三方还将探索GPU负责预填充、NPU负责解码的分离式推理架构，系统预计2028年具备部署条件。
原文片段
英伟达联合Rebellions、SK Telecom推进韩国主权AI基础设施建设 BlockBeats 消息，11 月 9 日，据英伟达公告，英伟达与韩国 AI 芯片企业 Rebellions、SK Telecom 达成合作，计划利用 NVIDIA NVLink Fusion 技术及 MGX 机架架构，共同开发面向大规模 AI 推理的基础设施。 根据合作计划，Rebellions 将把下一代 R200 神经网络处理器（NPU）接入英伟达平台，SK Telecom 则计划在其 AI 数据中心部署相关系统，并整合自研 AI 模型及服务。三方还计划探索由英伟达 GPU 负责预填充（Prefill…