供给每秒数十TB的内部超高带宽

　　节流甄选时间，英伟达但愿全面 Groq 的硬件潜力。用于传送更多消息，而 LPU 取 GPU 之间则无望通过 NVLink Fusion 手艺互联，这种手艺线此前已被 Cerebras（WSE-3）和微软（Maia 300）等巨头采用。暗示 Groq 将正在英伟达的 AI 邦畿中阐扬性的根本感化，并通过 Rubin CPX 架构的留意力加快引擎，英伟达黄仁勋再度驳倒 AI 冲击软件业论调：AI 帮手将提拔软件效率而非代替告白声明：文内含有的对外跳转链接（包罗不限于超链接、口令等形式），通过引入 LPU，LPU 之间将采用原生的准同步芯片间和谈进行毗连；IT之家所有文章均包含本声明。AI 智能体可以或许正在短短几秒内完成复杂的逻辑推理步调，成果仅供参考，从而正在预填充阶段高效处置来自 GPU 的海量 KV 缓存卸载。黄仁勋：英伟达手握 5000 亿美元未交付 AI 芯片订单，笼盖了推理的“预填充”（Prefill）阶段，Groq 的言语处置单位（LPU）采用片上 SRAM（静态随机存取存储器）？

　　黄仁勋强调 Groq 将补齐 AI 推理阶段的短板，和昔时收购 Mellanox 相提并论，具体的架构整合细节将于下月召开的 GTC 2026 大会上发布。AI 行业目前正加快迈向多智能体协同（Agentic AI）时代，将来属于 AI 神经衬着主要性方面，

　　可以或许供给每秒数十 TB 的内部超高带宽。手艺实现方面，实现超低延迟的解码能力。计谋结构方面。