在周二的 Hot Chips 大会上，OpenAI 首次详细展示了其自研芯片 Jalapeño 的更多细节，包括首批基准测试结果。这款芯片专为大规模 AI 推理场景设计，在性能上展现出显著优势。
OpenAI 硬件负责人 Richard Ho 表示："总体来看，这些结果显示了非常显著的性能提升，远超当前业界最佳水平。"他补充道，这些基准测试与英伟达 Blackwell 系统进行了对比——但到 Jalapeño 全面部署时，竞争对手可能也在进步。
Jalapeño 于去年 10 月首次公布，由 OpenAI 与 Broadcom 紧密合作开发，OpenAI 自身的模型也参与了芯片设计过程。这种全栈式方法让 OpenAI 能够针对推理过程中的特定瓶颈进行优化，而这些瓶颈往往是传统通用芯片无法有效解决的。
OpenAI 在一篇介绍结果的博文中表示："我们设计 Jalapeño 的目标是最大限度地减少数据移动和通信延迟。这意味着模型在推理时需要更少的等待时间，从而获得更快的响应速度。"
由于采用了全栈方法，OpenAI 得以解决推理过程中经常导致效率下降的特定阶段。Jalapeño 的设计重点在于减少数据移动和通信延迟，这对于大规模 AI 推理部署至关重要。
来源：TechCrunch
