Jalapeño 跑分炸场，GPU 推理路线开始分裂？

Token 成本成为大模型硬件竞争的新坐标。    作者丨郑佳美    编辑丨岑   峰                                                                                                       今天，OpenAI 的自研推理芯片 Jalapeño，终于从规格表走到了跑分台。这次公开的数据很接地气：Token 吞吐、生成延迟、单位功耗下能跑多少推理。因为大模型上线以后，芯片面对的早就不只是一次训练任务。ChatGPT 要一直回消息，Reasoning 模型要持续生成长链路内容，Agent 还会一轮接一轮调用模型。算力再高，Token 吐得慢、延迟压不下来、功耗又高，数据中心照样难受。成绩一出来，Reddit 很快就把 Jalapeño 和 NVIDIA Rubin 摆到了一起。有人认为它已经进

原文：雷峰网