导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

OpenAI自研ASIC芯片Jalapeño实测碾压英伟达Blackwell,9个月造出AI推理新王?

【导语】OpenAI首颗自研ASIC芯片“Jalapeño”在短短9个月内完成流片并投入实测,SemiAnalysis测试数据显示其推理效率大幅超越英伟达Blackwell旗舰产品。这不仅是一次产品发布,更标志着AI正在重塑芯片设计范式。

短短9个月,OpenAI自研ASIC芯片已超越英伟达Blackwell?

实测数据:每瓦性能碾压Blackwell

据华尔街见闻报道,SemiAnalysis研究人员使用自研基准测试套件InferenceX对Jalapeño进行实测。在GPT-OSS 120B模型上,Jalapeño每秒可输出约1459个Token,而英伟达GB200仅为535个;端到端延迟上,Jalapeño仅需1.65秒,GB300则接近6秒,差距达3.6倍。尤其在高交互场景下,当GB300达到最快解码速度(每秒169个Token)时,Jalapeño的吞吐量是其104.3倍。

实测数据对比

在数据中心能效核心指标——每兆瓦每秒输出Token数上,Jalapeño在GPT-OSS模型上达到约5300万个,而GB200 NVL72仅约1000万。SemiAnalysis指出,这一指标本质上等同于每焦耳产出的Token数,在电力受限的算力时代直接决定了收入天花板。

能效指标

从系统级成本看,SemiAnalysis将供电、散热、网络全部纳入计算后,Jalapeño每芯片每小时总拥有成本约为1.56美元,与H100的1.55美元几乎持平,而英伟达Vera Rubin则高达3.61美元。

成本对比

AI设计芯片:飞轮效应显现

Jalapeño从设计启动到完成流片仅历时约16个月,其中关键CoWoS封装流片节点完成于2025年11月,距今不过9个月,远低于行业惯常的18至36个月周期。如此惊人速度背后,AI工具的深度介入是核心原因。

AI辅助设计

据SemiAnalysis披露,OpenAI内部AI模型GPT-Astra深度参与了Jalapeño的研发全程。团队借助Codex与GPT-Astra,在两个月内将三个原本不在量产计划内的开源模型调优至高性能状态。AI辅助设计使SIMD单元面积缩减8%,矩阵引擎面积缩减10%。在软件层面,OpenAI使用内部扩展版Codex编写Jalapeño内核,部分内核代码长达约3000行;在最吃性能的注意力机制和MoE模块上,AI生成的代码比人类顶尖工程师的实现快出1.5至1.8倍。

AI生成代码性能

SemiAnalysis评价称:“英伟达自己的GPU正在实时催生自己潜在的接班人。”

竞争格局

架构解析:为何“通用”反而更快?

外界普遍预设Jalapeño是一颗专为OpenAI自家模型深度定制的芯片,但SemiAnalysis的结论恰恰相反:Jalapeño是一颗面向AI推理的通用芯片,能够运行各类模型和工作负载。其核心设计哲学是“消除固定延迟”,计算核心与HBM切片直接绑定,核心间通过专用高带宽集合网络同步,大幅降低了内存访问延迟。

HBM4内存带宽

Jalapeño采用乱序执行(OoO)核心搭配L1缓存,而非其他加速器普遍使用的软件管理暂存器。内存带宽方面,Jalapeño采用HBM4,实现15.4TB/s单封装内存带宽,每瓦HBM带宽达22,而英伟达Rubin为11.1,GB300仅为5.71。值得注意的是,Jalapeño选择不做预填充与解码分离部署(PDD),以同构资源池灵活应对生产环境中不断变化的输入输出比例和并发量。

CUDA护城河:裂缝已现?

SemiAnalysis在报告中抛出了颇具分量的判断:CUDA的护城河可能已经死了。其依据在于软件起步速度的对比。英伟达Rubin的CoWoS流片比Jalapeño早一个月完成,但迄今外界能看到的Rubin公开基准数据仅来自CoreWeave的工程样片,英伟达并未像OpenAI那样开放第三方自由测试。SemiAnalysis认为,这反映的不是硬件差距,而是软件成熟度的差距。

OpenAI使用自研内核编程语言Gluon(基于Triton构建)以及内部推理引擎“Teacup”,并借助Codex快速完成内核调优。在不到两周时间内,Jalapeño在特定交互速度下的吞吐量提升超过2倍;在8天内,团队将张量并行从TP8扩展至TP32,实现跨机架全机柜规模部署。不过,目前测试仅覆盖8k1k这一相对简单的工作负载,更复杂的AgentX多轮长上下文测试尚未完成。

下一步:B0已入厂,10GW版图徐徐展开

据SemiAnalysis披露,目前公开测试所用的均为A0步进样片,而B0步进已进入晶圆厂,预计在每瓦性能上较A0再提升约25%——B0单颗计算die的MXFP4算力将达13.4 PFLOPs,TDP维持在700W。在系统层面,OpenAI与Celestica合作设计了完整机架方案:每个ASIC机柜包含128颗Jalapeño芯片,双机柜系统总功耗约160kW,与英伟达GB300双宽机柜相当。

机架方案

规模化部署方面,单一扩展网络域最多可连接2048颗Jalapeño XPU,覆盖16个机架。量产预计于2027年逐步爬坡,下一个里程碑目标是100MW部署规模。更大的战略图景是,OpenAI与Broadcom已签署10GW定制加速器合作协议,这一量级大致相当于十座核电机组的满发功率。

OpenAI芯片负责人Richard Ho表示,公司已达到能够切实降低基础设施成本的功耗和成本水平,“这只是第一步”。他同时强调,英伟达仍是重要合作伙伴,OpenAI对算力的需求极为庞大,短期内不会放弃现有供应商。

分析人士指出,Jalapeño的意义或许不在于它今天能替代多少英伟达芯片,而在于它证明了一件此前被普遍质疑的事:一家AI公司,用AI工具,在创纪录的时间内,造出了一颗真正具备竞争力的芯片。这个飞轮,已经开始转动。