OpenAI首颗自研芯片Jalapeño横空出世,以令人咋舌的速度颠覆了AI芯片行业的既有格局——这不仅是一次产品发布,更是一个信号:AI正在重塑芯片本身的设计方式。
据华尔街见闻文章报道,据彭博8月25日报道,OpenAI表示,Jalapeño在单位功耗可处理的AI工作量和响应速度两项关键指标上均领先英伟达GB300。该芯片由OpenAI与Broadcom合作开发,专为AI推理阶段设计,最快将于今年晚些时候投入实际使用。OpenAI芯片负责人Richard Ho表示,Jalapeño在700瓦低功耗下即可实现强劲性能,有助于大幅降低数据中心电力成本。

据半导体研究机构SemiAnalysis披露,这颗芯片从设计启动到完成流片仅历时约16个月,而其中关键的CoWoS封装流片节点完成于2025年11月,距今不过9个月,远低于行业惯常的18至36个月周期。

SemiAnalysis研究人员亲赴OpenAI实验室,使用其自研基准测试套件InferenceX对Jalapeño进行了实测,结论直接:该芯片在每瓦性能(perf/W)指标上击败了他们此前测试过的所有英伟达、AMD及谷歌芯片。
更值得关注的是,这一成绩是在Jalapeño尚未启用投机解码、未做预填充与解码分离部署等优化手段的情况下取得的,而参与对比的其他芯片均已开启各自最优配置。
难怪就连著名半导体分析师Dylan Patel也直言,“被掀翻的不只是Blackwell,就连英伟达Rubin芯片也被超越了”!

分析认为,这一结果对英伟达的市场地位构成直接挑战,也令市场重新审视AI芯片竞争格局。
实测数据:Jalapeño在多项关键指标上碾压Blackwell
SemiAnalysis的测试结果显示,Jalapeño在推理效率上的优势相当显著。
在GPT-OSS 120B模型上,Jalapeño每秒可输出约1459个Token,而英伟达GB200仅为535个;端到端延迟方面,Jalapeño完成一个任务仅需1.65秒,GB300则需接近6秒,差距达3.6倍。在高交互场景下,当GB300被推至其最快解码速度(每秒169个Token)时,Jalapeño的吞吐量是其104.3倍。

在每兆瓦每秒输出Token数这一衡量数据中心能效的核心指标上,Jalapeño在GPT-OSS模型上达到约5300万个Token/MW/s,而GB200 NVL72仅约1000万。

SemiAnalysis指出,这一指标本质上等同于每焦耳产出的Token数,直接决定了数据中心的收入天花板——在算力受电力约束的当下,这一维度的优势尤为关键。
从系统级成本来看,据SemiAnalysis将供电、散热、网络全部纳入计算后,Jalapeño每芯片每小时总拥有成本约为1.56美元,与H100的1.55美元几乎持平,而英伟达Vera Rubin则高达3.61美元。

值得注意的是,SemiAnalysis同时提出了若干重要保留意见。
其一,测试所用模型并非当前最前沿的模型,英伟达和AMD已在更大规模模型(如DeepSeek V4 Pro、Kimi K3)上发布了基于AgentX套件的成绩,而Jalapeño尚未完成AgentX测试——该套件更能反映多轮、长上下文等真实生产场景的性能表现。
其二,更公平的比较对象应是同样采用HBM4的英伟达Vera Rubin,而非Blackwell;Vera Rubin的每瓦性能较GB200 NVL72提升约5.4倍,与Jalapeño相比,两者在每Token总拥有成本(TCO)上几乎持平。
其三,Jalapeño目前仍处于工程样片阶段,量产预计要到2027年才逐步爬坡。
AI设计芯片:GPT-Astra与Codex的"飞轮效应"
Jalapeño之所以能以如此惊人的速度完成开发,AI工具的深度介入是核心原因之一。据SemiAnalysis披露,OpenAI在芯片设计过程中大量使用了内部AI模型,其中包括被外界广泛关注的GPT-Astra。
社交平台X用户Andrew Curran援引OpenAI信息指出,GPT-Astra深度参与了Jalapeño的研发全程:
"团队借助Codex与GPT-Astra,在两个月内将三个原本不在Jalapeño量产计划内的开源模型调优至高性能状态。"
这意味着,AI不仅在加速芯片设计本身,还在快速扩展芯片所能支持的模型范围。
SemiAnalysis的数据进一步量化了这一贡献:
AI辅助设计使SIMD单元面积缩减8%,矩阵引擎面积缩减10%,同时在时序和功耗表现上均优于初始版本。
在软件层面,OpenAI使用内部扩展版Codex编写Jalapeño内核,部分内核代码长达约3000行;在最吃性能的注意力机制和MoE模块上,AI生成的代码比人类顶尖工程师的实现快出1.5至1.8倍。
SemiAnalysis对此评价颇为犀利:跑在英伟达GPU上的OpenAI模型(如GPT-5.6 Sol),正被用来设计一颗对CUDA护城河构成真实威胁的芯片——"英伟达自己的GPU正在实时催生自己潜在的接班人"。

架构解析:为何"通用"反而更快?
外界普遍预设Jalapeño是一颗专为OpenAI自家模型深度定制的芯片,但SemiAnalysis的结论恰恰相反:Jalapeño是一颗面向AI推理的通用芯片,能够运行各类模型和工作负载,甚至包括用Codex移植的《毁灭战士》游戏。
在架构层面,Jalapeño的核心设计哲学是"消除固定延迟"。与GPU依赖复杂内存层级不同,Jalapeño将计算核心与HBM切片直接绑定,核心间通过专用高带宽集合网络同步,大幅降低了内存访问延迟。
此外,Jalapeño采用乱序执行(OoO)核心搭配L1缓存,而非其他加速器普遍使用的软件管理暂存器,这使其在小批量、低延迟场景下能够更接近硬件理论峰值。
在内存带宽方面,Jalapeño采用HBM4,实现了15.4TB/s的单封装内存带宽,每瓦HBM带宽达22,而英伟达Rubin为11.1,GB300仅为5.71。

SemiAnalysis指出,Jalapeño的HBM4引脚速度达10Gbps,略高于英伟达Rubin的9.6Gbps,HBM供应商可能为三星。
值得一提的是,Jalapeño选择不做预填充与解码分离部署(PDD)。SemiAnalysis对此给出了详细解释:
在真实生产环境中,输入输出比例、并发量、缓存命中率等参数持续变化,固定分池会导致全局利用率下降;而同构资源池可以灵活响应流量变化,在延迟敏感型请求和高吞吐批处理之间动态调配。
CUDA护城河:裂缝已现?
SemiAnalysis在报告中抛出了一个颇具分量的判断:CUDA的护城河可能已经死了。
其依据在于软件起步速度的对比。英伟达Rubin的CoWoS流片比Jalapeño早一个月完成,但迄今为止,外界能看到的Rubin公开基准数据仅来自CoreWeave的工程样片,英伟达并未像OpenAI那样开放第三方进入实验室自由测试。SemiAnalysis认为,这反映的不是硬件本身的差距,而是软件成熟度的差距。
从零开始构建软件栈,反而让OpenAI得以摆脱历史包袱,做出更干净的架构决策。OpenAI使用自研内核编程语言Gluon(基于Triton构建)以及内部推理引擎"Teacup",并借助Codex快速完成内核调优。SemiAnalysis观察到,在不到两周的时间内,Jalapeño在特定交互速度下的吞吐量提升超过2倍;在8天内,团队将张量并行从TP8扩展至TP32,实现了跨机架的全机柜规模部署。
不过,SemiAnalysis也明确指出,目前的测试仅覆盖8k1k这一相对简单的工作负载,尚未完成AgentX多轮长上下文测试。在更复杂的智能体工作负载下,路由器、前缀缓存等组件的表现将成为新的考验。
下一步:B0已入厂,10GW版图徐徐展开
Jalapeño的故事远未结束。
据SemiAnalysis披露,目前公开测试所用的均为A0步进样片,而B0步进已进入晶圆厂,预计在每瓦性能上较A0再提升约25%——B0单颗计算die的MXFP4算力将达13.4 PFLOPs,TDP维持在700W。
在系统层面,OpenAI与Celestica合作设计了完整的机架方案:每个ASIC机柜包含128颗Jalapeño芯片,双机柜系统总功耗约160kW,与英伟达GB300双宽机柜相当。

规模化部署方面,单一扩展网络域最多可连接2048颗Jalapeño XPU,覆盖16个机架。量产方面,SemiAnalysis预计将于2027年逐步爬坡,下一个里程碑目标是100MW部署规模。
更大的战略图景是,OpenAI与Broadcom已签署10GW定制加速器合作协议,这一量级大致相当于十座核电机组的满发功率。
华尔街见闻文章写道,OpenAI芯片负责人Richard Ho表示,公司已达到能够切实降低基础设施成本的功耗和成本水平,"这只是第一步"。他同时强调,英伟达仍是重要合作伙伴,OpenAI对算力的需求极为庞大,短期内不会放弃现有供应商。
分析人士指出,Jalapeño的意义或许不在于它今天能替代多少英伟达芯片,而在于它证明了一件此前被普遍质疑的事:一家AI公司,用AI工具,在创纪录的时间内,造出了一颗真正具备竞争力的芯片。这个飞轮,已经开始转动。





