在 Hot Chips 2026 大会上，OpenAI 公布了首颗自研推理专用芯片 Jalapeno 的完整架构。这是它与 Broadcom 联合开发的第一颗定制推理加速器，标志着大模型厂商开始把"自己的需求"直接写进硅里——不再完全依赖通用 GPU。

一颗为推理而生的 ASIC

Jalapeno 的关键词是 ASIC（专用集成电路），不是通用 GPU。它的设计目标非常窄：把已经训练好的大模型跑得更快、更省，而不是去训练模型。

几个核心参数：

  • 台积电 3nm 工艺，当前最先进的量产节点之一。
  • 单封装内集成 6 颗 HBM4 高带宽内存堆叠。HBM4 是新一代内存，带宽比上代更大，对"大模型参数塞不进片上、得反复从内存搬"的推理场景至关重要。
  • 定位纯推理加速器——不做训练，也不对外销售，只为提升 ChatGPT 与 API 用户的响应速度。
  • 从架构设计到流片仅约 9 个月，OpenAI 称其中大量芯片设计验证工作由自己的模型完成——用 AI 造 AI 的芯片，这本身也是个信号。

省电与低延迟是卖点

据 SemiAnalysis 的 InferenceX 基准，Jalapeno 的每瓦吞吐量达到英伟达 GB200/GB300 系统的 1.5–1.9 倍，端到端延迟低 1.7–3.6 倍。

这两个指标的差别值得说清：

  • 每瓦吞吐决定"花一度电能干多少活"，直接关系到数据中心电费和单机柜能塞多少算力。
  • 端到端延迟决定"用户提问到收到首字的等待"，直接影响体验。推理芯片不必像训练卡那样追求峰值算力，而要在"稳定低延迟 + 高利用率"上做文章，Jalapeno 正是这个思路。

OpenAI 强调它是对英伟达算力的补充而非替代，计划 2026 年底小规模部署、2027 年放量。换句话说，短期内你不会看到"ChatGPT 换芯"的革命，而是悄悄在后端用自研芯片承接一部分流量。

为什么大厂都要自己造芯

OpenAI 不是第一个，也不会是最后一个。谷歌有 TPU，亚马逊有 Trainium/Inferentia，Meta、特斯拉都有自己的芯片线。共性逻辑是：

  1. 规模效应。当推理请求是天文数字级别，哪怕每次对话省一点算力，乘上总调用量就是巨额成本差。
  2. 供需绑定。GPU 长期紧俏，自研能把"命脉"部分握回自己手里。
  3. 为自家模型定制。通用 GPU 要兼顾所有人，自研芯片可以只为某一个模型家族优化——剪掉用不上的单元，把钱花在推理最吃紧的地方。

算力竞争换赛道了

过去几年，"谁买的 GPU 多"几乎是算力竞争的全部。当模型厂商开始自研芯片、为自家模型的推理负载专门优化，竞争的抓手就变成了"谁为模型造的芯片更省"——更低的延迟、更高的每瓦吞吐，直接转化为更便宜的服务和更好的体验。

对普通用户来说，这类自研芯片短期不会"换牌子"，手机上、电脑上跑的还是各家 App。但它会悄悄压低你每次对话的成本、缩短等待时间——芯片层面的节省，最终会反映在服务价格和响应速度上。

一句话：算力的主战场，正从"堆 GPU 数量"转向"为模型量身造硅"。OpenAI 这一步，是把竞争从采购拉到了设计。