OpenAIの新しい推論用チップJalapeñoは、InferenceXベンチマークにおいてNvidiaのBlackwellを上回る性能を示し、ワットあたりのAI処理能力で1.5倍から1.9倍向上、さらにレイテンシも大幅に低減しました。この結果は、大規模言語モデルサービスの運用コストを削減し、AIアクセラレータにおけるNvidiaの支配力に圧力をかける可能性があるため、非常に重要です。

なぜこのチップが重要なのか

OpenAIはHot Chips 2026カンファレンスでJalapeñoを発表し、シリコン設計におけるBroadcomとの提携を明らかにしました。設計者は、現在の推論パイプラインにおける最大の非効率性、すなわちプリフィル（prefill）段階でのデータ移動と演算ユニット間の通信をターゲットにしました。キー・バリュー（KV）キャッシュをローカルに保持することで、Jalapeñoはテンソルをシャッフルする時間を短縮し、トークン生成の高速化とエネルギー消費の削減を実現しています。

特筆すべき数値

  • ワットあたりのAI処理能力: ピークスループットにおいてBlackwellより1.5倍〜1.9倍高い。
  • レイテンシ: 1.7倍〜3.6倍低減し、インタラクティブなユーザーへのレスポンスが高速化。
  • インタラクティブなワークロードのパフォーマンス: 2.1倍〜4.1倍向上。これはチャット形式のアプリケーションに直接影響を与える利点です。

これらの向上はInferenceXベンチマークで示されており、JalapeñoはNvidiaの次世代チップであるRubinをも上回っています。

ビジネスへの影響

OpenAIはすでにこの効率性の向上を活かし、GPT-5.6 Sol APIの価格を引き下げており、従来の料金と比較して20%から33%の割引を提供しています。消費電力の低減は、大規模な推論クラスターの運用コストを削減するため、開発者や企業にとって直接的なメリットとなります。

タイミングと競争圧力

Jalapeñoは2026年末までに限定的な量で出荷され、2027年には量産が予定されています。その頃にはNvidiaも新しい世代のGPUを投入していると予想され、その差は縮まる可能性があります。この段階的な展開により、OpenAIは競合他社が新しいシリコンを投入する前に、実世界でのメリットを証明することを迫られます。

反論

Nvidiaは、その時期までにはより新しいチップを市場に投入している可能性が高いでしょう。

注視すべき点

  • 導入データ: レイテンシと電力削減に関する初期の顧客フィードバックにより、ベンチマークの数値が実際の運用環境でも維持されるかどうかが明らかになります。
  • 価格戦略: API価格の継続的な引き下げは、他のプロバイダーに対して、同様のハードウェアの導入を促すか、あるいは市場シェアを失うリスクを突きつけることになります。
  • Nvidiaのロードマップ: 推論に特化した新しいアクセラレータの発表があれば、競争のダイナミクスが塗り替えられるでしょう。

モデル、チップ、メモリを一体として構築するOpenAIのフルスタック・アプローチは、標準的なアクセラレータにはないレバレッジをもたらします。そのレバレッジが持続的な市場の変化につながるかどうかは、Jalapeñoチップがいかに迅速にプロトタイプから広範な利用へと移行できるか、そしてNvidiaがこの効率性の課題にどう応えるかにかかっています。