AIの次のニーズに応える新システム2機種
Googleは第8世代Tensor Processing Unit（TPU）を拡充し、特化型システム2機種を発表した。AIの処理中に機密情報を保護する「TPU 8tx」と、1つのパッケージに2つのチップを組み合わせ、はるかに大容量の情報を扱う「TPU 8i Max」だ。2026年11月9日に発表されたこの2機種により、Googleは1年間に4機種のTPUを投入することになる。同社にとって初めてのことだ。
目次
新システムは、AIエージェントを導入する企業が直面する2つの実務的な課題に対応する。個人情報を安全に保つことと、文書やプログラムコード、動画のコレクション全体を処理できるだけのメモリーをソフトウェアに与えることだ。出荷は2027年に始まる見通し。Googleは、いずれのシステムについても納入日や価格を明らかにしていない。
GoogleのTPU製品群の発表によると、両製品は既存の半導体を基盤とする構成だ。TPU 8txはTPU 8tと同じチップを採用し、第5世代AMD EPYC中央演算処理装置（CPU）と組み合わせる。TPU 8i MaxはTPU 8iを2基まとめてパッケージ化し、演算能力と一部のオンボードメモリー、メモリー帯域幅を倍増させる。
TPUは、AIで使われる数学的演算を実行するために設計されたプロセッサーだ。Googleは当初、音声認識や翻訳など自社サービス向けに開発した。現在はGeminiや外部のクラウド顧客に加え、顧客のデータセンターへの導入にも使われている。
今回の拡充により、Googleは用途に応じた選択肢を顧客に提供し、Nvidiaへの対抗姿勢を強める。1種類のアクセラレーターですべての要件を満たすのではなく、既存チップを軸にプロセッサー、メモリー、ネットワーク、セキュリティーを組み合わせ、異なるシステムを構成する。
1年間に4機種を投入した理由
Googleは2026年4月のGoogle Cloud Nextで、大規模な学習処理向けのTPU 8tと、AIの応答を高速化するTPU 8iを発表した。学習とは、例を使ってモデルを構築または変更することだ。推論は、そのモデルを使って回答を生成したり、タスクを実行したりする処理を指す。
Googleによると、TPU 8tは前世代と比べて学習性能が最大2.7倍、TPU 8iは推論の価格性能比が80％向上した。いずれもGoogleの旧世代TPUとの比較だ。今回の新機種は同じ世代の製品群を、コンフィデンシャル・コンピューティングや、はるかに大容量のメモリーを必要とする処理へと広げる。
Googleの最高技術責任者（CTO）兼AI・インフラ担当上級副社長のアミン・ヴァーダット氏は、発表で優先課題について次のように述べた。
企業が自律型エージェントを本番環境に導入するなか、緊急性の高い2つの新たな課題、すなわちハードウェアレベルのデータセキュリティーと、100万トークン規模のコンテキストに対応するため、基盤となるこれらのシステムに2つの新構成を用意しました
Googleによると、新しいチップの設計には何年もかかる一方、既存チップを軸にパッケージング、メモリー、光ネットワーク、セキュリティーを調整する作業は数カ月で済む。同社のモジュラー方式なら、まったく新しいプロセッサーが完成する前に、変化するソフトウェア要件に合わせてシステムを調整できる。
開発と提供のスケジュールは次の通りだ。
- 2026年4月：Google Cloud NextでTPU 8tとTPU 8iを発表。
- 2026年10月：TPU上でのPyTorch開発を支援するオープンソースソフトウェア「TorchTPU」を公開したとGoogleが発表。
- 2026年11月9日：TPU 8tx、TPU 8i Maxと追加のインフラソフトウェアを発表。
- 2027年：新システムの出荷開始を予定。Oracleは同年、クラウド顧客向けにTPUの提供を始める計画。
TPU 8tx、処理中の情報を保護
TPU 8txは政府機関や、金融・医療機関など規制の厳しい業界を対象とする。こうした顧客は、機密性の高い記録をAIに分析させる際、情報そのものとモデルの内部パラメーターの両方を保護する必要がある。
コンフィデンシャル・コンピューティングは、情報が実際に利用されている最中の保護に対応する。保存中のデータやネットワークを移動中のデータは、すでに暗号化で保護できる。一方、処理中の情報は通常、作業用メモリーからアクセスできる必要がある。Googleによると、TPU 8txはこの段階で機密データとモデルの重みを隔離するハードウェア保護機能を備える。
ホスト側のコンピューティング基盤にはAMDの第5世代EPYCプロセッサーを採用する。また、主要なコンピューター部品間で情報をやりとりする接続規格PCIeにも、暗号化と認証を導入する。発表に付随する技術資料では、TPU 8txの高帯域幅メモリー容量は216GBとされている。
Googleは、プロセッサー間の高速な情報交換を可能にするBoardflyネットワークと同システムを組み合わせる。同社によれば、この構成はTPU 8tと比べて遅延を最大半分に抑え、セキュリティー保護による性能低下をほぼゼロにできる。遅延とは、システムが処理を終えたり応答したりするまでの時間を指す。
TPU 8txは小規模な学習処理にも対応する。組織は機密情報を使ってモデルを調整したり、「蒸留」と呼ばれる手法で大規模モデルの知識を小型モデルに移したり、フィードバックを使ってエージェントの動作を改善する強化学習を実行したりできる。Googleによると、これらの処理は1つのシステムで推論と並行して実行できるため、別々のコンピューター群の間で機密情報を移動させる必要性を減らせる。
TPU 8i Max、大規模タスクの作業領域を拡大
TPU 8i Maxが対応するのは、別の制約だ。プロセッサーの計算速度が、必要な情報を供給するメモリーの速度を上回る場合がある。Googleはこれを「メモリーの壁」と呼ぶ。演算能力の増強は、メモリー容量とデータ転送速度も同時に高まる場合に最も効果を発揮する。
同システムはTPU 8iのチップ2基を1つのパッケージにまとめる。仕様には、高帯域幅メモリー384GB、メモリー帯域幅毎秒17.2テラバイト、チップ上に搭載する高速メモリーの一種であるSRAM 768MBが含まれる。
Googleによると、このパッケージはTPU 8iと比べ、演算能力、SRAM、高帯域幅メモリーの帯域幅を倍増させる。高帯域幅メモリーの容量は33％増となるため、保存できる情報量の伸びは、情報の転送速度の伸びより小さい。
想定する処理には、ソフトウェアのコードベース全体、長文の文書、数時間分の動画、連携して動くエージェント群が含まれる。100万トークン規模のコンテキストウィンドウを対象とする。コンテキストウィンドウとは、モデルがリクエストを処理する際に参照できる情報量のこと。トークンは、モデルが処理する文章やその他のコンテンツを細かく分けた単位だ。
コーディング作業では、より広い作業領域により、問題を調べる間に関連ファイルをより多く保持できる。創薬研究や数学の作業も想定用途だ。既存ラックの設置面積にシリコンを2倍詰め込むことで、平方フィート当たり、ワット当たりの演算能力も高まるとGoogleは説明する。
AIエージェントが生み出す、回答1つにとどまらない処理需要
Google CloudでAI・コンピューティングインフラ担当の副社長兼ゼネラルマネジャーを務めるマーク・ローマイヤー氏は、エージェントへの1件のリクエストが数百から数千の処理を引き起こすことがあると述べた。同氏は、タスクに応じて、この変化がコンピューティング需要を10倍から1,000倍に押し上げる可能性があると見積もる。
エージェントはリクエストを複数の手順に分け、データベースを検索し、コードを書き、別のソフトウェアツールを呼び出し、人間の承認を待つこともある。こうした処理では、プロセッサー間の迅速な通信、作業情報を保持するメモリー、複数のシステムを行き交う情報の保護が求められる。
Googleは、処理の合間の待ち時間にかかるコスト削減にも取り組む。新しい「Agent Compute Engine」は、アイドル状態のエージェントセッションを自動で一時停止・再開する。エージェントがデータベースの応答や外部ツール、人間からのフィードバックを待つ間、リソースを解放する。
高価なプロセッサーが、計算するもののないセッションに占有され続けるのを防ぐことが実務上の狙いだ。多数のエージェントを同時に稼働させる顧客にとって、待ち時間の管理はインフラコストの抑制にも関わる。
ソフトウェアでハードウェア移行を容易に
Googleのハードウェア拡充と並行して、TPUを導入しやすくする取り組みも進む。Nvidiaの優位性の一端は、開発者がすでに使っているソフトウェアにある。そのためGoogleは、新プロセッサーだけでなく、なじみのある開発ツールへの対応も戦略に盛り込んでいる。
MetaおよびPyTorchコミュニティーと共同開発したTorchTPUは、広く使われるAIモデル構築フレームワーク「PyTorch」に、TPU向けのネイティブバックエンドを提供する。Googleによると、既存のPyTorchコードやHugging Faceのモデルは書き換えずにTPU上で実行できる。発表では、基本的な設定に追加するコードは2行と説明された。
Googleのクラウドインフラに関する発表では、AIモデルの提供に使われるオープンソースエンジン、vLLMとSGLangへのTPU対応も説明している。InferactやRadixArkとの協業は、顧客がTPUとグラフィックス処理装置（GPU）の両方を運用できる、より幅広い方式を支える。
新しい「XLA Serving Engine」により、開発者はPythonでモデルを学習させ、TPU、GPU、CPU上でC++ランタイムを通じて提供できる。プレビュー版のTPUエージェントスイートは、Claude Code、Cursor、Google Antigravityなどのコーディングツールと連携し、処理の構成やボトルネックの特定を支援する。
Googleは、コーディングエージェントや大規模なコンテキストを使った作業を評価するInferenceXとAgentXのテストで、優れた価格性能比を示したとしている。これは同社による性能の主張であり、インフラを選ぶ際には、顧客自身のアプリケーションでコスト、応答速度、精度を比較する必要がある。
メモリー管理も製品の一部に
Googleの新ソフトウェア「TPU Sync」は、アクセラレーターに物理的に搭載されたメモリーの枠を超える。チップメモリー、ホストコンピューターのメモリー、共有ストレージ、データセンターネットワークを連携させ、処理がそれらをより大きなメモリーシステムの異なる階層として利用できるようにする。
主な対象は、モデルがすでに処理した内容を保持する作業情報「KVキャッシュ」だ。大規模なコンテキストウィンドウや多数の同時稼働エージェントにより、キャッシュは非常に大きくなることがある。TPU Syncはこれをミリ秒単位でチップ外に移し、コストの高いアクセラレーターのメモリーを稼働中の処理に回せる。
Googleによると、このソフトウェアはKVキャッシュの転送遅延と初回応答までの時間を90％以上短縮できる。また、異なる処理段階間でコンテキストを移動させるほか、強化学習中にモデルの重みを同期する機能も備える。
ほかの2つのアップデートは、クラスターの運用に焦点を当てる。Google Kubernetes Engine（GKE）で一般提供が始まった「Cloud Pathways」は、単一のコントローラーで分散TPU処理を調整できる。GKEの動的スライシング機能は、光回路スイッチングを使い、ニーズの変化に応じてTPUを大規模なグループにまとめたり、小規模な隔離グループに分けたりする。
Googleは、動的スライシングによりジョブの起動が最大5倍、障害からの復旧が最大4.5倍速くなると主張する。これらのツールは新ハードウェアと同じ商業上の課題に対応する。待ち時間を減らし、導入済みの計算能力を有効な処理に結び付けることだ。
Google Cloudの枠を超えて広がる事業
Googleによると、TPU事業の顧客は現在、AI研究所、トレーディング会社、小売業者、大学など約100社に上る。同社は自社クラウドの外にも利用機会を広げており、顧客のデータセンターへの直接導入も進める。一部の顧客はTPU 8txを自社施設に導入できるようになる。
Oracleは2027年からクラウド顧客にTPUを提供する計画を発表した。Anthropicは2028年から2031年にかけて、最大1,500億ドル相当のチップを購入するオプションを保有する。OpenAIもTPUの購入を計画していると報じられている。Anthropicの金額は、オプションに基づく購入上限額を示す。
Jump Tradingは、タスクに応じて異なるハードウェアを選ぶ顧客の一例だ。同社によると、一部の業務ではTPUがエネルギー効率を高め、コストを削減する一方、AIモデルの学習には引き続きNvidia製品を主な基盤としている。
アナリストのマンディープ・シン氏は、TPUはデータ処理能力で競争力を保ちつつ、NvidiaのGPUより約30％安いと推定する。ある調査予測では、関連するハードウェアとソフトウェアを含むTPUの売上高は、Google Cloud経由でTPUを利用する顧客からの収入を除き、2026年に約120億ドル、2028年には1,350億ドル超に達する。
この予測は、2026年の120億ドルを基準にすると、2年間で11倍超に成長することを意味する。極めて急速な拡大を見込む内容だが、実現は製造能力、顧客の支出、導入スケジュールに左右される。
供給と建設の制約が成長機会を左右
Googleは10月、供給可能なTPUを顧客がすでにすべて予約したと明らかにした。メモリー不足と製造能力の限界は依然として制約であり、ヴァーダット氏のチームは供給源の多様化に取り組んでいる。
業界の分析によると、第8世代TPUファミリーの先端製造とシステムパッケージングは、台湾積体電路製造（TSMC）のエコシステム内で行われる。TPU需要の拡大はGoogleだけでなく台湾のサプライヤーにも商機をもたらす一方、先端の製造・パッケージング能力を確保できるかが実務上の課題となる。
データセンター建設には別の制約もある。シン氏は、新施設への反対により、2027年に1兆4,000億ドルと見込まれるテクノロジー業界のインフラ支出が約5～7％減る可能性があると推定する。この予測に当てはめると、減少額は約700億～980億ドルに上る。
計算密度が高まれば、既存の建物でより多くの処理をこなせるため、スペースが限られた場所ではTPU 8i Maxが実用的な役割を果たし得る。それでもGoogleには、チップとメモリーの確保、システムの納入、収益性の高い事業の構築が求められる。シン氏は、TPUの利益率はなおNvidiaを下回ると見積もる。
競争はもはや、ピーク時の処理速度だけにとどまらない。Googleは特定の処理を獲得するため、コンフィデンシャル・コンピューティング、大容量メモリーシステム、使い慣れたソフトウェア、柔軟な導入方法を組み合わせている。顧客の予約がどれほど早く売上高に結び付くかは、同社がシステムを供給できるかどうかにかかっている。
要点
- Googleは2026年11月9日にTPU 8txとTPU 8i Maxを発表し、2027年の出荷を予定している。
- TPU 8txは既存のTPU 8tチップにAMD EPYCホストと、使用中の機密データを保護するハードウェア機能を組み合わせる。
- TPU 8i MaxはTPU 8iを2基搭載し、高帯域幅メモリー384GBを備える。TPU 8iに比べ、演算能力とメモリー帯域幅は2倍となる。
- Googleは2026年にTPUを4機種投入し、TPU事業の顧客は約100社に上るとしている。
- TorchTPU、TPU Syncなどのソフトウェア更新により、開発を容易にし、計算資源のアイドル時間を減らすことを目指す。
- Oracle経由の提供や顧客への直接導入で市場を広げる一方、メモリー、製造、建設の制約が拡大を阻む。
