XiaomiのMiMo、専用チップなしで汎用GPU上の生成速度が毎秒1,000トークンに到達

読了時間:約10分
XiaomiのMiMo、専用チップなしで汎用GPU上の生成速度が毎秒1,000トークンに到達

人工知能の新たな速度記録

2026年6月8日、Xiaomiは推論モード「MiMo V2.5 Pro UltraSpeed」を発表した。標準的なクラウドGPU上で、1兆パラメーターの言語モデルが毎秒1,000トークンを超える生成速度を実現する。専用シリコンや特殊なハードウェアに頼らず、この規模のモデルが同水準を突破したのは初めてだ。社内デモでは、一般的なGPUを8基搭載した単一ノードで、毎秒約1,200トークンに近い速度を持続する様子が示された。

目次
  1. 人工知能の新たな速度記録
  2. 人工知能分野で意外な躍進を遂げるXiaomi
  3. 現代のAIにおける速度の代償
  4. FP4量子化で知能を圧縮
  5. DFlashの投機的デコードで並列予測
  6. TileRTでマイクロ秒単位の隙間を解消
  7. 実社会への影響と事業の背景
  8. オープンソース公開と検証の課題
  9. 要点

この成果の意義を理解するには、現在公表されているベンチマークと比べるとよい。OpenAIのGPT 5.5は毎秒約68トークンを生成する。Claude Opus 4.6は約71トークン、Google Gemini Flashは192トークンに達する。XiaomiのUltraSpeedモードは、標準的なChatGPTの利用体験のおよそ15倍の生成速度を実現し、しかもソフトウェアエンジニアリングの評価で最先端モデルと競合するモデルを使っている。

この速度を支えるMiMo V2.5 Proは、1兆200億パラメーターを持つMixture of Experts(MoE)アーキテクチャで、コンテキストウィンドウは100万トークンに及ぶ。多くの競合モデルとは異なり、テキスト、画像、音声、動画を単一モデル内でネイティブに処理する。Xiaomiは基盤となるチェックポイントをMITオープンソースライセンスで公開しており、開発者はライセンス料なしでセルフホストやファインチューニングを行い、商用展開できる。

人工知能分野で意外な躍進を遂げるXiaomi

多くの消費者にとって、Xiaomiといえば手頃な価格のスマートフォンや電動キックボード、そして近年は電気自動車だ。同社は2026年第1四半期に3,380万台の携帯電話を出荷し、5月だけで3万台超の電気自動車を納車した。だが、こうした消費者向け製品の背後には、2025年4月に小型の70億パラメーター推論モデルを発表して以来、大規模言語モデルの開発を続けてきた専門の人工知能部門がある。

その後14カ月でMiMoシリーズは、公開されているオープンウェイトモデルの中でも競争力の高いラインアップの一つへと成長した。現行の旗艦モデルMiMo V2.5 Proは2026年4月22日に登場。ソフトウェアエンジニアリングのタスクではClaude Opus 4.6に迫るベンチマーク性能を示しながら、トークン当たりの価格は約8分の1だ。基本モデルの標準価格は、キャッシュヒット時が100万トークン当たり0.025元、入力のキャッシュミス時が3元、出力が6元となっている。

6月8日の発表では、既存モデルに直接重ねる高性能な推論モードとしてUltraSpeedが加わった。モデルの重みやアーキテクチャを変えるのではなく、速度向上はすべて推論最適化によるものだ。これは、一般的なハードウェアでどこまで可能かという従来の見方に一石を投じるソフトウェア上の成果といえる。

広告

現代のAIにおける速度の代償

推論速度は、大規模言語モデルをめぐる競争の重要な焦点となっている。モデルがトークンを生成する速度は、ユーザーが回答を受け取る速さだけでなく、どのアプリケーションが経済的、技術的に実現可能かを左右する。毎秒68トークンのモデルは、人間が自分のペースで読むチャット画面には十分だ。しかし、リアルタイムの不正検知、高頻度取引のシグナル生成、数秒のうちに複数の推論ステップを繰り返す自律型コーディングエージェントといった、低遅延が求められるタスクにはまったく対応できない。

このボトルネックに着目し、専用シリコンを中心に事業を築いたスタートアップも複数ある。Cerebrasはディナープレートほどの大きさのウェハースケールチップを設計し、チップ上に440億バイトのメモリーを搭載。従来型GPUの推論を遅くする帯域幅の制約を取り除いた。同社のシステムは、MiMo V2.5 Proの半分に満たないパラメーター数のMeta製「Llama 3.1 405B」で、毎秒約969トークンを達成した。Groqは、モデルに応じて毎秒300~750トークンを実現できる独自の言語処理ユニット(LPU)アーキテクチャを開発した。いずれのプラットフォームも、標準的なクラウドのレンタルサービスで使えるハードウェアでは動作しない。

Xiaomiは、こうしたハードウェア競争とは異なる道を選んだ。ソフトウェアとモデル設計を同時に最適化することで、レンタル可能な汎用GPU上で同等の速度に到達した。標準的な8基のGPUを搭載したノードを使える開発者なら、理論上は誰でも結果を再現できる。競争上の優位性が、専用チップメーカーからアルゴリズムの革新へと移る可能性がある。

FP4量子化で知能を圧縮

UltraSpeedを支える第一の柱は、FP4量子化と呼ばれる積極的な数値圧縮だ。通常、モデルの推論では重みを16ビットまたは8ビット精度で保存する。各パラメーターは一定量のメモリー帯域幅を必要とする。1兆パラメーター規模では、重みをメモリーから処理コアに移すだけでも通信が滞り、生成速度に上限が生じる。

Xiaomiは、対象を選んで4ビット精度を適用する方法をとった。Mixture of Expertsアーキテクチャには多くのエキスパート層があり、パラメーターの大半を占める一方、精度を下げても性能を維持しやすい。Xiaomiはこのエキスパート層のみをMXFP4形式に圧縮し、他のモデルモジュールはFP8とされる高い精度に保った。この選択的な手法は、出力品質を損なうことなくメモリー使用量を減らす。量子化を学習過程に組み込む量子化対応学習(Quantization Aware Training)を採用したためだ。ベンチマークでは、量子化モデルは元のフル精度版と実質的に同等の性能を示している。

モデルの大部分を占めるエキスパート層を選択的に圧縮することで、生成の各ステップでメモリーを通過するデータ量が大幅に減る。帯域幅の節約は、そのままスループットの向上につながる。

広告

DFlashの投機的デコードで並列予測

第二の柱は、言語生成が逐次的に行われる性質への対処だ。通常、モデルはトークンを一つずつ生成し、新しいトークンはそれ以前のすべてのトークンに依存する。投機的デコードは、より小さなドラフトモデルが複数の後続トークンを素早く予測し、大きなターゲットモデルが予測を並列で検証することで近道を作る。予測が一致すれば、時間を節約できる。ただし従来の投機的デコードでは、ドラフトモデルが予測を逐次生成する必要があり、効果が限られていた。

Xiaomiが改良した研究コミュニティ発の手法、DFlashは、この逐次処理の制約を取り除く。ドラフトモデルはトークンを一つずつ予測するのではなく、マスクされた位置のブロック全体を1回のフォワードパスで埋める。XiaomiはMuon二次最適化手法とモデルの自己蒸留を用いて、この処理を調整した。ドラフトモデルはSliding Window Attentionのみを使うため、会話がどれだけ長くなっても、予測1回当たりの計算コストは一定に保たれる。

コーディングのシナリオでは、ブロックサイズの上限を8トークンとした場合、検証1回当たりの平均受け入れ長は6.3トークンとなる。つまり、大規模モデルはトークンを一つずつ生成するのではなく、1回のステップで6~7個を検証する。棄却サンプリングにより有効なトークンだけが通過するため、出力は標準的なデコードと数学的に同一のままだ。品質を落とさずに速度を上げられる。

TileRTでマイクロ秒単位の隙間を解消

第三の柱は、極めて高速な処理で初めて表面化する、目に見えないボトルネックを狙う。推論速度が毎秒1,000トークンを超えると、各演算子の処理時間はわずか数マイクロ秒になる。従来のサービングシステムでは演算子を一つずつ起動し、その間に小さな空白が生じる。通常の速度では無視できるこの空白も、UltraSpeedの水準では処理の流れを分断し、主要なボトルネックとなる。

推論パートナーのTileRTと共同開発したTileRTは、GPU上に常駐し続けるPersistent Engine Kernelによってこの問題を解決する。処理を開始しては停止するのではなく、カーネルはWarp Specializationを使い、特定のハードウェアスレッドにデータ移動、計算、通信の役割を割り当て、連携させる。通常はマイクロ秒単位の遅延を生むRMSNorm、回転位置埋め込み、KVキャッシュ書き込みといった小さな処理も、中断なく実行される。

このシステムはFP4とDFlashの採用と並行して設計され、後から追加されたものではない。モデルとシステムを極限まで協調設計することで、3つの技術が緊密に連携する。Xiaomiは、いずれか一つの技術だけでは毎秒1,000トークンを達成できないと明言している。記録的な結果を生むのは、3つを組み合わせた実行だけだ。

広告

実社会への影響と事業の背景

毎秒1,000トークンという水準に達すると、最先端モデルを使う意味のあるアプリケーションの範囲が広がる。並列推論が実用的になり、低速なモデルが一つの推論経路をたどるのと同じ時間で、Best of Nや木探索による推論経路を何十本も実行できる。生成が速くなれば、自律型の各ステップ間の待ち時間が短くなるため、コーディングエージェントにも利点がある。取引シグナルの生成、不正の阻止、ライブ対話システムなどのリアルタイム意思決定ループも、遅延が人間の知覚できる閾値を下回れば実用性が高まる。

Xiaomiは公開デモで、実用面での効果を示した。完全に動作するスネークゲームは約10秒で生成され、macOSのインターフェース試作品は約1分で完成した。いずれも処理量が制約となるタスクで、生のトークン生成速度が決定的な要因となる。

UltraSpeedは、2026年6月9日から23日まで、申請制の限定API試験を通じて利用できる。料金はMiMo V2.5 Proの標準料金の3倍で、現在の為替換算では入力100万トークン当たり約1.29ドル、出力100万トークン当たり約2.61ドルに相当する。Xiaomiは、この料金で生成速度が約10倍になるとうたう。サブスクリプションサービス「Token Plan」はUltraSpeedの対象外だ。承認されたユーザーには2週間のChatアクセスが無料で提供され、利用上限は1アカウント当たりキュー登録10回、セッション30分、アイドル状態が5分続いた場合のリソース自動解放となる。

こうした技術的な節目にもかかわらず、金融市場の反応は鈍い。Xiaomi株は6月11日に2.91ユーロで取引を終え、52週安値をわずか1.75%上回る水準で、年初来では35%下落した。同社は事業の多角化を続けており、MiMo Codeアシスタントの発表と同じ日にインドで高級スマートフォン「17T」を発売し、長春市とともに電気自動車事業の拡大も進めている。事業の勢いで株価を反転できるかどうかは、今後の決算データにかかっている。

広告

オープンソース公開と検証の課題

XiaomiはMiMo V2.5 Pro FP4 DFlashチェックポイントを、量子化済みの重みとDFlashのパラメーターを含めてHugging Faceでオープンソース公開した。TileRTも一部のモジュールをGitHubで公開している。こうした透明性により、コミュニティが独自に検証できるようになる。現在の速度に関する主張はすべてXiaomi社内のベンチマークに基づいているため、独立した検証は重要だ。現時点で第三者による検証結果は公表されていない。

コミュニティによる再現実験では、いくつかの未解決の疑問が検証される。第一に、Xiaomiが管理する試験環境以外の一般的なGPUインスタンスでも、毎秒1,000トークンという数値が維持されるか。第二に、構造化されたコーディングタスクより投機的デコードの受け入れ率が低い自由形式の対話で、品質低下が起きるか。第三に、TileRTの永続カーネル方式が、すでに本番環境で稼働している標準的なサービング基盤と統合できるかだ。

独立した検証で主張が裏付けられれば、Xiaomiは競合他社が専用シリコンの開発に数億ドルを投じて追求してきた成果を、ソフトウェアで実現したことになる。この結果は、アルゴリズムの協調設計によって、従来は特殊なハードウェアが必要と考えられていた性能水準を引き出せることを示唆し、人工知能業界全体の投資の方向を変える可能性がある。

要点

  • XiaomiのMiMo V2.5 Pro UltraSpeedは2026年6月8日の発表時、標準的な汎用GPU上で毎秒1,000トークンを超えた初の1兆パラメータモデルとなった。
  • 速度は、エキスパート層のFP4量子化、DFlashによるブロック単位の投機的デコード、TileRTのGPU常駐ランタイムという3つの技術の連携によって実現した。
  • 基盤となるMiMo V2.5 Proは、コーディングタスクでClaude Opus 4.6に迫るベンチマーク性能を示しながら、トークン当たりの価格は約8分の1だ。
  • CerebrasやGroqなどの競合と異なり、Xiaomiは専用シリコンを使わず、クラウド事業者から利用できる標準的な8基のGPU搭載ノードで記録を達成した。
  • MiMo V2.5 Pro FP4 DFlashチェックポイントはMITオープンソースライセンスでHugging Faceから入手でき、TileRTのモジュールはGitHubで公開されている。
  • 限定API試験は2026年6月9日から23日まで実施され、標準料金の3倍で約10倍の生成速度を利用できる。
  • 技術的な突破口にもかかわらず、Xiaomi株は52週安値に近い水準にあり、2026年6月中旬時点で年初来35%下落している。
この記事を共有

こちらもおすすめ