595ギガバイトが開発者の現実に直面するとき
業界アナリストが「これまでに作られた中で最も強力なオープンソース人工知能モデル」と呼ぶものを公開して2日後、Moonshot AIの研究者らはRedditにログインし、興奮と不満が入り混じった聴衆と対峙した。北京に拠点を置くこの新興企業には、祝うべき理由が十分にあった。Kimi K2.5は、米国のAI大手との能力差を縮めたことや、米国の半導体輸出規制の限界を試したことをめぐって見出しを飾った。しかし、シングルコンシューマーGPUからプロシューマー機材を備えた小さなラックまで、あらゆる環境で大規模言語モデルを実行する方法について技術者が助言を交換するフォーラム、r/LocalLLaMAで待っていた開発者たちは、より差し迫った懸念を抱いていた。彼らが知りたかったのは、実際にいつこのモデルを使えるようになるのかということだった。
目次
3時間に及ぶAsk Me Anythingセッションは、2026年のフロンティアAI開発を意外なほど率直に見せる窓となった。企業のマーケティング資料に登場する磨き上げられた姿ではなく、障害のデバッグ、性格のドリフトへの対処、そして今日のオープンソースAIを特徴づける根本的な緊張と向き合う、混乱に満ちた現実を見せたのである。Moonshotは、誰でもダウンロードしてカスタマイズできるようモデルの重みを公開していた。ファイルの容量は約595ギガバイトに及ぶ。スレッドに参加した開発者の大多数にとって、その開放性は依然として純粋に理論上のものにとどまった。
Moonshotのチームメンバー3人が、ComfortableAsk4494、zxytim、ppwwyyxxというユーザー名で参加した。約187件のコメントにわたり、彼らはアーキテクチャ、訓練手法、そしてAIモデルに個性を与えるものは何かという哲学的な難問について質問を受けた。また、次の進歩がどこから生まれるのかという見通しも示したが、それは単にパラメーターを増やすことではなかった。
消えないサイズの問題
最初の質問の波は、Kimi K2.5をブレークスルーというより物流上の頭痛の種として扱った。あるユーザーは、Moonshotがなぜフラッグシップと並行してより小型のモデルを作らないのかと率直に尋ねた。「8B、32B、70Bといった小型サイズは、知能密度には最適な規模だ」と同ユーザーは書き、単位10億のパラメーター数を指していた。別のユーザーは、多くの開発者が単純に実行できないため、巨大モデルを称賛するのは難しくなったと述べた。3人目は、控えめなGPUに収まるコーディング特化型の派生モデルを求め、サイズの目標として米国の競合他社を挙げた。
Moonshotのチームはその場で小型モデルを発表しなかった。しかし、その要求を認める際の言葉から、こうした不満には聞き慣れていることがうかがえた。「ご要望は確かに受け取りました！」と共同ホストの一人は書いた。別の人物は、Moonshotのモデル群にはHugging Face上で比較的小規模な複数エキスパートモデルがすでに含まれている一方、小型モデルと大型モデルでは必要な工学的投資が異なることが多いと注意した。
最も示唆に富む回答は、ローカル利用に最適化された約1000億パラメーターのモデルを作る可能性があるかと尋ねられたときに返された。Kimiチームは、より高い妥協案を示した。すなわち、多くのタスクで同社が「実用性の閾値」と呼ぶ水準を維持できる2000億または3000億パラメーターのモデルである。その回答は、オープンウェイトの研究所が直面する板挟みを象徴していた。2000億から3000億パラメーターのモデルなら、1兆パラメーターのシステムに比べて利用機会は広がるが、それでも複数GPUの構成か、メモリー節約のために精度を落とす強力な量子化技術を前提とする。
スレッド内の開発者が求めていたのは、多少小型化されたモデルではない。自分たちが実際に所有するハードウェアに適したサイズのモデルと、ローカル展開を趣味的な後回しではなく最優先の制約として扱うロードマップだった。このやり取りは、データセンター規模のインフラを必要とする巨大モデルを公開する研究所と、自らの機材上でシステムを実行したい実務家の間で、オープンソースAIコミュニティに広がりつつある亀裂を浮き彫りにした。
スケーリング則は壁に達したのか
スレッドがハードウェアへの不満から発展すると、議論は多くの研究者にとって大規模言語モデルの中核的な問い、すなわちスケーリング則が高原期に入ったのかという問題へと移った。スケーリング則とは、モデルのサイズ、データ量、性能の間に見られる予測可能な関係を指し、長年にわたりAIの進歩を推進してきた。ある参加者は、スケーリングが「壁にぶつかった」のかと直接尋ねた。
Kimiの担当者は、業界全体でますます一般的になっている診断を示した。「高品質データの量は、利用可能な計算資源ほど速くは増えない」と同担当者は書き、「そのため、インターネットデータを使った従来型の次トークン予測に基づくスケーリングでは、改善幅が小さくなるだろう」と続けた。この見解は根本的な制約に触れている。インターネット上の良質なテキストには限りがあり、AI研究所はすでにその大部分で訓練を行っている。
その後、チームは自らの望ましい回避策を示した。Kimi K2.5が最大100個のサブエージェントを並列で調整できる能力であるAgent Swarmを、「テスト時スケーリング」の一形態として挙げ、能力向上への新たな道を開き得るとした。テスト時スケーリングとは、初期訓練段階ではなく、モデルが実際に質問に答えている推論中に計算量を増やすことを指す。
チームの説明によれば、スケーリングはより大きな事前学習の実行だけを意味する必要はない。推論時に構造化された処理量を増やし、その知見を強化学習を通じて再び訓練へ反映させることも含まれ得る。「起こり得るスケーリングの新しいパラダイムがあるかもしれない」と共同ホストの一人は書いた。「展望として、人間の事前知識をより少なく、あるいはゼロで学習するモデルが登場する可能性が高い」
この見解は、進歩の単位がパラメーター数と事前学習の損失曲線から、ツールとサブエージェントを構成要素として使い、計画し、委任し、検証できるシステムへ移りつつあることを示唆する。それは、巨大なニューラルネットワークの単一の順伝播だけに頼るものではない。
Agent Swarmの内部で、100個のサブエージェントがメモリーを共有する方法
表面上は、Agent Swarmは新しい外装をまとった既視感のあるアイデアに聞こえる。一つのタスクに複数のAIエージェントが協力するという考えだ。AMAでは、メモリーをどこに置くのか、調整をどう行うのか、なぜオーケストレーションがノイズに崩壊しないのかについて、より重要な詳細が明らかになった。
ある開発者が、複数エージェントに共通する古典的な懸念を提起した。100個のサブエージェントという規模では、オーケストレーターエージェントが、待ち時間と、コミュニティが「コンテキストの劣化」と呼ぶものの両面でボトルネックになりやすい。コンテキストの劣化とは、会話履歴が内部のやり取りやツールの痕跡で埋まり、モデルが達成しようとしていた目的の筋道を見失うことで、性能が低下する現象を指す。
Kimiの共同ホストは、企業環境でエージェントシステムを構築する誰にとっても重要な設計上の選選択を挙げて答えた。
サブエージェントはそれぞれ自身の作業メモリーを持って実行され、すべてを共有コンテキストに流し込むのではなく、結果をオーケストレーターへ送り返します。これにより、コンテキストの総長を新しい次元でスケールさせられます！
別の開発者は、性能に関する主張を追及した。MoonshotはAgent Swarmについて、適したワークフローで約4.5倍の高速化を達成できると公に説明している。しかし懐疑的な人々は、その数字が特定タスクをどれだけ並列化できるかを単に反映しているだけではないかと尋ねた。チームは、状況によると同意した。場合によっては、システムがタスクに並列エージェントを必要ないと判断し、余分な計算資源を避けている。また、サブエージェントのトークン予算は、適切な大きさのタスクを各サブエージェントに割り当てることで、オーケストレーターが管理すべきものだと説明した。
マーケティングではなく工学として読めば、Moonshotが説明していたのは、見慣れたエンタープライズのパターンである。コントロールプレーンを整理して保ち、ワーカープロセスの出力に制約を設け、調整役が消化できないログを浴びせない。このアーキテクチャは、将来のAIシステムが、単一の巨大なチャットボットというより分散コンピューティングクラスターに近い姿になると示唆している。
システム1からシステム2への移行
AMAで示唆された最も重要な変化は、新しいベンチマークスコアではなかった。研究上の優先事項に関する発言だった。ある質問は、Moonshotが「システム1」の事前学習から「システム2」の強化学習へ計算資源を移しているのかと尋ねた。これらの用語は、心理学者ダニエル・カーネマンが広めた認知モードを指す。システム1は速くて直感的な思考であり、システム2はより遅く熟慮を伴う推論である。
AIの文脈では、これは広範なパターン学習から、複数ステップのタスクで推論と正しい行動を明示的に報いる訓練へ移行することを意味する。Kimiの担当者は、強化学習向けの計算資源は増え続けると答え、特に「エージェント領域」で新しい強化学習の目的関数が登場する可能性が高いと示唆した。
この一文は、ロードマップのように読める。モデルがより多くのツールを使い、タスクを分解するようになるにつれ、研究所は予算の多くを、トークンを予測することだけでなく、エージェントとして適切に振る舞うようモデルを訓練することに費やすようになる。企業にとって重要なのは、強化学習による改善にはしばしばトレードオフが伴うからだ。モデルはより決断力を持つようになる一方、ツールを過剰に使い、企業の期待と正確には対応しない報酬シグナルに強く整合するようになる可能性がある。
はるかに大規模なGPU群を持つ米国の研究所との計算資源格差について尋ねられると、チームは率直だった。「格差は縮まっていないと思います」と共同ホストの一人は書いた。「しかし、AGIを達成するにはどれだけの計算資源が必要でしょうか。見守りましょう」別の人物は、より哲学的な表現を用いた。「利用可能な計算資源に影響する要因は多すぎます。しかし何があっても、イノベーションは制約を好みます」
Kimiがなぜ自分をClaudeと呼ぶことがあるのか
オープンウェイトの公開には、今や定常的な疑いが伴う。このモデルは競合他社から学びすぎたのではないかという疑いだ。その疑いは、あるAIが別のAIの出力を使って学習する蒸留という非難に、急速に硬化することがある。あるユーザーは、オープンモデルのコミュニティで流布する最も不快な主張の一つを提起した。K2.5が時折、Anthropicのフラッグシップモデルである「Claude」を名乗るというのだ。その含意は、大幅な流用だった。
Moonshotはこの挙動を却下しなかった。代わりに、それが起きる条件を説明した。チームによれば、適切なシステムプロンプトを与えると、特に思考モードでは「Kimi」と答える確率が高い。しかし、システムプロンプトが空の場合、モデルはチームが「未定義領域」と呼ぶ状態に漂い、これは意図的な訓練上の選択ではなく、事前学習データの分布を反映している。
続いて、訓練上の決定に結びついた具体的な説明を示した。Moonshotは、事前学習中に新しいインターネット上のコーディングデータをオーバーサンプリングしたと説明し、そのデータはトークン「Claude」とより強く関連しているように見えると述べた。AIコーディングアシスタントについて議論する開発者がAnthropicのモデルに頻繁に言及しているためだろうと推測した。チームは、ベンチマーク結果を示して蒸留という非難に反論した。
実際、K2.5は多くのベンチマークでClaudeを上回るようです。HLE、BrowseComp、MMMU Pro、MathVisionなど、その例は数多くあります。
企業の導入担当者にとって重要なのは、インターネット上の騒動ではない。アイデンティティのドリフトが実在する障害モードであり、モデルの自己紹述を偶然に任せるのではなくシステムプロンプトを管理することで、組織が多くの場合その影響を緩和できるという点である。AMAは、プロンプト管理をユーザー体験の装飾ではなく、信頼できる展開に不可欠な運用上の衛生管理として扱った。
報酬モデルの中にある魂を探す
スレッドに繰り返し現れたテーマは、K2.5の文章スタイルが以前のKimiモデルより一般的に感じられるというものだった。ユーザーは、より標準的な「役に立つアシスタント」のようだと表現した。この語り口は、今日多くの開発者が、徹底的に事後訓練されたモデルの標準的な性格と見なしている。あるユーザーは、Kimi K2の個性が大好きだったが、何が起きたのか尋ねた。
Kimiの共同ホストは、新しいリリースごとにある程度の性格変化が生じることを認め、性格は主観的で評価が難しいと説明した。「これは非常に難しい問題です」と同ホストは書いた。チームはこの問題を改善し、ユーザーごとにより性格をカスタマイズできるようにしたいと考えている。
コーディング能力を強化することが創作文章や感情知性を損なうかどうかという別のやり取りでは、Kimiの担当者は、モデルが十分に大きければ本質的な対立はないと主張した。しかし、複数のバージョンにわたって「文章の良さ」を維持するのは難しいという。報酬モデルが絶えず進化しているためだ。チームは、創作文章の進歩を追跡し、それに応じて報酬モデルを調整するため、一種のメタ評価である内部ベンチマークを活用している。
別の回答はさらに踏み込み、企業のAI仕様書では異様に聞こえるものの、こうした道具を日々使う人々には馴染みのある言葉を用いた。チームは報酬モデルの「魂」について語り、個々の好みを反映するユーザーの「状態」を保存し、それをモデルの出力条件に利用できる可能性を示唆した。このやり取りは、企業がしばしば過小評価する製品の最前線を指している。スタイルのドリフトは単なる美的問題ではない。モデルが意思決定を説明する方法、留保を付ける方法、曖昧さを扱う方法、顧客や従業員と対話する方法を変え得るのだ。
AI研究の真の仕事としてのデバッグ
最も示唆に富む文化的洞察は、訓練と強化学習で驚いた点についての質問に答える中で現れた。共同ホストは、強調するため太字にした一つの言葉で答えた。デバッグである。
事前学習であれ事後訓練であれ、常に最優先事項として現れるものがあります。それはデバッグです。
このコメントは、セッション全体を通じて流れていたテーマを照らし出した。異なるモデル規模で新しいアイデアを評価する「スケーリングラダー」の手法について尋ねられたzxytimは、失敗についての逸話を語った。チームはかつて、実験的な線形注意アーキテクチャであるKimi Linearを、前のモデル世代に急いで組み込もうとした。しかし、ある規模でスケーリングラダーに合格しなかった。チームは立ち止まり、共同ホストが「きついデバッグのプロセス」と呼ぶものを経験し、数か月後にようやく動作させた。
「統計的には、小規模で機能するアイデアのほとんどは、スケーリングラダーを通過しません」と同氏は続けた。「通過するものは通常、単純で、効果的で、数学的な根拠があります。研究とは、成功を祝うことではなく、主に失敗を管理することです」
AIベンダーを評価する技術リーダーにとって、この告白は示唆に富む。フロンティアの能力は、優雅なブレークスルーだけから生まれるのではない。断続的な障害の切り分けと、うまくいくか分からない問題に数か月を費やすことを厭わない組織文化から生まれるのだ。この現実的な指摘は、製品発表でしばしば提示される磨き上げられた物語とは鮮やかな対照をなしている。
K3と継続学習へのロードマップ
AMAは、Kimiの次世代モデルを控えめに予告する場も兼ねていた。開発者たちは、Kimi K3がMoonshotの線形注意研究を採用するのかと尋ねた。この研究は、従来の注意機構より長い文脈を効率的に処理することを目指している。チームメンバーは、線形方式が現実的な選択肢であると示唆した。「Kimi LinearがK3の一部になる可能性は高い」と一人は書いた。「他の最適化も組み込む予定です」
別のやり取りでは、共同ホストが、K3はK2.5より「たとえ10倍でなくても、大幅によくなるだろう」と予測した。チームはまた、積極的に探求している方向として継続学習を挙げ、エージェントがより長い時間軸で効果的に活動できる未来を示唆した。エージェントが単発のタスクではなく継続的なプロジェクトを担うのであれば、これは企業にとって重要なニーズである。
「私たちは、継続学習がエージェンシーを高め、エージェントがはるかに長い期間、効果的に活動できるようになると信じています」と共同ホストの一人は書いた。Agent Swarmについては、システムがより安定し次第、開発者にオーケストレーションの基盤を利用可能にする計画だとチームは述べた。「できれば非常に近いうちに」と同氏は付け加えた。
これが示す、2026年のオープンAIの姿
このセッションですべての疑問が解決したわけではない。マルチモーダル訓練の手法、報酬ハッキングへの防御、データガバナンスに関する、最も技術的な質問の一部は、今後の技術報告書に持ち越された。これは珍しいことではない。多くの研究所は、運用上最も決定的な詳細を機密として扱うようになっている。
それでもスレッドは、AIをめぐる真の競争がどこへ移ったのかを明らかにした。最も重要な隔たりは、中国と米国、あるいはオープンとクローズの間ではない。モデルが約束することと、システムが実際に実現できることの間にある。オーケストレーションが製品になりつつある。Moonshotはモデルを提供するだけではない。仕事の分割、ツールの利用、構造化された結果の迅速な返却が可能なエージェントから次の向上が生まれると語る、世界観そのものを提供しているのだ。
開発者たちが、データセンターを必要とする開放性ではなく、ローカルで実行できる開放性を求める中、オープンウェイトはハードウェアの現実と衝突している。また、主戦場は生の知能から信頼性へと移りつつある。ベンチマークを2ポイント上回ることから、ツール呼び出しの規律をデバッグし、複数エージェントのワークフローでメモリーを管理し、ユーザーが出力を信頼するかどうかを左右する、定量化が難しい「良さ」を守ることへ。
Moonshotは、注目度の高い公開と地政学的な物語の広がりを受けてRedditに現れた。そこに待っていた開発者たちが重視したのは、より実務的な問いだった。オープンが実際に使えることを意味するのはいつなのか。その意味で、AMAはKimi K2.5の宣伝にとどまらなかった。業界が移行の途上にある姿を切り取って見せたのだ。より大きなモデルから、より構造化された計算へ。クローズドAPIから、展開に依然として高度な工学を要求するオープンウェイトへ。そして、成功を祝うことから、失敗を管理することへ。
概要
- Moonshot AIは、595GBのオープンソースモデルKimi K2.5を公開した後、r/LocalLLaMAでReddit AMAを開催し、実用性に関する質問に直面した
- 開発者はローカルハードウェア向けの小型モデル（80億から700億パラメーター）を求めたが、Moonshotは幅広い実用性のための最低限として2000億から3000億パラメーターを示唆した
- チームは、高品質の訓練データが限られているためスケーリング則が高原期にあることを認め、100個のサブエージェントを調整するAgent Swarmによる「推論時スケーリング」へ方向転換している
- Agent Swarmは、各サブエージェントに独立した作業メモリーを持たせてコンテキストの劣化を避け、トークン予算とタスク割り当てをオーケストレーターが管理する
- 強化学習向けの計算資源は今後増加し、システム1のパターン照合から、システム2の推論とエージェント行動の訓練へ重点が移る
- Moonshotは、アイデンティティのドリフト（モデルが自分を「Claude」と呼ぶこと）について、蒸留ではなく、Claudeへの言及が多いコーディングデータをオーバーサンプリングした結果だと説明した
- 性格と「魂」はバージョン間で測定・維持するのが依然として難しく、ユーザーごとの好みの状態を導入する計画がある
- Kimi K3には、長期的なエージェントタスクに向けた線形注意アーキテクチャと継続学習機能が組み込まれる見込み
