計算アーキテクチャの抜本的な転換
中国の研究者らは、従来のデジタルプロセッサが必要とするエネルギーのごく一部で人工知能（AI）処理を行う画期的なアナログ演算チップを発表した。より持続可能なAIハードウェアを開発する取り組みにおける重要な節目となる。今週、科学誌『ネイチャー・コミュニケーションズ』に発表された研究で、北京大学の科学者らは、抵抗変化型ランダムアクセスメモリー（RRAM）チップを用いて、ネットフリックスやヤフーが利用する規模に匹敵するデータセットで推薦システムを学習でき、最先端のデジタルプロセッサより12倍高速に動作し、消費エネルギーはわずか200分の1だったと示した。
この画期的な成果は、従来の理論的主張の妥当性を裏付けつつ、この技術を単純な数学ベンチマークから実用段階へと押し上げた。論文の筆頭著者であるスン・ジョン氏は、この成果をアナログ計算の限界を一歩前進させたものと表現し、新しいチップは複雑なタスクを処理しながら、アナログ計算が本来持つ高速性と省エネ性を維持したと説明した。この進展は、AI学習に伴う電力需要の急増に世界のデータセンターが苦戦する中で生まれたもので、一部の施設では小都市に匹敵する電力を消費している。
今回の研究は、10月に最初に報告された取り組みを発展させるものだ。当時、研究チームは専門家が言うところの、アナログ計算を長年悩ませてきた100年来の精度問題を解決したと発表していた。研究者らは当時、エヌビディアH100グラフィックス処理装置などの最上位デジタル処理装置より1,000倍高い処理速度を実現できる可能性があるとし、省エネ性能も100倍優れると述べていた。最新の論文は実環境での性能向上を確認したが、当初の理論的予測よりは控えめであり、個人向け推薦や画像処理の応用で能力を実証した。
情報ゼロと1の2進数で処理する従来型コンピューターと異なり、アナログシステムは電流などの連続的な物理信号を操作する。デジタル計算はオンとオフの2つの位置しかない従来の照明スイッチのように動作する一方、アナログ計算は調光スイッチに似ており、連続的な範囲で値を調整する。この根本的な違いにより、アナログチップは2進コードではなく物理的特性を通じて計算を実行でき、従来のプロセッサを制約するメモリーと処理装置の間のデータ移動に伴う大量のエネルギー消費を回避できる。
AI産業がエネルギー危機に直面する中で、この進展の時期は極めて重要な意味を持つ。大規模言語モデル1つの学習だけでメガワット時単位の電力を消費する可能性があり、世界中のデータセンターは一部の先進国を上回る電力を使用している。製造業者が半導体部品の原子規模に近づくにつれ、従来のデジタルプロセッサは根本的な物理的限界に直面しており、進歩を続けるには製造技術の進歩だけでなく、アーキテクチャ革新がますます必要になっている。
ただし、アナログシステムは歴史的に精度で苦戦してきた。デジタルコンピューターは段階的なアルゴリズムで正確な結果を得られる一方、アナログ装置は信号干渉やノイズの影響を受けやすく、複雑な現代の用途には適していなかった。この限界により、アナログ技術は何十年もの間、歴史的な興味の対象として扱われてきた。その源流には、歯車を組み合わせて天体の位置を予測した2,000年前のギリシャの天体計算装置、アンティキティラ島の機械も含まれる。
精度の壁を打ち破る
北京大学の研究チームは、アナログ計算の速度とデジタルシステムの正確さを組み合わせた革新的な二重回路アーキテクチャで、この限界に対処した。チップは、電極間の電気抵抗を調整してデータを記憶する抵抗変化型ランダムアクセスメモリー（RRAM）セルを利用している。研究者らはこれらのセルを2つの異なる回路に構成し、高速に近似解を生成した後、反復処理によって解を洗練させ、32ビット浮動小数点デジタル計算に匹敵する精度を得るシステムを作り出した。
精度は長らくアナログ計算の中心的なボトルネックだった。アナログ計算で高い精度と拡張性を両立し、その本来の利点を現代の計算タスクに活用する方法は、世界の科学界を悩ませてきた100年来の問題だった。
大学の助教を務めるスン・ジョン氏は、この手法により従来のアナログ計算の精度が5桁、つまり約10万倍向上すると説明した。最初の回路は約1％の誤差率で結果を生成するが、2番目の回路による3回の洗練処理後、誤差は標準的なデジタルプロセッサと同等まで低下する。研究チームは、24ビット固定小数点精度を持つ16×16の実数行列を用いた行列逆演算問題を解くことで、この能力を実証した。
この革新の中心にある抵抗変化型ランダムアクセスメモリー技術は、従来のトランジスタを用いた計算から大きくかけ離れたものだ。RRAMセルはメミスタとして機能する。メミスタは、内部抵抗を変化させることで、以前に流れた電流量を記憶する電気部品だ。この特性により、チップは同じ物理的な場所で情報を保存・処理できるようになり、従来のコンピューターがバス回線を介してデータを往復させるためにエネルギーを消費する、メモリーとプロセッサの分離が不要になる。
行列演算は、現代の人工知能、機械学習、無線通信の数学的基盤を成す。ニューラルネットワークを学習するときや6Gネットワーク向けの信号を処理するとき、コンピューターは膨大な数の格子を含む方程式を解かなければならない。デジタルプロセッサはこれらのタスクを逐次的に処理し、計算を長い2進演算の列に分解する。アナログチップはこれらの行列を並列処理し、信号を2進コードに変換することなく、メモリー配列内で直接計算を実行する。
精度問題を解決した歴史的意義は、どれほど強調しても足りない。アナログ計算はデジタル技術に先行しており、初期の例には1936年にソビエトで考案された、管内を流れる液体を使って数学方程式を解く水力積分器が含まれる。こうした革新にもかかわらず、ノイズと拡張性の問題により、デジタル技術が成熟するにつれてアナログシステムは廃れていった。新しいチップは現代の抵抗変化型メモリー技術を用いてこれらの概念を復活させ、何十年も前に放棄されたアーキテクチャを再び開く可能性がある。
数学理論から実用へ
当初の発表は理論上の能力に焦点を当てていたが、最新の論文は、業界の要求を反映する実際のAIワークロードでの性能を検証した。このチップは、ネットフリックスやヤフーが利用するものと規模が匹敵するデータセットを用いた個人向け推薦システムを正常に処理し、単純な数学ベンチマークを超える能力を示した。画像圧縮テストでは、保存容量の要件を半分にしながら、全精度デジタル計算とほぼ同等の品質で画像データを再構築した。
これらの用途は、現在世界中のデータセンター資源を圧迫しているデータ集約型ワークロードを代表する。推薦アルゴリズムは、ストリーミングサービス、ソーシャルメディア、電子商取引サイトを支え、何十億ものユーザーのやり取りを処理して個人向けの提案を生成する。画像圧縮は、動画ストリーミングから医療画像まで幅広い分野の基盤となり、品質を犠牲にせずファイルサイズを削減することで、帯域幅と保存コストを節約できる。最小限のエネルギーでこれらのタスクを処理できるこのチップの能力は、こうしたサービスの運用形態を変える可能性を示している。
これは、アナログ計算の限界を一歩前進させた。
消費者向け用途だけでなく、このチップは無線通信テストでも能力を示し、マッシブMIMOシステムで信号を検出した。この技術は将来の6Gネットワークにとって重要だ。基地局は膨大なアンテナ配列をリアルタイムで処理しなければならないためだ。この装置はこれらの通信タスクでデジタルプロセッサと同等の性能を維持しながら、エネルギー使用量を約100分の1に抑え、電池寿命や冷却能力が従来のハードウェアの制約となる環境での応用可能性を示した。
将来の6G無線ネットワークでは、基地局が数百のアンテナ素子を同時に管理し、モバイル機器との接続を維持するため、膨大な量の信号データをリアルタイムで処理する必要がある。これらのシステムの計算負荷は、現在のデジタル信号処理装置の能力を上回る。特に、遠隔の携帯基地局における遅延制約と電力予算の面でその傾向が強い。アナログチップは、デジタルプロセッサに匹敵する性能を維持しながら最小限のエネルギーで無線通信信号を検出できることを実証しており、こうした電気通信用途に特に適している。
現代のAIインフラの規模を考えると、省エネ効果は特に重要になる。大規模言語モデルの学習には、何千枚もの高性能グラフィックスカードを数週間にわたって使用し、メガワット時単位の電力を消費する。処理速度を維持または向上させながら、エネルギー消費を2桁削減できれば、運用コストと環境への影響を大幅に減らせる可能性があり、AI開発の炭素フットプリントに関する懸念の高まりに対処できる。
世界の半導体をめぐる状況
このブレークスルーは、輸出規制により中国が最先端のエヌビディアGPUやその他の高性能デジタルプロセッサを入手できなくなりつつある、世界の技術環境における重大局面で生まれた。このチップは直ちに汎用グラフィックスカードを置き換えるものではないが、AI学習と推論ワークロードの中核を担う特定の計算タスクに特化した代替手段を提供する。業界アナリストは、ニューラルネットワーク演算の中核を成す行列計算に省エネな選択肢を提供することで、AIハードウェアの構図を変えられる可能性があると指摘する。
ChatGPTなど大規模言語モデルの学習に使われるグラフィックスカード、エヌビディアH100との比較は、潜在的な破壊的影響を浮き彫りにする。理論的な予測では、特定の行列演算でこれらのデジタルプロセッサを1,000倍上回る処理能力と、100倍の省エネ性能向上が示されている。検証済みの実環境の結果でも、速度は12倍、省エネ性能は200倍という、世界のデータセンターを支配する現行技術を大きく上回る成果を示している。
製造工程は商用ファウンドリーの製造能力を活用しており、特殊素材や革命的な新しい製造施設を必要とせず、生産は理論上スケールできる。この実用的なアプローチにより、厳密に管理された環境の外では成立しない研究室レベルの試作とは一線を画する。チップは標準的な半導体製造技術で製造されており、需要が生まれれば、何十億ドル規模のインフラ投資を必要とせず、既存のサプライチェーンを使って生産を拡大できる可能性がある。
ロンドン大学キングス・コレッジの研究者ジェームズ・ミレン氏は、AI学習における行列計算の重要性について背景を説明した。デジタルコンピューターはあらゆる計算が可能な万能機械だが、あらゆるものを効率的に、かつ高速に計算できるとは限らないと氏は指摘した。特定のタスクに合わせたアナログコンピューターは、その用途において信じられないほどの速度と効率を実現できる可能性があり、AIへの依存が拡大する中で膨大なエネルギー需要を削減できる可能性がある。
技術的限界と今後の開発
印象的なベンチマークを達成した一方、研究者らは重大な限界も認めている。スン・ジョン氏は、実際の用途では、理論上の最大値が示すほどの改善は得られない可能性があると警告した。このチップは行列計算に完全に特化しており、AI学習のうち、特定の数学演算を伴う部分を高速化するにとどまる。行列計算が特定のワークロードの大半を占める場合、高速化効果は大きいが、多様な演算を必要とする一般的な計算タスクでは、恩恵は限られたままだ。
この現実は、デジタルプロセッサをアナログで完全に置き換えるのではなく、今後はハイブリッドアーキテクチャが主流になる可能性が高いことを示唆する。将来のグラフィックス処理装置は、特に二次最適化手法や線形代数演算など、AI学習アルゴリズムの特定部分を処理するアナログ回路を取り込み、汎用計算用のデジタルコアを維持するかもしれない。こうした統合が製品化されるまでには数年かかるが、この研究はこれらの開発のための基盤技術を提供する。
エッジコンピューティングは、另一个有望な応用分野だ。自動運転車、産業用ロボット、拡張現実ヘッドセットは、大量の処理能力を必要とする一方、電池と熱に関する厳しい制約下で動作する。現在の解決策は、データをクラウドサーバーに送信して処理することに依存しており、遅延と接続への依存を生んでいる。デジタルプロセッサに伴うエネルギーの浪費なしに、複雑なAI推論をローカルで実行できるアナログチップは、これらの機器をより自律的に動作させつつ、電池寿命を大幅に延ばせる可能性がある。
拡張性も another challengeだ。デジタルプロセッサは問題を小さな部分に分割して逐次処理することで、任意に大きい問題を扱えるが、アナログシステムでは、より大きな行列を解くために物理的に大きな回路が必要になる。現代の大規模言語モデルに見られる100万×100万変数規模の問題を扱えるチップを製造するには、大幅な技術的進歩が必要になる。それでも、消費電力の制約が支配的なエッジコンピューティング用途では、より小規模なアナログチップでも、クラウド接続に頼らず機器上で複雑なAIを直接実行できるようになる可能性がある。
研究チームは、次段階の目標として、より大規模で完全に集積されたチップを構築し、より複雑な問題をより高速に処算できるようにすることを挙げている。これらの取り組みが成功すれば、6G通信の開発を加速し、AIモデルの学習をより効率化し、世界の電力生産に占める割合が増え続けているデータセンターによる環境負荷を削減できる可能性がある。メモリーと処理の分離によって定められる物理的限界にデジタル計算が近づく中、アナログの選択肢は、電力消費を比例して増やさずに性能向上を続ける道筋を示している。
結論
- 北京大学の研究者らは、抵抗変化型ランダムアクセスメモリーを用いたアナログAIチップを開発し、実際の推薦・画像処理タスクで、最先端のデジタルプロセッサ比で12倍の速度と200倍のエネルギー効率を達成した。
- この装置は、アナログ計算がデジタルの精度に達することを妨げてきた100年来の精度問題を解決した。近似計算を洗練させ、32ビット浮動小数点システムに匹敵する誤差率を実現する二重回路アーキテクチャを用いている。
- 2進数の1と0を使うデジタルプロセッサとは異なり、このチップは連続的な電気信号を操作して行列計算をメモリー内で直接実行し、従来の計算で大部分のエネルギーを消費するデータ移動のボトルネックを排除する。
- この技術は商用半導体プロセスで製造されており、量産の可能性を示唆するが、現行の実装では、最大級のAIモデルの学習に必要な行列サイズよりも小さいものを扱う。
- 応用分野には、個人向け推薦システム、画像圧縮、6G無線信号処理、そしてアナログの効率とデジタルの柔軟性を組み合わせたハイブリッド計算アーキテクチャが含まれる。
- このブレークスルーは、中国が最先端のエヌビディアGPUの輸入規制に直面する中で生まれたもので、特定のAIワークロード向けに中国国内で開発された代替手段を提供するとともに、世界のデータセンターのエネルギー消費を削減する可能性がある。
