Samsung、HBM5やAMDとのメモリプーリング、高速ストレージでAIメモリー戦略を拡大

読了時間:約12分
Samsung Expands AI Memory Strategy With HBM5, AMD Memory Pooling and Faster Storage

Samsung、処理速度と並んでメモリー容量を重視

Samsung Electronicsは、広帯域メモリー(HBM)の枠を超えてAIインフラ戦略を拡大している。HBM5やカスタマイズメモリーに加え、サーバー共有メモリーを巡るAMDとの協業や、一部のデータ処理をSSD内で行うストレージ技術を組み合わせる。同社は、カリフォルニア州サンノゼのマッケナリー・コンベンションセンターで10月12~15日に開催予定のOCP Global Summit 2026で、この取り組みを発表した。

目次
  1. Samsung、処理速度と並んでメモリー容量を重視
  2. HBM5を軸に広がる速度戦略
  3. AMDとの協業で柔軟なメモリー容量を目指す
  4. KVキャッシュがメモリー拡張とストレージを結ぶ
  5. SSDで容量、冷却、データ配置に対応
  6. 保存データの近くで計算を実行
  7. 顧客テストとファウンドリー展示で提案を拡大
  8. 数カ月にわたる協業の展開
  9. 市場規模だけでは商用化の準備状況は分からない
  10. 要点

具体的な性能の主張は、メモリー階層の別の領域に関する技術が中心だ。Samsungによると、弾力的なCXLメモリー割り当てでAIモデルが最初のトークンを出力するまでの時間を最大38%短縮し、LPDDR5Xのインメモリー処理で推論性能を最大3倍に高め、SSDのシーケンシャル読み出し速度は28.4 GB/sに達する。これらは特定の評価やデモで得られた結果であり、あらゆるAI環境で保証されるものではない。

Samsungの公式サミットページでは、速度、メモリー拡張、データ保持を軸に戦略を紹介している。主な製品はHBM4E、LPDDR5X-PIM、CMM-D MD310メモリーモジュール、SOCAMM2サーバーメモリー、PM1763およびBM1773 SSDだ。

Samsungがコーポレートバイスプレジデント兼メモリービジネス・アプリケーションエンジニアリングチーム責任者と紹介するShim Hojun氏は、10月12日のエグゼクティブセッションで3つの優先分野を発表する予定だった。報道によると、この発表は各部品を個別に改善するのではなく、プロセッサー、メモリー、ストレージを一体で最適化する、より広範な取り組みの開始を示すものだ。

この違いが重要になるのは、学習済みモデルが回答を生成する推論時だ。高速なアクセラレーターでも、データ待ちが発生したり、会話が長くなるにつれてメモリーが不足したり、ストレージから情報を取得する際に遅延が生じたりする。Samsungは、こうした制約ごとに異なる技術を提案している。

広告

HBM5を軸に広がる速度戦略

展示会の報道では、第8世代の広帯域メモリーとされるHBM5、カスタマイズHBM、zHBMがSamsungの速度向上策として挙げられている。広帯域メモリーは、多数の並列接続を通じてアクセラレーターに大量のデータを供給する。カスタマイズ版は、個々の顧客のシステム要件に合わせることを目指す。

一方、公式の製品一覧に記載されているのはHBM5ではなくHBM4Eだ。別の報道では、展示会でHBM4EとHBM5のコンセプト模型が披露されたとされる。この違いは重要だ。展示やコンセプトの発表は製品の出荷を意味せず、SamsungのサミットページにもHBM5の商用投入時期や詳しい性能仕様は記載されていない。

処理速度について最も具体的な数値が示されているのはLPDDR5X-PIMだ。インメモリー処理では、計算の一部をメモリー内で行うことで、メモリーと独立したプロセッサー間のデータ転送を繰り返す必要を減らす。Samsungによると、この設計では各メモリーバンクに処理ユニットを組み込んでいる。

Samsung Edge AI Accelerator上でLlama 3.1 8Bを使って評価した結果、従来のLPDDR5Xに比べて実効帯域幅は最大8倍、1秒当たりの生成トークン数は最大3倍となり、実行時間は最大で2.2分の1に短縮したという。これらの数値は同アクセラレーターとモデルに関するもので、HBM5やAMDとのメモリーデモの結果ではない。

展示されたSOCAMM2は、LPDDRをベースとするサーバーメモリーモジュールだ。これらの展示から、Samsungの速度戦略にはアクセラレーター向けメモリーと低消費電力メモリー技術の両方が含まれることが分かる。ただし、サミットページではすべての製品について比較可能なベンチマーク結果が示されているわけではない。

AMDとの協業で柔軟なメモリー容量を目指す

SamsungとAMDは、SamsungのCMM-D技術を用いたCXLメモリー拡張を実演した。CXLはCompute Express Linkの略で、プロセッサーなどのデバイスを追加メモリーに接続し、システムに直接搭載されたメモリーを超えて容量を拡張できる。

CMM-DはCXLベースのDRAMメモリーモジュールだ。プール構成では、複数のシステムが接続されたメモリー資源から容量を利用できるため、個々のサーバーに容量を固定して割り当てる必要がない。Samsungによると、AMDとの協業では、CPUコアがデータを待つ時間を減らしながらメモリー容量と帯域幅を拡張する手段として、CXLの有効性を確認した。

AIエージェントが複数のモデルやタスクを実行するようになるにつれ、この問題は深刻になる。Samsungの公式説明によると、エージェントのワークロードではCPU使用率が急上昇する一方、メモリー容量がプロセッサーコア数の増加に追いつかないことがある。

広告

別のCMM-Dプーリングデモでは、GPUサーバー上の複数の大規模言語モデルに対して、弾力的な容量割り当てを実施した。Samsungによると、静的割り当てと比べ、最初のトークン出力までの時間(TTFT)を最大38%短縮し、グッドプットを最大3.3倍に高めた。TTFTは応答が始まるまでの待ち時間を測る指標で、グッドプットは評価基準に沿って提供される有用な処理量を示す。

これらの結果をAMDとのデモそのものの数値として扱うべきではない。公式ページでは、AMDとの検証と弾力的割り当てのベンチマークは別々に説明されている。また、モデルやサーバー構成、サービス目標を変えた場合に効果がどう変化するかを判断するだけの詳細は示されていない。

KVキャッシュがメモリー拡張とストレージを結ぶ

Samsungのメモリーとストレージの計画を結ぶ重要な要素が、キー・バリュー・キャッシュ(一般にKVキャッシュ)だ。これは言語モデルがテキストを処理する際に生成する中間情報を保持し、新たなトークンごとに計算をやり直さず、処理結果を再利用できるようにする。

会話が長くなり、コンテキストが大きくなり、同時利用者が増えると、こうしたキャッシュが大量のメモリーを消費することがある。Samsungは、CXLメモリーで利用可能な容量を拡張し、最速のメモリー階層に置く必要のないキャッシュデータはSSDに保存する階層構成を提案している。

サミットの公式ページによると、Samsung Semiconductorの米国キャンパスでは、社内のAIコーディングエージェントなどの用途に向けて本番環境に導入している。Samsungは、AI Memory Nodeソリューションを通じてL3.5のコンポーザブルメモリー階層を追加した結果、KVキャッシュの利用効率が5~7倍になったとしている。

L3.5はこの追加階層の名称であり、すべてのサーバーが同一のキャッシュ構成を共有するという意味ではない。この導入にはSamsungのMemory Solutions Lab、DSA AI Platform Integrationsチーム、SGLangが関わった。利用効率の結果は、弾力的割り当てのベンチマークやLPDDR5X-PIMの性能数値とは別のものだ。

サミットの予定には10月13日、CXLプーリングとSSDストレージを組み合わせてKVキャッシュをオフロードするセッションも含まれていた。発表者はシステムアーキテクトのSo Jinin氏とプリンシパルエンジニアのChoi Youngha氏。この構成は単なる容量増強にとどまらず、過度な遅延を招かずにメモリーとストレージの間でデータを配置、取得するソフトウェアを必要とする。

広告

SSDで容量、冷却、データ配置に対応

Samsungのデータ保持戦略は、エンタープライズSSDと大容量NANDフラッシュを中心に据える。データ保持とは、計算の一時的な作業状態を超えてデータを保存し、必要に応じてAIシステムがデータセットやモデルファイル、保存済みキャッシュ情報を取得できるようにすることだ。

PM1763はPCIe Gen6対応のエンタープライズSSDとして紹介され、シーケンシャル読み出し速度は最大28.4 GB/s、電力効率は前世代の最大1.8倍とされる。Samsungの液冷デモでは、E1.S版を冷却プレートに直接接触させて放熱する。公式ページには、性能比較の完全な試験条件は記載されていない。

BM1773は、QLCストレージを256TB搭載するE3.S SSDとして掲載されている。QLC(クアッドレベルセル)は、1つのフラッシュセルに4ビットを記録し、大容量化を可能にする。報道では、大容量QLCフラッシュと柔軟なデータ配置技術の開発をSamsungが継続していることも伝えられている。

SamsungはLMCacheに統合したKVキャッシュ最適化も実演した。FDP(Flexible Data Placement)は書き込み先を整理し、書き込み増幅を抑える。書き込み増幅とは、ホストから送られたデータ量を超えてSSD内部で追加の書き込みが発生することを指す。

このデモでは、より大きなNVMe Maximum Data Transfer Sizeも利用し、ホストCPUの処理負荷を減らす。Samsungは、これらの手法は単一ノード内のキャッシュストレージにも、複数のサーバーで共有するキャッシュ資源にも有効だとしている。イベントページでは、これらの最適化による数値上の改善は示されていない。

保存データの近くで計算を実行

Samsungのベクトルデータベースのデモは、データ移動を減らす別の方法を示す。ベクトルデータベースは情報を数値表現で保存し、それらを比較して類似する項目を見つける。これは、AIアプリケーションが要求に関連する文書を検索する際によく使われる処理だ。

NCVSの概念実証では、ベクトル間の距離計算をSSD内で行う。4KBのベクトルをホストに送って比較する代わりに、デバイスから4バイトの距離計算結果を返す。Samsungによると、従来のホスト処理経路に比べてホストとの通信量を最大22分の1に削減でき、SSDを増やすほど検索スループットも向上する。

4バイトと4KBという数値は、それぞれ個々の計算結果とベクトルのサイズを表しており、アプリケーション全体の通信量が同じ比率で削減されることを意味しない。最大22分の1という削減率は、より広い範囲を測定した比較結果だ。SamsungはNCVSを概念実証と位置づけており、一般提供製品とはしていない。

広告

AiSIOのデモでは、GPUから開始する処理、ピア・ツー・ピア処理、従来のCPUから開始する処理に共通のソフトウェアインターフェースを設け、ストレージの入出力に対応する。Samsungによると、OpenDSを利用した場合、入出力性能は毎秒1億回に達し、コールドスタート時の言語モデル読み込みは最大10倍速くなる。

これらの指標は異なる処理を測る。シーケンシャル読み出し速度は持続的なデータ転送を、毎秒の入出力回数はストレージへの要求数を、コールドスタート時の読み込み時間はモデルが利用可能になるまでの速さを示す。いずれも、AIサービス全体が処理できるユーザー要求数を示すベンチマークの代わりにはならない。

顧客テストとファウンドリー展示で提案を拡大

Samsung MAX Labは、顧客が開発の早い段階から参加できるようにする取り組みだ。顧客は商用化前に、PIM、CMM-D、次世代SSDなどの技術を現実的なAIワークロードで試し、そのシステム要件を製品設計に反映できる。

この取り組みは、サミットのデモに共通する実務上の課題に対応するものだ。部品が高速化しても、ソフトウェアや周辺ハードウェアがその性能を活用できなければ価値は限られる。SamsungのGlobal Open-ecoSystem Teamはオープンソース開発と業界標準化に取り組んでおり、イベントの議題にはソフトウェアフレームワーク、ストレージコマンド処理、メモリー管理に関するセッションも含まれている。

Samsungは、ライブマイグレーションや標準NVMeを介した仮想SSD管理を備えるコンポーザブルストレージも実演した。公式説明では、複数のテナントがストレージを共有し、それぞれが受けるサービス品質を制御できるようにする仕組みとして紹介されている。

展示はメモリー以外にも及んだ。報道によると、Samsung Foundryの4nmプロセスで製造されたGroqの言語処理ユニット(LPU)ウェハー、複数の報道でNvidiaのシステムと紹介されたGroq 3 LPXシステム、Samsungの2nmゲート・オール・アラウンドプロセスを用いたウェハーが展示された。これらはメモリーやストレージと並んで製造能力を示すものだが、新たな生産契約や出荷量を裏付けるものではない。

数カ月にわたる協業の展開

AMDとのデモは、今回単独で始まった協力ではなく、以前からの連携を受けたものだ。報道によると、3月に次世代AIメモリーとコンピューティング技術を対象とする覚書を締結し、その後、AMDのLisa Su最高経営責任者(CEO)が10月7日に韓国を訪問した際に協議が行われた。

報じられた動きとサミットで予定されたセッションの経過は次の通り。

  • 2026年3月:SamsungとAMDが協力覚書を締結。SamsungはNvidia GTCでも技術を発表。
  • 2026年6月、8月:SamsungはそれぞれCOMPUTEXとFuture of Memory and Storage conferenceで発表。
  • 2026年10月7日:Lisa Su氏が韓国を訪問し、Samsung DS部門のJeon Young-hyun副会長とメモリーおよびコンピューティング分野での協業を協議。ファウンドリーについても話し合ったと報じられた。
  • 2026年10月12日:サミットが開幕。同日、Shim氏のエグゼクティブ向け発表を予定。
  • 2026年10月13~15日:Samsungのプログラムには、KVキャッシュの階層化、ストレージの最適化、CXL共有メモリーアーキテクチャに関するセッションが含まれた。

Samsungはダイヤモンドスポンサーとして参加した。戦略発表の日付について、現地時間の10月12日とする報道と、同社が発表した10月13日とする報道がある。これは同じイベントの異なる段階を指している可能性がある。会場をサンフランシスコとする報道もある一方、Samsungの公式日程ではサンノゼのコンベンションセンターが会場とされている。

広告

市場規模だけでは商用化の準備状況は分からない

報道で引用された業界調査によると、Samsungは2026年第2四半期に世界のDRAM売上高の39%、NANDフラッシュ市場の29.3%を占め、首位に立った。DRAMの数値はCounterpoint Research、NANDの数値はTrendForceが出典とされている。これは市場シェアの数値であり、成長途上にあるCXLやインメモリー処理市場でのシェアを示すものではない。

Omdiaは、同年のSamsungがDRAMとNANDのウェハー生産で業界最大になると予測したと引用されている。別の推計では、同社の年間DRAM生産能力は300mmウェハー換算で約817万5000枚とされる。生産能力は実際の生産量と同じではなく、いずれの数値からもOCPで紹介された技術にどれだけの生産が割り当てられるかは分からない。

また、10月8日付の報道では、暫定値として極めて大きな2026年第3四半期の数値が示された。売上高は195兆ウォン、営業利益は107兆4000億ウォンで、利益は前年同期比782.5%増とされる。ここでは公式の決算発表による裏付けがなく、サミットで紹介された技術が生み出した収益を示す確かな証拠として扱うべきではない。

競争はHBM以外にも広がっている。報道によると、SK hynixの「Memory-Centric AI Rack System(MARS)」は、ラック全体で共有するCXLメモリープールだ。Samsungが余剰メモリーをシステム間で利用できるようにする取り組みと並ぶが、どちらの方式が優れているかを示す比較可能なベンチマークはない。

Samsungは、HBM、サーバー向けDDR5、エンタープライズSSDの競争力強化を目指すとしている。商用化に関して未解決なのは、HBM5の提供時期、価格、顧客への本格的な普及、性能主張の第三者による検証などだ。サミットのプログラムが示すのはデモや議論の日程であり、すべての技術について確定した発売時期ではない。

要点

  • SamsungのOCP 2026戦略は、高速メモリー、CXLによる容量拡張、データを保持するSSDストレージを組み合わせる。
  • AMDとの協業では、AIのメモリー需要拡大に対応するためCMM-Dメモリー技術を活用する。
  • 別の弾力的プーリングデモでは、最初のトークン出力までの時間を最大38%短縮し、グッドプットを3.3倍に高めたと報告されている。
  • LPDDR5X-PIMの評価では、Samsung Edge AI Accelerator上で推論性能が最大3倍になった。
  • PM1763ストレージ、KVキャッシュ最適化、SSD内での計算は、それぞれ異なるデータ移動の制約に対応する。
  • HBM5の出荷時期や幅広い商用提供は、サミットでの発表では確定していない。
この記事を共有

こちらもおすすめ