ハードからソフトまで幅広くAIをカバーするAMD

7月1日、日本AMDはGPU「AMD Instinct」シリーズとソフトウェアプラットフォーム「AMD ROCm」に関するメディアラウンドテーブルを開催した。本記事では、AMD Instinctシリーズにおける製品ロードマップの変遷や最新動向、AMD ROCmの取り組み、LLM（大規模言語モデル）最適化の動向を概観するとともに、ハードウェアとソフトウェアの両領域で製品を展開する同社の強みについてリポートする。

　冒頭では、製品ロードマップやソフトウェアの実装デザインを決定する指針となる日本AMDの四つの戦略が語られた。一つ目は、より良い性能と総保有コスト（TCO）だ。競合他社が多い市場環境を踏まえ、日本AMDではより良い性能とTCOを実現することを必須と捉えている。

　二つ目は移行のしやすさだ。日本AMD コマーシャル営業本部 セールスエンジニアリング担当 マネージャー 大原久樹氏は、この戦略について次のように語る。「当社では、移行性を特に重要な戦略だと考えています。単に高いTCOを提供するだけでは不十分で、移行コストがTCOを上回っていると、お客さまは移行をためらってしまいます。そのため、競合他社のハードウェア製品を利用しているお客さまが、いかに移行コストを抑えて当社のハードウェア環境へ移行できるかが重要です。さらに、ハードウェアの互換性だけでなく、『AMD ROCm』（以下、ROCm）に容易に移行していただけるかを重視しています」

　ROCmは同社が提供するAIやHPC（High Performance Computing）のためのオープンソースのソフトウェアプラットフォームである。ハードウェアとソフトウェアの両領域において、競合他社からの移行を容易にすることを重点施策としているのだ。

　三つ目はオープン性だ。同社では、業界団体やパートナーと協働し、業界標準の規格を整備し、その規格に則った製品を提供している。例えば、ハードウェアの仕様や設計のオープンソース化を進めるコミュニティ「Open Compute Project」（OCP）の仕様に準拠したラックを設計しているほか、スケールアップネットワークの業界団体「UALink Consortium」およびスケールアウトネットワークの業界団体「Ultra Ethernet Consortium」を主導するなどの取り組みが挙げられる。

　四つ目は顧客との関係性だ。米国のハイパースケーラーを中心とした多くの顧客と協業し、製品のデザインやエコシステムの構築を行っている。

　それでは、こうした戦略を基に同社がどのような製品を展開しているのか。ハードウェアとソフトウェアの製品について、それぞれ見ていこう。

　AMDのハードウェア製品として、GPU「AMD Instinct」シリーズが紹介された。同社は2023年に発売した「MI300A」「MI300X」を皮切りに、AIに特化したアクセレーターを毎年発売してきた。こうしたロードマップ通りの製品発売を支えているのが、同社が持つ3次元積層の技術だ。

　メディアラウンドテーブルでは、現行製品である「MI350」シリーズを例に、3次元積層技術の詳細が説明された。HBM向けのメモリーコントローラーや、CPUとの接続インターフェースといった入出力全般を担うのが「AMD I/O Base Die」(以下、IOD)だ。そして、実際にGPUやAIの計算をつかさどるのが、「Accelerator Complex Die」(以下、XCD)だ。3次元積層技術とは、IODの上にXCDを垂直に積み重ねる技術であり、MI350シリーズをはじめとしたAMD Instinctシリーズに採用されている。大原氏は、3次元積層技術についてこう語る。「3次元積層において、当社はかなり先行しています。IODの上にXCDを積層するというのは高度な技術であり、当社の大きなアドバンテージであると考えています」

　では、3次元積層技術によって同社の製品の性能はどのくらい向上しているのだろうか。MI350シリーズの製品である「MI355X」は、前世代のMI300Xと比較して、推論と学習の両方において、約3倍の性能向上を実現している。大原氏は、GPUの性能について「GPUはCPUよりも高い性能の伸びが必要とされ、前世代と比較して1.8～2倍程度の伸びが求められます。MI355Xが2倍を上回る性能向上を実現できている理由は、演算精度の違いにあります」と語る。MI300Xの8ビットに対して、MI355Xは4ビットの演算を用いており、演算密度が2倍になっている。これにコンピューティングユニットの最適化などの要素が加わることで、性能の伸びが約3倍にまで達したのだ。

　同社は、2026年に「MI400」シリーズとして、「MI455X」と「MI430X」の発売を予定している。現行のMI355Xからの命令セット刷新に加え、次世代の高速メモリー「HBM4」が採用される。演算性能はMI355Xの4倍となる見込みであり、今後も大幅な性能向上を実現していく方針だ。AIに特化したMI455Xと、HPCとAIのバランスがとれたMI430Xの2種類の製品ラインアップを展開することで、あらゆるワークロードに対応していく。

　AMDのソフトウェア製品として、ROCmが紹介された。本製品は、同社の戦略の一つであるオープン性が大きく反映されたソフトウェアプラットフォームだ。大原氏はROCmの特長についてこう語る。「ROCmは全てオープンソースとなっています。全てのソースコードが『GitHub』で公開されており、ビルドも可能です。こうした特長が競合他社との大きな違いであると考えています。また、オープンソースを提供するだけでは不十分で、さまざまなソフトウェアがROCmの上で動作することが求められます」

　以前はROCm上で新モデルが正常に動作できるまでに、以前は3カ月～半年かかっていたが、現在ではその期間が大幅に短縮されている。大原氏はROCmの動作性の現状についてこう語る。「直近1年間は、業界にインパクトを与えるようなモデルが出てきた時には最適化が終わっているという状況が続いています。『Hugging Face』に登録されている約220万の全てのモデルにおいて、ROCmが動作することは検証済みです。これほど膨大な数のモデルで動作が確認されている以上、モデルがROCm上で動作するか否かを懸念するフェーズはもう終わっていると考えています。ROCmを用いたAIのトークンファクトリーの作り方などの問い合わせが増えてきており、これを実現するためにエコシステムのパートナーとの協業を進めている状況です」

　単なる互換性にとどまらず、トークンファクトリーの構築のような高度な実用性が求められる中、同社はエコシステムとの協業をより深めている。同社が最も力を入れているのが、「PyTorch」だ。生成AIやLLMの開発に用いられるPyTorchへのROCmの最適化を進めている。また、バックエンドとしてROCmを利用できることから、LLM開発者が用いるツールである「Triton」にも注力している。

　大原氏は「2023～2024年ごろはAIモデルの動作確認や性能評価で終わることが一般的でしたが、最近では推論サービスの上でどのように動作させ、マネタイズをしていくかというフェーズに移行しています」と前置きした上で、こうした実用化のニーズに応える製品として、「ROCm 7」の詳細を明かした。ROCm 7の鍵となるのが分散推論だ。巨大なAIモデルの場合、複数のGPUに分散して推論させる必要があり、本製品はこの分散推論を本格的にサポートしている。また、性能特性の異なるプリフィルとデコードを分離して運用することで効率を高めようとするトレンドにも対応している。プリフィルとデコード間のデータのやりとりの効率性を高めるため、「SGLang」「Mooncake」といったオープンソースの開発をサポートしているのだ。

　同社は、ROCm 7のほか、AIモデルの実用化ニーズに応える製品として、「AMD Enterprise AI Suite」「AITER」をラインアップしている。AMD Enterprise AI Suiteは「kubernetes」上で動作するように設計されており、企業が推論サービスを容易に提供できるようにサポートする製品だ。また、大原氏はAITERについて「AITERの面白い点は、演算の種類によって最適なカーネルを選べることにあります。AITERがどのカーネルを選べば良いかを取捨選択し、最適なスピード・性能を提供可能です。弊社では独自の最適化ライブラリを提供しています。最適化ライブラリによって、性能が10倍以上に高まることもあり、力を入れて取り組んでいます」と語る。

　これまで見てきたように、日本AMDはAMD InstinctシリーズとROCmを垂直統合で提供している。ハードウェア製品においては、スピードある新製品の発売や世代間での大幅な性能向上、ソフトウェア製品においては、最新トレンドへの対応や実行性能の最大化といった強みを持つ。今後もこの強みを生かし、ハードウェアとソフトウェアの両領域で幅広い製品ラインアップを提供していくことが予想される。