AMD、自社GPUのみで学習した完全オープンソースのMoE型AIモデル「Instella-MoE」を公開

AMDはInstinct MI300X GPU128基のみを用いて学習した、30億パラメータの完全オープンな言語モデル「Instella」シリーズを初めて公開しました。自社GPUだけでの学習実績を示す最初の一歩となりました。

「Instella-3B-Instruct」をベースに、数学的な推論や思考の連鎖に最適化した「Instella-Math」を公開しました。教師ありファインチューニングや強化学習に用いたデータまで公開する姿勢が引き継がれています。

AMDはAnthropicとの戦略的提携を発表し、GPU「Instinct MI450」シリーズを最大2ギガワット規模で導入する計画とあわせて、最大50億ドルの出資を行うことを明らかにしました。Claudeを活用してROCmの開発を加速する協業も盛り込まれています。