DeepSeek-R1のようなMix-of-Expert(MoE)モデルは、効率的に拡張できる場合に限り、新しいレベルの機能を実現します。 そこで、ラックスケールでの極端なハードウェアとソフトウェアの共同設計が登場します。 NVIDIA Blackwell と NVIDIA Dynamo を使用すると、AI サービス プロバイダーはクラスターをインテリジェントな推論システムに変換し、トークンあたりのコストを削減しながら 10×のパフォーマンスと収益を達成できます。

NVIDIA Dynamo が主要なクラウド プロバイダーと統合されたことで、@AWSCloud、@Azure、@GoogleCloud、@OracleCloud などのクラウドの顧客も同じ画期的なパフォーマンスを利用できるようになりました。 詳細情報：