混合專家(MoE)模型如 DeepSeek-R1 解鎖了新的能力層次——但前提是它們能夠有效擴展。 這就是極端硬體–軟體協同設計在機架規模上發揮作用的地方。 借助 NVIDIA Blackwell 和 NVIDIA Dynamo,AI 服務提供商可以將集群轉變為智能推理系統——實現 10 倍的性能和收入,同時降低每個令牌的成本。
現在,隨著 NVIDIA Dynamo 與主要雲端服務提供商的整合,這一突破性的性能也可供雲端客戶使用——包括 @AWSCloud、@Azure、@GoogleCloud 和 @OracleCloud。 了解更多:
194