Dedicated Container Inferenceを発表できることにワクワクしています。これは私が@togethercomputeに入社したときにとても楽しみにしていた製品の一つで、そして6か月後に正式に稼働しています! チームに大きな敬意を表します。これにより、ビデオ、オーディオ、アバター生成などの密集した計算に縛られたモデルの推論を、自動スケーリング、キューイング、優先度、指標、ログなどのプリミティブで簡単に実行できるようになりました もしこの分野で建築をしているなら、ぜひお聞かせください!