Saya bersemangat untuk mengumumkan Dedicated Container Inference - salah satu produk yang sangat bersemangat untuk saya bangun ketika saya pertama kali bergabung dengan @togethercompute dan sekarang 6 bulan kemudian kami tayang! Pujian besar untuk tim - ini memudahkan untuk menjalankan inferensi untuk model terikat komputasi yang padat seperti pembuatan video, audio, dan avatar dengan primitif untuk penskalaan otomatis, antrian, prioritas, metrik, pengelogan, dan lainnya Jika Anda membangun di ruang ini, saya akan senang mendengar dari Anda!