Sunt entuziasmat să anunț Dedicated Container Inference – unul dintre produsele pe care eram atât de entuziasmat să le dezvolt când m-am alăturat @togethercompute și acum, după 6 luni, suntem activi! Felicitări uriașe echipei – acest lucru face ușoară rularea inferenței pentru modele dense compute bound, cum ar fi generarea de video, audio și avatar, cu primitive pentru auto-scalare, coadă, priorități, metrici, logare și altele Dacă construiești în acest domeniu, mi-ar plăcea să aud de la tine!