Jeg er gira på å kunngjøre Dedicated Container Inference – et av produktene jeg var så spent på å bygge da jeg først begynte i @togethercompute, og nå, seks måneder senere, er vi live! Stor ros til teamet – dette gjør det enkelt å kjøre inferenser for tette beregningsbundne modeller som video, lyd og avatargenerering med primitiver for automatisk skalering, kø, prioriteringer, måleparametere, logging og mer Hvis du bygger i dette området, vil jeg gjerne høre fra deg!