Jsem nadšený, že mohu oznámit Dedicated Container Inference – jeden z produktů, na které jsem se tak těšil, když jsem se k @togethercompute připojil, a teď, po 6 měsících, jsme naživo! Obrovské uznání týmu – díky tomu je snadné spouštět inferenci pro husté modely vázané výpočetními úpravami, jako je video, audio a generování avatarů, s primitivy pro automatické škálování, frontování, priority, metriky, logování a další Pokud v tomto prostoru stavíte, rád si o vás přečtu!