Minulla on muutama epäily OpenAI API:n suhteen: Linux-käyttäjälle tällaisen järjestelmän voi jo rakentaa itse melko helposti ostamalla 4xH100-laatikon, asentamalla sen kotiin, asentamalla CUDA:n ja vLLM:n paikallisesti sekä ajamalla GLM:ää, Kimiä tai vastaavaa avoimen lähdekoodin mallia. Tyypillisissä kuluttajakuormissa sinun pitäisi odottaa korkeampaa TPS:ää murto-osalla kustannuksista.