OpenAI API ile ilgili birkaç endişem var: Bir Linux kullanıcısı için, böyle bir sistemi kendiniz oldukça kolay şekilde kurabilirsiniz; 4xH100 kutu satın alıp evde kurarak, CUDA ve vLLM'i yerel olarak kurup GLM, Kimi veya benzer bir açık kaynak modeli çalıştırabilirsiniz. Tipik tüketici iş yüklerinde, maliyetin çok küçük bir kısmı için daha yüksek TPS beklemelisiniz.