У меня есть несколько сомнений по поводу API OpenAI: Для пользователя Linux вы можете довольно просто создать такую систему самостоятельно, купив коробку 4xH100, установив ее дома, установив CUDA и vLLM локально и запустив GLM, Kimi или аналогичную модель с открытым исходным кодом. При типичных потребительских нагрузках вы можете ожидать более высокую TPS за небольшую часть стоимости.