OpenAI APIに対していくつか懸念があります: Linuxユーザーなら、4xH100ボックスを購入して自宅にインストールし、CUDAやvLLMをローカルでインストールし、GLM、Kimi、または同等のオープンソースモデルを動かすだけで、かなり簡単に自作できます。一般的な消費者向けワークロードでは、コストのごく一部で高いTPSが得られることを期待すべきです。