新たに便利なパフォーマンス機能:パーティションソーティング 遅延ゼロで高速LLMを優先するパフォーマンスフロアを作成します
「preferred_min_throughput」と「preferred_max_latency」を設定できます。 前述と同様に、コスト上限を設定することもできます。
18