Databricks エンジニアが高性能レート制限システムを開発した方法。 チームは、インメモリ シャーディングとクライアント主導のバッチ レポートを使用してシステムを再構築し、低レイテンシー、高スループットの適用を実現しました。このアプローチにより、テールレイテンシーを最大10倍削減しました。 彼らがどのようにそれを行ったかをご覧ください: