🔊 「ブロードキャスト」を発表:ファンアウト型LLMの可観測性! ブロードキャストは、追加のコードなしでOpenルーターのリクエストから外部プラットフォームへ自動的にトレースを送信するシンプルな方法です。
なぜ放送するのか: - モニタリング:本番のトレース(エラー、レイテンシ、ツール呼び出しなど)をより早く可視化します。 - 分析:利用状況とコストをモデル、プロバイダー、アプリ、ユーザーごとに追跡・分析します。 - シンプルさ:既存の観測性ワークフローと統合し、追加の作業や遅延なしに実現します。 - フィルタリング:オプションでAPIキーでトレースをフィルタリングできます。 - サンプリング:各宛先ごとにサンプルレートを定義します。
試してみてください。OpenRouterの設定から「ブロードキャスト」をクリックしてください。
6.23K