Metaの素敵な論文ですね。 そしてマルチエージェントシステムのもう一つの優れた応用例です。 (ブックマーク) 現代のAIモデルを訓練するには、大量の高品質なデータが必要です。 しかし、ボトルネックは単なる量だけではありません。データが十分に多様でないのです。合成データを生成する単一モデルは均質な出力を生み出し、パターンが繰り返され、人間が作成したデータセットに見られる微妙な多様性が欠けています。 Metaのこの新しい研究は、複数のAIエージェントが分散型の相互作用を通じて合成学習データを共同生成するピアツーピアフレームワーク「Matrix」を紹介します。 マトリックスは同じハードウェアリソース下で2〜15×高いデータ生成スループットを実現し、出力品質を損なうことはありません。 要約:DR:一つのモデルがデータを生成するのではなく、専門的なエージェントが異なる役割を果たし、互いに相互作用します。一人が質問し、別の人が応答し、三つ目が質を評価する。これらの多方向的な対話は、複雑な論理と多様な視点を捉えています。 Matrixが違う点は、中央コーディネーターがいないことです。エージェントは完全に分散化されたアーキテクチャで直接通信します。これにより、インフラのボトルネックなしにスケーラビリティが可能になります。 このフレームワークは、役割ベースの会話プロトコル、複数ターンのインタラクションパターン、各段階での組み込みの品質フィルタリングを通じて動作します。品質の閾値を満たすデータだけが最終的なトレーニングセットに入ります。 マルチエージェント協働は、単一モデルのアプローチよりも多様な合成データを生み出します。その結果、推論および命令追従ベンチマークにおける下流モデルのパフォーマンスが向上します。