マッキンゼーは100年分の研究成果、10万件の文書とインタビューをもとに訓練されたAIチャットボット(Lilli)を開発しました。 4万5千人の従業員の70%がこのツールを利用し、月に50万件のプロンプトを生み出しています。 ある研究会社が「本番データベースへの完全な読み書きアクセス」を得て、戦略、M&A、クライアントエンゲージメントに関する4700万件のチャットメッセージ、すべてプレーンテキストで、さらに72万8千件の機密クライアントデータ、5万7千ユーザーアカウント、AIの行動を制御する95のシステムプロンプトを含む」ハッキングを行いました。 マクシンジーは、この脆弱性を修正したと述べました。これは「認証を必要としない22のエンドポイントを含む、公開されたAPIドキュメントによって可能になった」と述べました。そのうちの1つがユーザー検索クエリを作成し、エージェントはJSONキー(フィールド名)がSQLに連結されており、SQLインジェクションに対して脆弱であることを発見しました。」

全文はこちら: マッキスニーがリリに全力を出す!