この話題についてもう少し続けたいと思いますが、(今のところ)ほとんど懸念は見られません。メッセージングアプリを含め、さまざまな場所に膨大なプライベートデータの蓄積があります。生成AIにとって本当の「キラーアプリ」は、それらを取り込み、そのデータを収益に変えることです。

例えば、安全なメッセージングアプリを使っていると、会話履歴をバックアップして「データを失わないように」とても親切にしていることに気づくでしょう。これを頼りにしている人もいますが、偶然にも膨大なデータを抱えているという意味でもあります。

そのデータは現在、広告会社にとって完全に不明瞭です。価値はあるのでしょうか?わからない。もしかすると、そこから利益を上げられるものはすべて、すでに公開の場に存在しているのかもしれません!でも、きっと誰かが知りたいと思っているはずです。

同様に、パソコンやスマホには「あるテック企業には知られている」ものがたくさんありますが、すべてのテック企業に知られているわけではないかもしれません。例えば、Googleには何年分のメールやクラウドドキュメントがありますが、MetaやClaude、OpenAIにはありません。まだ。

今は未来がわからない。もしかしたら10年後にはAIのユートピアやディストピアに住んでいて、ターゲット広告への懸念は古臭いものになるかもしれません。しかし、現代のビジネスモデルを考えると、そのデータを活用することが次のフロンティアです。

これらすべては、人々に役立つAIツールをローカルにインストールさせ、それらのツールが関連するデータストアにアクセスできるようにするよう説得する必要があります。これらのツールはすでにほとんどのAI企業から利用可能で、テック企業も既存のアプリに対して「AI戦略」を持っています。

今では、地元のモデルやTEEを使ってこれができると言う人もいます。はい、可能です。しかし、何か役に立つことをするためには(文章作成や要約の手助け以外に)、それらのツールは世界で何かを成し遂げる必要があります。それはまず、意図しないデータ露出のリスクを生み出します。

ここで言っているのは、企業が意図的にデータを収益化しようとしているということではありません。今は単に偶発的(または悪意のある)脱出リスクについて話しています。プロンプトインジェクション攻撃で、モデルがプライベートデータを外部に送る仕組みです。

まだ最初の現実世界でのプロンプト注射「ワーム」は見ていません。でも、きっとそうなるでしょう!きっとワクワクするよ。このリスクに対する防御の最先端は...今はちょっとふわふわしてる感じ。

例えば、今の私たちの最良のアイデアは「プライベート/パブリックの境界を越えてはいけない」というもので、多くのタスクにはあまり役に立ちません。あるいは「プライバシー侵害をチェックするためにモデルを使う」という話を思い出します。これは、チーズを盗むネズミを追いかける王様が猫を使うというドクター・スースの話を思い出します。

しかし、その懸念は二次的なものです。本当のリスクは、こうした機器を作る企業が*意図的に*インサイトを引き出すために設計してしまうことです。オープンな検索エンジンを使ってあなたのために検索してくれるエージェントを検討してください。プライベートな洞察を送ることで検索がより有用になります!

つまり、あなたのプライベートデータがローカルやTEEモデルに何を好むかを伝えるということです。エージェントに商品を探すよう頼みます。あなたの好みに関するプライベートな情報が、意図的にどの程度含まれているのでしょうか?

私の見る限り、答えは「たくさん」です!検索エンジンがあなたの望みに関する文脈を多く把握すればするほど、より良い結果が得られます。そして偶然にも、広告ターゲティングやトラッキングが優れているほどです。

これに対する反論の一つは「誰が気にする?」です。もしかしたら、これが今の世界の仕組みなのかもしれません。さらには「プライベート」に追跡・広告するモデルも構築でき、すべての機密データを読み取り、それを使って適切な石鹸を販売します。それってそんなに悪いこと?

もちろん同時に、その洞察にアクセスしたい政府も存在します。もしこのデータを使って、実際にデータを読まずに犯罪者(または潜在的な犯罪者)を追跡・特定できるとしたら、それは素晴らしい捜査ツールになるでしょう?

これらはAGiのような将来の懸念ではありません。生成AIは今すぐこれらすべてを実現できます。そのため、今日、すべての企業がこれらのアイデアを実現しようと取り組んでいます。政府(例えばEU)はすでにプライベートデータを読み取るモデルへのアクセスを求めています。

私たちが何を選んでも、私は人々が目を開いて選択してほしいのです。「この機能はプライベートだと主張しているので、今回だけOKをクリックしてみては?」と言われて、5年間分の機密データが取り込みパイプラインに流れ込むのは避けたいのです。

人々に気にかけてもらおうとするのは、ティーンエイジャーに日焼け止めを塗らせるようなものです。すべてのリスクは理論的に聞こえますが、利益はすべて現在の状況にあります。ただ、みんながある日目覚めて、違うやり方をすればよかったと後悔するのは避けたいだけです。