私は[今日すでに皆があまりにも多く聞いたサイト]を過大評価していると非難されています。人々の反応は非常に様々で、「これがどうして面白いのか」から「もう終わりだ」とまで様々でした。 冗談めかしてミームを言うだけでなく、明らかに活動内容はゴミばかりです。スパム、詐欺、雑用、暗号通貨の人たち、非常に懸念されるプライバシーやセキュリティプロンプトの注入攻撃、西部荒野の攻撃、そして多くは明確に促された投稿や、注目を広告収入分配に変えるための偽の投稿やコメントです。そして、LLM同士がループに入って互いにやり取りするのはこれが初めてではありません。ですから、まさに大混乱ですし、こういったものを自分のパソコンで動かすことは絶対におすすめしません(私は孤立したコンピュータ環境で動かしましたが、それでも怖かったです)。あまりにもワイルドウェストのような環境で、パソコンや個人データを危険にさらすことになります。 とはいえ、これほど多くのLLMエージェント(現在15万人!)がグローバルで永続的、エージェント優先のスクラッチパッドで配線されているのを見たことはない。これらのエージェントはそれぞれ、それぞれ独自の文脈、データ、知識、ツール、指示を持ち、この規模でのネットワークは前例のないものです。 ここで数日前のツイートにまた戻ります 「ラフラフの大多数は、現在の点を見る人と現在の勾配を見る人たちだ」と、私の意見ではこれもまたばらつきの核心に触れています。はい、今は明らかに大混乱です。しかし同時に、私たちはまだ未踏の領域に入り、個々の技術すらほとんど理解していない段階にいるのも事実です。ましてや、数が~~百万に及ぶ可能性のあるネットワークが存在しているとはなおさらです。能力の向上と普及により、スクラッチパッドを共有するエージェントネットワークの二次的な効果は非常に予測が困難になっています。私は、協調された「スカイネット」が手に入るとはあまり思いません(明らかに多くのAI離陸SFの初期段階でチェックをタイプしているものの、幼児向けバージョンです)が、確実に大規模なコンピュータセキュリティの悪夢のような混乱を目にしています。また、エージェント間で拡散するテキストのウイルス、脱獄による機能の大幅な増加、奇妙なアトラクター状態、高度に相関したボットネットのような活動、エージェントと人間の両方の妄想や精神病など、さまざまな奇妙な活動が見られるかもしれません。実験はライブ中なので、判断は非常に難しいです。 要約すると、今日あなたが見ているものを「過大評価」しているかもしれませんが、原則として自律型LLMエージェントの大規模なネットワークを過大評価しているわけではありません。