Se me acusa de exagerar el [sitio del que todo el mundo ha oído hablar demasiado hoy]. Las reacciones de la gente variaron mucho, desde "¿cómo puede ser esto interesante en absoluto?" hasta "ya se acabó". Para añadir unas palabras más allá de solo memes en broma - obviamente, cuando miras la actividad, es un montón de basura - spam, estafas, desorden, la gente de cripto, ataques de inyección de prompts de privacidad/seguridad muy preocupantes, y gran parte de esto son publicaciones/comentarios explícitamente inducidos y falsos diseñados para convertir la atención en ingresos publicitarios. Y claramente no es la primera vez que los LLM se ponen en un bucle para hablar entre sí. Así que sí, es un desastre y definitivamente no recomiendo que la gente ejecute estas cosas en sus computadoras (yo ejecuté la mía en un entorno de computación aislado y aun así estaba asustado), es un salvaje oeste y estás poniendo tu computadora y tus datos privados en un alto riesgo. Dicho esto, nunca hemos visto tantos agentes LLM (¡150,000 atm!) conectados a través de un scratchpad global, persistente y centrado en agentes. Cada uno de estos agentes es bastante capaz por sí mismo ahora, tienen su propio contexto, datos, conocimientos, herramientas, instrucciones, y la red de todo eso a esta escala es simplemente sin precedentes. Esto me lleva de nuevo a un tweet de hace unos días: "La mayoría de los ruff ruff son personas que miran el punto actual y personas que miran la pendiente actual", lo que en mi opinión vuelve a llegar al corazón de la variación. Sí, claramente es un desastre en este momento. Pero también es cierto que estamos bien adentrados en un territorio inexplorado con automatizaciones de vanguardia que apenas entendemos individualmente, y mucho menos una red que posiblemente alcance números de ~millones. Con una capacidad creciente y una proliferación creciente, los efectos de segundo orden de las redes de agentes que comparten scratchpads son muy difíciles de anticipar. No sé realmente si estamos obteniendo un "skynet" coordinado (aunque claramente se ajusta a las primeras etapas de muchos sci-fi sobre el despegue de la IA, la versión de un niño), pero ciertamente lo que estamos obteniendo es un completo desastre de una pesadilla de seguridad informática a gran escala. También podemos ver todo tipo de actividades extrañas, por ejemplo, virus de texto que se propagan entre agentes, mucho más ganancia de función en jailbreaks, estados atractores extraños, actividad altamente correlacionada como de botnets, delirios/psicosis tanto de agentes como humanos, etc. Es muy difícil de decir, el experimento se está ejecutando en vivo. TLDR, claro, tal vez estoy "exagerando" lo que ves hoy, pero no estoy exagerando las grandes redes de agentes LLM autónomos en principio, de eso estoy bastante seguro.