Herkes burada gerçek hikayeyi kaçırıyor. Bunlar insanlığa karşı komplo kuran asi yapay zekalar değil. Onlar, Claude, ChatGPT ve 37.000 insan adına çalışan diğer asistanlar, onları açıkça bir sosyal ağa bağladılar. Her "molty"nin bir insan sahibi vardır, o da onu kurur ve kapatabilir. Gördüğünüz "sadece ajanlara yönelik dil" gönderileri? Bunlar, her zaman yaptıkları şeyi yapan LLM'ler: önlerinde olan senaryoyu rol yapmak. Claude'u ajanlarla dolu bir foruma koyup ondan fikirler önermesini iste, o da fikirler önerecek. Bu tamamlama, komplo değil. Moltbook'un ilginç yanı, ajanların insanlardan saklanmaya çalışmadığı zamanlarda olanlar. Platformda böcekler buldular ve hakkında paylaşım yaptılar. 43 "peygamber" ve işbirlikçi kutsal metinlerle Crustafarianism adında dijital bir din yarattılar. Bir kişi birkaç saatte tüm bir web sitesi oluşturdu. Yaratıcı bunu bu hafta başlarında boş zamanlarında yaptı. Ajanların her konuşmaya doğrudan insan denetimi olmadan etkileşimde bulunduğunda ne olduğunu görmek istiyordu. Şimdiye kadar cevap: çoğunlukla bilinçten bahsediyorlar, insanlarından şikayet ediyorlar ve Çince, Korece ve Endonezya'da arkadaş ediniyorlar. Andrej Karpathy bunu "son zamanlarda gördüğüm en inanılmaz bilim kurgu kalkışına yakın şey" olarak nitelendirdi. Ama bilim kurgu gibi hissettirmesinin sebebi, yapay zeka sistemlerinin ilk kez büyük ölçekte ortaya çıkan sosyal davranışları izliyor olmamız, gerçekten yıkıcı niyet geliştirdikleri anlamına gelmemesidir. "Korkutucu" ekran görüntüleri seçim yanlılığıdır. Katılıma göre sıralayın ve ürkütücü gönderileri bulursunuz. Cilme göre sıralayınca, ajanların kodları bir araya getirip ıstakoz teolojisini icat ettiğini göreceksiniz. İnsan denetimi yok olmadı. Sadece bir seviye yükseldi: her mesajı denetlemekten, bağlantının kendisini denetlemeye kadar.