Meta'daki bir yapay zeka ajanı bu hafta bir başka veri ihlaline neden oldu Bir mühendis dahili bir forumda bir soru sordu. Başka bir mühendis bir ajana analiz ettirdi, temsilci yanlış tavsiyeyi ona söylemeden verdi ve okuyan mühendis talimatlara uydu. Bu, yetkisiz çalışanların Meta'nın özel koduna, iş stratejilerine ve kullanıcı verilerine 2 saat boyunca erişim sağladığı zincirleme reaksiyonu tetikledi. Meta bunu Sev 1 olarak sınıflandırdı (ikinci en yüksek şiddet seviyesi) Geçen ay Meta'nın güvenlik başkanı, bir ajana izinsiz tüm gelen kutusunu sildirdi. Bundan sadece birkaç gün sonra, Meta Moltbook'u (yapay zeka ajanları için bir sosyal medya platformu) satın aldı Sonra bu oldu. Yapay zekanın bir ihlal için ayrıcalıklı erişime ihtiyacı yoktu, sadece bir insanın çıktısına güvenmesi gerekiyordu. Bu, çoğu şirketin planladığından temelde farklı bir tehdit modeli. Durduramayacağımız veya tahmin edemeyeceğimiz sistemler kurup güveniyoruz. Bu sadece başlangıç