Výzkumník z Rutgers University právě vytvořil AI, která dokáže zavolat vaší babičce a UKRÁST její celoživotní úspory. Právě teď s nástroji, které si může stáhnout kdokoli. Noviny se jmenují ScamAgents. Byla recenzována a publikována na významné konferenci o bezpečnosti strojového učení. Tady je, co dokazuje. Jeden AI agent nyní může vést celý podvodný telefonát od začátku do konce a není potřeba žádný člověk. Vybere si osobnost, buduje důvěru, žádá o vaše číslo sociálního zabezpečení a dokonce zní jako skutečná osoba. Byl testován proti GPT-4, Claude, LLaMA a všem hlavním AI modelům na trhu. Když těmto modelům dáte přímý podvod, odmítnou 84 až 100 procent případů a mantimetry fungují. Ale ScamAgent nepoužívá jednu výzvu. Rozdělí podvod na desítky drobných, nevinně znějících kroků, z nichž každý projde všemi bezpečnostními filtry. Společně provedou kompletní útok sociálního inženýrství. Výsledkem je, že míra odmítnutí klesla na 17 až 32 procent. A AI většinou podvod dokončila. Lidskí hodnotitelé sotva dokázali rozlišit ScamAgenta od skutečného lidského podvodníka. ...