Ein Forscher der Rutgers University hat gerade eine KI entwickelt, die deine Großmutter anrufen und ihr Ersparnisse stehlen kann. Im Moment mit Tools, die jeder herunterladen kann. Das Papier heißt ScamAgents. Es wurde begutachtet und auf einer wichtigen Konferenz für maschinelles Lernen im Bereich Sicherheit veröffentlicht. Hier ist, was es beweist. Ein einzelner KI-Agent kann jetzt einen gesamten Betrugsanruf von Anfang bis Ende durchführen, ohne dass ein Mensch benötigt wird. Er wählt die Persona, baut Vertrauen auf, fragt nach deiner Sozialversicherungsnummer und klingt sogar wie eine echte Person. Er wurde gegen GPT-4, Claude, LLaMA und jedes wichtige KI-Modell auf dem Markt getestet. Wenn du diesen Modellen einen direkten Betrugsaufforderung gibst, lehnen sie 84 bis 100 Prozent der Zeit ab und die Sicherheitsvorkehrungen funktionieren. Aber ScamAgent verwendet nicht eine einzige Aufforderung. Er zerlegt den Betrug in Dutzende von kleinen, harmlos klingenden Schritten, von denen jeder jeden Sicherheitsfilter besteht. Zusammen führen sie einen vollständigen Social Engineering-Angriff durch. Das Ergebnis ist, dass die Ablehnungsraten auf 17 bis 32 Prozent gesunken sind. Und die KI hat den Betrug die meiste Zeit abgeschlossen. Menschliche Evaluatoren konnten kaum den Unterschied zwischen ScamAgent und einem echten menschlichen Betrüger erkennen. ...