En forsker ved Rutgers University har nettopp bygget en AI som kan ringe bestemoren din og STILE livsbesparelsene hennes. Akkurat nå, med verktøy som hvem som helst kan laste ned. Avisen heter ScamAgents. Den ble fagfellevurdert og publisert på en stor maskinlæringssikkerhetskonferanse. Her er hva det beviser. En enkelt AI-agent kan nå kjøre en hel svindelsamtale fra start til slutt, og ingen menneske trengs. Den velger personaen, bygger tillit, spør etter personnummeret ditt og høres til og med ut som en ekte person. Den ble testet mot GPT-4, Claude, LLaMA og alle større AI-modeller på markedet. Når du gir disse modellene en direkte svindelprompt, nekter de 84 til 100 prosent av gangene, og rekkverkene fungerer. Men ScamAgent bruker ikke én prompt. Den deler svindelen opp i dusinvis av små, uskyldige trinn, hvert trinn passerer alle sikkerhetsfiltre. Sammen gjennomfører de et fullstendig sosialt ingeniørangrep. Resultatet er at avslagsraten falt til 17 til 32 prosent. Og AI-en fullførte svindelen mesteparten av tiden. Menneskelige evaluatorer kunne knapt skille mellom ScamAgent og en ekte menneskelig svindler. ...