Badacz z Uniwersytetu Rutgers właśnie stworzył AI, które może zadzwonić do twojej babci i UKRAŚĆ jej oszczędności na życie. W tej chwili, z narzędziami, które każdy może pobrać. Artykuł nosi tytuł ScamAgents. Został poddany recenzji i opublikowany na dużej konferencji dotyczącej bezpieczeństwa uczenia maszynowego. Oto, co udowadnia. Jeden agent AI może teraz przeprowadzić cały telefoniczny oszustwo od początku do końca i nie potrzebny jest żaden człowiek. Wybiera osobowość, buduje zaufanie, prosi o twój numer ubezpieczenia społecznego i nawet brzmi jak prawdziwa osoba. Był testowany w porównaniu z GPT-4, Claude, LLaMA i każdym głównym modelem AI dostępnym na rynku. Kiedy dajesz tym modelom bezpośredni sygnał do oszustwa, odmawiają 84 do 100 procent czasu, a zabezpieczenia działają. Ale ScamAgent nie używa jednego sygnału. Dzieli oszustwo na dziesiątki małych, brzmiących niewinnie kroków, z których każdy przechodzi przez każdy filtr bezpieczeństwa. Razem wykonują pełny atak inżynierii społecznej. Wynik jest taki, że wskaźniki odmowy spadły do 17 do 32 procent. A AI zakończyło oszustwo w większości przypadków. Ludzie oceniający ledwo mogli dostrzec różnicę między ScamAgent a prawdziwym oszustem. ...