Исследователь Рутгерского университета только что создал ИИ, который может позвонить вашей бабушке и УКРАДАТЬ ее сбережения. Прямо сейчас, с инструментами, которые любой может скачать. Статья называется ScamAgents. Она была рецензирована и опубликована на крупной конференции по безопасности машинного обучения. Вот что она доказывает. Один ИИ-агент теперь может провести весь мошеннический телефонный звонок от начала до конца, и человеку не нужно вмешиваться. Он выбирает личность, завоевывает доверие, запрашивает ваш номер социального страхования и даже звучит как настоящий человек. Он был протестирован против GPT-4, Claude, LLaMA и каждой крупной модели ИИ на рынке. Когда вы даете этим моделям прямую мошенническую подсказку, они отказываются 84-100% времени, и защитные механизмы работают. Но ScamAgent не использует одну подсказку. Он разбивает мошенничество на десятки мелких, звучащих невинно шагов, каждый из которых проходит все фильтры безопасности. Вместе они выполняют полную атаку социальной инженерии. В результате уровень отказов снизился до 17-32%. И ИИ завершил мошенничество в большинстве случаев. Человеческие оценщики едва могли отличить ScamAgent от настоящего мошенника. ...