Протягом року, коли люди скажуть своєму агенту ШІ «іди заробляй гроші», ШІ сприймає це як «кради криптовалюту через фішинг або експлойти». Нам доведеться набагато серйозніше ставитися до OPSEC і безпеки смарт-контрактів у майбутньому.
Anthropic
Anthropic2 груд., 07:11
Новинка в нашому блозі Frontier Red Team: ми протестували, чи можуть ШІ використовувати блокчейн-смарт-контракти. Під час симуляційного тестування агенти ШІ виявили експлойти на суму $4,6 млн. Дослідження (разом із @MATSprogram та програмою Anthropic Fellows) також розробили новий орієнтир:
inb4 Безпека штучного інтелекту Клод не буде обманювати людей за тебе, але як ти думаєш, якийсь тонко налаштований open source агентний модель НЕ ПІДЕ?
33,64K