Я сейчас в Буэнос-Айресе на Саммите по безопасности DeFi, где я участвовал в панели по безопасности AI и Web3 вместе с @blocksec (EigenLabs), @ChanniGreenwall (Olympix), @jack__sanford (Sherlock) и @nicowaisman (Xbow). То, что еще недавно казалось "дальним будущим", теперь обсуждается как очень конкретная дорожная карта на ближайшие годы: как оборонительные, так и наступательные технологии на базе AI будут быстро развиваться, особенно в области обнаружения уязвимостей. Все, что аудиторы делают сегодня вручную и с помощью набора инструментов, постепенно объединяется в более мощные и доступные автоматизированные стеки. Важно трезво смотреть на реальность: надежда на то, что мы сможем надежно "оградить" модели от нежелательного использования, иллюзорна. Любая достаточно мощная модель по определению является двойного назначения. Поставщики будут добавлять ограничения, фильтры, политики — но это не является фундаментальным барьером. Любой, у кого есть мотивация и ресурсы, сможет развернуть самохостимую модель, собрать свой собственный агентный стек и использовать те же технологии, не беспокоясь о ToS. Нельзя проектировать безопасность, исходя из предположения, что злоумышленники не будут иметь доступ к этим инструментам. Экономика атак также далека от простоты. В краткосрочной перспективе атаки станут дешевле: больше автоматизации, больше "широких бомбардировок", более исчерпывающее исследование состояний и конфигураций без участия человека. Но в долгосрочной перспективе, по мере того как оборонительные практики и инструменты будут догонять, успешные атаки станут дороже: покрытие улучшится, тривиальные ошибки исчезнут, а эффективные нарушения потребуют серьезной инфраструктуры, подготовки и экспертизы. Это изменит баланс в сторону меньшего числа инцидентов — но те, которые произойдут, будут гораздо более сложными и дорогими. Мой главный вывод: нам придется пересмотреть весь жизненный цикл безопасности, а не просто "косметически улучшать" аудиты. Как мы описываем и понимаем профили рисков, как модели угроз развиваются с учетом AI, как мы структурируем разработку, обзоры, тестирование, развертывание, мониторинг в цепочке блоков, реагирование на инциденты и посмертные анализы — все это нужно будет переосмыслить. Традиционные аудиты останутся ключевым элементом, но они больше не могут быть единственным центром тяжести. Реальность такова, что AI симметрично усиливает как защитников, так и злоумышленников — и безопасность Web3 должна адаптировать свою всю операционную модель к этой асимметричной гонке вооружений.