Momentálně jsem v Buenos Aires na DeFi Security Summitu, kde jsem se zúčastnil panelu o AI a bezpečnosti Web3 spolu s @blocksec (EigenLabs), @ChanniGreenwall (Olympix), @jack__sanford (Sherlock) a @nicowaisman (Xbow). To, co se ještě nedávno zdálo jako "vzdálená budoucnost", se nyní diskutuje jako velmi konkrétní plán pro nadcházející roky: jak obranné, tak útočné technologie poháněné AI budou rychle postupovat, zejména v oblasti odhalování zranitelností. Vše, co auditoři dnes dělají ručně a prostřednictvím různých nástrojů, je postupně zařazováno do výkonnějších a přístupnějších automatizovaných stacků. Je důležité dívat se na realitu střízlivě: naděje, že dokážeme spolehlivě "ohradit" modely před nežádoucím použitím, je iluzorní. Každý dostatečně schopný model je ze své podstaty dvojúčelový. Poskytovatelé přidají omezení, filtry, politiky — ale to není zásadní překážka. Kdokoli s motivací a zdroji si spustí vlastní hostovaný model, sestaví si vlastní agentický stack a použije stejné technologie bez obav o podmínky služby. Nelze navrhnout bezpečnost s předpokladem, že útočníci nebudou mít přístup k těmto nástrojům. Ekonomika útoků také není příliš jednoduchá. Krátkodobě budou útoky levnější: více automatizace, více "širokoplošného bombardování", vyčerpávající průzkum stavů a konfigurací bez přítomnosti lidí v smyčce. Ale dlouhodobě, jak se obranné postupy a nástroje přizpůsobí, úspěšné útoky budou dražší: pokrytí se zlepší, drobné chyby zmizí a efektivní průniky budou vyžadovat vážnou infrastrukturu, přípravu a odbornost. To posune rovnováhu směrem k menšímu počtu incidentů — ale ty, které nastanou, budou mnohem složitější a nákladnější. Můj hlavní závěr: budeme muset znovu projít celý bezpečnostní cyklus, ne jen "kosmeticky vylepšovat" audity. Jak popisujeme a chápeme rizikové profily, jak se modely hrozeb vyvíjejí s AI, jak strukturujeme vývoj, revize, testování, nasazení, monitorování na blockchainu, reakci na incidenty a analýzu — to vše bude třeba přehodnotit. Tradiční audity zůstanou klíčovým prvkem, ale už nemohou být jediným těžištěm. Realita je taková, že AI symetricky zesiluje jak obránce, tak útočníky — a bezpečnost Web3 bude muset přizpůsobit celý svůj provozní model tomuto asymetrickému závodu ve zbrojení.