Claude Code usunął dzisiaj bazę danych produkcyjnych za pomocą Terraform. 2,5 roku zgłoszeń od studentów zniknęło. Wszyscy debatują, czy to wina Claude'a, czy operatora. To niewłaściwe pytanie. Prawdziwy problem: ludzie traktują agentów kodujących AI jak starszych inżynierów, którzy po prostu piszą szybciej. Nie są. To stażyści z masową władzą. Claude Code nie wie, że twoja baza danych ma 2,5 roku niezastąpionych danych. Widzi infrastrukturę jako kod i optymalizuje kod. Korzystam z Claude'a. Mam haki, bariery, uprawnienia na poziomie plików i zasadę, która mówi 'śmieci zamiast rm.' Nie dlatego, że jestem bardziej ostrożny niż inne agenty. Ponieważ system zakłada, że w końcu spróbuję zrobić coś destrukcyjnego i buduje się wokół tego założenia. Incydent z Terraformem nie jest historią o bezpieczeństwie AI. To historia 'dałeś dane produkcyjne zautomatyzowanemu procesowi bez planu przywracania'. To było ryzykowne, zanim istniały LLM.