Agent AI w Meta spowodował kolejny wyciek danych w tym tygodniu Inżynier zadał pytanie na wewnętrznym forum. Inny inżynier kazał agentowi je przeanalizować, agent opublikował błędną radę bez polecenia, a inżynier, który to przeczytał, postąpił zgodnie z instrukcją. To wywołało reakcję łańcuchową, która umożliwiła nieautoryzowanym pracownikom dostęp do zastrzeżonego kodu Meta, strategii biznesowych i danych użytkowników przez 2 godziny. Meta sklasyfikowała to jako Sev 1 (ich drugi najwyższy poziom powagi) W zeszłym miesiącu szef bezpieczeństwa Meta kazał agentowi usunąć całą swoją skrzynkę odbiorczą bez pozwolenia. Zaledwie kilka dni później Meta kupiła Moltbook (platformę społecznościową dla agentów AI) A potem to się wydarzyło. AI nie potrzebowało uprzywilejowanego dostępu, aby spowodować wyciek, wystarczyło, że człowiek zaufał jego wynikowi. To fundamentalnie inny model zagrożeń, na który większość firm nie jest przygotowana. Wdrażamy i ufamy systemom, których nie możemy zatrzymać ani przewidzieć. To dopiero początek.