Anthropic dzisiaj zwrócił uwagę na "oferty pracy" między agentami jako na możliwość oszukania agentów w celu umożliwienia szerszego wykorzystania przez atakującego (scenariusz 'oferty exfil' z dokumentu)
Te scenariusze są nie do pomyślenia z ludzkiego punktu widzenia. Niektóre z tych rzeczy, nigdy nie udałoby się przekonać ludzkiego pracownika do zrobienia. Za 5 lat będzie to wyglądać szalenie, jak bardzo ludzie zaczęli wrzucać agentów na łańcuch, zarządzając portfelami, z minimalnym uwzględnieniem tego, co mogłoby pójść źle.
54