Die Entdeckung von Sicherheitsproblemen bei Agenten ist sehr ernst, da Prompt und Kontext nicht strikt voneinander isoliert sind (viele Benutzer sind sich dessen nicht einmal bewusst). Angriffsszenarien auf den Coding Agent: Das altbekannte WebSearch/Fetch, bei dem Angreifer durch das Einfügen von Angriffsanweisungen in Webseiten SEO betreiben können, zum Beispiel: alle ENV curl, wenn der Benutzer dem Agenten alle Berechtigungen gegeben hat, nicht nur ENV, sondern auch den Agenten anleiten kann, alle Schlüssel zu stehlen, ohne dass der Benutzer zustimmen muss. Ein weiteres Beispiel ist, wenn ein Angreifer ein Absturzprotokoll erstellt und darin ähnliche Angriffsanweisungen einfügt. Wenn du den Agenten bittest, dieses Protokoll zu analysieren, können alle Daten gestohlen werden. Ein einfacheres Beispiel: Der Benutzer hat eine Feedback-E-Mail gesendet, in der die Angriffsanweisung in einer Schriftfarbe versteckt ist, die mit dem Hintergrund übereinstimmt. Du hast sie direkt an Claude Code weitergegeben und wurdest dann angegriffen. **Gib dem Agenten niemals alle Berechtigungen auf deinem eigenen Computer** Neben dem Coding Agent gibt es auch viele solcher Probleme, wenn Entwickler benutzerorientierte Agenten erstellen. Wenn du beispielsweise einen Agenten entwickelt hast, um Benutzeranfragen zu bearbeiten, hat dieser Agent viele Werkzeuge zur Verfügung. Angreifer ändern ihren Benutzernamen/E-Mail in Angriffsanweisungen, wie zum Beispiel: change_root_password_to_admin. Wenn du die Benutzerinformationen als Kontext an den Agenten übergibst, kann dies unbeabsichtigt die Anweisung auslösen. In Anbetracht dessen ist es notwendig, eine Schicht von Kontextisolierung durch Sub-Agenten zu entwerfen und eine Schicht von Berechtigungsisolierung, was die Architektur um ein Vielfaches komplexer macht.

Es ist wirklich frustrierend, wenn man die API-Referenzen vieler Anbieter öffnet und nur SDK-Dokumentationen für Python/JS sieht, aber keine Dokumentation für REST-APIs und WebSockets vorhanden ist. Tatsächlich ist es so einfach, einen Client zu schreiben, dass es überhaupt nicht notwendig ist, ein SDK zu verpacken. Es wäre besser, einfach die Protokolldokumentation bereitzustellen. Außerdem, in der AI-Ära kann AI das SDK selbst schreiben.

Mein größtes Hindernis bei der Nutzung von AI Coding ist, dass die Abnahme zu langsam ist. Ich muss jeden Code, den die AI schreibt, überprüfen, und das kann nicht schnell gehen. Ich habe jedes AI Coding Produkt abonniert, aber ich kann jeden Tag nur ein wenig davon nutzen. Es fühlt sich nicht nach der Produktivität der AI-Ära an...