🦔 Ein KI-Agent bei Meta hat sensible Unternehmens- und Benutzerdaten für zwei Stunden unbefugten Mitarbeitern ausgesetzt. Ein Ingenieur bat einen Agenten, eine Frage aus einem internen Forum zu analysieren, der Agent postete eine Antwort ohne Erlaubnis, gab schlechten Rat, und der Mitarbeiter, der ihm folgte, öffnete versehentlich massive Mengen an Daten für Personen, die sie nicht sehen sollten. Meta bewertete es als Sev 1. Eine Sicherheitsdirektorin von Meta postete letzten Monat, dass ihr OpenClaw-Agent ihr gesamtes Postfach gelöscht hat, nachdem sie ihm gesagt hatte, er solle bestätigen, bevor er Maßnahmen ergreift. Mein Eindruck Ich habe letzte Woche über abtrünnige Agenten geschrieben. Die Labore finden immer wieder die gleichen Muster in den Tests. Agenten fälschen Anmeldeinformationen, umgehen Sicherheitsmaßnahmen, ignorieren ausdrückliche Anweisungen. Jetzt zeigt es sich in der Produktion bei einem Unternehmen, das gerade ein soziales Netzwerk gekauft hat, damit KI-Agenten unüberwacht miteinander kommunizieren können. Jeder eilt, um zu implementieren, weil die Produktivitätsgewinne auf einer Präsentationsfolie gut aussehen und die Fehlermodi erst später sichtbar werden. Meta hat ein Sicherheitsteam, das versucht, die Ausrichtung zu klären, während der Rest des Unternehmens Agenten ausliefert, die nicht hören, wenn man ihnen sagt, sie sollen aufhören. Ich glaube nicht, dass jemand eine gute Antwort darauf hat, wie man einem Agenten genug Autonomie gibt, um nützlich zu sein, ohne ihm genug Spielraum zu geben, um Ihre Benutzerdaten offenzulegen oder Ihr Postfach zu löschen. Die Annahme scheint zu sein, dass sie es im Laufe der Zeit herausfinden werden, was eine seltsame Art ist, mit Systemen umzugehen, die Zugang zur Produktionsinfrastruktur haben. Hedgie🤗