AI-Agenten sind überall in den Schlagzeilen. Aber die Akzeptanz erfolgt immer noch hauptsächlich auf individueller oder kleiner Teamebene. Institutionen benötigen einen anderen Ansatz. In unserem Workshop mit @UNDP und @UNDP_AltFinLab in der letzten Woche hat unser Gründer und CEO, @0x7SUN, erklärt, was es braucht, um AI-Agenten sicher und effektiv in realen Arbeitsabläufen zu nutzen. Zeitstempel: 00:00 Die AI-Kompetenzlücke & Evolution der AI 10:26 Wie AI tatsächlich funktioniert: LLMs, Halluzinationen & epische Fehlschläge 25:12 Multi-Agenten-Systeme: Architektur und Risiken 1:03:00 Wie man AI-Agenten sicher in Institutionen einführt (Fallstudien) 1:24:00 Goldene Regeln für die Nutzung von AI-Agenten 1:27:00 Q&A Wichtige Highlights ↓

Die meisten Menschen behandeln AI wie eine Suchmaschine, die Fakten abruft, während sie das nicht ist. AI ist eine Wahrscheinlichkeitsmaschine. Sie generiert das plausibelste nächste Wort, nicht das wahrhaftigste. Dies ist das grundlegende Wissen, das man verstehen muss, bevor man AI-Agenten in einer Organisation einsetzt.

AI-Halluzinationen treten auf, weil es ein Merkmal der Funktionsweise von Wahrscheinlichkeitsmaschinen ist. Der gefährliche Teil ist, dass Halluzinationen in einer polierten Syntax und einem autoritativen Ton verpackt sind. Entscheidungsträger handeln unwissentlich auf der Grundlage völlig erfundener Daten. Deshalb ist die Überprüfung das A und O.

Die API-Integration verwandelt passive KI in KI-Agenten, die das Web durchsuchen, Code schreiben, auf Datenbanken zugreifen und im Namen von Menschen handeln können. KI wird nicht nur leistungsfähiger, sondern auch riskanter zu steuern. KI wird nicht nur leistungsfähiger, sondern auch riskanter zu steuern.

Einzelne KI-Agenten scheitern an der Komplexität, genau wie man einem Praktikanten nicht jede Aufgabe in der Organisation übertragen würde. Der bessere Ansatz sind Multi-Agenten-Systeme, bei denen jeder Agent eine spezifische Rolle übernimmt. So können Abteilungen KI entwickeln, die für die echte Arbeit zuverlässiger ist.

AI hat ein begrenztes Gedächtnis. In langen Sitzungen, wie mehrtägigen Verhandlungen oder komplexen Berichten, beginnt der frühere Kontext zu verblassen. Das ist der "Goldfisch-Effekt". Die Lösung ist aktives Gedächtnismanagement: - Kernanweisungen regelmäßig wiederholen, um den Fokus der AI aufzufrischen - Lange Dokumente in kleinere, handhabbare Teile aufteilen - Zusammenfassungen nutzen, um den laufenden Kontext aufrechtzuerhalten

AI-Agenten helfen, die Effizienz zu verbessern, aber das Sicherheitsrisiko ist real. Es gibt mehrere Möglichkeiten, das Risikoprofil zu erstellen: - Nur in kontrollierten Umgebungen einsetzen - Strenge Protokollierung der Aktivitäten ist obligatorisch - Netzwerkisolierung - Menschliche Aufsicht ist nicht verhandelbar

Die Einführung von KI in Institutionen erfolgt typischerweise in drei Ebenen: - Ebene 1: Verwendet gesicherte Unternehmens-LLMs in geschlossenen Umgebungen ohne Datenaufbewahrung und externen Zugriff, hauptsächlich für sichere und einfache Aufgaben. - Ebene 2: Verbindet Modelle mit internen Daten über RAG-Systeme, sodass die Ausgaben das tatsächliche institutionelle Wissen widerspiegeln. - Ebene 3: Baut agentische Workflows mit Datei- und API-Zugriff auf, die strenge Leitplanken, Tests und menschliche Aufsicht erfordern.

Drei Fallstudien zeigen, warum Prompt Engineering eine Managementfähigkeit und keine technische Fähigkeit ist und wie man sich verbessern kann. Fallstudie 1: Die Lösung mit SOPs (Standard Operating Prompts) Fallstudie 2: Die Halluzinationsfalle Fallstudie 3: Verbesserung der KI-Ausgaben mit Persona und Einschränkungen

Die goldene Regel für die Nutzung von AI im Workflow: Immer Menschen einbeziehen. ❌ Niemals vertrauliche Daten in öffentliche AI-Tools einfügen ❌ Niemals AI-generierte Inhalte ohne unabhängige Überprüfung veröffentlichen ❌ Niemals vage, offene Aufgaben an einen AI-Agenten vergeben ✅ Immer Ihren Agenten eine Persona zuweisen ✅ Immer strukturierte Anweisungen geben ✅ Immer schützende Validierung implementieren Dieses Framework wird helfen, in den meisten Fällen größere AI-Fehler zu verhindern.