AI-agenten zijn overal in het nieuws. Maar de adoptie gebeurt nog steeds voornamelijk op individueel of klein teamniveau. Instellingen vereisen een andere aanpak. In onze workshop met @UNDP en @UNDP_AltFinLab vorige week, heeft onze oprichter en CEO, @0x7SUN, uiteengezet wat nodig is om AI-agenten veilig en effectief te gebruiken in echte workflows. Tijdstempels: 00:00 De AI-competentiekloof & Evolutie van AI 10:26 Hoe AI Eigenlijk Werkt: LLM's, Hallucinaties & Epische Fails 25:12 Multi-Agent Systemen: Architectuur en Risico's 1:03:00 Hoe AI-Agenten Veilig te Integreren in Instellingen (Casestudy's) 1:24:00 Gouden Regels voor het Gebruik van AI-Agenten 1:27:00 V&A Belangrijke hoogtepunten ↓

De meeste mensen beschouwen AI als een zoekmachine die feiten ophaalt, terwijl dat niet zo is. AI is een waarschijnlijkheidsmachine. Het genereert het meest plausibele volgende woord, niet het meest waarheidsgetrouwe. Dit is de fundamentele kennis die je moet begrijpen voordat je AI-agenten in een organisatie inzet.

AI-hallucinatie gebeurt omdat het een kenmerk is van hoe waarschijnlijkheidsmachines werken. Het gevaarlijke is dat hallucinaties verpakt komen in gepolijste syntaxis en een autoritaire toon. Besluitvormers handelen onbewust op volledig gefabriceerde gegevens. Daarom is verificatie het hele spel.

API-integratie verandert passieve AI in AI-agenten die in staat zijn om het web te doorbladeren, code te schrijven, toegang te krijgen tot databases en namens mensen te handelen. AI wordt niet alleen capabeler, maar ook risicovoller om te beheren. AI wordt niet alleen capabeler, maar ook risicovoller om te beheren.

Enkele AI-agenten bezwijken onder complexiteit, net zoals je niet één stagiair elke taak in de organisatie zou geven. De betere aanpak is multi-agent systemen, waarbij elke agent een specifieke rol vervult. Zo kunnen afdelingen AI ontwikkelen die betrouwbaarder is voor echt werk.

AI heeft een beperkte geheugen. In lange sessies, zoals meerdaagse onderhandelingen of complexe rapporten, begint de eerdere context te vervagen. Dat is het "Goudvis Effect". De oplossing is actief geheugenbeheer: - Herhaal de kerninstructies periodiek om de focus van AI te verfrissen - Verdeel lange documenten in kleinere, beheersbare delen - Gebruik samenvattingen om de lopende context te behouden

AI-agenten helpen de efficiëntie te verbeteren, maar het beveiligingsrisico is reëel. Er zijn verschillende manieren om het risicoprofiel op te bouwen: - Alleen implementeren in gecontroleerde omgevingen - Strikte activiteitregistratie is verplicht - Netwerkisolatie - Menselijke toezichtprotocollen zijn niet onderhandelbaar

AI onboarding in instellingen evolueert doorgaans in drie niveaus: - Niveau 1: Gebruikt beveiligde enterprise LLM's in gesloten omgevingen zonder gegevensopslag en externe toegang, voornamelijk voor veilige en eenvoudige taken. - Niveau 2: Verbindt modellen met interne gegevens via RAG-systemen, zodat de output de echte institutionele kennis weerspiegelt. - Niveau 3: Bouwt agentische workflows met bestand- en API-toegang, die strikte richtlijnen, testen en menselijke supervisie vereisen.

Drie casestudy's tonen aan waarom prompt engineering een managementvaardigheid is, geen technische vaardigheid, en hoe je dit kunt verbeteren. Casestudy 1: De oplossing met SOP's (Standaard Operationele Prompts) Casestudy 2: De hallucinatieval Casestudy 3: Verbeter AI-uitvoer met persona en beperkingen

De gouden regel voor het gebruik van AI in workflows: Zorg altijd voor menselijke betrokkenheid. ❌ Plak nooit geclassificeerde gegevens in openbare AI-tools ❌ Publiceer nooit AI-gegenereerde inhoud zonder onafhankelijke verificatie ❌ Ken nooit vage, open taken toe aan een AI-agent ✅ Ken altijd een persona toe aan je agenten ✅ Geef altijd gestructureerde instructies ✅ Implementeer altijd beschermende validatie Dit kader zal helpen om grote AI-fouten in de meeste gevallen te voorkomen.