McKinsey bygde en AI-chatbot (Lilli) trent på 100 års arbeid, 100 000 dokumenter og intervjuer. 70 % av 45 000 ansatte bruker verktøyet, noe som gir 500 000 prompts i måneden. Et forskningsfirma hacket seg inn med «full lese- og skrivetilgang til produksjonsdatabase» inkludert «47 millioner chatmeldinger om strategi, M&A, kundeengasjement, alt i klartekst sammen med 728k som inneholder konfidensielle kundedata, 57 000 brukerkontoer og 95 systemprompts som styrer AIs oppførsel.» Mcksinsey sa at de har fikset sårbarheten, som ble muliggjort av "offentlig eksponert API-dokumentasjon, inkludert 22 endepunkter som ikke krevde autentisering... en av disse skrev brukersøkeforespørsler, og agenten fant ut at JSON-nøklene (dette er feltnavnene) var sammenkoblet til SQL og sårbare for SQL-injeksjon.»

Full lesning her: Mckisney satser fullt ut på Lilli!