A McKinsey construiu um chatbot de IA (Lilli) treinado com 100 anos de seu trabalho, 100 mil documentos e entrevistas. 70% dos 45 mil funcionários usam a ferramenta, gerando 500 mil solicitações por mês. Uma empresa de pesquisa invadiu o sistema com "acesso total de leitura e escrita ao banco de dados de produção", incluindo "47 milhões de mensagens de chat sobre estratégia, M&A, engajamento com clientes, tudo em texto simples, juntamente com 728 mil contendo dados confidenciais de clientes, 57 mil contas de usuários e 95 prompts de sistema controlando o comportamento da IA." A McKinsey afirmou que corrigiu a vulnerabilidade, que foi possibilitada por "documentação de API exposta publicamente, incluindo 22 endpoints que não exigiam autenticação... um desses escrevia consultas de busca de usuários, e o agente descobriu que as chaves JSON (estes são os nomes dos campos) foram concatenadas em SQL e vulneráveis a injeção SQL."

Leitura completa aqui: Mckisney apostando tudo na Lilli!