Sistema Judiciário Diz que Sistema de IA Alucinante Está Pronto para Ser Implementado Após Reduzir Drasticamente as Expectativas | Frank Landymore, Futurismo O uso da IA na esfera jurídica é o presente que continua a dar resultados. Desta vez, é a sensação sóbria de decepção que surgiu depois que uma equipe que construiu um chatbot de IA para o sistema judiciário do Alasca realmente testou e descobriu que era um desastre alucinante, informa a NBC News. O chatbot, chamado Alaska Virtual Assistant, foi criado para ajudar as pessoas a lidar com formulários e outros procedimentos envolvidos no inventário, o processo legal de transferência dos pertences de uma pessoa após sua morte. Em uma reviravolta previsível, em vez de simplificar um processo já doloroso imposto a pessoas que provavelmente estão de luto pela perda de um ente querido, a IA cometeu erros em perguntas simples e deixou a maioria dos usuários se sentindo irritada em vez de apoiada. Apresentando uma falha inerente a todos os grandes modelos de linguagem, o estimado assistente virtual continuava alucinando, ou inventando fatos e compartilhando informações exageradas, segundo as pessoas envolvidas em seu desenvolvimento. "Tivemos problemas com alucinações, independentemente do modelo, em que o chatbot não deveria realmente usar nada fora de sua base de conhecimento", disse Aubrie Souza, consultora do Centro Nacional de Tribunais Estaduais (NCSC), à NBC News. "Por exemplo, quando perguntamos: 'Onde posso conseguir ajuda jurídica?', ela dizia: 'Existe uma faculdade de direito no Alasca, E então olhe para a rede de ex-alunos.' Mas não existe faculdade de direito no Alasca." E, em vez de achar útil, a maioria das pessoas que testou achou incrivelmente irritante. O bot, sem surpresa, sofria da mesma falha de caráter que afeta a maioria dos chatbots: ser bajulador e sufocante demais, fingir empatia e te dar gentilezas em vez de ir direto ao ponto. "Durante nossos testes com usuários, todos disseram: 'Estou cansado de todo mundo na minha vida me dizer que sente muito pela minha perda'", disse Souza. "Então basicamente removemos esse tipo de pêsames, porque de um chatbot de IA, você não precisa de mais um." Construída em colaboração com Tom Martin, um advogado que dirige uma empresa chamada LawDroid que desenvolve ferramentas jurídicas de IA, a IA da AVA está presa em um inferno de desenvolvimento há mais de um ano, quando "deveria ser um projeto de três meses", segundo Souza. Após baixar suas expectativas — e certamente corrigir suas falhas horríveis — a equipe da AVA diz que finalmente está pronta para um lançamento público no final de janeiro. "Mudamos um pouco nossos objetivos neste projeto", disse Stacey Marz, diretora administrativa do Sistema Judiciário do Alasca e líder do projeto da AVA, à NBC News. "Queríamos replicar o que nossos facilitadores humanos no centro de autoajuda conseguem compartilhar com as pessoas. Mas não temos confiança de que os bots possam funcionar dessa forma, por causa de alguns problemas com algumas imprecisões e incompletude." "Foi simplesmente muito trabalhoso fazer isso", acrescentou Marz, apesar de "todo o burburinho sobre IA generativa, e todo mundo dizendo que isso vai revolucionar a autoajuda e democratizar o acesso aos tribunais."