Rettssystemet sier at hallusinerende AI-system er klart til å tas i bruk etter dramatisk senking av forventningene | Frank Landymore, futurisme AIs bruk i den juridiske sfæren er gaven som fortsetter å gi. Denne gangen var det den alvorlige skuffelsen som kom etter at et team som bygde en AI-chatbot for Alaskas rettssystem faktisk testet den og fant ut at det var en hallusinerende katastrofe, rapporterer NBC News. Chatboten, kalt Alaska Virtual Assistant, ble utviklet for å hjelpe folk med å håndtere skjemaer og andre prosedyrer knyttet til skifte, den juridiske prosessen med å overføre en persons eiendeler etter død. I en forutsigbar vending, i stedet for å effektivisere en allerede hodepinefremkallende prosess påført mennesker som sannsynligvis sørger over tapet av en kjær, rotet AI-en til enkle spørsmål og etterlot de fleste brukere irriterte snarere enn støttet. Med en svakhet som er iboende i alle store språkmodeller, hallusinerte den anerkjente virtuelle assistenten stadig, eller fant på fakta og delte overdreven informasjon, ifølge de som var involvert i utviklingen. "Vi hadde problemer med hallusinasjoner, uansett modell, hvor chatboten egentlig ikke skulle bruke noe utenfor sin kunnskapsbase," fortalte Aubrie Souza, konsulent ved National Center for State Courts (NCSC), til NBC News. "For eksempel, når vi spurte den, 'Hvor får jeg juridisk hjelp?' ville den si, 'Det finnes en jusskole i Alaska, Så se på alumninettverket.' Men det finnes ingen jusskole i Alaska.» Og i stedet for å synes det var nyttig, syntes de fleste som testet det var utrolig irriterende. Boten, ikke overraskende, led av den samme karakterfeilen som plager de fleste chatboter: den var for smigrende og klissete, latet som han var empati og overøse deg med høflighetsfraser i stedet for bare å gå rett på sak. "Gjennom brukertestingen vår sa alle: 'Jeg er lei av at alle i livet mitt sier at de er lei seg for tapet mitt,» sa Souza. "Så vi fjernet i praksis slike kondolanser, fordi fra en AI-chatbot trenger du ikke en til." Bygget i samarbeid med Tom Martin, en advokat som driver et selskap kalt LawDroid som lager AI juridiske verktøy, har AVA AI vært fanget i utviklingshelvete i over ett år nå, da det ifølge Souza «skulle være et tre måneders prosjekt». Etter å ha senket forventningene — og uten tvil rettet opp de forferdelige svakhetene — sier AVAs team at de endelig er klare for en offentlig lansering i slutten av januar. "Vi endret målene våre litt på dette prosjektet," sa Stacey Marz, administrativ direktør for Alaska Court System og prosjektleder i AVA, til NBC News. "Vi ønsket å gjenskape det våre menneskelige fasilitatorer ved selvhjelpssenteret kan dele med folk. Men vi er ikke sikre på at botene kan fungere på den måten, på grunn av problemer med noen unøyaktigheter og noe ufullstendighet.» «Det var bare så arbeidskrevende å gjøre dette,» la Marz til, til tross for «all oppmerksomheten rundt generativ AI, og alle som sier at dette vil revolusjonere selvhjelp og demokratisere tilgangen til domstolene.»