Sistemul judiciar spune că sistemul AI halucinant este gata de implementare după ce a scăzut dramatic așteptările | Frank Landymore, Futurism Utilizarea AI-ului în domeniul juridic este darul care continuă să oferă. De data aceasta, este sentimentul tulburător de dezamăgire care s-a instalat după ce o echipă care a construit un chatbot AI pentru sistemul judiciar din Alaska a testat efectiv și a descoperit că a fost un dezastru halucinator, relatează NBC News. Chatbot-ul, denumit Alaska Virtual Assistant, a fost conceput pentru a ajuta oamenii să gestioneze formulare și alte proceduri implicate în procedura de succesiune, procesul legal de transfer al bunurilor unei persoane după decesul acesteia. Într-o întorsătură previzibilă a evenimentelor, în loc să simplifice un proces deja dureros de cap impus persoanelor care probabil jelesc pierderea unei persoane dragi, AI-ul a greșit întrebări simple și a lăsat majoritatea utilizatorilor să se simtă mai degrabă iritați decât susținuți. Prezentând o slăbiciune inerentă tuturor modelelor mari de limbaj, apreciatul asistent virtual a continuat să halucineze sau să inventeze fapte și să împărtășească informații exagerate, potrivit celor implicați în dezvoltarea sa. "Am avut probleme cu halucinațiile, indiferent de model, unde chatbotul nu trebuia să folosească nimic în afara cunoștințelor sale," a declarat Aubrie Souza, consultant la National Center for State Courts (NCSC), pentru NBC News. "De exemplu, când îl întrebam: «De unde pot obține ajutor juridic?», îți spunea: «Există o facultate de drept în Alaska, Așadar, uită-te la rețeaua de absolvenți." Dar nu există nicio facultate de drept în Alaska." Și, în loc să-l găsească util, majoritatea celor care au testat-o au găsit-o extrem de enervantă. Robotul, deloc surprinzător, suferea de același defect de caracter care afectează majoritatea chatbotilor: era prea lingușitor și obositor, prefăcea empatie și te înfășura cu politețuri în loc să se apuce direct de treabă. "Prin testarea utilizatorilor, toată lumea a spus: «M-am săturat ca toți din viața mea să-mi spună că le pare rău pentru pierderea mea», a spus Souza. "Deci practic am eliminat astfel de condoleanțe, pentru că de la un chatbot AI nu mai ai nevoie de unul." Construită în colaborare cu Tom Martin, un avocat care conduce o companie numită LawDroid ce creează instrumente legale AI, AI-ul AVA a fost prins în iadul dezvoltării de peste un an, când "ar fi trebuit să fie un proiect de trei luni", potrivit lui Souza. După ce și-au scăzut așteptările — și au corectat cu siguranță defectele lor îngrozitoare — echipa AVA spune că este în sfârșit pregătită pentru o lansare publică la sfârșitul lunii ianuarie. "Ne-am schimbat puțin obiectivele în acest proiect," a declarat Stacey Marz, directoarea administrativă a Sistemului Judiciar din Alaska și lider de proiect AVA, pentru NBC News. "Am vrut să reproducem ceea ce facilitatorii noștri umani de la centrul de auto-ajutor pot împărtăși oamenilor. Dar nu suntem încrezători că roboții pot funcționa în acest mod, din cauza unor probleme cu unele inexactități și incompletitudine." "A fost pur și simplu atât de solicitant de muncă să fac asta," a adăugat Marz, în ciuda "tuturor zvonurilor despre AI generativ și a tuturor celor care spun că acest lucru va revoluționa auto-ajutorul și va democratiza accesul la instanțe."