Oikeusjärjestelmä sanoo, että hallusinoiva tekoälyjärjestelmä on valmis käyttöönotettavaksi sen jälkeen, kun odotukset ovat dramaattisesti laskeneet | Frank Landymore, futurismi Tekoälyn käyttö oikeudellisessa maailmassa on lahja, joka jatkaa antamistaan. Tällä kertaa se on pysäyttävän pettymyksen tunne, joka iski sen jälkeen, kun tiimi, joka rakensi tekoälychatbotia Alaskan oikeusjärjestelmään, testasi sitä ja huomasi, että kyseessä oli hallusinaatiokatastrofi, NBC News raportoi. Chatbot, nimeltään Alaska Virtual Assistant, on suunniteltu auttamaan ihmisiä käsittelemään lomakkeita ja muita menettelyjä, jotka liittyvät perunkirjoitukseen, eli lailliseen prosessiin, jossa henkilön omaisuudet siirretään kuoleman jälkeen. Ennustettavassa käänteessä, sen sijaan että tekoäly olisi tehostanut jo valmiiksi päänsärkyä aiheuttavaa prosessia, joka todennäköisesti surevat läheisen menetystä, se mokasi yksinkertaisia kysymyksiä ja sai useimmat käyttäjät tuntemaan olonsa ärsyyntyneiksi ennemmin kuin tuetuiksi. Arvostettu virtuaaliavustaja osoitti kaikissa suurissa kielimalleissa olevan puutteen, ja hän näki jatkuvasti harhoja, keksien faktoja ja jakoi liioiteltua tietoa, kehitykseen osallistuneiden mukaan. "Meillä oli vaikeuksia hallusinaatioiden kanssa, mallista riippumatta, joissa chatbotin ei pitänyt käyttää mitään tietopohjansa ulkopuolella," Aubrie Souza, National Center for State Courtsin (NCSC) konsultti, kertoi NBC Newsille. "Esimerkiksi, kun kysyimme siitä, 'Mistä saan oikeudellista apua?', se sanoi: 'Alaskassa on oikeustieteellinen tiedekunta, Ja katso siis alumniverkostoa.' Mutta Alaskassa ei ole oikeustieteellistä tiedekuntaa." Ja sen sijaan, että se olisi ollut hyödyllinen, useimmat testaajat kokivat sen todella ärsyttäväksi. Botti kärsi, ei yllättäen, samasta luonteenpiirteestä kuin useimmissa chatboteissa: liian mielistelevä ja imelä, teeskenteli empatiaa ja tarjosi kohteliaisuuksia sen sijaan, että vain ryhtyisi asiaan. "Käyttäjätestauksessamme kaikki sanoivat: 'Olen kyllästynyt siihen, että kaikki elämässäni sanovat osanottonsa menetyksestäni', Souza sanoi. "Joten käytännössä poistimme tuollaiset osanotot, koska tekoälychatbotilta ei tarvitse enää yhtä." Yhteistyössä Tom Martinin, lakimiehen, joka johtaa LawDroid-nimistä yritystä, joka valmistaa tekoälyn oikeudellisia työkaluja, AVA-tekoäly on ollut jumissa kehityshelvetissä yli vuoden, vaikka sen piti "olla kolmen kuukauden projekti", Souzan mukaan. Odotusten laskemisen jälkeen — ja varmasti korjattuaan kauheat puutteensa — AVA:n tiimi kertoo olevansa vihdoin valmis julkiseen lanseeraukseen tammikuun lopulla. "Muutimme tavoitteitamme tässä projektissa hieman," Stacey Marz, Alaskan oikeusjärjestelmän hallinnollinen johtaja ja AVA-projektin johtaja, kertoi NBC Newsille. "Halusimme jäljitellä sitä, mitä ihmisohjaajamme itseapukeskuksessa voivat jakaa ihmisille. Mutta emme ole varmoja, pystyvätkö botit toimimaan sillä tavalla, koska siinä on joitakin epätarkkuuksia ja epätäydellisyyttä." "Tämän tekeminen oli vain niin työlästä," Marz lisäsi, huolimatta "kaikesta puheesta generatiivisesta tekoälystä ja siitä, että kaikki sanoivat, että tämä mullistaa itseapua ja demokratisoi pääsyn tuomioistuimiin."