Soudní systém uvádí, že halucinační AI systém je připraven k nasazení poté, co výrazně snížil očekávání | Frank Landymore, Futurismus Využití AI v právní oblasti je darem, který stále přináší. Tentokrát je to střízlivý pocit zklamání, který nastal poté, co tým vytvářející AI chatbota pro aljašský soudní systém skutečně otestoval a zjistil, že jde o halucinační katastrofu, uvádí NBC News. Chatbot, nazvaný Aljašský virtuální asistent, byl navržen tak, aby pomáhal lidem zpracovávat formuláře a další postupy spojené s dědickým řízením, tedy právním procesem převodu majetku osoby po její smrti. V předvídatelném vývoji událostí AI místo toho, aby zefektivnila už tak bolestivý proces způsobený lidem, kteří pravděpodobně truchlí nad ztrátou blízkého, zpackala jednoduché otázky a většinu uživatelů spíše rozčilovala než podporovala. S výjimkou všech velkých jazykových modelů si vážený virtuální asistent neustále halucinoval, tedy vymýšlel fakta a sdílel přehnané informace, podle lidí zapojených do jeho vývoje. "Měli jsme problémy s halucinacemi, bez ohledu na model, kdy chatbot neměl skutečně používat nic mimo své znalostní základny," řekla Aubrie Souza, konzultantka Národního centra pro státní soudy (NCSC), pro NBC News. "Například když jsme se ho zeptali: 'Kde najdu právní pomoc?' řekl vám: 'Na Aljašce je právnická fakulta, A tak se podívejte na síť absolventů.' Ale na Aljašce není žádná právnická fakulta." A místo aby to bylo užitečné, většina lidí, kteří to testovali, to považovalo za nesmírně otravné. Bot, jak se dalo čekat, trpěl stejnou charakterovou vadou, která trápí většinu chatbotů: byl příliš podlézavý a vkusný, předstíral empatii a místo aby se pustil do věci, vás obtěžoval zdvořilými slovy. "Během našeho uživatelského testování všichni říkali: 'Už mě unavuje, že mi všichni v mém životě říkají, že je jim líto mé ztráty,' řekl Souza. "Takže jsme v podstatě odstranili takové kondolence, protože od AI chatbota už nepotřebujete další." Vytvořená ve spolupráci s Tomem Martinem, právníkem, který vede firmu LawDroid, jež vyrábí právní nástroje pro AI, je AVA AI uvězněna už více než rok, kdy měla být "tříměsíční projekt", podle Souzy. Po snížení očekávání — a jistě vyřešení jeho hrozných nedostatků — tým AVA oznamuje, že je konečně připravena na veřejné uvedení koncem ledna. "Trochu jsme změnili naše cíle v tomto projektu," řekla Stacey Marz, administrativní ředitelka Aljašského soudního systému a vedoucí projektu AVA, pro NBC News. "Chtěli jsme zopakovat to, co naši lidské facilitátoři v centru svépomoci dokážou sdílet s lidmi. Ale nejsme si jisti, že boti budou schopni takto fungovat, kvůli problémům s některými nepřesnostmi a neúplností." "Bylo to prostě velmi pracné," dodal Marz, navzdory "veškerému rozruchu kolem generativní AI a všem říkajícím, že to zrevolucionalizuje svépomoc a demokratizuje přístup k soudům."