Sistem Pengadilan Mengatakan Sistem AI Berhalusinasi Siap Digunakan Setelah Menurunkan Harapan Secara Dramatis | Frank Landymore, Futurisme Penggunaan AI dalam bidang hukum adalah hadiah yang terus diberikan. Kali ini, rasa kekecewaan yang serius muncul setelah tim yang membangun chatbot AI untuk sistem pengadilan Alaska benar-benar mengujinya dan menemukan itu adalah bencana halusinasi, NBC News melaporkan. Chatbot, yang dijuluki Alaska Virtual Assistant, dirancang untuk membantu orang menangani formulir dan prosedur lain yang terlibat dalam surat wasiat, proses hukum mentransfer barang-barang seseorang setelah kematian mereka. Dalam pergantian peristiwa yang dapat diprediksi, alih-alih merampingkan proses yang sudah memicu sakit kepala yang ditimbulkan pada orang-orang yang mungkin berduka atas kehilangan orang yang dicintai, AI mengacaukan pertanyaan sederhana dan membuat sebagian besar pengguna merasa kesal daripada didukung. Menunjukkan kegagalan yang melekat pada semua model bahasa besar, asisten virtual yang terhormat terus berhalusinasi, atau mengarang fakta dan berbagi informasi yang berlebihan, menurut orang-orang yang terlibat dalam pengembangannya. "Kami mengalami masalah dengan halusinasi, terlepas dari modelnya, di mana chatbot tidak seharusnya benar-benar menggunakan apa pun di luar basis pengetahuannya," kata Aubrie Souza, seorang konsultan di National Center for State Courts (NCSC), kepada NBC News. "Misalnya, ketika kami bertanya, 'Di mana saya mendapatkan bantuan hukum?' itu akan memberi tahu Anda, 'Ada sekolah hukum di Alaska, Jadi lihat jaringan alumni.' Tapi tidak ada sekolah hukum di Alaska." Dan alih-alih menganggapnya membantu, kebanyakan orang yang mengujinya menganggapnya sangat menghirau. Bot, tidak mengherankan, menderita kekurangan karakter yang sama yang mengganggu sebagian besar chatbot: terlalu menjijikkan dan memualkan, berpura-pura berempati dan menggoda Anda dengan basa-basi alih-alih hanya turun ke bisnis. "Melalui pengujian pengguna kami, semua orang berkata, 'Saya lelah dengan semua orang dalam hidup saya mengatakan kepada saya bahwa mereka menyesal atas kehilangan saya," kata Souza. "Jadi pada dasarnya kami menghapus belasungkawa semacam itu, karena dari chatbot AI, Anda tidak perlu lagi." Dibangun bekerja sama dengan Tom Martin, seorang pengacara yang menjalankan perusahaan bernama LawDroid yang membuat alat hukum AI, AVA AI telah terjebak dalam neraka pengembangan selama lebih dari setahun sekarang, ketika itu "seharusnya menjadi proyek tiga bulan," menurut Souza. Setelah menurunkan harapan mereka - dan pasti menyetrika kekurangannya yang mengerikan - tim AVA mengatakan akhirnya siap untuk peluncuran publik pada akhir Januari. "Kami mengubah tujuan kami pada proyek ini sedikit," kata Stacey Marz, direktur administrasi Sistem Pengadilan Alaska dan pemimpin proyek AVA, kepada NBC News. "Kami ingin meniru apa yang dapat dibagikan oleh fasilitator manusia kami di pusat swadaya dengan orang-orang. Tetapi kami tidak yakin bahwa bot dapat bekerja dengan cara itu, karena masalah dengan beberapa ketidakakuratan dan beberapa ketidaklengkapan." "Sangat padat karya untuk melakukan ini," tambah Marz, terlepas dari "semua desas-desus tentang AI generatif, dan semua orang mengatakan ini akan merevolusi swadaya dan mendemokratisasi akses ke pengadilan."