Mahkeme sistemi, beklentileri dramatik şekilde düşürdükten sonra halüsinasyon gören yapay zeka sisteminin kullanıma hazır olduğunu söylüyor | Frank Landymore, Gelecekçilik Yapay zekanın hukuki alandaki kullanımı, vermeye devam eden bir armağandır. Bu kez, Alaska'nın mahkeme sistemi için bir yapay zeka sohbet robotu geliştiren bir ekibin bunu test edip halüsinasyon halüsinasyonlu bir felaket olduğunu öğrendikten sonra ortaya çıkan ciddi hayal kırıklığı hissi, NBC News bildiriyor. Alaska Sanal Asistan olarak adlandırılan bu sohbet botu, insanların ölümünden sonra eşyalarının transferi olan vasiyetnameyle ilgili formları ve diğer prosedürleri yönetmelerine yardımcı olmak için tasarlandı. Tahmin edilebilir bir gelişme olarak, muhtemelen sevdiklerini kaybeden insanlara zaten baş ağrısı veren süreci kolaylaştırmak yerine, yapay zeka basit soruları berbat etti ve çoğu kullanıcıyı desteklenmekten çok rahatsız etti. Tüm büyük dil modellerinde doğasında olan bir başarısızlık gösteren saygın sanal asistan, geliştirme sürecinde yer alan kişilere göre halüsinasyonlar görmeye ya da gerçekler uydurmaya ve abartılı bilgiler paylaşmaya devam etti. "Model ne olursa olsun, chatbotun bilgi tabanı dışında hiçbir şey kullanmaması gerektiğinde halüsinasyonlarla ilgili sorunlarımız vardı," dedi Ulusal Eyalet Mahkemeleri Merkezi (NCSC) danışmanı Aubrie Souza, NBC News'e. "Örneğin, 'Hukuki yardımı nereden alırım?' diye sorduğumuzda, 'Alaska'da bir hukuk fakültesi var, Ve o yüzden mezunlar ağına bakın.' Ama Alaska'da bir hukuk fakültesi yok." Ve faydalı bulmaktan çok, test edenlerin çoğu inanılmaz derecede sinir bozucu buldu. Bot, şaşırtıcı olmayan şekilde, çoğu chatbotu etkileyen aynı karakter kusurundan muzdarip oldu: fazla alçak ve tutkulu, empati numarası yapıyor ve işe koymak yerine size nezaket sunuyordu. "Kullanıcı testlerimiz sırasında herkes, 'Hayatımdaki herkesin kaybım için üzgün olduğunu söylemesinden yoruldum," dedi Souza. "Bu yüzden temelde bu tür taziyeleri kaldırdık, çünkü bir yapay zeka sohbet botundan bir taziye daha gerek yok." Yapay zeka hukuki araçları üreten LawDroid adlı bir şirketi yöneten avukat Tom Martin ile iş birliği içinde inşa edilen AVA AI, Souza'ya göre "üç aylık bir proje olması gerekiyordu" oysa bir yıldan fazla süredir geliştirme cehenneminde sıkışıp kaldı. Beklentilerini düşürdükten ve kesinlikle korkunç kusurlarını düzelttikten sonra AVA'nın ekibi, nihayet Ocak ayı sonunda halka açık lansmana hazır olduğunu söylüyor. "Bu projedeki hedeflerimizi biraz değiştirdik," dedi Alaska Mahkeme Sistemi'nin idari direktörü ve AVA proje lideri Stacey Marz, NBC News'e. "Kendi kendine yardım merkezindeki insan kolaylaştırıcılarımızın insanlarla paylaşabileceği şeyleri tekrar etmek istedik. Ama botların bu şekilde çalışabileceğinden emin değiliz, çünkü bazı yanlışlıklar ve eksiklik sorunları var." "Bunu yapmak çok fazla emek gerektirdi," diye ekledi Marz, "üretken yapay zeka hakkındaki tüm söylentilere ve herkesin bunun kendi kendine yardım etmeyi devrim niteliğinde değiştireceğini ve mahkemelere erişimi demokratikleştireceğini söylemesine rağmen."