Hệ thống Tòa án cho biết Hệ thống AI ảo đang ảo giác đã sẵn sàng để được triển khai sau khi giảm kỳ vọng một cách đáng kể | Frank Landymore, Futurism Việc sử dụng AI trong lĩnh vực pháp lý là món quà không ngừng mang lại. Lần này, đó là cảm giác thất vọng nghiêm trọng đã xuất hiện sau khi một nhóm xây dựng một chatbot AI cho hệ thống tòa án Alaska thực sự đã thử nghiệm nó và phát hiện ra rằng nó là một thảm họa ảo giác, NBC News đưa tin. Chatbot, được gọi là Trợ lý Ảo Alaska, được thiết kế để giúp mọi người xử lý các biểu mẫu và các thủ tục khác liên quan đến di sản, quá trình pháp lý chuyển nhượng tài sản của một người sau khi họ qua đời. Trong một diễn biến dễ đoán, thay vì đơn giản hóa một quy trình đã gây đau đầu cho những người có thể đang đau buồn vì mất mát của người thân, AI đã làm sai các câu hỏi đơn giản và để lại hầu hết người dùng cảm thấy khó chịu hơn là được hỗ trợ. Thể hiện một sự thất bại vốn có của tất cả các mô hình ngôn ngữ lớn, trợ lý ảo được kính trọng đã liên tục ảo giác, hoặc tạo ra sự thật và chia sẻ thông tin phóng đại, theo những người tham gia phát triển nó. "Chúng tôi đã gặp khó khăn với các ảo giác, bất kể mô hình nào, nơi mà chatbot không nên thực sự sử dụng bất cứ điều gì ngoài cơ sở kiến thức của nó," Aubrie Souza, một tư vấn viên của Trung tâm Quốc gia về Tòa án Bang (NCSC), nói với NBC News. "Ví dụ, khi chúng tôi hỏi nó, 'Tôi lấy sự trợ giúp pháp lý ở đâu?' nó sẽ nói với bạn, 'Có một trường luật ở Alaska, vì vậy hãy xem mạng lưới cựu sinh viên.' Nhưng không có trường luật nào ở Alaska." Và thay vì thấy nó hữu ích, hầu hết mọi người đã thử nghiệm nó thấy nó cực kỳ khó chịu. Bot, không có gì ngạc nhiên, đã mắc phải cùng một khuyết điểm mà hầu hết các chatbot gặp phải: quá nịnh bợ và ngọt ngào, giả vờ đồng cảm và làm phiền bạn bằng những lời xã giao thay vì chỉ đi thẳng vào vấn đề. "Thông qua việc thử nghiệm người dùng của chúng tôi, mọi người đều nói, 'Tôi mệt mỏi với việc mọi người trong cuộc sống của tôi nói rằng họ xin lỗi vì sự mất mát của tôi,'" Souza nói. "Vì vậy, chúng tôi đã loại bỏ những loại lời chia buồn đó, vì từ một chatbot AI, bạn không cần thêm một cái nữa." Được xây dựng trong sự hợp tác với Tom Martin, một luật sư điều hành một công ty gọi là LawDroid chuyên sản xuất các công cụ pháp lý AI, AVA AI đã bị mắc kẹt trong địa ngục phát triển hơn một năm nay, khi nó "đáng lẽ là một dự án ba tháng," theo Souza. Sau khi giảm kỳ vọng của họ — và chắc chắn là đã khắc phục những khuyết điểm khủng khiếp của nó — nhóm AVA cho biết cuối cùng nó đã sẵn sàng cho một buổi ra mắt công khai vào cuối tháng Giêng. "Chúng tôi đã điều chỉnh mục tiêu của mình cho dự án này một chút," Stacey Marz, giám đốc hành chính của Hệ thống Tòa án Alaska và là một lãnh đạo dự án AVA, nói với NBC News. "Chúng tôi muốn tái tạo những gì mà các nhân viên hỗ trợ của chúng tôi tại trung tâm tự giúp đỡ có thể chia sẻ với mọi người. Nhưng chúng tôi không tự tin rằng các bot có thể hoạt động theo cách đó, vì những vấn đề với một số thông tin không chính xác và một số thiếu sót." "Nó thực sự rất tốn công sức để làm điều này," Marz nói thêm, mặc dù "tất cả những tiếng vang về AI sinh tạo, và mọi người nói rằng điều này sẽ cách mạng hóa việc tự giúp đỡ và dân chủ hóa quyền truy cập vào các tòa án."