Bir Çin mahkemesi, ülkenin ilk yapay zeka halüsinasyonu davasında karar verdi. Bu karar, üretken yapay zekada sorumluluğu düşünmek için faydalı bir çerçeve sağlar. Gerçekler: Geçen Haziran'da, biri bir yapay zeka sohbet botuna üniversite kampüs konumları hakkında sordu. Yapay zeka yanlış bilgi verdi. Düzeltildiğinde, doğru olduğunu ısrarla belirtti ve "Yanılıyorsam sana 100.000 yuan öderim. Hangzhou İnternet Mahkemesi'nde beni dava edin." Böylece kullanıcı da yaptı. Yapay zekanın kendisini yanılttığını savunarak ve bağlayıcı bir tazminat sözü verdiği için 9.999 yuan dava açtı. Mahkeme hayır dedi. Yapay zeka sistemleri yasal taahhütlerde bulunamaz çünkü yasal kişilikten yoksundurlar. Yapay zekanın arkasındaki platform da sorumlu değil. Sohbet botubunun yanıtları, şirketin bir temsilci aracılığıyla konuşması veya hareket etmesi olarak sayılmaz. Daha önemli olan ise: Mahkeme, katı sorumluluk yerine kusura dayalı sorumluluk uyguladı. Yönetici Güç bir hizmet olarak kullanılıyor, hükümdar belirtiyor. Sağlayıcılar, hangi modellerin ürettiğini tam olarak öngöremez veya kontrol edemez. Bu da belirli yükümlülükler yaratır. Platformlar yasa dışı içerikleri agresif bir şekilde filtrelemek zorunda. Hatalara karşı makul teknik önlemler uygulamalıdırlar. Kullanıcıları sınırlamalar konusunda net bir şekilde uyarmalıdırlar. Ama halüsinasyonları tamamen ortadan kaldırmaları gerekmiyor, ki bu bugün teknik olarak mümkün değil. Bu durumda platform modelini kaydetmiş, güvenlik değerlendirmelerini tamamlamış, mevcut doğruluk ölçümlerini uygulamış ve riskleri doğru şekilde açıklamıştı. Mahkeme, özen sorumluluğunu yerine getirdiğine karar verdi. Bu pragmatik düzenleme gibi görünüyor. Şirketleri pervasızlıktan sorumlu tutarken teknik gerçeği kabul eder. Çin yapay zeka yönetimini geliştirirken, bu tür mahkeme kararları sektör beklentilerini belirlemekte önemlidir.