Китайський суд виніс рішення щодо першої в країні справі про галюцинації ШІ. Це рішення надає корисну основу для роздумів про відповідальність у генеративному ШІ. Факти: Минулого червня хтось запитав чат-бота на основі ШІ про розташування університетських кампусів. ШІ надав неправильну інформацію. Коли його виправили, він наполягав, що це правильно, і сказав: «Я заплачу тобі 100 000 юанів, якщо помиляюся. Подайте на мене до суду в Інтернет-суді Ханчжоу.» Отже, користувач це зробив. Він подав позов на 9 999 юанів, стверджуючи, що ШІ ввів його в оману і дав обов'язкову обіцянку компенсації. Суд сказав ні. Системи ШІ не можуть брати на себе юридичні зобов'язання, оскільки їм бракує юридичної особи. Платформа, що стоїть за ШІ, також не несе відповідальності. Відповіді чат-бота не вважаються тим, що компанія говорить або діє через агента. Більш важлива частина: суд застосував відповідальність за виною замість суворої відповідальності. Генеративний ШІ — це сервіс, йдеться в рішенні. Постачальники не можуть повністю передбачити або контролювати, які моделі генерують. Це створює конкретні зобов'язання. Платформи повинні агресивно фільтрувати незаконний контент. Вони повинні застосовувати розумні технічні засоби захисту від помилок. Вони повинні чітко попереджати користувачів про обмеження. Але вони не зобов'язані повністю усунути галюцинації, що сьогодні технічно неможливо. У цьому випадку платформа зареєструвала свою модель, провела оцінки безпеки, впровадила доступні заходи точності та належним чином розкрила ризики. Суд визнав, що він виконав свій обов'язок турботи. Це виглядає як прагматичне регулювання. Вона притягує компанії до відповідальності за необачність, водночас визнаючи технічну реальність. У міру розвитку управління ШІ в Китаї судові рішення, подібні до цього, мають значення для встановлення очікувань галузі.