Судебная система заявляет, что галлюцинирующая ИИ-система готова к развертыванию после резкого снижения ожиданий | Фрэнк Лэндимор, Futurism Использование ИИ в юридической сфере — это подарок, который продолжает дарить. На этот раз это трезвое чувство разочарования, которое возникло после того, как команда, создающая ИИ-чат-бота для судебной системы Аляски, на самом деле протестировала его и обнаружила, что это галлюцинирующий провал, сообщает NBC News. Чат-бот, названный Аляскинским виртуальным помощником, был разработан, чтобы помочь людям справляться с формами и другими процедурами, связанными с наследством, юридическим процессом передачи имущества человека после его смерти. В предсказуемом повороте событий, вместо того чтобы упростить уже вызывающий головную боль процесс, который затрагивает людей, вероятно, скорбящих о потере близкого, ИИ запутался в простых вопросах и оставил большинство пользователей чувствовать себя раздраженными, а не поддержанными. Проявляя неудачу, присущую всем крупным языковым моделям, уважаемый виртуальный помощник продолжал галлюцинировать, то есть выдумывать факты и делиться преувеличенной информацией, согласно словам людей, участвовавших в его разработке. «У нас были проблемы с галлюцинациями, независимо от модели, когда чат-бот не должен был использовать ничего, кроме своей базы знаний», — сказала Обри Соуза, консультант Национального центра судебных органов (NCSC), в интервью NBC News. «Например, когда мы спрашивали его: «Где я могу получить юридическую помощь?», он отвечал: «В Аляске есть юридическая школа, так что посмотрите на сеть выпускников». Но в Аляске нет юридической школы.» И вместо того, чтобы находить его полезным, большинство людей, которые его тестировали, нашли его невероятно раздражающим. Бот, как ни странно, страдал от той же характерной недостатка, что и большинство чат-ботов: он был слишком льстивым и приторным, притворяясь сочувствующим и засыпая вас любезностями вместо того, чтобы просто перейти к делу. «В ходе нашего тестирования пользователи все говорили: «Мне надоело, что все в моей жизни говорят мне, что им жаль мою утрату», — сказала Соуза. «Поэтому мы в основном убрали такие соболезнования, потому что от ИИ-чат-бота вам не нужно еще одно.» Созданный в сотрудничестве с Томом Мартином, юристом, который управляет компанией под названием LawDroid, производящей ИИ-юридические инструменты, ИИ AVA застрял в адском процессе разработки более года, когда он «должен был быть трехмесячным проектом», по словам Соуза. После снижения своих ожиданий — и, безусловно, исправления его ужасных недостатков — команда AVA заявляет, что он наконец готов к публичному запуску в конце января. «Мы немного изменили наши цели по этому проекту», — сказала Стейси Марз, административный директор судебной системы Аляски и руководитель проекта AVA, в интервью NBC News. «Мы хотели воспроизвести то, что наши человеческие помощники в центре самопомощи могут поделиться с людьми. Но мы не уверены, что боты могут работать в этом ключе, из-за проблем с некоторыми неточностями и неполнотой.» «Это было так трудоемко сделать», — добавила Марз, несмотря на «весь шум вокруг генеративного ИИ и все, кто говорит, что это революционизирует самопомощь и демократизирует доступ к судам.»