СВЕГА-Компьютер

Ошибка чат-бота стоила карьеры юристу

Использование ChatGPT в юриспруденции привело к краху адвокатской карьеры

По сообщениям The New York Times, в рамках судебного процесса против колумбийской авиакомпании Avianca, юрист исца Стивен А. Шварц в качестве доказательств привел 15-ти страничный документ, со ссылками на цитаты экспертов и отсылками на аналогичные судебные заседания. После того, как адвокат противной стороны указал на несуществующие дела, окружной судья США Кевин Кастель подтвердил: «Шесть из представленных дел, похоже, являются фиктивными судебными решениями с фиктивными цитатами и фиктивными внутренними ссылками», и назначил слушание, на котором он рассмотрит вопрос о санкциях для адвокатов истца.
В письменном заявлении под присягой адвокат Шварц признал , что использовал чат-бота OpenAI для своих исследований. Чтобы проверить дела, он сделал единственную разумную вещь: спросил чатбота, не лжет ли он. Когда он попросил указать источник, ChatGPT извинился за путаницу и заявил, что дело настоящее, сказав, что его можно найти в справочно-правовых системах Westlaw и LexisNexis. Удовлетворенный, он спросил, были ли другие дела поддельными, и ChatGPT утверждал, что все они были настоящими.

<

Но, как оказалось, чат-бот просто выдумал реалистичные, но несуществующие данные. Юрист отметил, что «не знал о возможности того, что чат-бот может генерировать ложный контент». Теперь он «очень сожалеет о том, что использовал генеративный искусственный интеллект для дополнения своего юридического исследования и никогда не будет делать этого в будущем без абсолютной проверки его подлинности».
По итогам этого дела Шварц лишён допуска к юридической практике в Южном округе Нью-Йорка. Случившееся ещё раз подчёркивает абсурдность использования чат-ботов для исследований без двойной (или тройной) проверки их источников где-нибудь в другом месте. Дебют Bing от Microsoft теперь печально известен тем, что ассоциируется с откровенной ложью и эмоциональными манипуляциями. Bard, ИИ чат-бот от Google, в своей первой демонстрации выдумал факт о космическом телескопе Джеймса Уэбба.