Суды в Буэнос-Айресе выносят приговоры с помощью ChatGPT

В мае прокуратура города Буэнос-Айрес впервые применила генеративный искусственный интеллект, чтобы прогнозировать судебные постановления в рамках некоторых разбирательств по искам о невыплате заработной платы.   

Позднее департамент по рассмотрению административно-тяжебных и налоговых вопросов города Буэнос-Айрес загрузил материалы дела в ChatGPT, который отследил в них паттерны, предложил предварительную классификацию по каталогу шаблонов и сгенерировал решение. На данный момент с помощью ChatGPT вынесено 20 приговоров.

Согласно недавним исследованиям, проведенным в департаменте, использование генеративного искусственного интеллекта сократило время, необходимое для составления приговора, с одного часа до десяти минут.

Как сказал заместитель генерального прокурора по административным и налоговым вопросам Хуан Корвалан: «Мы, профессионалы, больше не главные герои истории. Мы стали ее редакторами».

Внедрение инструментов генеративного ИИ повысило продуктивность департамента. Однако теперь как представители судебной системы, так и независимые эксперты в области права озабочены возможной предвзятостью в судебном процессе, проблемами с использованием персональных данных, а также галлюцинациями искусственного интеллекта. Подобными вопросами задаются и далеко за пределами Аргентины.

Юрист Лукас Баррейро, специализирующийся на защите персональных данных и член гражданской ассоциации Privaia, занимающейся защитой прав человека в цифровую эпоху, поделился своим мнением с Rest of World: «Любое неправомерное использование, как например распространение конфиденциальной информации может повлечь за собой большие судебные издержки».

Юристы из США отнеслись к использованию генеративного ИИ в суде скептически. Федеральный судья округа Манхэттен Эдгардо Рамос сказал, что ChatGPT показал себя ненадежным средством. В Колумбии и Нидерландах специалисты раскритиковали использование ChatGPT в суде. Но не все юристы обеспокоены. Так, судья Апелляционного суда в Великобритании, который использовал ChatGPT, чтобы написать часть приговора, назвал его «весьма полезным».

По мнению Карвалана, переход к использованию генеративного искусственного интеллекта — это кульминация изменений, которые в течение многих лет претерпевала генеральная прокуратура Буэнос-Айреса. В 2017 году он собрал группу разработчиков, чтобы обучить систему на основе искусственного интеллекта PROMETEA. Она должна была автоматизировать юридические задачи и ускорить процесс рассмотрения дел. Группа использовала более 300 тысяч постановлений и материалов дел по страхованию жилья, премированию госслужащих, взысканию неоплаченных штрафов и отказам в выдаче лицензий на такси лицам с судимостью.

Дела были похожи между собой и  вердикты были стандартными. Сотрудникам по-прежнему приходилось проверять приговоры, которые выносила программа. Вскоре производительность выросла почти на 300%, и теперь юристы  могли обрабатывать около 490 дел в месяц по сравнению с прежними 130.

Как поясняет Корвалан, цели заменить человека не стояло. Всегда есть проверяющий. Это скорее способ переосмыслить работу.

Согласно отчету городской прокуратуры, PROMETEA может предсказывать исход дела с точностью 90% менее чем за 20 секунд. Внедрение PROMETEA стало поворотным моментом, говорит Мелиса Рабан, секретарь заместителя генерального прокурора по административно-тяжебным и налоговым вопросам.

Однако за эффективность программы пришлось заплатить: каждая новая категория преступлений, для которой задействовали PROMETEA, требовала дальнейшего обучения модели и разработки алгоритмов. В начале этого года Корвалан начал поэтапно отказываться от PROMETEA в пользу ChatGPT. 20 постановлений, подготовленные с помощью последнего, были рассмотрены адвокатом и утверждены заместителем прокурора. В настоящее время судебные органы расширяют использование программы на другие подразделения, включая отдел закупок, который занимается рассмотрением жалоб граждан.

«Цель проекта в том, чтобы сделать генеративный ИИ доступным», — подчеркивает при разговоре с Rest of World София Таммаро, служащая офиса заместителя генерального прокурора и ведущий разработчик проекта. Для Аргентины, которая отстает от развитых стран в доступе к передовым технологическим достижениям, — это большой шаг.

Эксперты опасаются, что у многих пользователей нет необходимой подготовки и цифровой грамотности, чтобы пользоваться стремительно меняющейся технологией, и это может стать причиной предвзятого отношения к мало представленным группам населения, а также других проблем.

«Хотя одни из них удастся предотвратить, появятся иные, потому что разработчики исходят из субъективных оценок, и это отражается в устройстве модели», — говорит Баррейро.

Команда Корвалана пытается снизить некоторые из рисков, возникающих при использовании искусственного интеллекта, в том числе опасность кражи данных и хакерских атак. «Мы все еще работаем над обезличиванием конфиденциальных данных, получаемых при анализе дел», — отмечает Таммаро.

Галлюцинации искусственного интеллекта также могут представлять значительные юридические риски. По данным исследования, проведенного в 2024 году в Стэнфорде, случаи, когда системы искусственного интеллекта выдают ложную или неактуальную информацию, составляют около 17% от общего числа при использовании генеративного искусственного интеллекта для юридических целей. По мнению Корвалана, уменьшить эти риски можно только путем использования программ с меньшей погрешностью, таких как PROMETEA, для дел с конфиденциальной информацией, в том числе связанных с гендерным и домашним насилием.

«PROMETEA прочно закрепилась в нашей работе. Ее отпечаток уже никогда не сотрется, — признается Роберто Бетанкур, директор по информационным технологиям и модернизации прокуратуры Буэнос-Айреса. — Она помогла нам понять механику принятия судебных решений».

На данный момент PROMETEA используется для вынесения приговоров в делах о государственных служащих, а также поиска и обработки запросов в интернете, которые включают сексуальное насилие или насилие над детьми. Со временем ее использование, скорее всего, сократится.

«PROMETEA словно блокбастер в мире, где набирает обороты Netflix. Подобные изменения происходят по всему миру», — резюмирует Корвалан.

По материалам The Rest of World
Автор: Виктория Мендицабал

Переводила: Александра Листьева
Редактировала: Елизавета Яковлева