Искусственный интеллект в судебной практике: риски «галлюцинаций» и процессуальные дефекты в контексте обеспечения законности правосудия
Прецедент, возникший в федеральном суде штата Акри (Бразилия), где в отношении судьи Джефферсона Родригеса инициирована проверка в связи с использованием генеративного искусственного интеллекта (ChatGPT) при подготовке судебного акта, ставит перед юридическим сообществом фундаментальный вопрос о границах автоматизации правосудия. Обнаружение юридических ошибок, основанных на ложных ссылках на судебную практику и мифические решения Высшего суда, выявило критическую уязвимость правовых систем перед лицом бесконтрольного внедрения LLM-моделей.
С точки зрения российского процессуального права, в частности АПК РФ и ГПК РФ, подобная ситуация рассматривалась бы как фундаментальное нарушение принципа непосредственности судебного разбирательства и требований к мотивированности судебного решения.
Дефекты доказательственной базы и «галлюцинации» алгоритмов
Суть инцидента заключается в том, что постановление содержало некорректные ссылки на прецеденты, которые фактически не существовали или имели иное содержание. В юридической науке это явление получило название «галлюцинаций» ИИ. Для сторон процесса это означает появление в деле порочных доказательств и выводов, не соответствующих фактическим обстоятельствам дела.
В контексте ст. 170 АПК РФ, судебное решение должно быть обоснованным и законным. Использование ИИ без надлежащей верификации (вычитки) приводит к тому, что суд игнорирует свою обязанность по самостоятельной правовой квалификации отношений. Судья Родригес сослался на «неадекватную рабочую нагрузку», однако процессуальный закон не рассматривает высокую загруженность как основание для делегирования исключительных полномочий суда программному обеспечению, находящемуся в открытом доступе.
Процессуальная коллизия и риски для бизнеса
Отсутствие в Бразилии (как и во многих других юрисдикциях, включая РФ) четких законодательных норм и регламентов по использованию ИИ в судах создает ситуацию правового диссонанса. С одной стороны, технологии могут ускорить рутинные операции, с другой — они размывают персональную ответственность судьи за принятое решение.
Для бизнеса риски кратно возрастают:
- Институциональное противоречие: решение может основываться на логике алгоритма, который не учитывает актуальные изменения в законодательстве или специфику конкретного корпоративного спора.
- Дефект правовой логики: ИИ оперирует вероятностями, а не правовыми категориями, что ведет к искажению сути правовых институтов.
- Уязвимость в апелляции: обнаружение «машинных» ошибок в тексте решения является безусловным основанием для оспаривания акта как не соответствующего требованиям о законности и обоснованности.
Выводы и рекомендации для защиты активов
Случай судьи Родригеса подтверждает: судебная система входит в эру технологических рисков. Национальный совет юстиции Бразилии справедливо указывает на отсутствие регламентации, что делает стороны процесса заложниками эксперимента.
Практический совет бизнесу:
При получении судебного акта необходимо проводить глубокий юридический аудит каждой цитаты и ссылки на практику, приведенной судом. В случае обнаружения признаков «машинного творчества» или некорректных прецедентов, необходимо немедленно инициировать процедуру обжалования, ссылаясь на нарушение норм процессуального права в части требований к содержанию решения.
