Галлюцинации ChatGPT в суде: почему для поиска судебной практики нужен юридический ИИ

Арбитражный суд Западно-Сибирского округа по делу А27-7831/2025 оштрафовал Ответчика на 50 000 рублей.

За что? За судебную практику в кассационной жалобе, которой не существует. Вообще. В природе.

Представитель Ответчика сослался на постановления Президиума ВАС, определения Верховного суда, акты окружных судов — с реквизитами, датами и прямыми цитатами. Суд округа всё это проверил. И не нашёл. Ни одного из ключевых актов не оказалось в КАД, в банках решений, нигде. Некоторые номера дел существуют, но относятся к совершенно другим спорам. Цитаты, которые якобы «прямо подтверждали» позицию заявителя — тоже выдуманные.

Когда суд назначил заседание по этому вопросу, новый представитель пришёл и сказал: «Да, этой практики не существует». Практически признал фабрикацию.

Суд на это отреагировал примерно так (цитирую определение):

«Умышленные действия общества направлены на дискредитацию авторитета судебной власти»

Представляю этого юриста за ноутбуком. Копирует ответ нейросети, думает: «Ух, сейчас дискредитирую». Вряд ли. Просто забил на проверку.

Вот в чём проблема с ChatGPT и похожими инструментами в юридическом контексте.

Не в том, что они плохие. В том, что они генеративные.

ChatGPT не ходит в КАД. Он не открывает картотеку арбитражных дел, не читает тексты постановлений, не сверяет реквизиты. Он генерирует текст, который выглядит как судебная практика. Убедительно оформленный, с номерами, датами, округами и красивыми цитатами — всё это может быть полной выдумкой, и модель об этом не предупредит.

Это не баг. Это архитектура.

Такие модели обучены предсказывать следующий токен на основе огромного массива текстов. Когда вы спрашиваете «приведи практику Верховного суда по такому-то вопросу» — модель делает именно то, что умеет: генерирует убедительный ответ. Не ищет. Именно генерирует.

И вот юрист, который либо не понял этого, либо понял, но понадеялся на «авось», направил кассационную жалобу с не существующей практикой. Суд это выявил. 50 000 рублей штрафа, отдельное определение, публичный разбор полетов и прямое указание: использование ИИ не снимает с вас ответственности за достоверность текста.

Это не значит, что ИИ в праве — зло. Это значит, что инструмент должен соответствовать задаче.

Молоток — хороший инструмент. Но не для операций на сердце.

А теперь к другой истории — о том, как бывает, когда правильным инструментом пользуется человек, который понимает, что делает.

Что происходит, когда инструмент создан именно для этого

ExplainLaw — это не ChatGPT с юридическим промптом.

Разница принципиальная.

ExplainLaw строился командой, которая с самого начала споткнулась ровно на той же проблеме — галлюцинации. Первый прототип уверенно выдавал несуществующие нормы, ссылался на отмененные законы и генерировал ответы, которые звучали профессионально, но были невалидны. Это был бесконечный цикл: патч → тесты → ошибки → анализ → патч.

Именно поэтому продукт строился на RAG-архитектуре — подходе, при котором модель не придумывает, а ищет в реальной базе данных, а потом формулирует ответ на основе найденного. Это технически другой процесс. Не «угадать похожий текст», а «найти реальный документ и объяснить его».

Судебная практика в ExplainLaw — не галлюцинация. Это поиск по базе с прямыми ссылками на источники. Ответ всегда подкреплен конкретными статьями, пунктами НПА, реальными делами — которые можно открыть и проверить.

Именно это и является ключевым отличием от «спросить у ChatGPT»: вы получаете не красивый текст, а верифицируемую информацию.

Юристы пользовались ChatGPT и будут пользоваться. Проблема не в этом. Проблема в том, что инструмент общего назначения применяется там, где нужна верификация, а не генерация.

Если вам нужно написать письмо контрагенту — ChatGPT справится. Если вам нужно найти реальную судебную практику и на ее основе написать процессуальный документ — нет.

Для второго есть ExplainLaw. Это инструмент, заточенный под правовое поле, с поиском по реальным источникам.

Разница между ними примерно как между «погуглить симптомы» и «сходить к врачу». Оба варианта существуют. Только один из них не будет при первой возможности говорить, что вы при смерти.