Почему ИИ не придумывает номера дел — и как это устроено
Юристы, которые впервые слышат про ИИ-агентов в правовых системах, обычно задают один вопрос: а он не будет выдумывать дела? Нормальный вопрос. Языковые модели известны тем, что уверенно называют несуществующие реквизиты.
Вот как эта проблема решена в Легале — и где она всё равно остаётся.
Что происходит, когда агент находит практику
Агент работает с текстом. Он читает документы, выделяет релевантные фрагменты, формулирует ответ. И в этом тексте может встретиться номер дела — или то, что на него похоже.
Проблема в том, что языковая модель воспринимает номер как последовательность символов и вполне способна его переиначить: переставить цифры, добавить лишний разряд, объединить два номера в один. Не со злого умысла — просто так работает генерация текста. Получается телефонный испорченный с одним участником: номер зашёл в модель одним, вышел другим.
Чтобы этого не происходило, в Легале выстроена дополнительная петля проверки. Как только агент находит практику и называет номер дела, система тут же делает независимый запрос в картотеку — по тому же номеру. Не доверяет тексту агента, а идёт проверять сама.
Что происходит, если дело не нашлось
Если картотека не вернула результат — номер в ответ не попадает. Список дел платформа печатает напрямую из проверенных полей, а не из того, что написал агент.
Это означает одно: если номер в ответе есть — он прошёл проверку. Если его нет — значит, проверка не прошла, и платформа предпочла промолчать.
Агент не достраивает правдоподобный номер вместо ненайденного. Он говорит «не нашлось» — и на этом останавливается. Скучно, зато не вводит в заблуждение.
Где проверка не работает
Честная часть, которую стоит знать до того, как полагаться на систему.
Кодексов в корпусе нет. По судам общей юрисдикции проверка срабатывает примерно в половине случаев. По кассации не работает вовсе.
Это не замалчиваемый недостаток — это текущее состояние системы. Там, где проверка не предусмотрена или не срабатывает, агент скажет, что практики не нашлось. Он не заполнит пробел выдуманным делом.
Что это значит на практике
Подход простой: лучше получить пустой результат там, где данных нет, чем красивый, но ненадёжный там, где они есть.
Для юриста это означает следующее: если система вернула дело с номером — можно идти проверять его самостоятельно, зная, что номер не перекручен по дороге. Если система ничего не вернула по конкретному суду или инстанции — это сигнал, что здесь нужен другой источник, а не повод доверять тому, что придумает модель.