Нейросеть ускоряет юриста. Но кто проверит юриста?
Первый российский штраф за выдуманную нейросетью практику — не история про опасность ИИ. Это история про юриста, который перестал читать собственный документ.
В мае Арбитражный суд Западно-Сибирского округа оштрафовал компанию на 50 000 рублей за кассационную жалобу со ссылками на несуществующие акты. Новость разошлась с заголовками про «нейросеть, которая подвела». Мне кажется, заголовки неточны. Нейросеть никого не подвела: она сделала ровно то, что умеет, — написала правдоподобный текст. Подвёл человек, который этот текст подписал и отправил в суд, не открыв ни одного из процитированных актов.
Инструмент не несёт ответственности
Суд сформулировал это просто: ответственность за достоверность сгенерированного текста несёт тот, кто использовал технологию. Пленум Верховного Суда в мае добавил процессуальную сторону: о сведениях, полученных с помощью ИИ, суду нужно сообщать. По сути, ничего нового в этих позициях нет. Юрист всегда отвечал за документ, под которым стоит его подпись, — независимо от того, кто готовил черновик: помощник, стажёр или шаблон из справочной системы.
Новое другое. Раньше плохой черновик выглядел как плохой черновик: неуклюжие формулировки, пропуски, очевидные ошибки. Черновик от нейросети выглядит как готовый документ. Он гладкий, уверенный, со ссылками и цитатами. Именно эта гладкость и опасна: она усыпляет внимание того, кто проверяет.
Проверка — это и есть работа
Когда говорят, что ИИ экономит юристу время, обычно подразумевают, что время освобождается целиком. На деле экономится время на наборе текста, структурировании, поиске формулировок. Время на проверку не экономится — а для документов, подготовленных с ИИ, его нужно закладывать отдельно и честно.
Я для себя сформулировал правило, которое кажется очевидным, но которое, судя по практике, соблюдается не всегда: ни одна ссылка на норму или судебный акт не попадает в документ, пока я не увидел этот акт в официальном источнике сам. Не «модель уверена», не «похоже на правду», не «коллега так уже писал» — а открытый текст документа.
Что будет дальше
Верховный Суд утвердил концепцию внедрения ИИ в судопроизводство, и один из её элементов — автоматическая проверка ссылок. Значит, скоро выдуманный акт будет обнаруживать не внимательный судья, а система, причём в каждом документе. Время, когда небрежность могла остаться незамеченной, заканчивается.
По-моему, это хорошая новость. ИИ действительно делает юриста быстрее. Но скорость ценна, только если результат можно подписать без стыда. Нейросеть может подготовить черновик. Отвечать за документ по-прежнему будем мы.