Издатели начали прогонять книги через ИИ в поисках запретных тем

В крупнейших российских издательских группах начали использовать многоступенчатые ИИ-системы для поиска в книгах тем, которые могут вызвать претензии по действующему законодательству. Речь идёт не только о новых текстах, но и о многолетнем ассортименте, который приходится заново пересматривать на предмет наркотиков, «чайлдфри», запрещённых организаций, экстремизма и других формулировок риска.


Повод для этой истории дал рассказ представителей «Эксмо-АСТ», озвученный в комментарии СМИ. По словам представителей издательства, группа потратила «огромные средства» на борьбу с тем, что может быть признано нарушением российского законодательства, и выстроила многоступенчатую систему проверки текстов с помощью ИИ. Полностью независимо проверить внутреннюю архитектуру этой системы невозможно, но сам контекст, в котором она возникла, более чем реален: с 2025 года книжный рынок живёт в режиме постоянных изъятий, отзывов и перепроверок ассортимента.

Если верить описанию издателей, на первом этапе текст делится на фрагменты и раздаётся нескольким агентам первого уровня. Один ищет сексуализированный контент, другой — упоминания наркотиков, третий — признаки экстремизма, нацизма и других правовых рисков. На этой стадии система специально допускает избыточную подозрительность и фиксирует почти всё, что хотя бы отдалённо может сработать как тревожный маркер. Поэтому в список риска попадают и заведомо спорные случаи, где одно слово может означать и литературный образ, и потенциальную проблему.

Дальше, по этой логике, включается второй слой — агент, который уже смотрит на контекст и отсеивает очевидные ложные срабатывания. Затем идёт ещё один этап, где система пытается не просто найти фрагмент, а классифицировать его: это прямое нарушение, зона риска или лишь упоминание, для которого достаточно возрастной маркировки. Всё, что выглядит хотя бы немного опасным, уходит живому редактору или юристу.

Сам по себе такой подход не выглядит фантастикой. Именно так сегодня и строят прикладные ИИ-системы в чувствительных сферах: не один «умный бот», а набор специализированных агентов, которые работают по каскадной модели и снижают шум на каждом уровне. Новость здесь не в том, что технология это позволяет. Новость в том, что книжный рынок России, по сути, начал применять подобную модель к литературе как к объекту потенциального правового риска.

Именно поэтому история выглядит важнее, чем частная техподробность про агентов и парсинг государственных реестров. Книга в этой логике перестаёт быть просто текстом, который редактор читает ради смысла, стиля и качества. Она превращается в юридически чувствительный массив фрагментов, который сначала проходит через машину на предмет уязвимых слов, сочетаний и контекстов. И уже только потом снова становится литературой.

Такой разворот напрямую связан с тем, что происходило на рынке в последние полтора года. Из продажи снимали художественные и нон-фикшн книги из-за тем ЛГБТ*, упоминаний наркотиков, связи авторов или переводчиков с реестрами иноагентов, нежелательных организаций и других оснований, которые ещё недавно не считались критическим коммерческим риском. Для больших издательств это уже не вопрос вкуса или идеологии, а вопрос выживания в среде, где одна пропущенная формулировка может обернуться отзывом тиража, проверкой или претензиями к сети и дистрибьютору.

Отсюда и новая экономика редакторской работы. Раньше издательство тратило деньги на поиск сильного текста, продвижение и тираж. Теперь к этому добавляются затраты на постоянный юридический мониторинг, автоматическую сверку с реестрами, перенастройку правил и перепроверку каталога за десятилетия. ИИ здесь нужен не потому, что редакторов стало жалко, а потому, что объём ручной работы уже перестал быть подъемным.

При этом возникает и более неприятный эффект. Машина, даже хорошо настроенная, по определению работает на опережение риска. Она обучена не понимать литературу, а замечать потенциально опасные совпадения. Это значит, что чем шире становится зона правовой тревоги, тем сильнее сама система подталкивает рынок к превентивной осторожности — ещё до того, как текст попадёт к живому человеку.

ИЗНАНКА

Самое показательное в этой истории не технологичность, а смещение роли ИИ. Здесь нейросеть не помогает писать, переводить или редактировать лучше. Она помогает бояться точнее. И в этом смысле российский книжный рынок получил не просто новый инструмент, а новую форму внутреннего контроля, где машина нужна не для свободы текста, а для его ранней самообороны.

*ЛГБТ — организация признана экстремистской и запрещена на территории РФ.

Фото: ИЗНАНКА.

ИЗНАНКА — другая сторона событий