Что изменится в ChatGPT и как это затронет правила для взрослых

В медиа появились сообщения, что OpenAI рассматривает допуск эротического контента в ChatGPT. Формулировки и сроки в разных публикациях расходятся, официальные документы компания не раскрыла. Но сама тема уже взорвала дискуссию: где проходит граница допустимого для ИИ‑сервисов массового пользования и как защитить детей.


История началась с реплик Сэма Альтмана о расширении спектра контента и скором обновлении правил платформы. В интерпретациях СМИ это прозвучало как «включение эротики», хотя юридически важны детали: что именно будет считаться допустимым, как реализуют возрастные барьеры, где пройдут запреты на эксплуатационный и насильственный контент. На кону не просто политика модерации, а модель ответственности: чем больше сервис похож на «платформу для публикации», тем жёстче требования к фильтрам и учёту возраста.

Критики говорят об эксперименте на живых пользователях. Юристы и правозащитные организации напоминают: любая система 18+ без строгой верификации превращается в «дырявый забор». Детская защита в сети строится на связке технологий и процедур — возрастная проверка, отказ по умолчанию, отчётность провайдера перед регуляторами, прозрачные логи модерации. Здесь же возникает и вопрос трансграничности: ChatGPT работает сразу на десятках рынков с разными законами, а минимально допустимая планка задаётся самыми строгими юрисдикциями.

Регуляторный фон сгущается. Федеральная торговая комиссия США изучает риски взаимодействия чат‑ботов с несовершеннолетними; в Конгрессе обсуждают обновления COPPA и сценарии ответственности за рекомендации и «галлюцинации». В ЕС действует DSA: за системные провалы модерации крупная платформа рискует штрафами до 6% оборота, а при введении «взрослых» разделов придётся внедрять надёжные схемы верификации возраста и проводить независимые аудиты алгоритмов. Для Великобритании действует Online Safety Act с отдельными требованиями к «приоритетно вредоносному» контенту и защите детей.

Сторонники либерализации делают акцент на реальности спроса и прозрачности. Аргумент простой: контент 18+ существует на любых платформах, и понятные правила плюс возрастные шлюзы лучше, чем «серые зоны». Для разработчиков ИИ это ещё и вопрос безопасности: формальные запреты часто обходятся через переформулировки запросов, а продуманная политика даёт возможность честно обозначить «красные линии», закрыть незаконные и эксплуатационные темы, а для остального — ввести чёткие рамки этики и маркировки.

Техническая сторона скучна, но решающа. Возрастная проверка не сводится к чекбоксу «мне есть 18». Это многоступенчатая схема: привязка к платёжным инструментам, документы через сертифицированного провайдера, риск‑скоринг анонимных аккаунтов, родительские настройки. Сами модели обучаются и тестируются на «пограничных» кейсах; в проде нужны автоматические блоки высокорискованных тем (эксплуатация, насилие, вовлечение несовершеннолетних), трассируемость решений модерации и возможность внешнего аудита. Без этого любой «взрослый» сегмент обречён на репутационные аварии.

Ещё один слой — психология и маркетинг. Часть аудитории будет трактовать такой шаг как «гонку за трафиком», что бьёт по имиджу бренда ИИ как «безопасного помощника». Другие увидят в этом нормализацию взрослого сегмента, где давно работают эфирные площадки и магазины приложений. Равновесие здесь держится на прозрачности: нужно заранее объяснить, что будет запрещено всегда, что останется по запросу взрослых, как работает выход из «детского» режима, и кто персонально отвечает за отказы и инциденты.

На практике финальная конструкция, вероятно, окажется компромиссной. Даже при частичной либерализации платформы почти наверняка сохранят нулевую терпимость к эксплуатации, изображению несовершеннолетних, насилию и принуждению, а также к распространению порнографии там, где это запрещено законом. Важно другое: появление отдельного «взрослого» контура потребует новой инженерии доверия — от верификации возраста и чётких ограждений до независимых проверок модерации и понятной обратной связи для пользователей.

ИЗНАНКА:

Технологии учатся жить во «взрослом мире» по взрослым правилам. Если сервис берёт на себя новую свободу, он обязан взять и новую ответственность — документами, кодом и аудитом, а не лозунгами.

Фото: соцсети.

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте свои материалы в редакцию.

ИЗНАНКА — другая сторона событий.