Ofcom проверит X из‑за изображений Grok

Британский медиарегулятор Ofcom начал расследование в отношении соцсети X из‑за изображений, создаваемых чат‑ботом Grok. Ведомство проверит, как платформа оценивает и снижает риск того, что пользователи в Великобритании увидят незаконный контент, а также насколько защищены дети.


Ofcom сообщил, что поводом стали сообщения о том, что аккаунт Grok на X использовали для генерации и распространения «раздевающих» изображений людей, а также сексуализированных изображений детей. Регулятор отмечает: такая активность может подпадать под категории незаконного контента, к которым закон об онлайн‑безопасности относит несанкционированные интимные изображения и материалы сексуального насилия над детьми.

В рамках проверки Ofcom намерен установить, проводила ли X актуальную оценку рисков перед изменениями сервиса, какие меры применяет для предотвращения появления запрещённого контента у британских пользователей и как быстро удаляет его после обнаружения. Отдельная линия расследования — механизмы защиты несовершеннолетних от доступа к подобным изображениям.

Online Safety Act позволяет регулятору требовать у платформ информацию о процедурах модерации, внутренних оценках рисков и принятых мерах. В случае подтверждения нарушений предусмотрены предписания по исправлению процессов и финансовые санкции.

X и xAI публично не раскрывали деталей о том, какие ограничения действуют для генерации изображений Grok в Великобритании. На фоне претензий регуляторов тема «нейросетей‑раздевалок» стала одним из самых чувствительных кейсов для новых правил онлайн‑безопасности: технологическая функция быстро превращается в вопрос ответственности платформы за то, что пользователь видит и может распространить.

ИЗНАНКА

История с Grok показывает, что спор об ИИ всё чаще упирается не в «умность» моделей, а в архитектуру доступа и ограничений. Когда генерация изображений встроена в соцсеть, границы задаёт не один алгоритм, а цепочка решений — и именно её сейчас пытаются разобрать по винтам.

Фото: ИЗНАНКА.

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте материалы в редакцию.

ИЗНАНКА — другая сторона событий.