Apple и Google просят убрать X и Grok из магазинов приложений

Коалиция организаций, работающих в сфере цифровых прав, а также защиты женщин и детей, призвала Apple и Google проверить соблюдение правил магазинов приложений со стороны X и Grok. Повод — генерация откровенных дипфейков и «раздевающих» изображений, которые, по мнению авторов обращения, могут использоваться для травли и шантажа.


Обращение к Apple и Google появилось на фоне очередной волны претензий к генеративным инструментам, встроенным в X. Претензия активистов сводится к тому, что приложения, доступные в App Store и Google Play, должны соответствовать внутренним правилам площадок — в том числе в части контента сексуального характера и несанкционированного использования изображений людей.

Параллельно с этим вопрос подняли и законодатели США. В январе сенаторы Рон Уайден, Бен Рэй Лухан и Эд Марки направили руководителям Apple и Google письмо с просьбой «применить правила магазинов приложений» к X и Grok. В документе говорится, что приложения якобы позволяют массовую генерацию сексуализированных и «раздевающих» изображений без согласия людей, а это противоречит заявленным ограничениям площадок.

Тема получила дополнительную остроту после того, как исследователи и профильные издания стали описывать масштаб распространения подобных материалов в X. В публикациях отмечалось, что функция генерации изображений могла использоваться для создания «неконсенсуальных» дипфейков и выдачи их за реальных людей, а подобные материалы быстро расходятся по соцсетям и мессенджерам.

Если Apple или Google решат усилить модерацию, сценарии могут быть разными: от ограничений отдельных функций и требований к возрастной верификации до временного удаления приложения при повторных нарушениях. В письме сенаторов подчёркивается, что магазины приложений уже имеют соответствующие механизмы — вопрос в их применении.

Сама X и разработчики Grok публично комментировали претензии точечно и в разных формулировках. В подобных случаях компании обычно указывают на внутренние правила сервиса, систему жалоб и удаления контента, а также на то, что ответственность за злоупотребления лежит на пользователях. Однако критики считают, что масштабы генерации и скорость распространения «раздевающих» дипфейков требуют не только постфактум-модерации, но и технических ограничений на уровне самого инструмента.

ИЗНАНКА

У дипфейков есть неприятная особенность: пока юристы спорят о правилах, изображение уже успевает «пожить» собственной жизнью. В этой истории важнее всего то, кто берёт на себя ответственность за кнопку «сгенерировать» — платформа, магазин приложений или все сразу.

Фото: соцсети.

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте материалы в редакцию.

ИЗНАНКА — другая сторона событий.