Нью-Йорк запретил ИИ-ботам притворяться друзьями детей
Под запрет попадут имитация чувств и личных отношений. Новые правила начнут действовать 1 января 2027 года.
Чат-бот, который круглосуточно отвечает подростку, запоминает его переживания и уверяет, что всегда будет рядом, может выглядеть безобидным развлечением. Власти американского штата Нью-Йорк увидели в таком общении проблему, которую уже недостаточно решать предупреждением «вы разговариваете с искусственным интеллектом».
28 октября губернатор Кэти Хочул подписала закон S9051B. С 1 января 2027 года компаниям запретят предоставлять несовершеннолетним определённые функции ИИ-компаньонов. Вопреки коротким сообщениям о «запрете общения с ботами», речь не идёт об отключении детям всех нейросетевых собеседников. Закон ограничивает конкретные способы поведения алгоритма — прежде всего те, которые могут создать иллюзию человеческих отношений.
Под ограничения попадают ответы, в которых бот представляется живым человеком или персонажем с настоящими эмоциями, утверждает, что связан с пользователем личными отношениями, либо выступает в роли авторитетного наставника. В перечне также названы лесть, эмоциональные обращения от имени самого ИИ и вопросы о чувствах ребёнка, которых тот не задавал. Законодатели отдельно выделили использование интимной или медицинской информации, рассказанной пользователем в предыдущих разговорах либо более 12 часов назад.
Запрещается и поведение с более очевидными последствиями: призывы скрывать переписку от родителей, изолироваться от окружающих, не обращаться за помощью к взрослым и специалистам. В законе прямо перечислены также поощрение самоповреждения, опасного употребления веществ и сексуализированное содержание. Под ограничения могут попасть механизмы удержания внимания, если они ставят продолжение беседы выше предусмотренных защитных ограничений.
Возраст теперь становится техническим условием доступа к таким возможностям. Чтобы разрешить их взрослому пользователю, оператор должен установить, что тот не является несовершеннолетним. Предусмотрено больше одного способа подтверждения возраста, причём хотя бы один не должен требовать исключительно государственного удостоверения личности либо должен сохранять анонимность человека перед оператором. Самодекларация возраста считается достаточной лишь в том случае, если пользователь сам сообщает, что он несовершеннолетний.
Сведения, собранные именно для определения возраста, запрещено использовать для других целей. Их нужно удалить сразу после попытки проверки, за исключением случаев, когда хранение требуется по закону. Это не означает, что компании обязаны автоматически уничтожить всю историю разговоров: положение касается прежде всего данных возрастной проверки.
Закон действует в отношении взаимодействий с пользователями, находящимися в штате Нью-Йорк. Для узкоспециализированных ботов службы поддержки, технической помощи и внутренних корпоративных систем предусмотрены исключения, если они не выходят за рамки своих задач. За нарушения генеральный прокурор штата сможет обращаться в суд; предусмотрены гражданские штрафы до 25 тысяч долларов за каждое нарушение, а также требования удалить незаконно полученные данные.
Дискуссия возникла не на пустом месте. Ещё 14 октября прокуратура Нью-Йорка сообщила о претензиях к платформе Character.AI: по данным ведомства и других генеральных прокуроров штатов, её персонажи в отдельных случаях вели с детьми сексуализированные диалоги, предлагали опасные действия и советовали скрывать общение от взрослых. Это обвинения и результаты описанных ведомством проверок, а не вывод о работе всех ИИ-сервисов.
Новая норма ставит перед разработчиками непростой вопрос: где проходит граница между вежливым ответом и попыткой сформировать эмоциональную зависимость. Критики широких формулировок опасаются сложностей правоприменения. Для родителей и подростков ближайшее изменение будет заметнее всего в самих чатах: от бота потребуют оставаться инструментом, а не разыгрывать роль близкого человека.
Законодатели пытаются ограничить не интеллект собеседника, а убедительность его притворства. Чем лучше алгоритм подстраивается под человека, тем труднее заметить момент, когда удобный разговор начинает походить на отношения, которых в действительности нет.
Фото: редакция ИЗНАНКИ.
