Гарри и Меган призывают остановить гонку ИИ

Принц Гарри и Меган Маркл поддержали обращение к правительствам и техкомпаниям с просьбой временно приостановить создание и запуск самых мощных систем искусственного интеллекта — до тех пор, пока специалисты не выработают общие правила и способы контроля.


Подписантов у письма много и имена звучные: Джеффри Хинтон — один из ключевых исследователей машинного обучения, соучредитель Apple Стив Возняк, предприниматель Ричард Брэнсон, бывшие высокопоставленные чиновники, лауреаты Нобелевской премии, писатели и общественные деятели. К этому списку присоединились герцог и герцогиня Сассекские — люди, которые давно обсуждают цифровую безопасность, травлю в сети и влияние соцсетей на детей.

Адресат — правительства, регуляторы и руководители IT-гигантов. Смысл — нажать паузу на разработке «сверхмощных» ИИ и не гнаться за рекордами, пока не станет ясно, как обезопасить пользователей и рынок. Организатором выступил американский Future of Life Institute — НКО, которая последовательно занимается темой рисков и этики технологий.

В тексте письма отдельно упомянут «искусственный суперинтеллект» — гипотетический уровень, при котором алгоритмы превосходят человека практически во всех задачах мышления. Сторонники моратория предлагают не дожидаться, когда «будущее само наступит», а заранее выстроить правила: прозрачность данных, независимые аудиты, ответственность разработчиков и понятные для судов и регуляторов трактовки.

Почему сейчас эта тема так горячо обсуждается. Техкомпании инвестируют в ИИ суммы с десятью нулями, соревнование за модели следующего поколения идёт без выходных, а продукты стремительно попадают в школы, в медиа, в офисные сервисы. Одни уверены, что именно так и рождаются прорывы. Другие — что гонка без ограничителей похожа на вождение без тормозов.

Есть и настроения общества. По свежим опросам в США большинство респондентов выступают за строгие правила для ИИ, а многие — за «пока не доказано, что это безопасно, не запускайте». Эти цифры добавляют веса тем, кто просит не только инноваций, но и рамок — как это когда-то случилось с авиацией, фармой, автопромом.

Роль Гарри и Меган в этой истории — не про техническую экспертизу, а про сигнал. Когда публичные фигуры выводят сложную тему на человеческий язык, дискуссия из узкого профессионального чата выходит в большой разговор. А это и есть цель письма: заставить сильных мира и рынка вслух обсудить границы технологий — до, а не после очередного кризиса.

О чём спорят дальше. Противники моратория напоминают, что чрезмерные ограничения могут обернуться утечкой талантов и тормозом для полезных разработок в медицине, экологии, образовании. Сторонники отвечают, что пауза — не стоп-кран, а время на подготовку инфраструктуры безопасности и общих стандартов. И что в долгую именно ясные правила создают доверие и рынок.

ФИНАЛ

Письмо не отменяет прогресс и не закрывает лаборатории. Оно предлагает сделать то, что редко получается в технологические марафоны: пройтись быстрым шагом, оглядеться и договориться, куда именно мы бежим.

Фото: соцсети.

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте свои материалы в редакцию.

ИЗНАНКА — другая сторона событий.