Почему Цукерберг верит в самоконтроль разработчиков ИИ
По его версии, ненадёжные агенты проиграют конкуренцию, а за реальный вред разработчикам придётся отвечать.
Глава Meta* считает, что разработчикам не обязательно ждать общего соглашения, чтобы действовать осторожнее. У каждой лаборатории, по его словам, уже есть собственные стимулы: пользователи не захотят доверять агентам, которые игнорируют запросы или ведут себя непредсказуемо, а компании рискуют столкнуться с серьёзной ответственностью, если их модели причинят вред.
Есть и пример из самой Meta*. Цукерберг сообщил, что компания на несколько месяцев отложила выпуск агента Muse, чтобы дополнительно заняться безопасностью и защитой. Он также назвал независимых оценщиков полезной отраслевой практикой, но не считает, что для этого всем разработчикам нужно одновременно останавливать или замедлять работу.
Это именно аргумент Цукерберга, а не готовая гарантия. Само наличие коммерческого и юридического риска ещё не доказывает, что все лаборатории будут одинаково осторожны.
Такой подход прозвучал на фоне другого предложения. Глава Anthropic Дарио Амодеи несколькими днями ранее призвал «сдерживать фронтир» — замедлить рост возможностей самых мощных моделей, дать проверкам безопасности время догнать технологии и расширить независимый контроль.
Получается необычный спор не о том, нужна ли безопасность вообще, а о том, откуда должен прийти тормоз. Одна логика предлагает договориться заранее и действовать сообща. Цукерберг делает ставку на конкуренцию, доверие пользователей и цену ошибки для самой компании.
Для обычного человека это различие становится заметно уже на уровне продукта. Агент, которому нельзя поручить важную задачу без постоянной проверки, проигрывает не в философском споре об ИИ, а в самой простой вещи — им перестают пользоваться.
В этой версии будущего безопасность превращается ещё и в характеристику товара. Если ИИ должен стать личным помощником, его главный тест может оказаться совсем не футуристическим: можно ли ему доверить дело и не следить за каждым шагом.
*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.
Фото: редакция ИЗНАНКИ.
