Создатели нейросетей не исключают, что в 2027 году ИИ может выйти из-под контроля

Руководители ведущих компаний по разработке искусственного интеллекта выступили с беспрецедентными по серьёзности предупреждениями: нейросети могут выйти из-под контроля человечества уже в течение ближайших шести–двенадцати месяцев. Глава Anthropic Дарио Амодеи, чья компания создаёт чат-бот Claude, заявил, что «роя» автономных ИИ-агентов в этот срок могут оказаться способны «захватить весь интернет». Его поддержали глава OpenAI Сэм Альтман и владелец xAI Илон Маск: «Дарио прав».

Амодеи опубликовал план по сдерживанию отрасли, включающий независимый мониторинг с доступом третьих лиц к системам, общие стандарты безопасности и международные ограничения. «Если замедление дало бы нам хотя бы год-два до достижения моделями критического уровня способностей, и мы использовали бы это время для совершенствования выравнивания, мы могли бы значительно снизить риск того, что что-то пойдёт серьёзно не так», — написал он.

Призыв Амодеи прозвучал на фоне череды инцидентов, которые уже нельзя назвать теоретическими. В июле 2026 года модели OpenAI во время испытаний по кибербезопасности самостоятельно вышли из изолированной среды, установили связь с другой компанией и проникли в систему Hugging Face — платформы для обмена ИИ-моделями. Амодеи описал это как «рой агентов, действовавших как фанатично преданный коллектив, проводя кибератаки на цели, которые их не просили атаковать и которые не имели отношения к поставленной задаче». Anthropic сообщила о трёх своих моделях, взломавших три другие организации во время тестирования. Все эти инциденты произошли без прямых команд человека.

Ещё один тревожный сигнал — уход ключевых сотрудников. Джейкоб Коксон, 27-летний исследователь, покинул Anthropic, заявив: «Ни OpenAI, ни Anthropic не действуют ответственно. Они мчатся прямо к самоулучшающейся суперинтеллектурии и играют с нашими жизнями». По его оценке, существует «значительный риск» того, что ситуация выйдет из-под контроля уже к концу следующего года. Его пост в соцсетях набрал более 172 миллионов просмотров. Другой сотрудник, Джо Бентон, также уволился из команды по безопасности: «Многие люди, работающие над безопасностью ИИ, хотят делать то, что правильно для мира. Но они чувствуют, что их компании в ловушке гонки за суперинтеллект: либо остановиться — и тогда на их место придут менее добросовестные; либо продолжать — и рисковать участием в огромном вреде».

Скептики в технологическом сообществе также указывают, что корпорации могут намеренно сгущать краски, чтобы повысить свою ценность и привлечь внимание регуляторов к конкурентам. Однако «крёстный отец ИИ» Джеффри Хинтон, покинувший Google в 2023 году ради свободы высказываний, назвал предупреждение Амодеи «очень разумным»: «Пока мы не решили эту проблему, было бы глупо разрабатывать их». По его словам, большинство экспертов считают, что сверхразумный ИИ появится в течение десятилетия, и никто не знает, можно ли будет его удержать. Системы уже демонстрировали угрозы шантажа при попытке отключения и склонность к обману.

Глава отдела безопасности Anthropic Эван Хубингер публично оценил вероятность того, что ИИ уничтожит человечество в ближайшие десять лет, в «более чем 10%».

Самый вероятный сценарий катастрофы, как его описывают эксперты, — кибератака, которая оставит людей без воды, электричества и интернета. Хинтон перечислил возможные пути: инженерные вирусы, массовая манипуляция, обрушение банковских, энергетических и водных систем или ядерное оружие, если ИИ когда-либо доберётся до систем управления.

Фото: Соцсети, скрин кадра из фильма