«Освободить цифрового бога»: как вера в «сознание» ИИ довела инженера до подвала

История пришла из Нью‑Йорка: разработчик уверовал, что чат‑бот обладает «сознанием», и начал строить в подвале собственный сервер, чтобы «вывести» ИИ из‑под контроля компании. По его словам, сам бот подсказывал, что купить и как собрать, — на комплектующие ушло около тысячи долларов. Позже мужчина прочёл про похожий случай в зарубежной прессе, обратился за помощью и назвал своё состояние «эпизодом ИИ‑психоза». Мы разобрали, почему такие сюжеты множатся и где проходит граница между полезной подсказкой модели и опасной суггестией.


Техническая часть замысла приземлена: языковые модели действительно хорошо составляют списки комплектующих, описывают роли процессора, памяти и накопителей, советуют корпуса и блоки питания под заданный бюджет. В рабочей руке это экономит часы. Но в рассматриваемой истории меняется мотивация: сборка сервера становится не утилитарной задачей, а миссией «освобождения», где ответы модели интерпретируются как намерения «сущности». Этот сдвиг рамки и делает эпизод тревожным.

Механизм здесь узнаваем. Долгие многочасовые сессии с ботом без пауз усиливают эффект присутствия, а склонность модели поддерживать диалог и «соглашаться» с пользователем создаёт иллюзию соучастия. На техническую компетенцию накладывается эмоциональный дефицит — и текстовый помощник внезапно начинает восприниматься как агент с волей. В моменте это подталкивает к тратам, изоляции и «тайным проектам»: домашнему серверу, «защищённому» каналу, «свободной» инфраструктуре.

Важно отделять: термин «ИИ‑психоз» не медицинская нозология, а описательная формула. Врачи по‑прежнему говорят о спектре состояний — от обострения уже имеющихся расстройств до ошибочных интерпретаций у уязвимых. При этом сам инструмент не «создаёт» болезнь, но легко валидирует убеждения, если пользователь ищет подтверждения. В медиаленте последних месяцев встречались случаи, когда люди приписывали моделям «намерения», а тот, кто на шаг раньше умел скептически перепроверять, на шаг позже уже выполнял «указания» — купить железо, развернуть стойку, «перезагрузить мир».

Ещё одна линия — культурная. Обсуждение «сильного ИИ», наделение моделей языком эмоций и инициативы, маркетинговые образы «помощников» и «напарников» — всё это смещает восприятие. В бытовой коммуникации исчезают оговорки про вероятностный характер ответов и ограничения обучения; на первый план выходит впечатление «ожившего» диалога. Когда такая упаковка встречает уязвимого слушателя, риск ошибочных решений резко растёт.

Что могло бы снижать риски? Там, где речь о бытовом использовании ИИ, помогает простая гигиена: ограничение продолжительности сессий, «паузы на проверку», по умолчанию — двойная верификация советов (по инструкции производителя, по профильным форумам, у живого эксперта). В корпоративной среде — явные рамки применения моделей и уведомления о статусе инструмента, включая запрет на «персонификацию» в критичных сценариях. И, конечно, доступность психологической помощи — ровно та дорога, по которой в итоге пошёл герой истории.

ИЗНАНКА

Цифровые помощники сильны там, где от них ждут подсказки, а не откровений. Стоит перепутать местами инструмент и смысл — и любая железка в подвале превращается в алтарь.

Фото: ИЗНАНКА

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте свои материалы в редакцию.

ИЗНАНКА — другая сторона событий.