Концерт скрипача отменили из-за ошибки ИИ Google

В Канаде концерт скрипача Эшли Макисаака отменили после того, как ИИ-сводка в поиске Google ошибочно приписала ему судимость и сексуализированное насилие. Позже выяснилось, что система спутала музыканта с другим человеком.


Поводом стала функция AI Overviews — автоматически сгенерированное резюме, которое показывается над ссылками. Как писали The Globe and Mail и канадские СМИ, организаторы выступления в общине Сипекне’катик в Новой Шотландии, увидев такую сводку, отменили концерт, намеченный на 19 декабря.

Макисаак утверждает, что текст в выдаче содержал ложные сведения о «судимости» и ряде тяжких преступлений, включая сексуализированное насилие. По его словам, после этого он начал беспокоиться о личной безопасности: подобные обвинения могут спровоцировать агрессию со стороны людей, которые примут ИИ-ответ за проверенный факт.

Позже, по сообщениям СМИ, стало понятно, откуда взялась ошибка: система связала биографию музыканта с публикациями о другом человеке с той же фамилией. Это один из самых опасных типов сбоев генеративных систем — «слияние персон», когда совпадение имени или фамилии приводит к переносу чужих фактов на конкретного человека.

Музыкант также опасается скрытых последствий: организаторы могли отказаться от сотрудничества, не вступая в объяснения, если ориентировались на результаты поиска. Для индустрии выступлений это особенно болезненно: репутационные решения принимаются быстро, а исправление в выдаче не возвращает сорванные даты.

Google, комментируя подобные случаи, обычно отмечает, что AI Overviews формируются на основе материалов из сети и могут содержать неточности, а примеры ошибок используются для улучшения системы. Но эта история показывает, что в формате «короткой сводки сверху» цена неточности растёт: пользователь видит не набор источников, а готовый вывод, который воспринимается как справка.

ИЗНАНКА

Генеративный поиск меняет механику доверия: раньше репутацию ломали слухи и пересказы, теперь достаточно одного «уверенного» абзаца над всеми источниками — и человеку приходится опровергать не факты, а сам интерфейс.

Фото: соцсети.

Читайте, ставьте лайки, следите за обновлениями в наших социальных сетях и присылайте материалы в редакцию.

ИЗНАНКА — другая сторона событий.