ИИ будет выявлять потенциальных убийц: в Британии разгорается скандал

В Великобритании разрабатывается проект, который использует алгоритмы искусственного интеллекта для оценки риска совершения насильственных преступлений. Как пишет Guardian, инициатива исходит от Министерства юстиции и носит исследовательский характер. Но правозащитники уже бьют тревогу.

Изначально инициатива называлась «Проект прогнозирования убийств», однако после начала работы была переименована в более нейтральное название — «Обмен данными для улучшения оценки рисков». Несмотря на изменение формулировки, суть осталась прежней: ИИ должен анализировать большие массивы данных, чтобы предсказывать, кто из ранее осужденных может совершить убийство в будущем.

По информации Statewatch — британской организации, отслеживающей деятельность государства в сфере прав и свобод — в проекте задействованы данные тысяч людей. Причем в массивах фигурируют не только осужденные, но и жертвы насилия. Используются такие параметры, как имя, дата рождения, пол, этническая принадлежность и даже уникальные идентификаторы полиции. Источники данных — Служба пробации, полиция Большого Манчестера и другие правоохранительные структуры.

По замыслу разработчиков, программа должна помочь службе пробации эффективнее управлять рисками, то есть отслеживать, какие из поднадзорных лиц могут представлять опасность для общества. Однако критики утверждают: такой подход открывает путь к «научной стигматизации» и может привести к тому, что человека начнут считать опасным на основании формального набора характеристик.

Statewatch указывает, что в системе могут оказаться люди, которые никогда не нарушали закон, но фигурировали в делах о домашнем насилии как жертвы. Таким образом, сбор и обработка их персональных данных ставится под вопрос с точки зрения этики и закона.

Отдельный источник подчеркивает, что проект был начат при поддержке канцелярии бывшего премьер-министра Риши Сунака. Это обстоятельство также усилило критику в адрес властей, особенно на фоне обострения дебатов вокруг приватности, цифровых прав и вмешательства государства в личную жизнь.

Министерство юстиции утверждает, что ИИ используется исключительно в исследовательских целях и не повлияет напрямую на судебные решения или надзорные меры. Тем не менее, общественные организации требуют большей прозрачности: кто разрабатывает алгоритмы, как они обучаются и на каких принципах работают.

«Проект, в котором ИИ судит о людях на основе их прошлого и пола, — это уже не просто наука, а социальный эксперимент», — заявил представитель организации Liberty, борющейся за права человека в Великобритании.

На фоне этого растёт обеспокоенность тем, как ИИ будет внедряться в государственные практики и не приведёт ли это к непредсказуемым последствиям для миллионов граждан.

Фото: Соцсети.

ИЗНАНКА — другая сторона событий. Следите за обновлениями в наших соцсетях и присылайте свои материалы в редакцию.