Apple проверит, понимают ли люди медицинские ответы ИИ
До 200 тысяч жителей США смогут задавать вопросы медицинскому чат-боту и оценивать пользу ответов.
В основе проекта Apple Health AI Usage Study — не собственная медицинская модель Apple, а система OpenEvidence, которой пользуются врачи. Для участников создано отдельное приложение: в нём можно спросить о симптомах, анализах или подготовке к приёму и получить объяснение со ссылками на научные публикации, включая медицинские журналы The New England Journal of Medicine и JAMA.
Исследователи предложат оценивать полноту и понятность ответов, а также сообщать, что человек предпринял после консультации с ИИ. Это существенное различие с проверкой знаний на экзамене: даже корректная медицинская информация бесполезна, если пациент её неверно понял. И наоборот, убедительно написанный текст способен вызвать доверие, хотя вопрос требует врачебной оценки.
В исследование смогут записаться жители США от 21 года с iPhone 15 Pro или более новой совместимой моделью и iOS 26 или новее. Число 200 тысяч означает предельный набор, а не уже привлечённых участников. По сообщениям профильного издания Fierce Healthcare, наблюдение за каждым может продолжаться до года, с регулярными опросами о пользовании системой.
Отдельно проверят, помогает ли персональный контекст. Доброволец сможет разрешить приложению доступ к некоторым данным Apple Health — например, показателям сна, активности, пульса в покое или лабораторным результатам. Сопоставление ответов с такими сведениями должно показать, становятся ли они полезнее. Передача информации не обязательна.
Вопрос приватности устроен сложнее обычного согласия на использование приложения. По разъяснениям, полученным Fierce Healthcare от Apple, запросы проходят обработку для удаления идентифицирующих сведений и затем поступают через защищённую исследовательскую инфраструктуру к OpenEvidence. Apple заявляет, что данные исследования не будут использовать для обучения моделей. Однако участие всё равно требует осознанного решения о передаче медицинских сведений.
Компания подчёркивает: чат-бот не предназначен для постановки диагнозов или назначения лечения. Если вопрос вызывает опасения, приложение должно предложить обратиться к врачу. Результаты пока не опубликованы, поэтому исследование нельзя выдавать за доказательство безопасности или точности медицинских советов ИИ. К тому же участники с относительно новыми iPhone не представляют автоматически всех пациентов.
В этом проекте оценивают не только качество текста, который выдаёт алгоритм, но и разрыв между прочитанным советом и действием человека. Именно в этом промежутке и возникает риск: пользователь может принять ясное объяснение за достаточное основание для медицинского решения.
Изображение: редакция ИЗНАНКИ.