Почему алгоритмы ИИ ошибаются в диагностике и как врачам распознать предвзятость

Согласно публикации Medical Journal of Australia (insightplus.mja.com.au, 13 сентября 2026), ИИ-инструменты в клинической практике несут систематический риск ошибок для пациентов, чьи данные не были представлены в обучающей выборке. Конкретный прецедент — американский алгоритм, использовавший расходы на медпомощь как прокси потребности в лечении: афроамериканским пациентам он систематически выделял меньше ресурсов, хотя низкие траты отражали неравный доступ к помощи, а не реальную клиническую нужду. Для пациента клиники это не вопрос «этики ИИ», а точность конкретного результата на его подгруппе.

Где именно возникает bias

По обзору JACEP за 2026 год, bias определяется как системный сбой в процессе принятия решений, встроенный в алгоритм или обучающие данные. Смещение распределено по всему жизненному циклу модели: сбор данных, проектирование алгоритма, внедрение в клинике, взаимодействие с врачом. Associate Professor Sonika Tyagi (RMIT) выделяет три типа, критичных для диагностики:

• Measurement bias — прокси-признак не отражает целевой клинический параметр (как расходы вместо нужды).
• Interpretation bias — выход модели трактуется по-разному в зависимости от клинического контекста.
• Automation bias — врач переоценивает рекомендацию ИИ и игнорирует собственное клиническое суждение, особенно в цейтноте.

Отдельно Harvard Data Science Review фиксирует базовое: предвзятая реальность порождает предвзятые данные — социалные неравенства переносятся в обучающую выборку напрямую.

Контекст внедрения

BreastScreen NSW уже применяет Lunit Insight MMG для второго чтения маммограмм — рабочий кейс, где ИИ ассистирует рентгенологу, а не заменяет его. Associate Professor Sanjay Warrier подчёркивает, что для скрининга молочной железы критичны плотность ткани, возраст и этническая принадлежность пациентки — параметры, обычно недопредставленные в обучающих выборках. Аналогичный риск для оценки боли у коренного населения Австралии описан в Australian Journal of General Practice: системное занижение болевого синдрома ведёт к отложенному лечению.

Что проверить в клинике

• Какой именно ИИ-инструмент применяется и на какой выборке обучен.
• Проводилась ли локальная валидация (sensitivity, specificity в разрезе пола, возраста, коморбидности).
• Предусмотрена ли процедура пересмотра при расхождении ИИ-результата с клинической оценкой.
• Особенно критично при плотной молочной железе, нетипичном анамнезе, хронической боли без объективной находки.

Вердикт

ИИ в диагностике — рабочий инструмент, но не нейтральный. Риск не в факте использования алгоритма, а в слепом доверии к нему и в отсутствии локальной валидации. Если клиника применяет ИИ и не может назвать метрики на вашей подгруппе — это красный флаг, повод запросить второе мнение или сменить учреждение.