Почему врачи опасаются доверять искусственному интеллекту в лечении пациентов

Главная причина — дефицит доказательной базы: никто толком не показал, что нейросеть в кабинете терапевта или хирурга работает лучше грамотного специалиста. Три четверти опрошенных опасаются сразу двух вещей — потери собственных навыков из-за послушного следования алгоритму и «галлюцинаций» модели, когда система уверенно выдаёт полный бред.

Где у клинического ИИ проходит красная линия

Wolters Kluwer зафиксировал главную точку напряжения: за пределами радиологии, где у ИИ уже накоплена приличная доказательная база по распознаванию снимков, клинический ИИ работает в режиме благих намерений. 74% врачей назвали потерю навыков критическим риском, ровно столько же — галлюцинации моделей. Механизм простой и неприятный: доктор видит красивый отчёт от нейросети, кивает, подписывает — и перестаёт думать. А потом нейросеть выдаёт чушь, и доктор её пропускает, потому что «железка же сказала». Классический конвейер по обнулению профессии, где пациент — расходный материал.

Цифра, от которой неуютно всем

Только 27% медработников осведомлены о действующих правилах регулирования ИИ в своих учреждениях. Остальные 73% — то есть абсолютное большинство — вообще не в курсе, что разрешено, что запрещено и кто несёт ответственность за машинную ошибку. Это значит, что в кабинете, куда вы пришли с жалобой, врач может использовать ИИ-инструмент на свой страх и риск — и ваш тоже. Причём ни вы, ни он толком не знаете, под какими правилами этот инструмент работает.

Что спрашивать на приёме

Пользуйтесь тем, что скепсис врачей теперь задокументирован крупным издателем — это ваш аргумент, а не оскорбление. Конкретные вопросы, если вам предлагают «ИИ-диагностику» или «ИИ-подбор терапии»:

— Какая именно модель используется и на каких данных обучена? Ответ «ну, там нейросеть» без конкретики — красный флаг.

— Есть ли у клиники локальный регламент по применению ИИ? Нет — вы участвуете в неконтролируемом эксперименте.

— Кто отвечает за ошибку: врач, клиника или разработчик софта? Фраза «разберёмся» означает «никто».

— Проходил ли инструмент клинические испытания в рецензируемых журналах? «Мы используем и всем нравится» не считается.

Ирония ситуации в том, что пациент теперь защищён почти так же, как врач: оба не знают правил игры, оба рискуют, оба обязаны задавать неудобные вопросы. Разница одна — врач хотя бы осознаёт масштаб проблемы, спасибо Wolters Kluwer за фиксацию. А вы теперь вооружены цифрами.