Искусственный интеллект в клинике: кто несет ответственность за врачебную ошибку

Для пациента это означает простую вещь: важен не сам ярлык «клиника использует ИИ», а то, кто проверяет результат алгоритма и кто отвечает за решение.

Главный красный флаг — не нейросеть, а отсутствие ответственного

Коммерческая медицина любит продавать технологию как дополнительный ореол экспертности: добавили ИИ — будто бы включили режим «диагностика премиум». Но алгоритм не становится врачом от того, что его интерфейс выглядит современно. Он остаётся инструментом, встроенным в конкретный процесс: кто-то загрузил данные, кто-то получил результат, кто-то на его основании назначил обследование или лечение.

История медицинского ИИ началась задолго до нынешнего бума чат-ботов. В 1970 году в США представили систему MYCIN — одну из первых медицинских экспертных программ. Она помогала врачам принимать решения при инфекционных заболеваниях и в отдельных узких областях могла диагностировать точнее человека. Однако в реальную практику система так и не вошла.

Проблема оказалась не только в качестве технологии. Не было ясного ответа на вопрос, кто несёт ответственность за медицинскую ошибку, совершённую с участием алгоритма. Спустя десятилетия вопрос никуда не исчез. Пока практическая логика здравоохранения исходит из того, что за решение отвечает человек — чаще всего врач, использующий инструмент. Но по мере развития ИИ эта конструкция становится менее устойчивой: в цепочке появляются разработчик, клиника, регулятор и конкретный пользователь системы.

Для пациента это не абстрактная этика, а вполне прикладная проверка. Если клиника рассказывает об ИИ, стоит выяснить:

• какую именно задачу решает система;
• использует ли её врач как вспомогательный инструмент или фактически перекладывает на неё решение;
• кто проверяет результат алгоритма;
• кто отвечает за ошибку;
• фиксируется ли применение системы в медицинской документации.

Если на эти вопросы отвечают рекламными формулами про «революцию», «точность» и «будущее медицины», перед вами не прозрачная технология, а маркетинг в белом халате.

ИИ — не магия, а бензопила

Общественная дискуссия вокруг медицинского ИИ тоже пока больше похожа на качели, чем на спокойную оценку инструмента. По данным ВЦИОМ, в ноябре 2024 года 43% россиян позитивно воспринимали использование ИИ в медицине и ожидали улучшения здоровья пациентов. При этом исследование 2025 года, проведённое сетью клиник «Будь Здоров», «Ингосстрахом» и SuperJob, показало: 38% участников отвергают возможность применения ИИ в медицине.

Цифры выглядят противоречиво, но это неудивительно. Результаты опросов зависят от формулировки вопроса, контекста и выборки. Кроме того, пациент может не отличать сертифицированную медицинскую систему от развлекательного чат-бота. В его представлении всё это называется одним словом — ИИ, желательно с лёгким привкусом опасности.

У источника есть более полезная рамка: относиться к ИИ как к томографу, интернету или бензопиле. Инструмент сам по себе не обладает ни добрыми, ни злыми намерениями. Значение имеет то, кто им пользуется, в каких условиях и с какой системой контроля. Бензопила опасна не потому, что у неё плохая этика, а потому, что её можно выдать неподготовленному человеку и забыть про правила безопасности. С алгоритмом в медицине ситуация сложнее, но принцип тот же.

Красные флаги для пациента здесь очевидны:

• клиника говорит об ИИ, но не объясняет его функцию;
• алгоритму приписывают самостоятельную постановку диагноза;
• врач не обсуждает с пациентом, как получен вывод;
• технология используется как аргумент для дополнительных услуг;
• никто не формулирует, где заканчивается рекомендация системы и начинается решение специалиста.

Что проверять до согласия

ИИ в медицине не отменяет обычную процедуру выбора врача. Наоборот, чем активнее клиника демонстрирует технологическую начинку, тем важнее проверить человеческую часть процесса. Кто интерпретирует данные? Какие сведения учитываются кроме результата алгоритма? Может ли врач не согласиться с рекомендацией системы? Как пациент узнает о применении ИИ и где это отражается?

Единого общественного отношения к технологии сейчас нет, и это нормально: пациенты не обязаны разбираться в устройстве медицинского программного обеспечения. Но клиника обязана объяснить, какую роль оно играет в конкретной услуге. Если вместо ответа пациент получает обещание «объективности машины», пора включать профессиональный скепсис.

Практический вывод без технологического шаманства: спрашивайте не «есть ли у вас ИИ», а «что именно он делает, кто проверяет результат и кто отвечает за итоговое медицинское решение». Если на стойке регистрации этого не знают, а на сайте уже продают искусственный интеллект как отдельное преимущество, перед вами, вероятно, не цифровая медицина, а обычный апсейл с модным словом.