Искусственный интеллект уже используется в здравоохранении в самых разных областях: от анализа изображений и прогнозирования рисков до поддержки документирования и систем чата для взаимодействия с пациентами. Этический вопрос заключается не просто в том, «хорош» или «плох» ИИ. Он состоит в том, улучшает ли конкретная система качество медицинской помощи, не создавая при этом неприемлемых рисков для пациентов, врачей или общества.
Для новичка наиболее полезным подходом является последовательное следование пути принятия решений: понять, что именно делает система, определить, на кого она может повлиять, проверить подтверждающие данные, определить роль человека и решить, как будут выявляться и устраняться проблемы. В этой статье этот путь объясняется без предположения о наличии у пользователя технических знаний.
Искусственный интеллект (ИИ) — это широкий термин для компьютерных систем, выполняющих задачи, связанные с человеческим мышлением, распознаванием образов, прогнозированием или генерацией контента. Машинное обучение — это подмножество ИИ, в котором модель изучает закономерности на основе данных, а не следует только правилам, написанным от руки. Генеративный ИИ создает новый контент, такой как текст, изображения или резюме. В медицине генеративная система может составить клиническую заметку, ответить на вопрос пациента или обобщить медицинскую карту.
Эти категории важны, потому что этический риск зависит от задачи. Система, которая форматирует записи о приеме, не представляет такой же опасности, как модель, которая влияет на скрининг рака, сортировку пациентов, дозировку лекарств или доступ к медицинской помощи. Точно так же слово «ИИ» не означает, что система автономна. Многие инструменты предназначены для поддержки врача, а не для его замены.
В основополагающих рекомендациях Всемирной организации здравоохранения 2021 года по этике и управлению ИИ в здравоохранении подчеркиваются автономия человека, безопасность, прозрачность, подотчетность, инклюзивность, справедливость и устойчивое использование. Позже, в марте 2025 года, ВОЗ опубликовала рекомендации по крупным многомодальным моделям , отражающие рост генеративных систем, способных обрабатывать различные типы медицинской информации.
Прежде чем задаваться вопросом об этичности инструмента на основе ИИ, опишите его предполагаемое использование одним предложением. Например: «Эта система ранжирует рентгеновские снимки грудной клетки для последующего анализа рентгенологами» гораздо полезнее, чем «Это платформа для радиологии на основе ИИ». Предполагаемое использование покажет, какие ошибки имеют значение, кто затронут и насколько необходим человеческий контроль.
| Вопрос для ответа | Почему это важно | Как выглядит более убедительный ответ |
|---|---|---|
| На какие решения влияет система? | Риск возрастает, когда результаты влияют на диагностику, лечение, сортировку пациентов или доступ к медицинской помощи. | Узкий, документированный сценарий использования с четкими ограничениями. |
| Кто был представлен в данных для разработки и тестирования? | Показатели эффективности могут различаться в зависимости от возраста, пола, расы, географического положения, тяжести заболевания, используемых устройств или условий оказания медицинской помощи. | В качестве доказательств используются данные по клинически значимым подгруппам и результаты внешней валидации. |
| Что происходит, когда ИИ ошибается? | Даже небольшой процент ошибок может иметь значение, если последствия будут серьезными. | Разработаны процедуры проверки специалистами, эскалации и резервного варианта обработки запросов. |
| Какие данные поступают в систему или покидают её? | Медицинские данные могут содержать крайне конфиденциальную информацию. | Минимизация данных, контроль доступа, правила хранения и четкая ответственность поставщика. |
| Может ли производительность измениться после развертывания? | Модели, рабочие процессы, группы пациентов и клиническая практика могут меняться со временем. | Контроль версий, мониторинг, повторная проверка и управление изменениями. |
Модель может быть статистически впечатляющей, но при этом небезопасной в конкретном рабочем процессе. Ложноотрицательный результат может отсрочить лечение; ложноположительный результат может вызвать тревогу, инвазивные исследования или ненужные затраты. Поэтому правильный показатель зависит от клинической цели. Одна только «точность» может скрывать важные компромиссы между чувствительностью, специфичностью, калибровкой и эффективностью в подгруппах.
Полезное правило для начинающих — спросить себя, какая ошибка является наихудшей из возможных и как её можно обнаружить. Если ответ «врач это заметит», следующий вопрос — действительно ли рабочий процесс предоставляет врачу достаточно информации и времени, чтобы это заметить.
Алгоритмическая предвзятость — это систематическая закономерность, приводящая к несправедливым или клинически необоснованным различиям между группами. Предвзятость может возникать из-за нерепрезентативных обучающих данных, исторического неравенства, различий в измерениях или выбора целевой переменной.
Известный пример — исследование 2019 года, опубликованное в журнале Science, посвященное широко используемому алгоритму оценки состояния здоровья населения . Исследователи обнаружили расовую предвзятость, поскольку система использовала расходы на здравоохранение в качестве показателя потребности в медицинской помощи. Поскольку неравный доступ может привести к снижению расходов даже при серьезных заболеваниях, этот показатель исказил критерии отбора пациентов для получения дополнительной помощи. Вывод шире, чем просто этот алгоритм: удобный целевой показатель может фиксировать существующее неравенство, даже если расовая принадлежность явно не указана в качестве входных данных.
Перед внедрением инструмента необходимо уточнить, проводилась ли его оценка на той популяции и в тех условиях, где он будет использоваться. После внедрения следует сравнить результаты в различных клинически значимых группах, а не предполагать, что достаточно одного общего показателя эффективности.
Системы искусственного интеллекта часто совершенствуются по мере получения большего количества данных, однако этика здравоохранения не рассматривает максимальный сбор данных как автоматическое благо. Конфиденциальность связана с достоинством, автономией, доверием и возможностью причинения вреда в результате несанкционированного доступа или вторичного использования.
В Соединенных Штатах правило безопасности HIPAA распространяется на защищенную электронную медицинскую информацию, хранящуюся у организаций, подпадающих под действие закона, и их деловых партнеров, но не каждое медицинское приложение или потребительский сервис на основе ИИ подпадает под действие HIPAA. Правило уведомления о нарушениях безопасности медицинской информации Федеральной торговой комиссии (FTC) может применяться к некоторым поставщикам услуг по ведению личных медицинских записей и связанным с ними организациям, не подпадающим под действие HIPAA. Это различие имеет значение при принятии решения о том, можно ли вставлять конфиденциальную информацию о пациентах в потребительский инструмент на основе ИИ.
Для практической проверки определите, какая информация отправляется поставщику моделей, где она хранится, как долго она сохраняется, используется ли она для улучшения моделей, кто имеет к ней доступ и что происходит, если поставщик услуг меняет владельца или политику.
Объяснимость означает предоставление информации, которая помогает человеку понять, почему система выдала тот или иной результат или как этот результат следует интерпретировать. Не каждая модель может дать простое причинно-следственное объяснение, и понятное объяснение, сгенерированное постфактум, не является доказательством того, что оно отражает реальные рассуждения модели.
Таким образом, этическая цель состоит не в том, чтобы «сделать каждую модель полностью объяснимой». Она заключается в обеспечении достаточной прозрачности для безопасного использования системы людьми, которых она затрагивает. Клиницистам может потребоваться информация о предполагаемом использовании, входных данных, ограничениях, степени достоверности, валидационной выборке и известных режимах отказов. Пациентам может потребоваться четкое объяснение того, как ИИ повлиял на важное решение и кто остается ответственным за лечение.
Автономия — это способность пациента принимать обоснованные решения относительно лечения. Искусственный интеллект усложняет понимание автономии, поскольку его роль может быть незаметной. Пациент может вполне обоснованно беспокоиться о том, повлиял ли алгоритм на диагноз, рекомендацию по лечению или решение о приоритетах, особенно когда система использует конфиденциальные данные или вносит существенную неопределенность.
Не для каждой фоновой функции программного обеспечения требуется отдельная форма согласия. Этический порог зависит от существенности роли ИИ, местного законодательства, институциональной политики и характера риска. Полезный принцип заключается в том, что раскрытие информации должно становиться более строгим по мере того, как система оказывает большее влияние на решения, затрагивающие пациента.
Если рекомендация ИИ причиняет вред, определить ответственных за это лиц, включая разработчика, больницу, врача, поставщика данных и организацию, настроившую инструмент, может быть сложно. Заявление о том, что «в процессе участвует человек», не решает эту проблему, если у этого человека нет полномочий, подготовки, времени или информации, чтобы оспорить результаты.
Система подотчетности должна быть разработана до внедрения. Организация должна знать, кто утверждает систему, кто может ее отменить, кто расследует инциденты, кто связывается с поставщиком, кто принимает решение о приостановлении использования и кто общается с пострадавшими пациентами.
Склонность к автоматизации — это тенденция чрезмерно доверять автоматическим рекомендациям. В здравоохранении это может проявляться в игнорировании противоречивых симптомов, принятии сгенерированной заметки без проверки или восприятии ранжированного списка как объективной истины.
Генеративный ИИ создает еще одну проблему: он может выдавать уверенные, но необоснованные утверждения. Это делает проверку необходимой для медицинских резюме, сообщений пациентам, рекомендаций по кодированию или поддержки принятия решений. Человеческая проверка наиболее эффективна, когда рецензенты видят исходные данные и, при необходимости, могут не согласиться с ними.
Искусственный интеллект может расширить доступ к медицинской помощи, помогая дефицитным специалистам, переводя информацию или автоматизируя рутинную работу. Однако он также может усугубить ситуацию, если хорошо обеспеченные ресурсами системы здравоохранения получают более безопасные и проверенные инструменты, в то время как небольшие клиники получают менее эффективные продукты или не могут позволить себе инфраструктуру для их мониторинга.
Таким образом, равенство включает в себя не только предвзятость модели. Оно также включает в себя то, кто получает доступ к технологии, чей язык поддерживается, учитываются ли потребности людей с ограниченными возможностями, работает ли система со старым оборудованием и находятся ли в невыгодном положении пациенты, не имеющие надежного доступа в интернет или смартфонов.
Чтобы задавать правильные вопросы, не обязательно воспроизводить математические формулы модели. Начните с доказательств, связывающих инструмент с его предполагаемым клиническим применением. Ищите подтверждения его эффективности в условиях, аналогичных вашим, результаты в подгруппах, соответствующих вашей популяции пациентов, и четкое описание того, для чего этот инструмент не следует использовать.
Затем изучите рабочий процесс. Где появляется результат? Это рекомендация или она автоматически запускает действие? Может ли врач его отклонить? Регистрируются ли изменения? Что происходит во время простоя? Технически совершенная модель может стать небезопасной, если её внедрить в плохо спроектированный процесс.
Далее, проверьте управление изменениями. Системы искусственного интеллекта могут развиваться. В Соединенных Штатах FDA опубликовало окончательное руководство по заранее определенным планам управления изменениями для программных функций устройств с поддержкой ИИ , в котором рассматривается, как определенные запланированные модификации могут быть описаны и оценены в рамках заявки на регистрацию. Даже вне рамок регулируемых устройств полезен основной этический урок: организации должны знать, когда модель изменяется и какие доказательства требуются, прежде чем полагаться на новую версию.
Ответственное внедрение системы должно давать не только многообещающие результаты, но и демонстрировать, что система работает в реальных условиях, что важные группы населения не подвергаются систематическому вреду, что врачи понимают, когда на нее можно положиться, и что пациенты по-прежнему имеют доступ к медицинской помощи и содержательным объяснениям.
Положительные признаки включают стабильную производительность после развертывания, четкое отслеживание версий, документированный анализ инцидентов, явные пути эскалации, мониторинг подгрупп и возможность остановить или откатить систему. Еще один хороший признак — это способность персонала описывать ограничения инструмента, не читая рекламный буклет.
Меняйте курс, когда производительность модели снижается, ошибки концентрируются в определенной подгруппе, пользователи начинают воспринимать рекомендации как обязательные, поставщик меняет модель без надлежащего уведомления или организация не может объяснить, куда будут передаваться данные пациентов. Систему, которую невозможно контролировать, сложно ответственно управлять.
Регулирование может ответить на важные вопросы о безопасности, эффективности, доступе к рынку и юридических обязательствах, но этическая оценка имеет более широкое значение. В Соединенных Штатах FDA ведет публичный список медицинских устройств с поддержкой ИИ, разрешенных к продаже . FDA также выпустило и переиздало свои окончательные рекомендации по программному обеспечению для поддержки принятия клинических решений в январе 2026 года , разъясняя, когда определенные функции поддержки принятия решений могут выходить за рамки определения медицинского устройства и когда применяются существующие правила в отношении устройств.
В Европейском Союзе Закон об ИИ использует систему оценки рисков . По состоянию на сентябрь 2026 года большая часть Закона остается в силе, в то время как Европейская комиссия заявляет, что правила, касающиеся высокого риска для систем ИИ, встроенных в регулируемые продукты, вступят в силу позже — 2 августа 2028 года, после упрощения правил в 2026 году. Поскольку классификация зависит от предполагаемого назначения и соответствующих правил для продукта, организациям не следует предполагать, что на каждую систему ИИ в здравоохранении распространяются одинаковые обязательства.
Соблюдение требований — это лишь минимальный уровень, а не окончательный этический вердикт. Инструмент, имеющий законное право на продажу, всё ещё может плохо подходить для конкретной больницы, группы пациентов или рабочего процесса.
Главная этическая проблема применения ИИ в здравоохранении заключается не в том, могут ли машины делать полезные прогнозы. Она заключается в том, могут ли люди использовать эти прогнозы таким образом, чтобы обеспечить безопасность, справедливость, конфиденциальность, автономию и подотчетность.
Для новичка лучшей отправной точкой является конкретность: определить, на какое решение это влияет, проверить доказательства, изучить, кто представлен в данных, составить карту потока данных, разработать эффективный человеческий контроль и заранее решить, какие доказательства заставят вас приостановить или остановить работу системы. Такой подход не устранит все этические дилеммы, но он превращает абстрактные принципы в вопросы, которые можно проверить, задокументировать и улучшить.
Данная статья носит образовательный характер и не заменяет клинические, юридические, нормативные или институциональные консультации по конкретной системе искусственного интеллекта.
Сравните Collabora Online и ONLYOFFICE Docs на одном сервере с помощью воспроизводимого теста, измеряющего использование памяти, время открытия документа и задержку при совместном редактировании.
Сравните поведение документов, электронных таблиц и макетов в ONLYOFFICE Docs и веб-приложениях Microsoft 365, а затем с помощью быстрого теста выберите более безопасный редактор для ваших файлов.
Выявление несоответствий в формулах может быть связано с синтаксисом, региональными разделителями, пересчетом, системами дат или неподдерживаемыми функциями, после чего необходимо проверить рабочую книгу перед ее предоставлением.
Посмотрите, что могут — и чего не могут — доказать данные последних версий, а затем сравните оба офисных пакета на одних и тех же файлах и компьютере.
Сравните точные совпадения, поиск слева, обработку пропущенных значений и поддержку версий, чтобы выбрать надежную формулу Calc.
Узнайте, как стили страниц Writer и ссылки на разделы Word влияют на титульные страницы, римские цифры и нумерацию заново при перемещении документа.
Сравните возможности Pardus Software Center с командами APT для поиска, установки, удаления и обновления пакетов, используя метод, подходящий для вашей задачи.
Ознакомьтесь с опубликованными Pardus требованиями к оперативной памяти, а затем сравните XFCE и GNOME на одном и том же ПК, получив воспроизводимые значения MemAvailable.
Узнайте, какое место HamoniKR 8.0 занимает в тарифном плане для корпоративных компьютеров, какие функции, ориентированные на корейский язык, он поддерживает и что следует проверить перед более широким внедрением.
Разберитесь, как взаимодействуют проверка при загрузке и защита во время выполнения в Gooroom, что означает «песочница» и какие настройки следует проверять на вашем устройстве.
