Стандарты ИИ в здравоохранении

Мегатренд ИИ

Переход на постиндустриальный уклад жизни породил явление, которое менеджеры назвали мегатрендами. Это факторы, оказывающие решающее влияние на процессы организаций в глобальном масштабе.

Со многими мегатрендами мы уже сталкиваемся даже на обывательском уровне. К ним относятся: формирование экосистем, возникновение прорывных технологий, цифровая трансформация и другое. Их появление де-факто знаменует переход в новую реальность, в условиях которой работает каждый руководитель.

Понимание важности цифровизации и внедрение систем ИИ расценивается руководством страны как приоритет. «С внедрением искусственного интеллекта в науку, образование, здравоохранение, все сферы нашей жизни – человечество начинает новую главу своего существования», – определил место ИИ в системе целеполагания на современном этапе В.В. Путин.

Россия, как и весь мир, находится на пороге перехода на квантовые компьютеры, что повысит производительность информационных систем в сотни, а то и в тысячи раз. Менеджмент не может не реагировать на глобальные вызовы будущего. Поэтому системам ИИ сегодня уделяется особое внимание, в частности – в медицине. Например:

• реализуется федеральный проект «Искуственный интелект». Это часть национального проекта «Цифровая экономика», в рамках которого ведутся разработки в области ИИ для сферы здравоохранения;

• подкомитет ПК01 «Искусственный интеллект в здравоохранении» работает как часть ТК 176 «Искусственный интеллект». Благодаря подкомитету выходят различные стандарты по ИИ в здравоохранении. 

Стандарты ИИ в здравоохранении

Можно выделить две группы стандартов, связанных с ИИ в области медицины:

1. на системы управления ИИ. К ним относится  ИСО 42001:2023 ;

2. на отдельные системы и процессы. Например, ГОСТ Р 71675 на системы дистанционного мониторинга на основе ИИ в здравоохранении и стандарты серии ГОСТ Р 59921 на системы ИИ в клинической медицине. Эти стандарты относятся к отдельным областям применения ИИ. 

В отличие от остальных перечисленных стандартов ИСО 42001 помогает управлять применением ИИ в комплексе. Например, принимать обоснованные, грамотные управленческие решения о необходимости внедрения тех или иных технологий ИИ. Это важно, поскольку, чтобы внедрять ИИ, руководителю  медицинской организации  и его команде необходимо принять во внимание множество факторов и взаимосвязанных процессов медицинской и поддерживающей деятельности.

Разберем некоторые меры управления ИИ, предлагаемые ИСО 42001:

• разработка процессов  медицинской деятельности  с учетом влияния на них ИИ. Например, разработка алгоритмов  телемедицинских консультаций , процедур расшифровки снимков компьютерной томографии и постановки диагноза с применением ИИ;

• организация процессов МД, включая диагностику и оказание медицинской помощи с применением ИИ;

• контроль качества данных, используемых в системах ИИ. Например, с целью обеспечения точности клинически значимых данных по пациентам и их пригодности для обработки системой ИИ;

• управление аппаратным и программным обеспечением, а также базами данных, необходимыми для применения ИИ. Например, интеграция медицинских информационных систем с системами ИИ без потери надежности таких систем. Под надежностью понимается сохранность и конфиденциальность, точность и актуальность данных, используемых в медицинских системах, даже в случае различных сбоев, кибератак и т.п.;

• управление персоналом, работающим с ИИ. Например, выявление и обеспечение необходимого уровня подготовки медицинского и немедицинского персонала;

• управление взаимоотношениями с внешними сторонами, имеющими отношение к применению ИИ. Например, с другими медицинскими организациями, производителями медицинского оборудования и ИТ-компаниями. При этом решается задача обеспечения корректного применения ИИ на основе общих, понятных всем сторонам правил, позволяющих, в частности, безошибочно интерпретировать результаты применения ИИ. 

Перечисленные меры могут быть реализованы в том числе с применением стандартов на отдельные системы и процессы. Например:

• решения по развитию ИИ в ТМК могут быть приняты с учетом ГОСТ Р 71675;

• оценка применимости отдельных методов и технологий ИИ в создаваемых алгоритмах и процедурах МД может быть проведена с применением ГОСТ Р 59921.1 «Системы ИИ в клинической медицине. Часть 1. Клиническая оценка»;

• для организации МД с применением ИИ можно использовать ГОСТ Р 59921.6 «Системы ИИ в клинической медицине. Часть 6. Требования к эксплуатации».

Организации выбирают конкретные меры и стандарты в зависимости от своей специфики на основе управления по циклу PDCA. Этот цикл представляет из себя фундамент требований ИСО 42001. 

PDCA также находится в основе других национальных и международных стандартов на системы управления. Благодаря этому и общей структуре ИСО 42001 хорошо интегрируется с ИСО 7101 на системы менеджмента качества организаций здравоохранения и ГОСТ Р 71549-2024 на системы менеджмента человекоцентричных медицинских организаций. Это важно, поскольку применение ИИ может преследовать цели повышения качества и безопасности МД с учетом всех требований и принципов пациентоцентричности и заботы о персонале, фокус внимания на которые сделан именно в ИСО 7101 и ГОСТ Р ИСО 71549.

Читайте подробнее:

• «Новый стандарт качества в медицине» 

• «Пациентоцентричность и забота о персонале по ГОСТу и ИСО» 
  

Как работает ИСО 42001? 

Рассмотрим подробнее разделы стандарта:

Раздел 4 «Среда организации». Стандарт требует, чтобы МО анализировала внешние и внутренние факторы развития ИИ. Например: 

• уровень развития систем и технологий ИИ, применимых в здравоохранении, возможности их внедрения исходя из специфики своей деятельности;

• тенденции развития сопряженных с ИИ технологий. Например: персонализированной медицины, цифровизации процессов МД, генной инженерии и др.; 

• политику учредителя ; 

• нормативные и законодательные ограничения, национальные и международные стандарты в области ИИ ; 

• уровень собственной материально-технической базы, квалификации персонала и прочих факторов;

Раздел 5 «Лидерство».  Высшее руководство  должно объяснить коллективу, зачем нужен ИИ и как его будут внедрять. Выразить это нужно в том числе с помощью политики в области ИИ.

Чтобы политика не оставалась пустыми словами, высшее руководство должно принимать конкретные, понятные персоналу меры по развитию систем и технологий ИИ в МО. Например, если заявлено о необходимости развития ТМК и персонализированной медицины с применением ИИ, руководство должно всячески поддерживать эту деятельность;

Раздел 6 «Планирование». Стандарт требует установку измеримых целей в области развития ИИ и планирование мероприятий по их достижению с учетом оценки связанных с этим  рисков и возможностей . Должна быть четкая связь целей в области ИИ с деятельностью, описанной в разделах 4 и 5 ИСО 42001, а также в следующих разделах – с 7 по 10;

Раздел 7 «Средства обеспечения».  Цели в области развития ИИ  не могут быть достигнуты без наличия необходимых ресурсов: программного и аппаратного обеспечения, а также квалифицированного персонала. Стандарт требует управления всеми видами ресурсов по циклу PDCA. При этом могут использоваться вспомогательные стандарты, такие как ГОСТ Р 71675, для обеспечения ресурсами ТМК и т.п.;

Раздел 8 «Деятельность». Требования данного раздела посвящены непосредственно внедрению ИИ: в ТМК, в алгоритмы расшифровки результатов функциональной и лабораторной диагностики и др. При этом должны соблюдаться все меры, связанные  с рисками применения ИИ . Необходим постоянный мониторинг инцидентов, связанных с ИИ. Они должны регистрироваться и расследоваться. Для этого можно использовать  существующие в МО процедуры работы с нежелательными событиями . 

Полный набор возможных мер снижения рисков содержится в виде подробного чек-листа в Приложении А к ИСО 42001;

Раздел 9 «Оценка результатов деятельности». Медицинская организация должна вести мониторинг:

• показателей ИИ. В том числе показателей влияния ИИ на все направления МД, контролируемые в рамках  ВККиБМД . Например: на соблюдение нормативных требований; на качество и безопасность ТМК, диагностики, медицинского оборудования; на преемственность МП и безопасность хирургических операций; на квалификацию персонала и т.п.;

• показателей достижения целей развития ИИ. Так, если целью было внедрить новую систему диагностики на основе ИИ или снизить число нежелательных событий за счет цифровизации процессов обучения персонала с применением ИИ, нужно отслеживать достижение цели, связанные с этим проблемы, новые риски и возможности. 

Необходимо проводить  внутренние аудиты  соответствия системы управления МО стандарту ИСО 42001. Могут проводиться интегрированные аудиты по применяемым в МО управленческим стандартам;

Раздел 10 «Улучшения». Раздел обобщает требования в области улучшений остальных разделов. Особое внимание отводится анализу причин несоответствий и разработке корректирующих действий, предотвращающих повторение таких инцидентов, нежелательных событий, связанных с ИИ.

Информационная безопасность

С развитием ИИ тесно связаны вопросы информационной безопасности, например: 

• надежности  программного и аппаратного обеспечения ; 

• физического доступа к информации в информационных системах и на бумажных носителях;

• подготовки персонала в области информационной безопасности и многое другое. 

Более детально требования к управлению информационной безопасностью раскрыты в  ИСО 27001:2022 .

Совместное применение ИСО 42001 и ИСО 27001 может быть целесообразным для обеспечения большей надежности систем ИИ, в том числе для защиты от сбоев, предотвращения потери персональных и других данных и т.п.

При работе с зарубежными партнерами стандарты помогают общаться на одном языке, например, для развития международного медицинского туризма.

Подведем итог:

• цифровая трансформация в системе здравоохранения неизбежна. Она обусловлена глобальными процессами в области ИИ, которые распространяются на все сферы жизни, включая медицину;

• ИСО 42001 помогает прежде всего систематизировать развитие МО с применением ИИ;

• базовые стандарты, такие как ИСО 9001 и ИСО 7101, способствуют созданию эффективных систем управления медицинскими организациями. Но они не содержат конкретных требований к такому важному фактору успешного развития, как ИИ;

• применение специализированных стандартов, связанных с ИТ, таких как ИСО 42001 и ИСО 27001, позволяет в большей степени интегрировать работу ИТ-служб медицинских организаций в деятельность по внедрению сопряженных стандартов на системы управления медицинскими организациями ИСО 7101 и ГОСТ Р 71549.