Московские рентгенологи разработали новые стандарты общих требований к системам искусственного интеллекта в медицине и системам менеджмента качества. Принятые единые стандарты помогут в разработке новых нейросетей и в тестировании существующих, а также позволят внедрять в практическую медицину только лучший опыт.
«Специалисты создают стандарты для систем искусственного интеллекта в здравоохранении, которых еще нет в мире, опираясь на свой уникальный опыт и научные разработки. Такие стандарты повышают доверие к современным технологиям и делают более прозрачными и понятными все процессы и на этапе разработки, и при регистрации, и при эксплуатации. Это помогает внедрять умные решения еще быстрее, а также получать более качественные и предсказуемые инструменты для заботы о здоровье пациентов», – рассказала Анастасия Ракова, заместитель мэра Москвы по вопросам социального развития.
Прежде всего ГОСТы Российской Федерации будут применяться разработчиками сервисов искусственного интеллекта, лабораториями при технических испытаниях и медицинскими организациями в клинических испытаниях.
Новые ГОСТы установят общие положения комплекса национальных стандартов «Системы искусственного интеллекта в клинической медицине». Кроме этого, они определят требования к методам испытаний систем искусственного интеллекта (СИИ) для анализа медицинских изображений. Для организаций ГОСТ Р 59921.8-2022 предложит руководство по применению ГОСТ ISO 13485 к процессам, связанным с заказом, поставкой, разработкой, эксплуатацией СИИ. ГОСТ Р 59921.9-2022 распространяется на интеллектуальный анализ данных, полученных методами исследования в клинической физиологии. Он определит организацию работ по стандартизации испытаний алгоритмов и СИИ, применяемых для обработки и анализа данных.
Инициатива создания национальных стандартов для внедрения систем искусственного интеллекта в клиническую медицину принадлежит профильному подкомитету технического комитета по стандартизации «Искусственный интеллект» Росстандарта, который организован на базе Центра диагностики и телемедицины Департамента здравоохранения Москвы. Для разработки единых понятий и норм для всех участников процесса столица объединила несколько десятков специалистов – разработчиков программного обеспечения, медиков, профессоров, научных сотрудников.
Сегодня в столичной медицине внедрено более 40 сервисов искусственного интеллекта по 17 различным направлениям исследований. Врачи пользуются нейросетями для обработки флюорографии, маммографии, рентгенографии, компьютерной томографии и магнитно-резонансной томографии. Искусственный интеллект помогает находить на изображениях, полученных при лучевых исследованиях, признаки рака легкого, COVID-19, остеопороза позвоночника, аневризмы аорты, ишемической болезни сердца, инсульта, легочной гипертензии, гидроторакса, а также рака молочной железы, плоскостопия и других заболеваний.
«Это очень важная работа, поскольку единые технические стандарты сорганизуют разработчиков, регулятора (Минздрав и Росздравнадзор) и заказчиков. Они вводят в действие единые термины, требования к этапам разработки, валидации и эксплуатации. Все это крайне важно с точки зрения доверия к ИИ-системам со стороны практического здравоохранения, а также это будет стимулировать реальное внедрение и применение ИИ-систем в нашей стране», – считает Александр Гусев, сооснователь проекта Webiomed, одного из флагманов среди российских HealthTech стартапов в области ИИ и СППВР.
Разработка системы ГОСТов для ИИ в здравоохранении – результат трехлетнего эксперимента по внедрению компьютерного зрения в лучевую диагностику, который стартовал в 2020 году на базе Центра диагностики и телемедицины Департамента здравоохранения Москвы и объединил более 150 медицинских организаций и около 20 ИТ-компаний, разрабатывающих ИИ-решения. Сегодня рентгенологам доступны 44 ИИ-сервиса, ассистирующих по 19 диагностическим направлениям, а нейросети проанализировали уже более 9 млн лучевых исследований, включая ФЛГ, ММГ, обычные РГ-снимки, КТ и МРТ.
Источник: Mos.ru
распечатать статью
Основные недостатки:
1. Отсутствие специфики для ИИ. Ключевые требования ISO 13485, связанные с чистотой, стерильностью или валидацией стерилизации, объявлены «не применимыми» без адекватной замены. Между тем для ИИ-систем требовалось бы прописать эквивалентные меры — киберзащищённость, проверка алгоритмов, контроль качества данных и их анонимизация.
2. Фрагментарность подхода к рискам. В ряде пунктов упомянуто, что неудовлетворённость потребителей может представлять риск, либо что действия с несоответствующей продукцией должны учитывать риски. Но это никак не встроено в систему ISO 14971 и не замыкается на CAPA-цикл. Получается набор деклараций без работающего механизма.
3. Дублирование ISO 13485. Документ в значительной части переписывает положения базового стандарта, не давая адаптации для медицинского ПО (включая SaMD). Получается своеобразный «пересказ», а не руководство к действию.
4. Недостаток практических инструментов. В стандарте нет конкретных методов или примеров, как проверять качество датасетов, как валидировать алгоритмы, контролировать bias или обеспечивать клиническую интерпретацию результатов.
Для производителей стандарт практически бесполезен как методическое пособие. Он не помогает ни при разработке, ни при подготовке регистрационного досье. Максимум — служит формальным обоснованием для аудитора или эксперта, что область «ИИ» в принципе учтена. Но без конкретных критериев это оборачивается неопределённостью: разные проверяющие будут трактовать требования по-своему.
В будущей редакции документа (если она будет…) следовало бы:
• встроить понятия и практики ISO 14971 и IEC 62304 применительно к ИИ;
• отдельно выделить требования к данным (качество, репрезентативность, анонимизация, контроль смещений);
• прописать процедуры верификации и валидации алгоритмов, включая клиническую апробацию;
• заменить «не применимые» пункты ISO 13485 на адаптированные меры по информационной и алгоритмической безопасности;
• дать примеры документов, записей и процессов, которые можно реально использовать производителю.