Недавно принятый Европейским парламентом Закон об искусственном интеллекте (AI Act) является значительным шагом в регулировании ИИ-технологий в Европейском Союзе (ЕС) и может оказать значительное влияние на применение ИИ в фармацевтической отрасли. Некоторые из требований Закона начнут действовать уже в августе 2024 года, а полное введение планируется к марту 2026 года.
Закон об ИИ в ЕС затронет многие отрасли, где искусственный интеллект активно применяется. Однако сфера здравоохранения, как одна из наиболее чувствительных с точки зрения личных и медицинских данных пациентов и потенциального влияния на состояние здоровья, может ощутить влияние закона сильнее других.
Искусственный интеллект активно применяется в разработке новых лекарственных препаратов, в частности, в клинических исследованиях. Одной из распространённых сфер применения ИИ в КИ является анализ медицинских изображений и историй болезни. Алгоритмы ИИ могут обрабатывать огромные объемы данных для обнаружения аномалий, идентификации маркеров заболеваний и помощи в диагностике с высокой точностью и скоростью.
Еще одна сфера — использование ИИ для создания данных для синтетических контрольных групп в клинических испытаниях. Синтетические контрольные группы используют исторические клинические испытания, медицинские записи и данные реального мира (RWD) для симуляции контрольной группы, что уменьшает необходимость в плацебо-группах и ускоряет процессы испытаний. ИИ также применяется в процессе идентификации пациентов для клинических испытаний, благодаря анализу медицинских записей, геномных и других данных пациентов.
Рискованный ИИ
Новый Закон классифицирует приложения ИИ по четырем уровням риска: недопустимый риск, высокий риск, ограниченный риск и минимальный риск. Системы с ограниченным и минимальным риском (например, ИИ в игровых приложениях и генераторах языка) подлежат меньшему количеству регуляторных требований, но все равно должны соответствовать стандартам для обеспечения этического использования.
Системы с недопустимым риском полностью запрещены, в то время как системы с высоким риском должны соответствовать строгим требованиям, включая прозрачность, управление данными, регистрацию у центральных компетентных органов и человеческий надзор.
Многие системы ИИ, используемые в современных клинических испытаниях, вероятно, будут считаться высокорисковыми согласно Закону об ИИ. Примеры таких систем включают программное обеспечение для разработки лекарств, решения для оценки осуществимости исследований, инструменты для набора пациентов и многое другое.
Ключевые требования к системам ИИ с высоким риском:
- Прозрачность и объяснимость: Системы ИИ должны быть прозрачными, то есть их процессы принятия решений должны быть объяснимы для медицинских работников и пациентов. Это поддерживает требование, чтобы решения, принимаемые ИИ, были понятны и заслуживали доверия.
- Управление данными: Системы ИИ с высоким риском должны внедрять надежные меры по управлению данными, включая управление качеством данных, обеспечивая точность, представительность и отсутствие предвзятости данных, используемых для обучения и работы этих систем (Статья 10).
- Человеческий надзор: Закон об ИИ предусматривает, что человеческий надзор является неотъемлемой частью развертывания систем ИИ с высоким риском. В клинических условиях это требует участия медицинских работников, которые будут проверять и подтверждать рекомендации ИИ (Статья 14).
- Точность и надежность: Закон требует строгих процессов валидации и документации, чтобы доказать, что модели ИИ могут точно и последовательно симулировать результаты контрольных групп, анализ конечных точек и другие процессы (Статья 15).
- Этические соображения: ИИ должен учитывать этические последствия, особенно в отношении конфиденциальности данных и согласия. Это требование особенно важно для набора участников исследований. Закон об ИИ подчеркивает, что системы ИИ должны быть разработаны и использоваться таким образом, чтобы уважать основные права и ценности (Статья 38).
- Непрерывный мониторинг: Системы ИИ, используемые в клинических испытаниях, должны постоянно мониторироваться, чтобы обеспечить их точность и эффективность со временем. Это включает в себя постоянную оценку и перекалибровку моделей ИИ по мере появления новых данных (Статья 61).
Как и Общий регламент по защите данных (GDPR), Закон об ИИ в ЕС распространяет свое действие за пределы Европейской экономической зоны. Это может иметь значительные последствия для компаний, работающих на рынке ЕС, особенно для тех, кто продвигает продукты и услуги, основанные на ИИ, в области клинических исследований.
