L’Union européenne a récemment adopté l’AI Act, une législation pionnière visant à encadrer le développement et l’utilisation de l’intelligence artificielle (IA) dans divers secteurs, dont celui de la santé. Cette réglementation, qui entrera progressivement en vigueur, aura des implications significatives pour les acteurs du domaine médical.
L’AI Act classe les systèmes d’IA en fonction des risques qu’ils présentent.
Dans le secteur de la santé, de nombreuses applications seront considérées comme « à haut risque« , notamment les dispositifs médicaux utilisant l’IA. Ces systèmes seront soumis à des exigences strictes en matière de sécurité, de transparence et de contrôle humain.
Les fournisseurs de systèmes d’IA à haut risque devront se conformer à plusieurs obligations, notamment :
- Effectuer une évaluation de conformité avant la mise sur le marché
- Fournir une documentation technique détaillée
- Mettre en place un système de gestion des risques
- Assurer une surveillance humaine appropriée
- Garantir la transparence et l’explicabilité des décisions prises par l’IA
L’AI Act vise à protéger les droits fondamentaux des patients, notamment en ce qui concerne la protection des données de santé. Les systèmes d’IA utilisés pour établir des profils de santé seront soumis à des règles strictes pour éviter les discriminations et préserver la vie privée.
Cependant, des experts comme Hannah van Kolfschooten soulignent certaines limites de l’AI Act dans le domaine de la santé. La nature « horizontale » de la réglementation ne prend pas toujours en compte les spécificités du secteur médical. Par exemple, la protection se concentre sur les « utilisateurs » des systèmes d’IA (souvent les professionnels de santé) plutôt que sur les patients eux-mêmes.
Malgré ces limites, l’AI Act représente une avancée majeure dans la régulation de l’IA en santé. Il vise à établir un équilibre entre l’innovation et la protection des patients, en encourageant le développement de technologies médicales innovantes tout en garantissant leur sécurité et leur fiabilité.
Les acteurs du secteur de la santé devront se préparer à intégrer ces nouvelles exigences dès 2026. Cela impliquera probablement des changements dans les processus de développement, de validation et de déploiement des systèmes d’IA utilisés dans le domaine médical.
En conclusion, l’AI Act marque une étape importante dans la réglementation de l’IA en santé. Bien qu’il reste des défis à relever, cette législation vise à créer un environnement plus sûr et plus transparent pour l’utilisation de l’IA dans le domaine médical, au bénéfice des patients et des professionnels de santé.