L'émergence de l'IA fantôme dans les soins
Face à l'alourdissement constant de la charge administrative et aux pénuries de personnel, de plus en plus de professionnels de santé se tournent vers des outils d'intelligence artificielle.
Ce phénomène, qualifié de « Shadow AI », fait l'objet d'une analyse publiée dans le Journal of Medical Internet Research (JMIR).
Un besoin d'allègement face au retard des organisations
Les soignants font face à surcharges de travail. Ainsi, un médecin généraliste devrait consacrer 26,7 heures par jour pour dispenser l'ensemble des soins recommandés tout en accomplissant l'ensemble de ses tâches administratives.
Pour simplifier leur travail, rédiger des comptes rendus ou résumer des dossiers, les soignants perçoivent les outils d'IA comme des alliés précieux.
Les établissements de santé tardent à intégrer ces technologies, freinés par des craintes liées à la confidentialité des données, au risque d'erreur et aux barrières organisationnelles.
Ce décalage pousse les soignants à agir de leur propre initiative.
Une pratique massivement répandue sur le terrain
D'après un sondage mené auprès de plus de 500 professionnels de santé, 58 % des répondants admettent utiliser des outils d'IA gratuits et généralistes dans le cadre de leur travail, et 40 % déclarent voir leurs collègues en faire autant.
L'innovation technologique progresse à un rythme bien plus rapide que les processus réglementaires et organisationnels.
Confidentialité, hallucinations et éthique : les risques majeurs
L'utilisation d'outils d'IA grand public non sécurisés expose le secteur de la santé à des vulnérabilités critiques :
Confidentialité et métadonnées : même si le nom ou le numéro de dossier du patient ne sont pas directement saisis, la géolocalisation et les métadonnées transmises aux plateformes peuvent permettre de réidentifier les patients.
Fiabilité et hallucinations : Les LLMs génèrent leurs réponses avec une assurance convaincante qui peut induire en erreur des professionnels jeunes ou inexpérimentés, alors que les risques d'incohérence et d'hallucinations restent élevés.
Cybersécurité : L'utilisation d'outils d'IA généralistes représente une menace majeure pour la sécurité informatique des établissements.
Consentement et éthique : Le consentement explicite du patient n'est généralement pas recueilli avant de saisir des éléments de son dossier à un outil externe.
Dépasser l'interdiction : vers une gouvernance adaptée et participative
Face au déploiement massif du Shadow AI, les dirigeants de la santé sont désormais contraints de repenser leurs modèles de gouvernance pour instaurer des cadres formels, associer des formations adaptées et définir des garde-fous conformes.
Tous les experts interrogés s'accordent sur un point : une simple interdiction est inefficace.
Les organisations doivent comprendre les besoins réels des soignants et co-construire avec eux les solutions validées.
Trop souvent, les outils choisis par les administrations ne répondent pas aux difficultés concrètes du quotidien.
Conclusion et perspectives
Le phénomène du Shadow AI ne disparaîtra pas spontanément :