Les activités des managers de santé sont de plus en plus conditionnées par l’assistance de l’Intelligence Artificielle (IA). Et comme cette technologie est entrée dans les habitudes d’une grande partie de la population, l’offre de solutions d’IA est très importante.
La Commission européenne édite des lignes directrices
Il est donc nécessaire de s’appuyer sur une véritable régulation de cette offre afin de disposer d’outils de qualité susceptibles de ne pas induire les utilisateurs en erreur. Pour nous aider à y voir plus clair dans cette jungle des dispositifs propulsés par l’IA, la Commission européenne a publié, le 18 juillet 2025, un projet de lignes directrices clarifiant pour les fournisseurs et les exploitants de solutions d’IA les principales dispositions de la loi européenne (AI Act) applicables aux modèles d'IA à usage général (GPAI). Elles fournissent des orientations sur la définition et le champ d'application des modèles GPAI, les obligations liées au cycle de vie, les critères de risque systémique et les obligations de notification pour les fournisseurs.
Les lignes directrices développent la définition légale de la GPAI dans la loi sur l'IA, en introduisant des seuils et des critères clés pour la classification. Une fois qu'un modèle est qualifié de modèle GPAI, les obligations liées au cycle de vie en vertu de la loi sur l'IA s'appliquent dès le début de la phase de pré-entraînement et s'étendent à toutes les phases de développement ultérieures, y compris les modifications postérieures à la mise sur le marché. Certains modèles sont qualifiés « à haut risque » et sont traités spécifiquement par l’Article 50 de ces lignes directrices.
Tout utilisateur de contenu généré par l’IA doit être informé
Cet article impose des obligations de transparence aux fournisseurs et aux exploitants de certains systèmes d'IA, en vertu desquelles les utilisateurs doivent être informés lorsqu'ils interagissent avec un système d'IA ou lorsque le contenu est généré par l'IA. Selon l’AI Act, ces obligations s'appliquent à compter du 2 août 2026. Mais l'accord provisoire «AI Omnibus» de mai 2026 accorde aux systèmes d'IA générative déjà commercialisés avant cette date un délai jusqu'au 2 décembre 2026 pour s’y conformer.
Elles peuvent s’appliquer à tout système d'IA utilisé dans toutes les entreprises qui utilisent l'IA générative pour produire du contenu, lorsque celle-ci interagit directement avec les gens, lorsqu’elle génère du contenu synthétique, lorsqu’elle est utilisée pour la reconnaissance des émotions ou la classification biométrique et lorsqu’elle génère des deepfakes ou publie des textes sur des sujets d'intérêt public. Et dans tous les cas, son fournisseur doit agir de telle sorte que les utilisateurs soient informés qu'ils interagissent avec une IA.
Cette obligation technique vise notamment à garantir la traçabilité de la solution et à permettre aux outils de détection de vérifier si un contenu a été généré par l'IA. De plus, si un système d'IA est utilisé spécifiquement pour reconnaître les émotions des personnes ou les classer selon des critères biométriques, les responsables du traitement doivent en informer les personnes physiques concernées. À noter que l'interdiction de la reconnaissance des émotions sur les lieux de travail et dans les établissements d'enseignement est prévue à l'article 5 et est déjà en vigueur.
Un allègement de certaines règles qui crée un doute quant au risque encouru par les utilisateurs
Reste le cas de la création des deepfakes, définis comme des contenus visuels, audio ou vidéo générés ou manipulés par l'IA qui ressemblent à des personnes, des objets, des lieux, des entités ou des événements existants et qui pourraient faussement paraître authentiques ou véridiques. Ils doivent être signalés, par des avertissements d’ouverture pour les vidéos et des avertissements sonores pour les fichiers audios, sauf en cas de contenus manifestement fantaisistes ou physiquement impossibles.
Enfin, et ce cas pourrait intéresser les professionnels du management de santé, lorsque des diffuseurs publient des textes générés ou manipulés par l'IA dans le but d'informer le public sur des sujets d'intérêt public, ils doivent indiquer que ces textes ont été générés ou manipulés artificiellement. Cette obligation ne s'applique toutefois pas lorsque le contenu généré par l'IA a fait l'objet d'un processus de vérification humaine ou de contrôle éditorial et qu'une personne physique ou morale assume la responsabilité éditoriale de la publication.
L’ensemble de ces exceptions, ou allègements de la règle, risquent de créer des interprétations laissant la porte ouverte à des tentatives d’abus. Les lignes directrices éditées par la Commission européenne étaient censées rassurer les utilisateurs de l’IA, nous ne sommes pas sûrs qu’elles atteignent leur objectif à cent pour cent.