Oui à l'IA générative en santé, mais avec des précautions

Mistral AI, CoPilot, ChatGPT… Impossible désormais de faire sans l’intelligence artificielle (IA) générative, même en santé. Alors autant accompagner les professionnels de santé pour qu’ils en aient une utilisation à la fois éthique et pertinente. C’est dans ce contexte que la Haute autorité de santé (HAS) publie A.V.E.C, un guide constitué autour de 4 lignes directrices pour « favoriser une approche didactique et pragmatique » de l’utilisation des outils reposant sur l’IA générative et que « tout professionnel de santé peut mettre en place facilement » grâce à des exemples issus du terrain.

L'IA générative en santé, de quoi parle-t-on ?

Mais d’abord, qu’est-ce qu’une IA générative ? C’est un outil « capable de générer un contenu (texte, image, son, vidéo…) en réponse à une question posée ou à une demande de tâche à effectuer (ces requêtes sont désignées sous le nom de « prompts ») », explique la HAS. « Le système analyse alors un grand nombre de données accessibles en ligne ou fournies par l’utilisateur afin de générer un contenu cohérent. »

En santé, des outils qui n’ont pas été spécifiquement pensés pour le secteur en côtoient d’autres qui y sont dédiés : transcription de conversations lors de consultations, élaboration de synthèses de littérature scientifique ou encore de documents illustrés d’images pour expliquer des parcours médico-sociaux. Problème, s’ils sont prometteurs et peuvent faire gagner du temps soignant en facilitant certaines tâches, administratives notamment, ou contribuer à améliorer les pratiques, ils ne sont pas nécessairement fiables. « Le contenu généré peut comporter des erreurs en se fondant sur des données non vérifiées ou en les dissimulant dans un contenu qui semble convaincant (on parle « d’hallucinations ») », prévient la HAS. Qui souligne que, parallèlement, les professionnels de santé ne sont pas « toujours pleinement éclairés sur les performances et les limites » des outils qu’ils mobilisent. La transmission d’informations confidentielles, par exemple, constitue l’un des risques auxquels ils s’exposent.

Chaque usage doit être conscient, supervisé et raisonné.

4 lignes directrices pour une meilleure utilisation

Aussi le guide de la HAS entend-il les sensibiliser à un usage éthique et cadrer les outils d’IA générative en quatre mots d'ordre et un acronyme : A.V.E.C

•  A  pour « Apprendre » : le professionnel « s’approprie le fonctionnement et l’utilisation du système d’IA générative », en se renseignant grâce à des sources fiables ou se formant sur les modalités d’utilisation (dont règles liées à la confidentialité des données).
• V pour « Vérifier ». Le soignant doit être attentif à la pertinence de l’usage de l’outil, à la qualité de sa requête et au contrôle du contenu généré. Il veille ainsi « à considérer chaque contenu généré comme une proposition pouvant contenir des erreurs à vérifier », et surtout conserve une part de pratique réalisée sans l’IA.
• E pour« Estimer », dans le temps, « la qualité et l’adéquation aux besoins du système d’IA générative » : facilité d’utilisation, nombre d’erreurs à corriger ou encore évaluation de l’amélioration de l’organisation après intégration dans le flux de travail.
• C  pour « Communiquer ». « Le professionnel échange avec son écosystème dans une démarche d’amélioration continue », indique la HAS. Une communication qui passe par des échanges de retours d’expériences avec d’autres utilisateurs, une démarche de transparence autour des types de données partagées, ou encore l’usage d’un langage adapté avec le patient autour de l’IA générative.

« Chaque usage doit être conscient, supervisé et raisonné. Bien maîtrisée, l’IA générative peut ainsi devenir une alliée au service de la qualité et de la sécurité des soins et accompagnements », conclut l’agence sanitaire.