L'évolution des grands modèles de langage (Large Language Model - LLM) a transformé de nombreux secteurs, dont celui de la santé. Initialement, des LLM comme GPT-2 et GPT-3, développés par OpenAI, ont permis des avancées significatives dans le traitement automatique du langage naturel, permettant aux machines de générer des textes d'une qualité comparable à celle de l'humain.
Les promesses des grands modèles de langage pour nos pratiques cliniques
Ces modèles, comme l’ensemble des solutions d’intelligence artificielle (IA), sont entraînés sur de vastes quantités de données, textuelles en l’occurrence, et ont démontré leur efficacité dans des tâches telles que la génération de texte, la synthèse et l'analyse des sentiments. Dans le domaine de la santé, les LLM peuvent améliorer l'aide à la décision clinique et sont utilisés notamment pour recommander des traitements ou piloter les parcours des patients à partir des dossiers médicaux électroniques (DME). Ils sont ainsi capables de générer des résumés de dossiers médicaux électroniques, offrant ainsi aux professionnels de santé un moyen efficace d'accéder aux informations critiques des patients ou aux patients d’obtenir des réponses personnalisées dans les chatbots, facilitant l'éducation thérapeutique ou la prise de rendez-vous.
Des outils qui peuvent générer des biais dans le contexte médical
Les LLM représentent donc une avancée pour nos pratiques quotidiennes. Cependant, leur capacité à prendre des décisions précises et cliniquement pertinentes reste limitée par leur manque de compréhension du contexte médical et par le risque de biais dans leurs données d'entraînement. Il s’agit ainsi de ne pas leur accorder une confiance aveugle car des problèmes de sécurité se posent quant au risque qu’ils fournissent des informations trompeuses ou erronées, ce qui pourrait avoir des conséquences néfastes pour les patients. Nous devons par conséquent les intégrer de façon optimale aux flux de travail cliniques afin de garantir leur utilité et leur sécurité dans les applications cliniques de routine.
Des risques liés à la récupération d'informations erronées et pour la confidentialité des données
Une étude publiée dans l'International Journal of Innovative Science and Research Technology examine les risques associés au déploiement de LLM dans le domaine de la santé, en se concentrant sur la mémorisation, les erreurs d'inférence et les risques liés à la récupération d'informations. Les LLM, tels que GPT-4, MedPaLM et les modèles cliniques affinés comme ClinicalBERT, s’ils sont utilisés couramment, présentent également des risques pour la confidentialité et la sécurité des données. Cette étude analyse comment ces modèles mémorisent des données sensibles, génèrent des réponses incorrectes ou dangereuses en raison d'erreurs d'inférence et récupèrent des informations non pertinentes ou confidentielles via des bases de connaissances externes.
Il est essentiel de consolider les bases des nouveaux outils qui sont mis à notre disposition afin d’assurer à nos patients des parcours de soins sans risque.
Des solutions spécialisées en santé valent mieux que des outils généralistes
Les chercheurs révèlent que GPT-4, un modèle généraliste, présente des risques de mémorisation et d'inférence plus élevés que les modèles spécifiques à un domaine comme MedPaLM et ClinicalBERT, qui ont démontré une meilleure performance dans les tâches de santé et une moindre tendance à la mémorisation. Ils soulignent également l'importance d'une ingénierie rapide, les risques potentiels émanant des systèmes de génération augmentée par la récupération (RAG) et la nécessité de techniques de protection de la vie privée et des données sensibles. Ils proposent donc un ensemble de recommandations pratiques pour une intégration sécurisée des LLM dans le domaine de la santé, notamment des pratiques de gouvernance des données, des protocoles de validation rapide et des mesures de protection de la récupération.
Les prémices d’un vaste champ d’études pour limiter les risques
Ils éditent enfin un cadre permettant de réduire les risques et suggèrent des pistes de recherche futures, telles que des études longitudinales sur la dérive des modèles, la validation des profils de risque ou l'intervention humaine pour un déploiement en situation réelle. Ce travail offre toutefois des perspectives essentielles aux cliniciens, aux chercheurs en IA et aux décideurs politiques qui œuvrent pour un déploiement sécurisé de l'IA dans le secteur de la santé. Nous ne sommes qu’au début d’une aventure qui a le potentiel de bouleverser nos pratiques. Mais il est essentiel de consolider les bases des nouveaux outils qui sont mis à notre disposition afin d’assurer à nos patients des parcours de soins sans risque.
Lire l’article de l'International Journal of Innovative Science and Research Technology dans son intégralité ICI.