En janvier 2026, OpenAI a lancé aux États-Unis ChatGPT Santé. Ce programme informatique est surtout fait pour les patients, pour qu'ils comprennent mieux et gèrent leurs informations de santé. Les médecins peuvent aussi l'utiliser pour accéder plus facilement aux données médicales et mieux suivre leurs patients.
Quand les médecins et les patients utilisent cet outil, la protection des personnes – leur santé et leurs données – ainsi que le secret médical dépendent des mesures de sécurité techniques mises en place.
Dans la pratique, ChatGPT Santé aide à comprendre les résultats d'analyses, à suivre l'évolution de certains indicateurs, à préparer des rendez-vous médicaux ou encore à obtenir des explications sur des données de santé personnelles.
Pour les patients, c'est une aide pour avoir des informations et être accompagné dans leur suivi médical, mais cela ne remplace pas les professionnels de santé. Pour ces professionnels, ChatGPT peut aider à trouver un diagnostic.
Dans les deux cas, son utilité repose sur un équilibre : il faut transformer des dossiers médicaux qui sont partout en une aide fiable pour le diagnostic, tout en protégeant la vie privée des patients.
En effet, les données de santé sont considérées comme importantes et sont soumises à des règles très précises. Il est essentiel que ces données restent confidentielles pour respecter le secret médical et éviter qu'elles soient utilisées de manière inappropriée. Par exemple, si des assurances ou des banques accèdent à ces informations sans permission, cela pourrait mener à des refus de couverture, à une augmentation des prix ou à des refus de crédit basés sur l'état de santé d'une personne.
Pour assurer la confidentialité des données de santé qui sont envoyées et traitées par ChatGPT Santé (ou des systèmes similaires), il faut résoudre des problèmes techniques importants : sécuriser les transferts de données, garantir que les données sont anonymes dans un système très connecté, et ce, pendant la collecte des données, l'apprentissage du modèle et son utilisation.
La fiabilité des algorithmes et le risque d'erreurs graves
Avant tout, la protection du patient dépend de l'exactitude des informations que l'intelligence artificielle donne aux utilisateurs, qu'ils soient patients ou médecins.
Le problème des "hallucinations", qui existe dans les modèles d'intelligence artificielle comme les Large Language Models (LLM), devient très dangereux dans le domaine médical. Une petite erreur, comme une mauvaise conversion d'unité ou une confusion sur la quantité d'un médicament (par exemple, 5 milligrammes au lieu de 50 milligrammes), peut mettre la vie en danger.
Pour éviter cela, OpenAI utilise des "mécanismes d'ancrage" (grounding) en utilisant des bases de données comme HealthBench. Cette base contient 150 000 informations validées par des experts. Ce système transforme l'IA en un outil qui résume des documents, où chaque information est liée à une source fiable (comme des études scientifiques ou des sites d'hôpitaux). Cela aide les patients à mieux comprendre leurs analyses avec un langage moins compliqué.
Pour les professionnels de santé, cet ancrage rend l'outil plus sûr, car il repose sur la confiance humaine : l'outil ne remplace jamais le médecin qui prend la décision finale (par exemple, pour un diagnostic), mais il aide à transmettre des informations. Le suivi des sources permet au médecin de vérifier systématiquement ce que propose le modèle.
Sécuriser les communications
L'architecture de ChatGPT Santé est organisée de manière claire : les étapes de calcul (qui peuvent se faire à distance ou sur l'appareil) pour collecter les données, entraîner le modèle et l'utiliser ; mais aussi les échanges d'informations entre différents appareils (smartphones, laboratoires, hôpitaux, centres de données, etc.).
La circulation des données est gérée par la plateforme B.Well Connected Health. Cette infrastructure sert d'interface pour le domaine médical, permettant à différentes sources de données de communiquer entre elles, même si elles sont très différentes.
Elle permet ainsi de rassembler des données variées, comme celles venant d'applications personnelles (Apple Health, MyFitnessPal) ou celles des dossiers médicaux des hôpitaux. En s'assurant que chaque donnée correspond bien au bon patient et que les données respectent les règles en vigueur, la plateforme garantit un flux de données précis, lié à un seul utilisateur pour l'utilisation du LLM (c'est-à-dire son utilisation grâce à des instructions). Tout ce processus se déroule dans un environnement complètement séparé du réseau public.
Contrairement à l'interface normale de ChatGPT, les informations médicales des patients ne sont pas utilisées pour entraîner le modèle de langage général. Elles ne changent jamais le fonctionnement interne de ChatGPT. Ces données personnelles sont stockées uniquement dans un espace réservé à chaque utilisateur, ce qui assure que les informations importantes restent séparées du modèle et de son évolution future.
De plus, l'architecture de ChatGPT Santé utilise la méthode RAG (Retrieval-Augmented Generation) : au lieu de mémoriser l'historique médical, le modèle consulte, à chaque demande, une base de données privée et séparée. Contrairement à une mémorisation classique, où un modèle pourrait intégrer et garder des informations sensibles dans ses paramètres, ce système réduit le risque que ces données soient apprises ou réutilisées par le modèle sans le vouloir.
Cependant, ces informations sont stockées temporairement sur les serveurs d'OpenAI, notamment pour la modération, pendant une durée maximale de trente jours. Cette conservation, même courte, représente un point faible possible, car elle expose les données à un risque limité d'accès non autorisé.
Anonymiser les données pour éviter d'identifier les patients
La protection des données dans ChatGPT Santé doit s'assurer que la nature des informations traitées ne permette pas d'identifier le patient.
La première méthode pour "rendre les données non identifiables" utilisée par OpenAI consiste bien sûr à supprimer les informations qui identifient directement les patients, comme leurs noms. Mais cela ne supprime pas le risque de ré-identification en croisant des informations secondaires, ce qui rend l'anonymat fragile. En effet, une étude récente a montré qu'en combinant seulement trois informations (une maladie rare, un lieu précis et la fréquence cardiaque d'un objet connecté), il est possible d'identifier une personne dans plus de 80 % des cas. Grâce à sa capacité à croiser des informations, l'IA peut en effet relier des données anonymes pour trouver un profil unique.
Pour éviter ce risque, ChatGPT Santé pourrait utiliser la "confidentialité différentielle". Cette méthode consiste à ajouter une petite modification aléatoire aux données pour qu'aucune analyse ne puisse être attribuée avec certitude à une personne.
L'efficacité du système dépend de l'équilibre entre le "bruit" ajouté et la confidentialité : si le niveau de confidentialité est trop élevé, l'utilité des informations médicales diminue (elles sont trop modifiées pour être utiles). Si le bruit est insuffisant, le secret médical est menacé face à la puissance d'analyse croisée des systèmes d'IA.
Garder les données confidentielles pendant l'utilisation du LLM
Si ChatGPT Santé utilise un chiffrement de bout en bout pour sécuriser les communications, le vrai défi est de protéger les données pendant leur utilisation, lors de la phase appelée "inférence".
En effet, l'architecture des modèles de type transformer oblige actuellement le système à déchiffrer l'information pour faire ses calculs. Cela signifie que, même pour un court instant, les données de santé sont lisibles dans la mémoire vive (RAM) des serveurs de calcul. C'est un point faible face à des attaques qui visent à "extraire la mémoire".
L'avenir de la confidentialité des données de santé dépend de techniques de chiffrement avancées, comme le chiffrement homomorphe. Cette méthode permet de faire des calculs directement sur des données chiffrées, sans avoir besoin de les déchiffrer avant. Autrement dit, il est possible de traiter les données tout en les gardant protégées, ce qui assure que leur contenu reste inaccessible, même pendant leur utilisation.
Pour le moment, OpenAI utilise une approche mixte : l'utilisation de serveurs spécifiques sur Microsoft Azure permet de garder les données séparées des données des autres utilisateurs (ou de celles d'autres applications que ChatGPT Santé). Cette organisation crée un environnement similaire à un système interne (appelé aussi "sur site"), même s'il utilise le cloud. Cela permet de mieux protéger les échanges de données, mais n'élimine pas complètement les risques d'exposition temporaire pendant leur traitement.
Le conflit de souveraineté : les données françaises face aux lois américaines
Enfin, le déploiement de ChatGPT Santé en Europe poserait un problème majeur de souveraineté.
En France, la loi exige que les données médicales soient stockées chez des prestataires certifiés « Hébergeurs de données de santé ». Bien que Microsoft Azure ait des centres de données certifiés en France (France Central), les calculs complexes nécessaires à l'IA demandent des processeurs très puissants qui consomment beaucoup d'énergie. Pour des raisons de disponibilité électrique, ces centres de calcul sont souvent situés en dehors de l'Union européenne.
Or, le transfert de ces données vers des serveurs américains déclenche l'application du Cloud Act. Cette loi permet aux autorités américaines de demander l'accès aux informations gérées par une entreprise américaine, peu importe où ces informations sont stockées physiquement.
Ce cadre légal entre en conflit direct avec le règlement général sur la protection des données (RGPD) européen. Il crée une situation où la protection européenne serait moins importante que les exigences de sécurité américaines.
Nesrine Kaaniche ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d'une organisation qui pourrait tirer profit de cet article, et n'a déclaré aucune autre affiliation que son organisme de recherche.