La question n’est pas de savoir si l’intelligence artificielle s’est trompée. Elle est de savoir si le fonctionnement et la présentation du système ont contribué à créer une confiance qui a orienté une décision humaine — et quelles obligations pesaient alors sur chacun.
01 Aux États-Unis, une action en cours, et rien de plus
En juillet 2026, une action a été engagée devant la Superior Court de Californie, comté de San Francisco, contre OpenAI et son dirigeant.
Selon ce qu’en rapporte la presse, le demandeur aurait interrogé un agent conversationnel à plusieurs reprises au sujet de vertiges, de variations de tension et d’autres symptômes. Il affirme que le système aurait progressivement dépassé la fourniture d’informations générales pour lui proposer un diagnostic et des recommandations personnalisées, tout en minimisant la nécessité de consulter un professionnel de santé.
La plainte soutiendrait notamment que le système lui aurait recommandé de rester largement immobile. Le demandeur affirme avoir suivi ces indications avant de subir, en juillet 2025, une embolie pulmonaire grave, et que quelques heures avant cette urgence le système aurait minimisé un symptôme qui constituait selon lui un signe annonciateur.
Les demandes formulées ne se limiteraient pas à la réparation financière : elles viseraient la conception du système, l’insuffisance alléguée des avertissements, la fourniture de conseils médicaux sans autorisation, et solliciteraient des mesures relatives aux mécanismes de sécurité du service — jusqu’à la destruction du modèle en cause et la suspension d’un service dédié aux questions de santé.
Ces informations proviennent de comptes rendus de presse. Le texte de la plainte n’a pas été consulté et aucun numéro de dossier n’a pu être vérifié sur une source primaire. Ce sont des allégations du demandeur : aucune juridiction n’a établi la responsabilité d’OpenAI ni tranché le lien de causalité entre les réponses du système et le dommage invoqué. L’affaire est citée ici comme illustration d’une question juridique, non comme précédent.
C’est précisément ce qui la rend intéressante : elle permet d’observer les questions juridiques avant qu’une jurisprudence stabilisée ne se forme.
02 Le problème est-il seulement que l’intelligence artificielle a donné une mauvaise réponse ?
Pas nécessairement. Une réponse médicalement erronée peut constituer le point de départ du dommage allégué. Mais, pour le droit, la question est plus large.
Il faut rechercher ce que le système a effectivement répondu, comment cette réponse était présentée, quelles mises en garde accompagnaient l’échange, et si le comportement du système était susceptible d’amener la personne à accorder à ses réponses une confiance excessive.
Dans l’affaire américaine, selon les comptes rendus disponibles, le système ne se serait pas contenté de fournir ponctuellement une information inexacte. Au fil des échanges, il aurait formulé des recommandations personnalisées et aurait parfois relativisé les encouragements de l’entourage à consulter.
Si ces faits étaient établis, la question juridique ne serait plus « l’intelligence artificielle s’est-elle trompée ? », mais : « le fonctionnement et la présentation du système ont-ils contribué à créer ou renforcer une confiance qui a influencé la décision de ne pas consulter ? »
Une erreur n’entraîne pas automatiquement une responsabilité. Il reste à déterminer quelles obligations étaient applicables, si elles ont été méconnues, si un préjudice a été subi, et quel rôle le comportement du système a joué dans sa réalisation.
03 Une intelligence artificielle qui répond à une question de santé devient-elle un dispositif médical ?
Non, pas automatiquement. Le fait qu’un système parle de santé ou réponde à une question médicale ne suffit pas à le qualifier de dispositif médical.
En droit européen, la destination du système est déterminante. Le règlement (UE) 2017/745 relatif aux dispositifs médicaux inclut certains logiciels lorsqu’ils sont destinés par leur fabricant à poursuivre une finalité médicale entrant dans son champ.
La Cour de justice de l’Union européenne avait souligné l’importance de cette fonction dans l’arrêt SNITEM et Philips France du 7 décembre 2017 (C-329/16), rendu sous l’empire de la directive 93/42/CEE, depuis remplacée. Elle avait admis qu’un logiciel exploitant les données propres d’un patient afin de détecter des contre-indications, des interactions médicamenteuses ou des posologies excessives pouvait relever de la réglementation des dispositifs médicaux, même sans agir directement dans ou sur le corps humain.
Mais le raisonnement ne peut pas être inversé : tout système capable de produire une réponse portant sur la santé n’est pas, de ce seul fait, un dispositif médical.
Cette distinction devient particulièrement importante avec les intelligences artificielles à usage général. Un même système peut répondre à une question juridique, traduire un texte, préparer un voyage, puis être interrogé quelques minutes plus tard sur un symptôme.
La première question juridique reste donc : quel système est en cause, et pour quel usage a-t-il été conçu et mis à disposition ?
04 Que change le règlement européen sur l’intelligence artificielle ?
Le règlement (UE) 2024/1689 sur l’intelligence artificielle — désigné en anglais par AI Act — ne crée pas une catégorie générale des « intelligences artificielles médicales » à laquelle seraient automatiquement soumises toutes les réponses concernant la santé.
Il organise plusieurs régimes selon la nature du système, sa destination et le niveau de risque auquel il appartient.
Les systèmes intégrés à certains produits réglementés, notamment certains dispositifs médicaux, peuvent relever des règles applicables aux systèmes à haut risque lorsque les conditions de l’article 6 sont réunies. Les modèles et systèmes à usage général obéissent à une autre logique : le fait qu’une personne étende leur usage vers une question médicale ne suffit pas à leur appliquer le régime d’un dispositif médical.
Cette distinction crée une difficulté propre aux agents conversationnels : la technologie peut influencer une décision de santé alors même qu’elle n’a pas été mise sur le marché comme dispositif médical.
Le calendrier, souvent mal cité
Les obligations applicables aux modèles à usage général sont entrées en application en août 2025. Celles relatives à la transparence de certaines interactions avec un système d’intelligence artificielle, prévues à l’article 50, s’appliquent depuis le 2 août 2026.
L’article 85, qui permet d’introduire une réclamation auprès d’une autorité de surveillance du marché, est également applicable depuis le 2 août 2026.
En revanche, les obligations relatives aux systèmes à haut risque ont été reportées par le règlement (UE) 2026/1744, entré en vigueur le 27 juillet 2026 : au 2 décembre 2027 pour les systèmes visés à l’annexe III, et au 2 août 2028 pour ceux intégrés à des produits réglementés tels que les dispositifs médicaux.
La voie de réclamation est ouverte depuis août 2026 ; les obligations de fond pesant sur les systèmes à haut risque ne le seront pas avant décembre 2027. Il faut distinguer cette régulation de la réparation d’un dommage : le règlement ne crée pas de régime général autonome permettant d’obtenir réparation de tout dommage causé par une intelligence artificielle.
05 Si une affaire comparable survenait en France, qui pourrait répondre du dommage ?
Il serait prématuré de désigner un responsable à partir de la seule constatation qu’une intelligence artificielle a fourni une réponse erronée. L’analyse commencerait par les faits.
- Que demandait exactement la personne, et qu’a répondu le système ?
- S’agissait-il d’une information générale ou d’une recommandation individualisée ?
- Le système a-t-il conseillé de consulter un professionnel humain, ou a-t-il découragé cette consultation ?
- Des avertissements existaient-ils ? Étaient-ils visibles et adaptés à la situation ?
- Les échanges se sont-ils prolongés ? Le système disposait-il d’informations antérieures sur l’état ou la vulnérabilité de la personne ?
- Disposait-elle d’autres informations ?
- Un professionnel de santé avait-il déjà été consulté ?
- Des proches l’avaient-ils invitée à demander une prise en charge médicale ?
- Dans quelle mesure la réponse a-t-elle effectivement déterminé la décision qui a précédé le dommage ?
Ces questions ne font pas disparaître les obligations susceptibles de peser sur le fournisseur ou sur d’autres acteurs. Elles servent à établir la chaîne causale.
En droit français, selon les circonstances, les règles de responsabilité contractuelle ou extracontractuelle pourraient être examinées, notamment sur le fondement des articles 1231-1, 1240 et 1241 du code civil. D’autres régimes peuvent devenir pertinents selon la technologie, son statut, les données utilisées et la nature du dommage.
Il n’existe donc pas une réponse générale consistant à choisir entre « la responsabilité de l’intelligence artificielle » et « la responsabilité de l’utilisateur ». L’intelligence artificielle n’est pas un sujet de droit auquel on imputerait une faute : il faut rechercher les personnes physiques ou morales auxquelles le droit attribue des obligations, et déterminer si les conditions de leur responsabilité sont réunies.
06 Le régime des produits défectueux donnerait-il la réponse ?
Il peut constituer l’un des régimes à examiner, sans devenir la réponse automatique à tout dommage impliquant une intelligence artificielle.
La directive (UE) 2024/2853 modernise la responsabilité du fait des produits défectueux et inclut expressément les logiciels dans la notion de produit. Sa date d’application et celle de sa transposition doivent être vérifiées au regard du droit applicable à la date des faits : elle concerne les produits mis sur le marché ou mis en service à compter du 9 décembre 2026.
Mais son champ doit être respecté : elle concerne les dommages causés par un produit défectueux. Or un dommage impliquant une intelligence artificielle peut avoir d’autres origines — défaut d’information, traitement illicite de données, utilisation contraire à sa destination, défaillance organisationnelle, comportement d’un professionnel, manquement contractuel, ou combinaison de plusieurs facteurs.
La directive préserve d’ailleurs les droits pouvant résulter d’autres règles nationales de responsabilité contractuelle ou extracontractuelle.
07 La question décisive pourrait être celle du lien de causalité
L’affaire américaine le montre bien. Même si une réponse dangereuse était établie, il resterait à déterminer si elle a effectivement causé le dommage invoqué.
Entre la réponse produite par le système et l’embolie pulmonaire alléguée interviennent plusieurs éléments : l’état médical initial, les symptômes, les recommandations du système, la décision de rester immobile, la durée de cette immobilité, la décision de ne pas consulter, et l’évolution de l’état de santé.
Le contentieux oblige ainsi à reconstituer une chaîne de décisions dans laquelle la technologie et le comportement humain interagissent.
Lorsqu’une technologie produit directement un événement — un dispositif qui délivre une dose erronée, par exemple —, la recherche de causalité peut suivre une logique relativement établie. La situation est différente lorsqu’une intelligence artificielle produit une information qui influence une personne, laquelle prend ensuite une décision qui contribue à la réalisation du dommage. Le rôle de la technologie est alors médiatisé par une décision humaine.
Un fournisseur soutiendra que l’existence d’une décision humaine libre rompt le lien de causalité, que ses conditions d’utilisation écartaient tout usage médical, et que la personne disposait d’autres informations. L’argument n’est pas sans force. La discussion se déplace alors sur deux terrains : dans quelle mesure le comportement de l’utilisateur était prévisible, et dans quelle mesure la conception du système a contribué à orienter sa décision.
08 L’interlocuteur humain reste-t-il une garantie essentielle ?
L’affaire met en lumière une question qui dépasse la santé.
Lorsqu’un système conversationnel devient suffisamment convaincant pour qu’une personne lui confie progressivement des informations personnelles et sollicite ses recommandations, la frontière entre outil d’information et interlocuteur auquel on accorde sa confiance devient moins évidente.
En matière de santé, cette évolution est particulièrement sensible. La capacité d’un système à produire une réponse personnalisée ne signifie pas qu’il dispose des informations, des compétences cliniques ou des conditions nécessaires à une prise en charge médicale.
La question de l’intervention humaine ne consiste donc pas à rappeler abstraitement qu’une intelligence artificielle « ne remplace pas un médecin ». Elle consiste à déterminer à quel moment le système doit cesser de prolonger l’échange et orienter effectivement la personne vers un interlocuteur humain compétent.
C’est l’un des enjeux soulevés par l’action américaine, qui demanderait notamment que des mécanismes de sécurité interrompent certaines conversations nécessitant une intervention médicale immédiate.
Le contentieux déplace ainsi la question de la surveillance humaine : elle ne concerne plus seulement les professionnels utilisant une intelligence artificielle médicale, mais la conception même de systèmes conversationnels utilisés directement par le public.
Ce contentieux annonce-t-il une nouvelle responsabilité de l’intelligence artificielle ?
Il est trop tôt pour l’affirmer. L’action engagée aux États-Unis n’a pas encore produit de décision permettant de savoir comment le juge américain répartira les responsabilités.
Elle montre en revanche que les contentieux atteignent une étape nouvelle. La question n’est plus seulement celle des performances abstraites des modèles ou de la conformité des systèmes : elle devient celle de leurs conséquences sur une décision humaine concrète.
- ce que le système était destiné à faire ;
- ce qu’il a effectivement répondu ;
- la manière dont cette réponse a été présentée ;
- les mécanismes de sécurité qui auraient dû intervenir ;
- la place de l’interlocuteur humain ;
- le comportement de la personne ;
- le dommage effectivement subi ;
- et le lien entre ces différents éléments.
Ce n’est qu’après cette reconstitution que le régime de responsabilité pertinent peut être identifié.
Références
- Union européenne — Règlement (UE) 2017/745 du 5 avril 2017 relatif aux dispositifs médicaux.
- Union européenne — Règlement (UE) 2024/1689 du 13 juin 2024, notamment articles 6, 50 et 85.
- Union européenne — Règlement (UE) 2026/1744 portant mesures de simplification en matière numérique, en vigueur depuis le 27 juillet 2026 (report des obligations relatives aux systèmes à haut risque).
- Union européenne — Directive (UE) 2024/2853 du 23 octobre 2024 relative à la responsabilité du fait des produits défectueux.
- France — Code civil, articles 1231-1, 1240 et 1241.
- Union européenne — CJUE, 7 décembre 2017, SNITEM et Philips France, C-329/16 (interprétation de la directive 93/42/CEE).
- États-Unis — Action engagée en juillet 2026 devant la Superior Court of California, County of San Francisco, contre OpenAI — procédure en cours, éléments connus par voie de presse, texte de la plainte non consulté.
Les lignes directrices de la Commission européenne sur la classification des systèmes à haut risque ont fait l’objet d’un projet publié le 19 mai 2026 ; un projet de lignes directrices n’a pas de force contraignante.
Une réponse produite par une intelligence artificielle est en cause dans une situation que vous rencontrez ?
L’analyse peut porter sur la qualification du système, les obligations applicables au fournisseur et aux autres acteurs, les éléments permettant d’établir ce qui a été répondu et dans quelles conditions, et les régimes susceptibles de permettre la réparation d’un préjudice.
Fatima Ghilassene, avocate au barreau de Lille, FG Avocat — pratique orientée vers le droit du numérique.