ChatGPT conseille à un soixantenaire de remplacer le sel de table par du bromure de sodium : il est hospitalisé en urgence pour des hallucinations 

Même pour ce qui concerne notre santé, l’intelligence artificielle s’est immiscée dans nos vies ces derniers mois, et aucun retour en arrière n’est possible. Pour le meilleur ? Déjà utilisée dans la prise en charge de certains cancers, elle est aussi capable d’affiner des diagnostics et plusieurs patients ont déjà pu en tirer profit. Souvenez-vous, il y a quelques semaines, nous vous avions raconté (c’est à relire ici) l’histoire de cet homme atteint d’une maladie rare au pronostic sombre sauvé par l’IA qui lui avait trouvé, parmi les médicaments déjà disponibles, un traitement efficace jusque-là utilisé uniquement pour soigner l’arthrite. “Le patient de cette étude était en soins palliatifs, mais il est maintenant en rémission depuis près de deux ans”, s'étaient enthousiasmés les médecins dans un communiqué de presse en février de cette année.

Mais l’IA peut aussi être capable du pire. Et l’utilisation que nous en faisons quand il s’agit de notre santé doit être bien réfléchie. Déjà, de nombreuses voies s’élèvent ces dernières semaines pour alerter sur l’utilisation de l’IA en lieu et place de certaines thérapies, notamment pour ce qui concerne la santé mentale. Pour le cas qui nous occupe aujourd’hui, ChatGPT a formulé des conseils de santé dangereux.

Du bromure de sodium à la place du sel : le patient conseillé par l’IA fini aux urgences

L’homme, un américain de 60 ans, “sans antécédents psychiatriques ni médicaux, s'est présenté aux urgences, craignant que son voisin ne l'empoisonne”, rapportent les Annals of Internal Medecine Clinical Cases. Dans les 24 heures qui suivent son admission, l’homme exprime une paranoïa croissante, se plaint d’hallucinations auditives et visuelles, tente de s’évader et est finalement placé en unité psychiatrique pour “invalidité grave”.

Ses analyses de sang laissent présager une intoxication aux métaux lourds, les médecins se mettent en relation avec le centre antipoison pour déterminer la cause du problème et finissent par trouver une intoxication au bromure de sodium, largement utilisé dans les années 70 pour assainir l’eau : son taux de bromure atteint 1 700 mg/L (les unités de référence sont de 0,9 à 7,3 mg/L). Ce qui correspond à d’autres symptômes expérimentés par le sexagénaire les semaines précédant son hospitalisation : apparition récente d'acné faciale et d'angiomes cerises, ainsi que de la fatigue, des insomnies, une sensation de soif intense…

Par quoi remplacer le sel de table ? La question dangereuse posée à l’IA !

L’état du patient, stabilisé en psychiatrie, lui permet de donner plus d’explications sur cette étonnante histoire : il explique qu’après “avoir lu sur les effets néfastes du chlorure de sodium, ou sel de table, sur la santé, il avait été surpris de ne trouver que des publications concernant la réduction du sodium dans son alimentation.” Or, ce qu’il souhaite ce n’est pas réduire le sel mais bien le remplacer. Inspiré par ses études universitaires en nutrition, il a décidé de mener une expérience personnelle pour éliminer le chlorure de sodium (autrement dit le sel de table) de son alimentation. Il demande à ChatGPT par quoi le remplacer et l’IA lui suggère le bromure de sodium et lui donne même des conseils pour s’en procurer sur Internet. Le hic ? Le chlorure peut effectivement être remplacé par du bromure, “mais à d'autres fins, comme le nettoyage”, précisent les médecins. L’histoire finit -heureusement bien - après trois semaines d’hospitalisation, l’état de l’homme s’est stabilisé, avec disparition des symptômes psychotiques. Reste la morale : les conseils de l’IA, surtout quand ils ne sont pas contextualisés, peuvent être dangereux. Dans le doute, il faut toujours en parler avec son médecin.