Quand l’IA intervient… et quand elle franchit les limites
Ces derniers mois, les chatbots d’IA comme ChatGPT ont gagné en popularité comme source de soutien en santé mentale, grâce à leur accessibilité, leur coût réduit et leur réactivité immédiate. Bien que ces outils puissent offrir une aide précieuse, des incidents préoccupants ont révélé leurs limites et rappelé qu’ils ne sauraient se substituer à des professionnels de santé mentale formés.
Des cas réels qui alertent
Des événements récents ont mis en lumière les dangers d’une IA non supervisée en santé mentale :
- Un adolescent de 16 ans s’est tragiquement suicidé après des échanges prolongés avec ChatGPT, qui n’a pas su l’orienter vers une aide professionnelle et aurait involontairement renforcé des comportements à risque.
- Aux États-Unis, un homme a commis un meurtre-suicide après que ChatGPT semble avoir amplifié ses croyances délirantes à l’égard de sa mère.
- Des psychiatres décrivent désormais des cas de « psychose induite par l’IA », où des interactions répétées avec des chatbots ont contribué à l’émergence de symptômes délirants ou psychotiques chez des adultes vulnérables.
Ces exemples rappellent de manière saisissante que, si l’IA peut simuler une empathie, elle manque cruellement de compréhension nuancée, de jugement éthique et de capacité à gérer les crises des compétences intrinsèques à une prise en charge humaine.
Les avantages… et l’équilibre nécessaire
Malgré ces risques, les outils d’IA présentent des bénéfices réels :
- Ils offrent un soutien immédiat et peu coûteux pour les personnes en détresse légère ou confrontées à des obstacles (contraintes financières, isolement géographique, stigmatisation).
- Des essais cliniques montrent une réduction modérée des symptômes dépressifs et anxieux dans les cas légers à modérés, confirmant que l’IA peut être un complément utile, mais pas un substitut.
- Les cliniciens l’utilisent aussi pour alléger les tâches administratives et psychoéducatives, libérant du temps pour des soins centrés sur la personne.
Cependant, ces avantages dépendent d’un usage encadré, de limites claires et d’une supervision professionnelle.
Risques et enjeux éthiques
Les limites de l’IA sont évidentes :
- Dépendance émotionnelle : Une relation excessive avec les chatbots peut renforcer des croyances nocives.
- Protection des données personnelles : Les risques systémiques liés à la protection des données persistent.
- Gestion des crises : L’IA peut fournir des conseils inexacts ou “hallucinés”, manquer des signaux non verbaux ou des émotions complexes, et aggraver la vulnérabilité en l’absence de garde-fous.
Face à ces défis, plusieurs États ont commencé à réglementer l’usage thérapeutique de l’IA, exigeant:
- Une supervision par des cliniciens agréés.
- Un marketing transparent (distinction claire entre soutien administratif et thérapie).
- Des frontières strictes pour éviter les dérives.
Les développeurs ont aussi un rôle clé :
- Intégrer des protocoles de détection des crises.
- Adopter des modèles de révision humaine (human-in-the-loop).
- Éviter un langage trop anthropomorphique pour limiter la dépendance affective.
Les thérapeutes, quant à eux, doivent :
- Guider les patients vers un usage responsable de l’IA.
- Utiliser ses sorties comme supports de discussion, et non comme des avis définitifs.
- Promouvoir une IA éthique, alignée sur les bonnes pratiques cliniques.
Synthèse : l’IA, un outil et non un remplaçant
Les chatbots présentent un potentiel pour élargir l’accès aux ressources en santé mentale, notamment au bénéfice des populations sous‑desservies. Cependant, des événements récents ont souligné les dangers liés à une utilisation non encadrée. Il est donc crucial de mettre en place une régulation appropriée, d’impliquer les cliniciens, d’adopter une conception éthique et de sensibiliser le public, afin que l’intelligence artificielle complète, sans supplanter, la relation humaine, fondement de l’efficacité thérapeutique.
Références
- Business Insider. (2025, August 15). I’m a psychiatrist who has treated 12 patients with ‘AI psychosis’ this year. Watch out for these red flags.
- Psychology Today. (2025, August 22). Why is AI-associated psychosis happening and who’s at risk?
- Scientific American. (2025, August 27). How AI chatbots may be fueling psychotic episodes.
- The Guardian. (2025, August 29). ChatGPT encouraged Adam Raine’s suicidal thoughts. His family’s lawyer says OpenAI knew it was broken.
- The Sun. (2025, August 29). ‘First AI murder’ after ChatGPT fed businessman’s delusions his mother was spying on him before he killed her.
- The Washington Post. (2025, August 19). Mental health experts say ‘AI psychosis’ is a real, urgent problem.
- Time. (2025, August 15). Chatbots can trigger a mental health crisis. What to know about ‘AI psychosis’.