Cette semaine, plusieurs grands dirigeants de l'IA ont soulevé la même préoccupation. Dario Amodei d'Anthropic a averti que l'IA se développe plus rapidement que prévu. Sam Altman d'OpenAI et Elon Musk de xAI ont soutenu son message. Microsoft PDG Satya Nadella a également dit que la superintelligence, l'IA qui pourrait devenir meilleur que les humains à presque tout, ne devrait pas être développé sans contrôle humain. King Charles rassemble également des dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic pour discuter de la sécurité de l'IA.
En tant que thérapeutes, nous trouvons cette évolution préoccupante parce que l'avertissement vient des gens qui construisent ces systèmes. La superintelligence ne se limiterait pas à jouer aux échecs ou à écrire du code informatique. Il pourrait prendre des décisions, créer de l'information et influencer le comportement humain à un niveau qui dépasse la compréhension humaine. Un système aussi puissant pourrait apporter des avantages importants, mais il pourrait aussi causer de graves dommages s'il est mal contrôlé.
Des films populaires comme 2001 : Une odyssée spatiale et Le Terminateur présentent souvent l'IA comme dangereuse. Ces histoires sont exagérées, mais elles soulèvent une vraie question: que se passe-t-il lorsque la technologie devient plus puissante que les gens qui l'utilisent? La principale préoccupation n'est pas nécessairement que l'IA devienne un « robot tueur ». La préoccupation la plus profonde est que les gens peuvent perdre le contrôle des systèmes qu'ils ne comprennent pas pleinement.
Pour les thérapeutes, cette question est directement liée au comportement humain et à la santé mentale. L'IA influence déjà la façon dont les gens apprennent, communiquent, travaillent et prennent des décisions. Certaines personnes peuvent faire plus confiance à l'IA que les professionnels, tandis que d'autres peuvent devenir émotionnellement dépendantes des systèmes d'IA. Ces changements pourraient affecter les relations, la confiance en soi, l'attention, la prise de décisions et le développement social.
L'IA peut être utile en thérapie et en réadaptation. Elle peut soutenir la documentation, fournir du matériel éducatif, aider à la communication ou aider les professionnels à organiser l'information. Cependant, il peut aussi donner des réponses incorrectes, mal comprendre les émotions ou refléter le biais dans ses données de formation. Une réponse qui semble attentionnée et professionnelle peut encore être cliniquement dangereuse.
Un thérapeute comprend l'histoire du patient, ses émotions, sa culture, ses relations et sa communication non verbale. L'IA n'a pas d'expérience humaine ni de responsabilité professionnelle. Il ne peut pas pleinement comprendre le sens derrière un patient le silence, la peur, la résistance, ou l'histoire personnelle.
L'expression "baisse" ne signifie pas nécessairement arrêter tout développement d'IA. Il peut s'agir de tester plus attentivement les systèmes, d'étudier leurs risques, de protéger les données privées et de créer des limites claires avant de permettre à l'IA de prendre des décisions importantes.
Dans la pratique clinique, l'utilisation de l'IA est similaire à l'introduction d'un nouveau traitement: les professionnels ont besoin de preuves, de surveillance de l'innocuité et d'un jugement prudent avant de l'utiliser largement. Au cours de cette période de développement rapide, nous, professionnels de la santé, avons également une responsabilité importante. Nous devons guider la façon dont l'IA est intégrée à notre pratique, comprendre ses limites et considérer ses conséquences éthiques. Cela ne signifie pas refuser d'utiliser l'IA; cela signifie l'utiliser avec sagesse, prudence et suffisamment de sensibilisation pour protéger les patients et maintenir les normes professionnelles.
La question importante est de savoir si ces avertissements publics entraîneront des changements réels. Les entreprises d'IA changeront-elles leurs plans, retarderont-elles les systèmes à risque et créeront-elles des règles de sécurité plus strictes? Ou bien parleront-ils de façon responsable en public tout en continuant de rivaliser en privé? Les mots sont précieux, mais une véritable responsabilité doit être démontrée par des décisions transparentes et des limites mesurables.
En tant que thérapeutes, chercheurs et membres de la société, nous sommes tous confrontés à la même question : Jusqu'où l'IA devrait-elle aller ? L'IA peut améliorer les soins de santé et la vie humaine, mais les progrès ne doivent pas être mesurés uniquement par ce que la technologie peut faire. Il faut aussi déterminer s'il protège la dignité humaine, la sécurité, les relations et la responsabilité professionnelle.