À mesure que les systèmes d'IA entrent dans les flux de travail cliniques, la terminologie doit devenir opérationnelle plutôt que rhétorique. Une Agent d'IA Il s'agit d'un système logiciel basé sur un modèle capable de planifier et d'exécuter des tâches en plusieurs étapes en vue d'atteindre un objectif, y compris la sélection des actions, l'utilisation d'outils externes et la révision des étapes en fonction des résultats. En d'autres termes, il est plus qu'une réponse chatbot: il est un coureur de workflow dirigé par un objectif. Cette définition est importante parce que beaucoup de confusion commence quand nous traitons tout système couramment comme « agent ».
Google DeepMind vient de tomber longtemps, ~Mise en garde de 42 pages sur la raison pour laquelle la plupart des « agences d'AI » échoueront dans le monde réel, et quand nous lisons Délégation intelligente de l'IA (publié 12 février 2026), cela explique discrètement la même chose des premiers principes. La fuite inconfortable est simple: beaucoup de ce qui est commercialisé comme "agents" aujourd'hui n'a pas survécu au contact avec la réalité. Pas parce qu'ils ne peuvent pas écrire ou planifier, mais parce qu'ils ne peuvent pas délégué de la manière dont les systèmes réels exigent. Et la thérapie est exactement là où cet écart devient visible tôt.
Voici la partie qui pique : la plupart des agents aujourd'hui ne sont pas vraiment des agents au sens fort que les gens imaginent. Ils sont les coureurs de tâche avec une bonne marque, nous leur donnons un but, ils le cassent en étapes, appellent des outils, et retour une sortie. Cela peut être une puissante automatisation, et il peut absolument créer l'efficacité dans le travail à faible consommation. Mais ce n'est pas une délégation, c'est un joli pipeline. Et dans le domaine des soins de santé, les « jolis pipelines » sont exactement la façon dont le risque caché se glisse dans la pratique quotidienne.
Qu'entendons-nous par "délégation" ? La délégation n'est pas une chose. Cela peut signifier une délégation exécution (le système effectue les étapes que vous avez déjà choisies), déléguant contrôle des flux de travail (il séquence les outils, les retries et gère les transferts), ou délégation jugement (il décide ce qui doit être fait et quand, sur la base de l'interprétation du contexte et du risque). La plupart des systèmes commercialisés en tant qu'"agentique" sont pour la plupart capables d'exécution et d'un certain contrôle du workflow, et non de délégation lorsque le jugement est déchargé et de la responsabilisation. En thérapie, le danger est quand nous déléguons involontairement le jugement tout en supposant que nous n'avons délégué que l'exécution.
Le point brutal de DeepMind est que la vraie délégation n'est pas seulement la division des tâches. Délégation en cours de transfert autorité, responsabilité, responsabilité et confiance, et le faire dynamiquement à mesure que la situation change. Cela signifie que nous ne demandons pas seulement, "Qui peut faire cela plus rapidement?" Nous demandons: «Qui devrait être sûr de faire cela, sous ces contraintes, avec ces conséquences?» Presque aucun système actuel ne se comporte ainsi de bout en bout une fois que plusieurs outils, données incertaines et enjeux réels sont impliqués.
Avant même que la délégation n'arrive, le cadre implique que nous devons évaluer la capacité, le risque, le coût, la vérifiabilité et la réversibilité. En d'autres termes, l'agent n'a-t-il pas accès à l'outil de calendrier? C'est "est-ce que cette tâche est sûre de se retirer, peut-on vérifier le résultat, et peut-on faire du mal si c'est mal?" C'est une façon très clinique de penser, et c'est exactement pourquoi cet article frappe les thérapeutes plus dur qu'il frappe les démos de technologie décontractée. Notre travail prend déjà le risque, pas la perfection.
La thérapie n'est pas seulement un travail d'information; c'est le travail relationnel sous l'éthique, la confidentialité, et le devoir de soins. Nos clients ne font pas l'expérience de notre travail comme des « extrants », ils l'éprouvent comme la confiance, la sécurité, le timing, l'adaptation et les limites. Donc, lorsqu'un système d'IA est encadré comme un « agent », la vraie question devient : qu'est-ce que nous délégions, et que sommes-nous accidentellement sous-traiter ? Si nous laissons un système dériver vers le jugement clinique, nous pouvons déléguer plus que nous ne le pensons.
Lorsque l'agence d'IA échoue dans notre contexte, elle échoue souvent sans absurdité évidente. Elle échoue discrètement : une note devient subtilement déformée, un signal de risque est minimisé, un message client devient trop confiant, ou une phrase de plan de sécurité devient trop générique pour être sécuritaire. La sortie peut sembler cohérente et professionnelle, parfois plus professionnelle que nous écrivions à 18 heures et c'est précisément ce qui la rend dangereuse. La fluence peut créer une fausse assurance, et la fausse assurance est un risque clinique.
Limites actuelles des agents d'IA (en particulier dans les flux de travail réels)
Même lorsque les agents accomplissent bien des tâches précises, ils luttent souvent avec coordination et interopérabilité, travaillant de manière fiable entre les outils, les politiques, les ensembles de données et d'autres agents. Les configurations multi-agents peuvent devenir fragiles : une supposition d'agent devient un autre agent, les erreurs d'outil se propagent, et la responsabilité devient difficile à tracer. Cela est important parce que les vraies cliniques ne sont pas des bacs à sable mono-outil ; elles sont des environnements multi-systèmes avec des données partielles et des contraintes de déplacement. La limitation n'est pas seulement l'intelligence, c'est une collaboration fiable et gouvernable.
En raison de l'interopérabilité limitée, les humains sont toujours tenus de gérer la coordination entre plusieurs agents. Tel est le problème de gouvernance : la diffusion de la responsabilité. Si un agent délègue à un autre, qui appelle un outil, qui fait référence à des données incomplètes, qui est en fait responsable de la formulation finale envoyée à un client? Nous pourrions le signer, la clinique pourrait le déployer, le fournisseur pourrait le fournir, et le modèle pourrait le générer, mais personne ne peut pointer vers une limite de décision claire et vérifiable. En thérapie, ce n'est pas abstrait; c'est comment la responsabilité éthique devient floue.
Pourtant, nous ne devrions pas jeter les outils, et nous devrions garder le récit équilibré. Les agents promettent une efficacité réelle : ils peuvent réduire le fardeau administratif, rédiger des notes psychoéducatives que nous approuvons, structurer des feuilles de travail, traduire ou simplifier le contenu pour répondre aux besoins en littératie, et résumer nos propres notes antérieures avec une provenance claire. Mais des contraintes pratiques subsistent, de sorte que les frontières doivent rester explicites: faible risque, réversible, vérifiable et de résister à la délégation de tout ce qui fonctionne comme le diagnostic, l'évaluation des risques, l'intervention en cas de crise ou les décisions de traitement. Si nous obtenons cette limite juste, nous prenons les gains sans renoncer à ce que les clients viennent pour : la confiance, la responsabilité humaine.