L'intelligence artificielle peut maintenant créer des images, des vidéos et des textes très réalistes. Dans le passé, les gens cherchaient des signes évidents, tels que des mains étranges, des visages inhabituels, des fautes d'orthographe ou de l'écriture robotique. Ces signes peuvent encore apparaître, mais ils deviennent moins fiables. Les systèmes d'IA s'améliorent rapidement, et les gens peuvent également modifier le contenu généré par l'IA avant de le partager.
Beaucoup de gens croient qu'ils sont bons pour identifier le contenu d'IA. Cependant, les recherches montrent que c'est souvent difficile. Les gens peuvent jouer un peu mieux que le hasard quand ils décident si une image, une vidéo ou un morceau d'écriture a été créé par l'IA. Cela signifie que les thérapeutes, les enseignants et les chercheurs peuvent se sentir confiants dans leur décision et se tromper encore. Les décisions importantes ne doivent donc jamais reposer uniquement sur des impressions personnelles.
Il est utile de comprendre que le contenu inhabituel ne signifie pas toujours qu'il a été fait par l'IA. L'écriture peut sembler différente parce qu'une personne utilise l'anglais comme langue seconde, traduit ses idées ou utilise un style formel. Une image peut sembler étrange en raison de l'éclairage médiocre, de la qualité faible, ou de montage lourd. Ces possibilités devraient être examinées avant de faire une hypothèse.
Les thérapeutes et les chercheurs devraient être conscients de deux risques principaux. La première est de faire confiance au contenu AI trop rapidement car il semble professionnel ou semble confiant. Le second est de plus en plus suspect de matériel authentique simplement parce qu'il semble poli ou inhabituel. Une fausse accusation peut nuire à un client, un étudiant, un collègue ou un participant à la recherche, surtout lorsqu'elle affecte le traitement, l'éducation, l'emploi ou la réputation professionnelle.
Une approche plus sûre consiste à demander d'où vient le matériel et comment il a été créé. Dans la mesure du possible, les professionnels peuvent consulter le fichier original, la date de sa production et tous les documents montrant comment il a été édité. Il peut également aider à comparer le matériel avec des notes cliniques, des travaux antérieurs, des observations directes ou d'autres informations fiables. Aucun indice ne peut prouver que quelque chose est réel ou produit par l'IA.
Les outils de détection de l'IA peuvent parfois être utiles, mais ils ne doivent pas être traités comme des juges finaux. Ces outils peuvent mal identifier l'écriture humaine comme étant générée par l'IA, surtout lorsque l'écriture est formelle, simple, traduite ou écrite par quelqu'un qui utilise l'anglais comme langue supplémentaire. Ils peuvent aussi ne pas identifier l'écriture d'IA qui a été modifiée par une personne. Le résultat d'un détecteur doit être considéré comme une raison de poser d'autres questions, et non comme une preuve.
Cette question est particulièrement importante en thérapie. Un client peut utiliser une image, une histoire ou un personnage généré par l'IA pour communiquer des sentiments difficiles à exprimer directement. Le matériel peut ne pas décrire un événement réel, mais il peut encore représenter une expérience émotionnelle réelle. Cependant, si le matériel est utilisé pour documenter les abus, les blessures, les préoccupations de sauvegarde ou une affaire juridique, le thérapeute devrait chercher des preuves supplémentaires et suivre des procédures professionnelles.
L'IA peut également produire des notes cliniques, des résumés, des lettres de recommandation et des ébauches de recherche. Bien que l'écriture puisse être courante, l'information peut ne pas être correcte. L'IA peut ignorer des détails importants, modifier le sens des événements ou présenter des informations incertaines comme des faits. Les professionnels devraient vérifier les renseignements importants par rapport aux documents originaux, aux résultats d'évaluation et à leurs propres observations avant de les utiliser.
La compétence la plus importante ne devient pas parfaite pour repérer l'IA. Les thérapeutes et les chercheurs doivent plutôt apprendre à gérer l'incertitude. Ils devraient tenir compte de l'objet du matériel, des conséquences possibles du tort et de la qualité des preuves disponibles. Les professionnels devraient être transparents quant à leur utilisation des outils d'IA et rester responsables de leurs décisions. L'interrogation attentive, le respect et le jugement professionnel sont plus fiables que des conclusions rapides.