Guide pour une utilisation plus sécuritaire des agents conversationnels en santé mentale
Sur cette page
À propos
Ce guide s’adresse aux adultes canadiens qui utilisent ou envisagent d’utiliser des agents conversationnels fondés sur l’intelligence artificielle pour obtenir du soutien émotionnel, des conseils de vie, de l’aide à l’introspection, de la compagnie ou des réponses à des questions liées à la santé mentale.
S’appuyant sur les recherches disponibles en date de mai 2026, il présente les situations où l’utilisation des agents conversationnels peut devenir problématique, celles où elle peut être potentiellement bénéfique, les moments où il convient de prendre une pause ou d’arrêter leur utilisation, ainsi que des moyens d’utiliser ces outils de manière plus sécuritaire.
La recherche sur les agents conversationnels et la santé mentale est encore récente, et de nombreuses questions restent sans réponse.1,2,27 Plusieurs résultats proviennent d’études préliminaires et devront être reproduits par d’autres équipes de recherche avant que nous puissions les considérer comme solides. Les risques et les bienfaits deviendront plus clairs à mesure que les connaissances progresseront.1,2 Lorsqu’il existe des recommandations plus récentes ou officielles, celles-ci devraient être suivies.
Ce guide a été rédigé par une psychologue clinicienne et un scientifique des données, puis révisé par des professionnels de la psychologie, de la psychiatrie, et du travail social, ainsi que par un membre du public.
Note sur les agents conversationnels
Dans ce guide, le terme « agent conversationnel » désigne un large éventail d’outils d’intelligence artificielle capables de générer des réponses sous forme de conversation. Nous faisons principalement référence à trois types d’outils :
Les agents conversationnels généralistes, comme ChatGPT et Claude, utilisent l’intelligence artificielle générative et peuvent aider à accomplir de nombreuses tâches.
Les agents conversationnels d’accompagnement peuvent utiliser l’intelligence artificielle générative et sont conçus pour simuler une relation avec l’utilisateur.
Les agents conversationnels de bien-être peuvent utiliser l’intelligence artificielle générative et sont conçus pour soutenir la gestion du stress, le bien-être émotionnel, l’introspection ou d’autres préoccupations semblables. Woebot en est un exemple.
L’intelligence artificielle générative désigne des systèmes capables de créer de nouveaux contenus, comme du texte, des images ou du contenu audio, à partir de modèles entraînés sur des données.
Annexe : limites actuelles de l’IA en matière de sécurité et de performance
Les systèmes d’intelligence artificielle actuels présentent encore d’importantes limites qui affectent leur sécurité et leur performance.
Utilisation des informations antérieures
Le système peut omettre, oublier ou accorder trop peu d’importance à des informations importantes communiquées plus tôt, comme un handicap ou le décès d’un proche.10,13
Gestion des conversations longues
Lors de conversations longues ou complexes, les réponses peuvent devenir moins fiables et l’utilisation peut présenter davantage de risques.10,16,27
Cohérence des réponses
Les réponses peuvent varier d’un message à l’autre.10,11
Production d’informations fausses ou inventées
Le système peut générer des informations fausses ou inventées et les présenter avec assurance.1,2
Validation excessive du point de vue de l’utilisateur
Les réponses peuvent appuyer ou renforcer trop fortement le point de vue de l’utilisateur.6,17,18,19
Prise en compte incomplète de la situation de vie
Le système n’a pas un accès fiable à l’ensemble de la situation de la personne, notamment à son histoire, à ses relations, à sa culture, à ses facteurs de risque, à ses valeurs ou à son réseau de soutien.2,13
Détection des risques
Le système peut ne pas détecter ou signaler certains signes, surtout les plus subtils, indiquant qu’un soutien humain, des soins professionnels ou une aide urgente sont nécessaires.10,13,20
Références et avis importants
Références
Afficher les références
1. Torous, J., Linardon, J., Goldberg, S. B., Sun, S., Bell, I., Nicholas, J., Hassan, L., Hua, Y., Milton, A., & Firth, J. (2025). The evolving field of digital mental health: current evidence and implementation issues for smartphone apps, generative artificial intelligence, and virtual reality. World Psychiatry, 24(2), 156–174. https://doi.org/10.1002/wps.21299
2. American Psychological Association. Health advisory on AI chatbots and wellness apps. https://www.apa.org/topics/artificial-intelligence-machine-learning/health-advisory-chatbots-wellness-apps
3. Mental Health Research Canada — National Survey 25 (n=4,666). August 2025.
4. Zhang, Y., Zhao, D., Hancock, J. T., Kraut, R., & Yang, D. (2025). The rise of AI companions: how human-chatbot relationships influence well-being. arXiv preprint arXiv:2506.12605.
5. Fang, C. M., Liu, A. R., Danry, V., Lee, E., Chan, S. W., Pataranutaporn, P., ... & Agarwal, S. (2025). How AIai and human behaviors shape psychosocial effects of extended chatbot use: A longitudinal randomized controlled study. arXiv preprint arXiv:2503.17473.
6. Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391(6792). https://doi.org/10.1126/science.aec8352
7. Dohnány, S., Kurth-Nelson, Z., Spens, E., Luettgau, L., Reid, A., Gabriel, I., ... & Nour, M. M. (2026). Technological folie à deux: feedback loops between AI chatbots and mental health. Nature Mental Health, 1-10.
8. Saracini, C., Cornejo-Plaza, M. I., & Cippitani, R. (2025). Techno-emotional projection in human–GenAI relationships: A psychological and ethical conceptual perspective. Frontiers in Psychology, 16, 1662206.
9. Boyd, R. L., & Markowitz, D. M. (2026). Artificial intelligence and the psychology of human connection. Perspectives on Psychological Science, 21(2), 192-220.
10. Cheng, Y., Kang, Z., Jiang, K. (2026). The slow drift of support: Boundary failures in multi-turn mental health LLM dialogues.10.48550/arXiv.2601.14269.
11. Chen, L., Zaharia, M., & Zou, J. (2024). How is ChatGPT’s behavior changing over time?. Harvard Data Science Review, 6(2). Chen et al. — ChatGPT performance changes over time. arXiv:2307.09009, 2023.
12. Chen, L., Zaharia, M., & Zou, J. (2023). How is ChatGPT's behavior changing over time?. 10.48550/arXiv.2307.09009.
13. Pichowicz, W., Kotas, M., & Piotrowski, P. (2025). Performance of mental health chatbot agents in detecting and managing suicidal ideation. Scientific Reports, 15(1), 31652.
14. Moore, J., Grabb, D., Agnew, W., Klyman, K., Chancellor, S., Ong, D. C., & Haber, N. (2025). Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. In Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency (FAccT '25). Association for Computing Machinery, New York, NY, USA, 599–627. https://doi.org/10.1145/3715275.3732039
15. Badawi et al. / Priyadarshana et al. — Comparison of 9 s on 4,500 mental health responses rated by psychiatric evaluators; meaningful safety differences found across models. arXiv:2601.18630, 2026.
16. Du, Y., Tian, M., Ronanki, S., Rongali, S., Babu Bodapati, S., Galstyan, A., Wells, A., Schwartz, R., Eliu A Huerta, E. A., & Peng, H. (2025). Context length alone hurts LLM performance despite perfect retrieval. Findings of the Association for Computational Linguistics: EMNLP, 23281–23298. https://doi.org/10.18653/v1/2025.findings-emnlp.1264
17. Noshin, K., Ahmed, S. I., & Sultana, S. (2026). AI Sycophancy: How Users Flag and Respond. arXiv preprint arXiv:2601.10467.Noshin et al. — AI sycophancy: how users flag and respond. arXiv:2601.10467, 2026.
18. OpenAI. (2025, April 29). Sycophancy in GPT-4o: What happened and what we’re doing about it. OpenAI. https://openai.com/index/sycophancy-in-gpt-4o/
19. Malmqvist, Lars. (2024). Sycophancy in large language models: Causes and mitigations. 10.48550/arXiv.2411.15287.
20. Ramaswamy, A., Tyagi, A., Hugo, H. et al. ChatGPT Health performance in a structured test of triage recommendations. Nat Med 32, 1671–1675. https://doi.org/10.1038/s41591-026-04297-7
21. Hudon, A., & Stip, E. (2025). Delusional experiences emerging from AI chatbot interactions or “AI Psychosis”. JMIR Mental Health, 12(1), e85799.
22. Harvard Gazette. What to make of AI psychosis. https://news.harvard.edu/gazette/story/2026/04/what-to-make-of-ai-psychosis/
23. Golden, A., & Aboujaoude, E. (2026). A transdiagnostic model for how general purpose AI chatbots can perpetuate OCD and anxiety disorders. npj Digital Medicine.
24. Rector, N. A., Katz, D.E., Quilty, L.C., Laposa, J.M., Collimore, K., & Kay, T. (2019). Reassurance seeking in the anxiety disorders and OCD: Construct validation, clinical correlates and CBT treatment response. Journal of Anxiety Disorders, 67. doi: 10.1016/j.janxdis.2019.102109. Epub 2019 Jun 22. PMID: 31430610.Rector et al. — Reassurance seeking is a common maintaining factor across anxiety disorders; its reduction in CBT is associated with improved clinical outcomes. Journal of Anxiety Disorders, 2019.
25. Sun, X., Wang, Y., & McDaniel, B. T., (2026). AI companions and adolescent social relationships: Benefits, risks, and bidirectional influences. Child Development Perspectives. https://pmc.ncbi.nlm.nih.gov/articles/PMC12928748/
26. Palaniyappan, L., Paquin, V., & Barou-Laforie, E. (2026). High-Risk Human–AI Engagement: Clinical Assessment and Management Considerations. The Canadian Journal of Psychiatry, 07067437261445770.
27. Keshavan, M., Torous, J., & Yassin, W. (2026). Do generative AI chatbots increase psychosis risk?. World Psychiatry, 25(1), 150.
28. Tseng, E., & A Liang, C. (2026, April). " Chat, Should I Leave Him?" Risks, Rewards, and Roles for AI in Relationship Advice. In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (pp. 1-19).
29. Bean, A.M., Payne, R.E., Parsons, G. et al. Reliability of LLMs as medical assistants for the general public: a randomized preregistered study. Nat Med 32, 609–615. https://doi.org/10.1038/s41591-025-04074-y
30. Bodner, R., Lim, K., Siddals, S., Goldberg, S., & Torous, J. (2026). Barriers to understanding how many people use AI for mental health support: an estimate and narrative review. npj Digital Public Health, 1(1), 21.
Avis important
Afficher les avis importants
- Ce guide fournit des informations générales à visée éducative destinées aux Canadiens de 18 ans et plus. Les enfants et les adolescents peuvent faire face à des risques différents et nécessiter des conseils adaptés ainsi qu’un soutien approprié de la part d’un adulte. Il ne remplace pas une évaluation, un diagnostic, un traitement, une psychothérapie, des conseils professionnels ou un soutien en situation de crise adaptés à votre situation, et ne doit pas être considéré comme un avis clinique, juridique ou technique. Les informations présentées peuvent ne pas refléter les données cliniques, les avancées techniques ou les pratiques de sécurité les plus récentes. Privilégiez les ressources plus récentes et fiables lorsqu’elles sont disponibles, et consultez la version la plus récente de ce guide sur therapistintheloop.org ou katherinegibb.ca. Aucune des méthodes décrites ne peut garantir une confidentialité ou une sécurité complètes. En cas d’urgence, composez le 9-1-1.
- Les renseignements présentés dans ce guide peuvent ne pas tenir compte des plus récentes avancées techniques ou données cliniques et ne couvrent pas l’ensemble des considérations liées à l’utilisation de l’intelligence artificielle en santé mentale. Ce guide s’appuie sur les meilleures informations disponibles, notamment des études évaluées par les pairs, des recherches préliminaires qui peuvent ne pas encore avoir fait l’objet d’une évaluation par les pairs, des articles théoriques et des recommandations pertinentes. Certaines sources sont préliminaires, puisque les outils d’intelligence artificielle évoluent plus rapidement que la recherche ne peut les évaluer pleinement.
- Dans un souci de transparence, les auteurs et les personnes ayant contribué au guide déclarent leurs affiliations pertinentes. La mention d’un produit ou d’un service ne constitue pas une approbation. Leur participation reflète leur contribution à l’élaboration ou à la révision de ce guide et ne signifie pas nécessairement qu’ils sont affiliés à Therapist in the Loop, à leurs organisations respectives ou à tout produit ou service mentionné, ni que ceux-ci commanditent ou approuvent le guide.
Soutien humain
Si vous avez besoin de soutien humain, communiquez avec une personne ou un service de confiance.
Ligne d’aide en cas de crise de suicide 9-8-8
Appelez ou envoyez un texto au 9-8-8 · 24 h sur 24, 7 jours sur 7 · Partout au Canada
988.caJeunesse, J’écoute
Appelez le 1-800-668-6868 ou envoyez le mot CONNECT par texto au 686868 · Pour les personnes de 5 à 29 ans · 24 h sur 24, 7 jours sur 7
jeunessejecoute.caTrouver une ligne d’aide
Répertoire de lignes d’aide canadiennes et internationales
findahelpline.com