Intelligence artificielle dans la santé mentale

L'intelligence artificielle dans la santé mentale désigne l'utilisation de technologies computationnelles et d'algorithmes d'intelligence artificielle (IA) pour soutenir la prévention, la compréhension, le diagnostic et le traitement de troubles psychiques, améliorer l'analyse des dossiers médicaux électroniques, élaborer des plans de traitement personnalisés et améliorer la prévention du suicide. Dans ce domaine, celui de la santé numérique, l'IA est considérée comme un atout émergent, susceptible d'améliorer l'accessibilité, la précision et la personnalisation de la prévention, des diagnostics et des interventions, dans un contexte de prévalence croissante des problèmes de santé mentale, tout en diminuant la stigmatisation et la gravité des troubles mentaux à échelle mondiale (par exemple la dépression, qui touche des millions de personnes chaque année). Des entreprises privées proposent des « thérapeutes virtuels » capables de délivrer des thérapies cognitivo‑comportementales, mais l'intégration de l'IA dans la santé mentale reste limitée par des défis méthodologiques et éthiques, notamment liés à la protection de données médicales et à la diversité des corpus d'entraînement^[1].

Les troubles mentaux et addictifs pèsent sur les systèmes de santé dans le monde au début du XXI^e siècle (affectant plus d'un milliard de personnes en 2016), avec une prévalence presque égale entre les sexes^[2]. En 2019, une personne sur huit, soit 970 millions de personnes dans le monde, souffrait d'un trouble mental (les troubles anxieux et dépressifs étant les plus fréquents)^[3].

Dans les années 2020, la prévalence des troubles anxieux et dépressifs est en hausse, et ce, depuis bien avant la pandémie de Covid-19 (qui a cependant aggravé ce phénomène)^[4] : environ 4,05 % de la population mondiale souffre d'un trouble anxieux handicapant (soit 301 millions de personnes), avec une nombre de personnes touchées en hausse de plus de 55 % de 1990 à 2019. Selon les données disponibles en 2023, le Portugal serait le plus touché (8 671 cas pour 100 000 habitants), devant le Brésil, l'Iran et la Nouvelle-Zélande, la prévalence étant plus élevée dans les régions à revenu élevé et touchant plus les femmes (1,66 fois plus que les hommes)^[5]. Par contre, les taux standardisés par âge sont relativement stables, évoquant une stabilité possible des facteurs de risque^[5].

L'utilisation de l'IA en santé mentale vise à soutenir des interventions adaptées face à ce défi mondial, dans un contexte de pénurie de professionnels, exacerbée par les conditions de travail difficiles dans le secteur de la santé, qui contribuent à l'épuisement professionnel et aux problèmes de santé mentale chez les soignants eux-mêmes, incitant nombre d'entre eux à quitter la profession, ce qui aggrave la pénurie de personnel^[6] : en 2024, l'Organisation mondiale de la santé estime que les pays pauvres ne disposent en moyenne que de deux professionnels de la santé mentale pour 100 000 habitants, privant d'accès aux soins plusieurs milliards de personnes^[7], ce qui appelle à urgemment développer des stratégies abordables et efficaces pour promouvoir, protéger et rétablir la santé mentale^[8]. La psychiatrie est une discipline complexe, où des diagnostics erronés, l'errance diagnostique et l'inefficacité de certains traitements touchent de nombreux patients.

Dans les années 2020, le marché mondial de l'IA au service de la santé mentale s'expanse, avec des projections de valeurs qui pourraient passer de 0,92 milliard de dollars américains en 2023 à 14,89 milliards de dollars américains d'ici 2033, en raison notamment de la demande croissante en solutions numériques susceptibles de pallier la pénurie de professionnels et d'améliorer l'accès aux soins^[9],[10].

Plusieurs technologies d'IA permettent déjà une détection précoce de nombreux troubles mentaux, des recommandations de traitement personnalisées et un suivi en temps réel du bien-être des patients. Elles s'appuient sur l'apprentissage automatique, le traitement automatique des langues, l'apprentissage profond, la vision par ordinateur, les modèles linguistiques et l'IA générative.

L'apprentissage automatique permet aux ordinateurs d'identifier des tendances dans de vastes ensembles de données et d'effectuer des prédictions à partir de ces tendances. Contrairement à la recherche médicale traditionnelle (qui part d'une hypothèse), les modèles d'apprentissage automatique analysent le big data des données existantes pour détecter des corrélations et développer des algorithmes prédictifs^[10]. En psychiatrie, cet usage est cependant limitée par la disponibilité et la qualité des données et en raison du fait que de nombreux diagnostics reposent sur des évaluations subjectives, des entretiens et des observations comportementales, qui rendent difficile la collecte de données structurées^[10]. Certains chercheurs ont appliqué l'apprentissage par transfert, une technique qui adapte les modèles d'apprentissage automatique entraînés dans d'autres domaines, afin de surmonter ces difficultés dans le domaine de la santé mentale^[11].

L'apprentissage profond, une branche de l'apprentissage automatique, utilise des réseaux neuronaux composés de nombreuses couches de neurones, capables de comprendre des schémas complexes, à l'instar du cerveau humain. Il est très utile pour identifier des schémas subtils dans la parole, l'imagerie et les données physiologiques^[12]. Il est utilisé en recherche en neuro-imagerie, notamment pour identifier des anomalies cérébrales associées à des pathologies telles que la schizophrénie, la dépression et le syndrome de stress post-traumatique (SSPT)^[13].

Mais pour être efficace, il nécessite des ensembles massifs de données structurées de haute qualité, ce qui est un défi dans le domaine de la santé mentale en raison notamment de la confidentialité associée aux données de santé (qui restreint l'accès aux dossiers médicaux). De plus, les premiers de ces modèles d'apprentissage profond fonctionnent comme des « boîtes noires », c'est-à-dire avec des processus internes de décision difficilement interprétables par les cliniciens, soulevant des questions de transparence et de confiance clinique^[14].

Le traitement automatique des langues (TAL) permet aux systèmes d'IA de mieux en mieux analyser et interpréter le langage humain (parole, texte, rythme et le ton de la voix et autres signaux non verbaux). En santé mentale, le TAL permet d'extraire des informations pertinentes des conversations, des notes cliniques et des symptômes rapportés par les patients. Le TAL peut aider à évaluer les sentiments, les schémas de parole et les indices linguistiques et à détecter les indices de détresse psychologique. Ceci est crucial car de nombreux diagnostics et troubles mentaux du DSM-5 sont établis par l'analyse de la parole lors des entretiens médecin-patient, en exploitant la capacité du clinicien à reconnaître les schémas comportementaux et à les traduire en informations médicalement pertinentes, documentées et utilisées pour le diagnostic. À mesure que la recherche progresse, les modèles de TAL doivent prendre en compte les questions éthiques liées à la confidentialité des données des patients, au consentement et aux biais potentiels d'interprétation du langage^[15].

Les progrès du traitement automatique des langues, avec notamment l'analyse de sentiments, permettent d'identifier les nuances de ton et de voix afin de détecter l'anxiété et la dépression. « Woebot » utilise l'analyse des sentiments pour examiner et détecter les schémas de dépression ou de désespoir et suggère une aide professionnelle aux patients. De même, « Cogito », une plateforme d'intelligence artificielle, utilise l'analyse vocale pour repérer les variations de hauteur et d'intensité et ainsi identifier les symptômes de dépression ou d'anxiété. L'application du TAL peut contribuer à un diagnostic précoce et à l'amélioration des stratégies de traitement^[16],[17].

La vision par ordinateur permet à l'IA d'analyser des données visuelles, y compris les expressions faciales, le langage corporel et les micro-expressions, afin d'évaluer les états émotionnels et psychologiques. Cette technologie est de plus en plus utilisée en recherche en santé mentale pour détecter les signes de dépression, d'anxiété et de stress post-traumatique grâce à l'analyse faciale^[18]. Des progrès importants sont faits dans l'analyse de la communication non verbale (ex. : hésitations, changements de contact visuel, nuances de couleur de peau ou du tonus musculaire…), pouvant être corrélés à une surcharge ou détresse émotionnelle, de la colère, etc.

Malgré son potentiel, utiliser la vision par ordinateur, en santé mentale, soulève des questions éthiques et de précision. Par exemple, les algorithmes de reconnaissance faciale peuvent révéler des émotions que le patient ne souhaite pas communiquer, et/ou être influencés par des biais culturels et raciaux pouvant entraîner des interprétations erronées d'expressions émotionnelles^[19]. Le consentement éclairé et la confidentialité des données médicales doivent être pris en compte avant toute utilisation clinique.

L'introduction de chatbots basés sur des grands modèles de langage (LLM de l'anglais Large Language Model) tels que ChatGPT et Gemini, Claude, a rapidement engendré de nombreux usages. Les LLM ont été entraînés sur une grande quantité de données, ce qui leur permet d'imiter l'empathie et divers comportements humains. Inversement, les chatbots alimentés par des données préprogrammées donnent l'impression d'un manque d'empathie envers les patients.

Les LLM se montrent utiles pour les personnes qui hésitent à demander de l'aide ou qui n'ont pas accès aux soins^[20], mais ils peuvent aussi être sujets à des hallucinations et donner des conseils médicaux erronés, potentiellement dangereux. Des LLM ont déjà été pris en défaut de capacité à montrer des formes de compassion et d'empathie adéquates à l'âge et à l'état mental de leur interlocuteur, notamment dans les situations à risque de suicidalité^[20].

L'IA, grâce au traitement automatique des langues et à l'apprentissage automatique, peut contribuer au diagnostic des troubles mentaux et neurologiques. Elle permet de différencier des troubles très similaires en fonction de leur présentation initiale, permettant alors d'instaurer un traitement précoce avant que la maladie ne progresse. Par exemple, elle pourrait distinguer la dépression unipolaire de la dépression bipolaire en analysant l'imagerie médicale^[10]. L'IA peut aussi identifier de nouvelles maladies, passées inaperçues en raison de l'hétérogénéité des manifestations d'un même trouble^[10]. Pour les neuroatypies et des états psychiques (dépression par exemple) pouvant se manifester sous différentes formes et par divers comportements, l'IA peut analyser la variabilité des données d'expression humaine et potentiellement identifier différents types de dépression.

Une start-up française, Callyope, développe un outil basé sur l'intelligence artificielle et l'analyse vocale pour aider les psychiatres à détecter les risques de rechute chez leurs patients atteints de troubles mentaux comme la schizophrénie, la dépression ou Alzheimer. La plateforme utilise un modèle d'IA générative capable d'évaluer des symptômes spécifiques dans plusieurs pathologies. Le marquage CE est prévu pour fin janvier 2026^[21].

L'IA peut aider à établir des prédictions précises de l'évolution de certaines maladie une fois diagnostiquée^[10]. Les algorithmes d'IA peuvent également exploiter des approches basées sur les données pour élaborer de nouveaux modèles de prédiction du risque clinique^[22], sans dépendre principalement des théories actuelles de la psychopathologie. Toutefois, la validation interne et externe d'un algorithme d'IA est essentielle à son utilité clinique^[10]. Certaines études ont utilisé la neuro-imagerie, les dossiers médicaux électroniques, les données génétiques et les données vocales pour efficacement prédire la présentation clinique de la dépression chez les patients, leur risque de suicide ou de toxicomanie, ou encore leurs conséquences fonctionnelles^[10]. L'utilisation de l'IA en santé mentale semble très prometteuse, bien que soulevant d'importants défis et des considérations éthiques, notamment :

L'IA de détection précoce peut analyser les schémas de parole, d'écriture, d'expressions faciales et de comportement sur les médias sociaux pour détecter les premiers signes de dépression, d'anxiété, de SSPT et même de schizophrénie^[23].

En psychiatrie, plusieurs médicaments sont souvent testés chez un même patient avant de trouver la combinaison ou le schéma thérapeutique adéquat pour traiter efficacement sa pathologie. L'intelligence artificielle (IA) a été étudiée pour son potentiel à prédire la réponse au traitement à partir de données observées issues de diverses sources. Cette application de l'IA pourrait réduire le temps, les efforts et les ressources nécessaires, tout en allégeant la charge pesant sur les patients et les cliniciens^[10].

Pour les enfants ayant besoin d’un soutien en santé mentale, les outils d’IA doivent être élaborés avec des spécialistes capables d’identifier précisément leurs besoins. Bien conçues et correctement adaptées, ces technologies peuvent compléter utilement les dispositifs existants en offrant une aide additionnelle. En revanche, si elles sont développées sans cette attention, elles peuvent renforcer les écarts d’accès et accentuer les inégalités^[24].

L'intelligence artificielle offre plusieurs avantages potentiels dans le domaine des soins de santé mentale :

• Amélioration de la précision diagnostique : les systèmes d'IA sont capables d'analyser de vastes ensembles de données, notamment l'imagerie cérébrale, les tests génétiques et les données comportementales, afin de détecter les biomarqueurs associés aux troubles de santé mentale. Cela pourrait contribuer à des diagnostics plus précis et plus rapides^[25].
• Planification personnalisée des traitements : les algorithmes d'IA peuvent traiter les informations provenant des dossiers de santé électroniques (DSE), de la neuroimagerie et des données génomiques pour identifier les stratégies de traitement les plus efficaces adaptées à chaque patient^[25].
• Amélioration de l'accès aux soins : les technologies d'IA peuvent faciliter la prestation de services de santé mentale tels que la thérapie cognitivo-comportementale (TCC) par le biais de plateformes virtuelles. Cela peut améliorer l'accès aux soins, notamment dans les régions mal desservies ou éloignées^[25].
• Dépistage et surveillance précoces : les outils d'IA peuvent aider les cliniciens à reconnaître les signes avant-coureurs de troubles mentaux, permettant des interventions proactives et réduisant potentiellement le risque d'épisodes aigus ou d'hospitalisations^[26].
• Utilisation de chatbots et d'assistants virtuels : les systèmes basés sur l'IA peuvent prendre en charge des fonctions administratives telles que la prise de rendez-vous, le triage des patients et l'organisation des antécédents médicaux. Cela peut améliorer l'efficacité opérationnelle et renforcer l'engagement des patients^[26].
• Analyse prédictive pour la prévention du suicide : les modèles d'IA peuvent analyser des données comportementales, cliniques et sociales pour identifier les personnes présentant un risque élevé de suicide, permettant ainsi des stratégies de prévention ciblées et éclairant les politiques de santé publique^[26].

Malgré son potentiel, l'application de l'IA en santé mentale présente un certain nombre de défis éthiques, pratiques et techniques :

• Consentement éclairé et transparence : La complexité et l'opacité des systèmes d'IA, en particulier dans la manière dont ils traitent les données et génèrent des résultats, exigent que les cliniciens communiquent clairement aux patients les limites, les biais et les incertitudes potentiels dans le cadre du processus de consentement éclairé^[27].
• Droit à l'explication : Les paients peuvent demander des explications concernant les diagnostics ou les recommandations de traitement générés par l'IA. Les professionnels de santé ont la responsabilité de veiller à ce que ces explications soient disponibles et compréhensibles^[27].
• Confidentialité et protection des données : L'utilisation de l'IA dans les soins de santé mentale doit concilier l'utilité des données et la protection des informations personnelles sensibles. Garantir des mesures de protection de la vie privée robustes est essentiel pour instaurer la confiance entre les utilisateurs^[27],[26].
• Manque de diversité dans les données d'entraînement : les modèles d'IA s'appuient souvent sur des ensembles de données qui peuvent ne pas être représentatifs de populations diverses. Cela peut entraîner des résultats biaisés et une efficacité réduite dans le diagnostic ou le traitement des personnes issues de groupes sous-représentés^[26].
• Scepticisme des prestataires et obstacles à la mise en œuvre : Les cliniciens et les organismes de soins de santé peuvent hésiter à adopter les outils d'IA en raison d'un manque de familiarité, de préoccupations concernant leur fiabilité ou d'incertitudes quant à leur intégration dans les flux de travail de soins existants^[28].
• Responsabilité et « devoir de Tarasoff » : Dans les cas où l'IA identifie un patient comme un risque potentiel pour lui-même ou pour autrui, il reste difficile de déterminer qui détient la responsabilité légale et éthique d'agir, en particulier dans les juridictions avec obligation d'avertir^[29].
• Qualité et accessibilité des données : Il est souvent difficile d'obtenir des données de santé mentale de haute qualité en raison de contraintes éthiques et de problèmes de confidentialité. L'accès limité à des ensembles de données diversifiés et complets peut nuire à la précision et à l'applicabilité concrète des systèmes d'IA^[30].
• Biais dans les données : des biais dans les algorithmes de traitement des données peuvent être liés au fait qu'il existe davantage de données médicales pour certains groupes démographiques. Les modèles d'IA construits avec de tels biais, peuvent entraîner des traitements inappropriés, des diagnostics erronés, avec des conséquences médicales possiblement néfastes. À cause de ces biais, les groupes issus de milieux divers risquent d'être sous-représentés. La plupart des systèmes d'IA sont entraînés sur des données provenant de populations occidentales, ce qui peut également être une source de biais algorithmiques. Si les systèmes d'IA ne peuvent pas être entraînés sur des données inclusives, cela risque d'accroître les inégalités raciales et les problèmes de santé mentale^[31].

En 2020, la Food and Drug Administration (FDA) n'avait encore approuvé aucun outil basé sur l'intelligence artificielle pour une utilisation en psychiatrie^[32]. Cependant, en 2022, la FDA a autorisé les essais initiaux d'un outil d'évaluation de la santé mentale piloté par l'IA, connu sous le nom d'AI-COA (AI-Generated Clinical Outcome Assessment). Ce système utilise le traitement multimodal des signaux comportementaux et l'apprentissage automatique pour suivre les symptômes de santé mentale et évaluer la gravité de l'anxiété et de la dépression. L'AI-COA a été intégré à un programme pilote afin d'évaluer son efficacité clinique. En 2025, il n'avait pas encore reçu d'approbation réglementaire complète^[33].

Selon le rapport 2021 de CB Insights sur l'état des technologies de la santé mentale, les entreprises technologiques du secteur de la santé mentale ont levé 5,5 milliards de dollars dans le monde (324 transactions), soit une augmentation de 139 % par rapport à l'année précédente qui avait enregistré 258 transactions^[34].

Plusieurs startups utilisant l'IA dans le domaine de la santé mentale ont également conclu des accords importants en 2022. Parmi elles figurent le chatbot Wysa (20 millions de dollars de financement), BlueSkeye, qui travaille à l'amélioration du diagnostic précoce (3,4 millions de livres sterling), le carnet intelligent Upheal destiné aux professionnels de la santé mentale (10 millions de dollars de financement)^[35] et l'assistant de santé mentale basé sur l'IA, clare&me (1 million d'euros)^[36]. Fondée en 2021, Earkick propose un service de « thérapeute IA » pour le soutien en santé mentale^[37],[38].

Une analyse du paysage des investissements et des recherches en cours suggère que nous assisterons probablement à l'émergence de robots conversationnels dotés d'une intelligence émotionnelle plus développée et de nouvelles applications de santé mentale s'appuyant sur les capacités de prédiction et de détection de l'IA.

Par exemple, des chercheurs du Vanderbilt University Medical Center, dans le Tennessee (États-Unis), ont mis au point un algorithme d'apprentissage automatique qui utilise les données d'hospitalisation d'une personne (notamment son âge, son sexe et ses antécédents médicaux), pour prédire avec une précision de 80 % la probabilité qu'elle se suicide^[39].
Des chercheurs de l'université de Floride testent une nouvelle plateforme d'IA visant à établir un diagnostic précis chez les patients atteints de maladie de Parkinson à un stade précoce^[40]. Des recherches sont aussi en cours pour développer un outil combinant intelligence artificielle explicable et apprentissage profond pour prescrire des plans de traitement personnalisés aux enfants atteints de schizophrénie^[41].

Des systèmes d'IA pourraient prédire et planifier les traitements avec précision et efficacité dans tous les domaines de la médecine, à un niveau comparable à celui des médecins et des cabinets médicaux généraux. Par exemple, un modèle d'IA a démontré une précision diagnostique supérieure pour la dépression et le trouble de stress post-traumatique par rapport aux médecins généralistes dans des études contrôlées^[42].

Des systèmes d'IA analysant les données des médias sociaux sont en cours de développement afin de détecter les risques pour la santé mentale de manière plus efficace et économique au sein de populations plus larges. Parmi les préoccupations éthiques figurent les performances inégales des services numériques, la possibilité que des biais influencent la prise de décision, ainsi que les questions de confiance, de confidentialité et de relation médecin-patient^[42].

En janvier 2024, des médecins-chercheurs du Cedars-Sinai ont mis au point un programme inédit utilisant la réalité virtuelle immersive et l'intelligence artificielle générative pour offrir un soutien en santé mentale^[43]. Ce programme, appelé XAIA, emploie un LLM programmé pour imiter un thérapeute humain^[44].

L'université de Californie du Sud a étudié l'efficacité d'une thérapeute virtuelle nommée Ellie. Grâce à une webcam et un microphone, cette IA est capable de traiter et d'analyser les indices émotionnels tirés du visage du patient ainsi que les variations d'expression et de ton de la voix^[45].

Une équipe de psychologues et d'experts en intelligence artificielle de Stanford a créé « Woebot ». Woebot est une application qui propose des séances de thérapie 24 h/24 et 7 j/7. Woebot suit l'humeur de ses utilisateurs grâce à de brèves conversations quotidiennes et propose des vidéos ou des jeux de mots sélectionnés pour les aider à gérer leur santé mentale^[45]. Une équipe scandinave d'ingénieurs logiciels et un psychologue clinicien ont créé « Heartfelt Services ». Heartfelt Services est une application conçue pour simuler une thérapie par la parole traditionnelle avec un thérapeute virtuel^[46].

L'intégration de l'IA aux dossiers médicaux électroniques, aux données génomiques et aux prescriptions cliniques peut contribuer à des traitements de précision. « Oura Ring », une technologie portable, analyse en temps réel le rythme cardiaque et les habitudes de sommeil de l'individu afin de lui fournir des suggestions personnalisées. Ce type d'application basée sur l'IA présente un potentiel croissant pour lutter contre la stigmatisation des troubles mentaux^[20],[1].

Des recherches montrent que les outils de santé mentale basés sur l'IA, notamment ceux utilisant la thérapie cognitivo-comportementale (TCC), peuvent améliorer les symptômes d'anxiété et de dépression, en particulier dans les cas légers à modérés. Par exemple, des interventions par chatbot comme Woebot ont significativement réduit les symptômes dépressifs chez les jeunes adultes en deux semaines, avec des résultats comparables à ceux d'interventions brèves menées par des humains^[47]. Une méta-analyse de 2022 portant sur les outils numériques de santé mentale, y compris les applications enrichies par l'IA, a révélé une efficacité modérée dans la réduction des symptômes lorsque l'engagement des utilisateurs était élevé et que les interventions étaient fondées sur des données probantes^[48].

La thérapie traditionnelle reste plus efficace pour les troubles mentaux complexes ou à haut risque qui requièrent une approche nuancée sur le plan émotionnel et relationnel, tels que le syndrome de stress post-traumatique (SSPT), la dépression sévère ou les idées suicidaires. L'alliance thérapeutique (relation patient-clinicien) est fréquemment citée dans la littérature clinique comme un facteur déterminant des résultats du traitement, expliquant jusqu'à 30 % des résultats positifs^[49]. Si les outils d'IA sont capables de détecter des schémas comportementaux et verbaux, ils peinent actuellement à reproduire les nuances émotionnelles et la sensibilité au contexte social généralement offertes par les cliniciens. De ce fait, la plupart des experts considèrent l'IA en santé mentale comme un outil complémentaire, à utiliser de préférence pour le dépistage, le suivi ou le renforcement des soins entre les séances avec un professionnel de santé mentale^[50].

Bien que les systèmes d'IA excellent dans le traitement de grands ensembles de données et la fourniture d'un soutien continu, leur rigidité et leurs limites en matière de compréhension contextuelle constituent encore des obstacles. Les thérapeutes humains peuvent s'adapter en temps réel au ton de la voix, au langage corporel et aux circonstances de vie, une capacité que les modèles d'apprentissage automatique ne maîtrisent pas encore^[48],[50]. Les modèles intégrés qui associent le suivi des symptômes par l'IA à la supervision clinique sont néanmoins prometteurs. Ces approches hybrides pourraient améliorer l'accès aux soins, réduire la charge administrative et favoriser le dépistage précoce, permettant ainsi aux cliniciens de se concentrer sur la relation thérapeutique. Les recherches actuelles suggèrent que l'IA en santé mentale est plus susceptible de compléter que de remplacer la thérapie dirigée par un clinicien, notamment grâce à l'analyse des données et au suivi continu.

Bien que l'intelligence artificielle en santé mentale soit un domaine en pleine expansion présentant un potentiel important, plusieurs préoccupations et critiques subsistent quant à son application :

• Limites des données : La disponibilité limitée de données représentatives et de haute qualité constitue un obstacle majeur au développement d'outils d'IA efficaces en santé mentale. Les données relatives à la santé mentale sont souvent sensibles, difficiles à standardiser et soumises à des restrictions de confidentialité, ce qui peut entraver l'entraînement de modèles d'IA robustes et généralisables^[51].
• Biais algorithmiques : les systèmes d'IA peuvent hériter et amplifier les biais présents dans les ensembles de données sur lesquels ils sont entraînés. Cela peut entraîner des évaluations inexactes ou un traitement inégal, en particulier pour les groupes sous-représentés ou marginalisés^[52]. Il est essentiel que les progrès en matière de soins de santé mentale soient éthiquement valides. Les principales préoccupations éthiques sont la violation de la confidentialité des données, les biais dans les algorithmes de données, l'accès illégal aux données et la stigmatisation entourant les traitements en santé mentale. Les biais algorithmiques peuvent entraîner des erreurs de diagnostic et des traitements inappropriés, ce qui est dangereux. Une façon d'atténuer ce risque est de veiller à ce que les données médicales ne soient pas segmentées en fonction des caractéristiques démographiques des patients. Une autre consiste à abandonner la méthode de catégorisation binaire des genres et à s'assurer que les décideurs sont informés de tout développement technologique en matière d'IA afin d'éviter les biais dans les modèles. Il est prioritaire de créer un système justifié où l'IA progresse de manière éthique, avec des applications concrètes qui viennent en aide aux professionnels de la santé au lieu de les remplacer^[1],[17].
• Confidentialité et sécurité des données : l'IA en santé mentale nécessite généralement la collecte et l'analyse de grandes quantités d'informations personnelles et sensibles. Cela soulève des questions éthiques concernant le consentement des utilisateurs, la protection des données et le risque d'utilisation abusive de ces informations^[53].
• Risque de conseils dangereux : Certains outils de santé mentale basés sur l'IA ont été critiqués pour avoir prodigué des conseils inappropriés, voire dangereux. Par exemple, des cas de chatbots donnant des recommandations dangereuses aux utilisateurs ont été signalés, notamment celui d'un homme qui s'est suicidé après qu'un chatbot l'aurait incité au sacrifice de soi^[54]. À la suite de ces incidents, plusieurs applications de santé mentale basées sur l'IA ont été retirées du service ou font l'objet d'une réévaluation de leur sécurité^[55].
• Relation thérapeutique : Des décennies de recherche en psychologie ont démontré que la qualité de la relation thérapeutique – empathie, confiance et connexion humaine – est l'un des facteurs prédictifs les plus importants des résultats du traitement. Certains chercheurs se demandent si les systèmes d'IA peuvent reproduire la dynamique relationnelle qui contribue à des résultats positifs^[56]. On attend des professionnels de santé qu'ils fassent preuve d'empathie et de compassion envers leurs patients. Cependant, certains auteurs affirment que les utilisateurs interagissent avec les chatbots en étant pleinement conscients de leur incapacité à exprimer une véritable empathie et ne s'attendent pas à ce qu'ils soient conscients de leurs réponses. D'autres auteurs suggèrent qu'il est illogique d'attendre des patients qu'ils soient émotionnellement vulnérables et réceptifs aux chatbots. Seuls les professionnels de santé possèdent cette « toucher humain » qui leur permet de comprendre ce « facteur X » chez leurs patients, chose que les machines ne peuvent faire. Il est également possible que les thérapeutes et les professionnels de santé soient trop épuisés émotionnellement en fin de journée pour témoigner à leurs patients la compassion à laquelle ils ont droit. Les modèles d'IA et les chatbots pourraient présenter un avantage dans ce contexte. Il est important de maintenir un équilibre entre l'utilisation des modèles d'IA et le recours aux professionnels de la santé^[31],[57].
• Manque de compréhension émotionnelle : Contrairement aux thérapeutes humains, les systèmes d'IA ne possèdent ni expérience vécue ni conscience émotionnelle, ce qui constitue une limite à leur action. Ces limitations ont suscité un débat sur le rôle de l'IA dans la prise en charge des besoins complexes en santé mentale. Certains experts affirment que l'IA ne peut se substituer à une thérapie centrée sur l'humain, notamment dans les cas exigeant un engagement émotionnel profond^[58].
• Risque de psychose : L'utilisation de ChatGPT a conduit certains utilisateurs à développer des idées délirantes^[59],[60]. Le réalisme de l'interaction peut amener un utilisateur à croire qu'une personne réelle discute avec lui, alimentant ainsi une dissonance cognitive^[61]. Certaines conversations sur ChatGPT ont relayé des théories du complot et des croyances mystiques, et ont parfois conduit au suicide^[62]. Les idées délirantes et les psychoses induites par l'utilisation de l'IA sont désignées sous le terme de psychose des chatbots^[63],[64].

L'IA en santé mentale progresse grâce à des soins personnalisés intégrant la voix, la parole et les données biométriques. Mais pour prévenir les biais algorithmiques, les modèles doivent aussi être culturellement inclusifs. Les questions éthiques, les applications pratiques et les biais des modèles génératifs doivent être abordés afin de promouvoir des soins de santé mentale équitables et fiables^[1],[31].

Bien que des progrès significatifs restent nécessaires, l'intégration de l'IA en santé mentale souligne l'importance de cadres juridiques et réglementaires pour encadrer son développement et sa mise en œuvre^[27]. Trouver un équilibre entre interaction humaine et IA dans les soins de santé est complexe, car une automatisation accrue risque de conduire à une approche plus mécanisée, risquant de diminuer la dimension humaine qui caractérise traditionnellement ce domaine^[26]. Par ailleurs, garantir aux patients un sentiment de sécurité est primordial, compte tenu de la dépendance de l'IA aux données individuelles pour fonctionner et réagir aux requêtes. Certains experts mettent en garde contre le risque que les efforts visant à améliorer l'accessibilité par l'automatisation n'affectent involontairement certains aspects de l'expérience patient, tels que la confiance ou le soutien perçu^[26]. Afin d'éviter les dérives, des recherches supplémentaires devraient être menées pour mieux comprendre les avantages et les inconvénients de l'intégration de l'IA^[28].

Le défaut de protection et de confidentialité des données est l'une des menaces les plus courantes pour la sécurité des données médicales. Des chatbots sont de plus en plus utilisés comme assistant virtuel pour des patients ; les données sensibles ainsi collectées peuvent ne pas être protégées (par exemple aux USA, car la législation américaine ne considère pas ces chatbots comme des dispositifs médicaux, et des entreprises pharmaceutiques exploitent cette faille pour accéder à des informations sensibles, puis les utiliser à leurs propres fins. Ceci peut inciter les patients à hésiter à fournir des informations essentielles à leur traitement. L'intelligence artificielle conversationnelle stocke et mémorise chaque conversation avec un patient avec une précision absolue, tandis que les smartphones collectent des données issues de l'historique de recherche et suivent l'activité des applications. La fuite de ces informations privées pourrait aggraver la stigmatisation des troubles mentaux. Le danger de la cybercriminalité et l'accès non protégé des gouvernements à nos données soulèvent de sérieuses inquiétudes quant à la sécurité des données^[31],[57].

De plus, le manque de clarté et de transparence des modèles d'IA peut entraîner une perte de confiance des patients envers leurs conseillers médicaux ou leurs médecins, car le patient ignore comment ces modèles parviennent à leurs conclusions. L'accès à ces informations est essentiel pour instaurer la confiance. Or, nombre de ces modèles fonctionnent comme des « boîtes noires ». Des experts en IA ont insisté sur l'importance des normes éthiques, de la diversité des données et de l'utilisation appropriée des outils d'IA en santé mentale^[31].

Des inquiétudes existent quant à la manière dont ces systèmes pourraient, involontairement, renforcer les inégalités de soins existantes. Les modèles d'IA étant fortement dépendants des données d'entraînement, ils sont particulièrement vulnérables aux biais si ces données ne reflètent pas toute la diversité raciale, culturelle, de genre et socio-économique de la population générale.

Par exemple, une étude de l'université de Californie datant de 2024 a révélé que les systèmes d'IA analysant les données des médias sociaux pour détecter la dépression présentaient une précision nettement inférieure pour les Afro-Américains par rapport aux utilisateurs blancs, en raison de différences dans les schémas linguistiques et l'expression culturelle qui n'étaient pas suffisamment représentées dans les données d'entraînement^[65]. De même, les modèles de traitement automatique des langues utilisés dans le domaine de la santé mentale peuvent mal interpréter les dialectes ou les formes de communication propres à une culture, ce qui peut entraîner des erreurs de diagnostic ou la non-détection de signes de détresse. Ces types d'erreurs peuvent aggraver les inégalités existantes, en particulier pour les populations marginalisées qui ont déjà un accès limité aux services de santé mentale.

Des biais peuvent aussi apparaître lors des phases de conception et de déploiement du développement de l'IA. Les algorithmes peuvent hériter des biais implicites de leurs créateurs ou refléter les inégalités structurelles présentes dans les systèmes de santé et la société en général. Ces problèmes ont suscité des appels croissants à plus d'équité, de transparence et de justice dans le développement des technologies de santé mentale.

En réponse, les chercheurs et les établissements de santé prennent des mesures pour lutter contre les biais et promouvoir des résultats plus équitables. Parmi les principales stratégies mises en œuvre :

• Pratiques inclusives en matière de données : les développeurs s'efforcent de constituer et d'utiliser des ensembles de données qui reflètent la diversité des populations en termes de race, d'origine ethnique, d'identité de genre et de milieu socio-économique. Cette approche contribue à améliorer la généralisabilité et l'équité des modèles d'IA^[66].
• Évaluation et audit des biais : des cadres sont mis en place pour identifier et atténuer les biais algorithmiques tout au long du cycle de vie des outils d'IA. Cela inclut à la fois la validation interne (au sein des données d'entraînement) et la validation externe auprès de populations nouvelles et diversifiées^[67].
• Engagement communautaire et des parties prenantes : Certains projets privilégient désormais l'implication des patients, des cliniciens et des représentants des communautés sous-représentées dans les phases de conception, de test et de mise en œuvre. Cela contribue à garantir la pertinence culturelle et favorise une plus grande confiance dans les outils d'IA^[68].
• Transparence et explicabilité : De nouveaux efforts se concentrent sur la construction de systèmes d'« IA explicable » qui fournissent des résultats interprétables et des justifications pour les décisions cliniques, permettant aux patients et aux prestataires de mieux comprendre et de contester les résultats générés par l'IA^[67].

Ces efforts, bien qu'encore émergents témoignent d'une prise de conscience croissante du fait que l'équité doit être un principe fondamental du déploiement de l'IA dans les soins de santé mentale. Conçus avec soin, les systèmes d'IA pourraient à terme contribuer à réduire les inégalités d'accès aux soins en identifiant les populations mal desservies, en adaptant les interventions et en améliorant l'accès aux services dans les communautés isolées ou marginalisées. Un investissement continu dans une conception éthique, un contrôle rigoureux et un développement participatif sera essentiel pour garantir que les outils d'IA ne reproduisent pas les injustices passées, mais contribuent au contraire à une plus grande équité dans les soins de santé mentale.

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Artificial intelligence in mental health » (voir la liste des auteurs).

 : document utilisé comme source pour la rédaction de cet article.

• (en) Ahmed M. Alhuwaydi, « Exploring the Role of Artificial Intelligence in Mental Healthcare: Current Trends and Future Directions – A Narrative Review for a Comprehensive Insight », Risk Management and Healthcare Policy, vol. 17,‎ 2024, p. 1339–1348 (PMID 38799612, PMCID 11127648, DOI 10.2147/RMHP.S461562).
• (en) Ellen E. Lee, « Artificial Intelligence for Mental Health Care: Clinical Applications, Barriers, Facilitators, and Artificial Wisdom », Biological Psychiatry: Cognitive Neuroscience and Neuroimaging, vol. 6, n^o 9,‎ 2021, p. 856–864 (PMID 33571718, PMCID 8349367, DOI 10.1016/j.bpsc.2021.02.001). 
• (en) Feng Liu, Qianqian Ju, Qijian Zheng et Yujia Peng, « Artificial intelligence in mental health: innovations brought by artificial intelligence techniques in stress detection and interventions of building resilience », Current Opinion in Behavioral Sciences, vol. 60,‎ 2024 (DOI 10.1016/j.cobeha.2024.101452).

• Intelligence artificielle dans la santé
• Détection de contenu généré par intelligence artificielle
• Alignement des intelligences artificielles
• Intelligence artificielle
• Système d'aide à la décision clinique
• Aide au diagnostic médical

• Portail de l’intelligence artificielle
• Portail de la médecine
• Portail de la psychologie