Dialoguer avec un fantôme:

les dangers de l’intelligence artificielle pour la santé mentale

Auteur: Antoine Pelissolo - Professeur de psychiatrie, Inserm, Université Paris-Est Créteil Val de Marne (UPEC)

The Conversation. CC BY ND

Depuis le lancement, en novembre 2022, de ChatGPT, l’agent conversationnel développé par OpenAI, les intelligences artificielles génératives semblent avoir envahi nos vies. La facilité et le naturel avec lesquels il est possible d’échanger avec ces outils sont tels que certains utilisateurs en font même de véritables confidents. Ce qui n’est pas sans risque pour la santé mentale.

Les grands modèles de langage, autrement dit les intelligences artificielles " génératives " telles que ChatGPT, Claude et autre Perplexity, répondent à de très nombreux besoins, que ce soit en matière de recherche d’informations, d’aide à la réflexion ou de résolution de tâches variées; ce qui explique l’explosion actuelle de leur utilisation scolaire, universitaire, professionnelle ou de loisir.

Mais un autre usage de ces IA conversationnelles se diffuse à une vitesse impressionnante, en particulier chez les jeunes: l’équivalent de discussions entre amis, pour passer le temps, questionner ou échanger des idées et surtout se confier comme on le ferait avec un proche. Quels pourraient être les risques liés à ces nouveaux usages?

UN TERRAIN PROPICE A UNE ADOPTION RAPIDE

La conversation par écrit avec les intelligences artificielles semble s’être banalisée très rapidement. À noter d’ailleurs que s’il existe des IA utilisant des échanges vocaux, elles semblent cependant moins utilisées que les échanges textuels.

Il faut dire que nous étions depuis de longues années déjà habitués à échanger par écrit sans voir notre interlocuteur, que ce soit par SMS, par e-mail, par " tchat " ou tout autre type de messagerie. Les IA génératives reproduisant remarquablement bien l’expression verbale des êtres humains, l’illusion de parler à une personne réelle est quasiment immédiate, sans avoir besoin d’un avatar ou d’une quelconque image simulant l’autre.

Immédiatement disponibles à toute heure du jour et de la nuit, conversant toujours sur un ton aimable, voire bienveillant, entraînées à simuler l’empathie et dotées, si ce n’est d’une "intelligence", en tout cas de connaissances en apparence infinies, les IA sont en quelque sorte des partenaires de dialogue idéales.

Il n’est dès lors pas étonnant que certains se soient pris au jeu de la relation, et entretiennent des échanges suivis et durables avec ces substituts de confidents ou de " meilleurs amis ". Et ce, d’autant plus que ces conversations sont " personnalisées ": les IA mémorisent en effet les échanges précédents pour en tenir compte dans leurs réponses futures.

Certaines plateformes, comme Character.ai ou Replika, proposent par ailleurs de personnaliser à sa guise l’interlocuteur virtuel (nom, apparence, profil émotionnel, compétences, etc.), initialement pour simuler un jeu de rôle numérique. Une fonctionnalité qui ne peut que renforcer l’effet de proximité, voire d’attachement affectif au personnage ainsi créé.

Voici à peine plus de dix ans, le réalisateur Spike Jonze tournait le film Her, décrivant la relation amoureuse entre un homme sortant d’une difficile rupture et l’intelligence artificielle sur laquelle s’appuyait le système d’exploitation de son ordinateur. Aujourd’hui, il se pourrait que la réalité ait déjà rejoint la fiction pour certains utilisateurs des IA génératives, qui témoignent avoir entretenu une " romance numérique " avec des agents conversationnels.

Des pratiques qui pourraient ne pas être sans risque pour l’équilibre mental de certaines personnes, notamment les plus jeunes ou les plus fragiles.

DES EFFETS SUR LA SANTE MENTALE DONT LA MESURE RESTE A PRENDRE

Nous constatons aujourd’hui, dans tous les pays (et probablement bien trop tard…), les dégâts que l’explosion de l’usage des écrans a causés sur la santé mentale des jeunes, en particulier du fait des réseaux sociaux.

Entre autres facteurs, une des hypothèses (encore controversée, mais très crédible) est que la désincarnation des échanges virtuels perturberait le développement affectif des adolescents et favoriserait l’apparition de troubles anxieux et dépressifs.

Jusqu’à aujourd’hui, pourtant, les échanges menés par l’intermédiaire des réseaux sociaux ou des messageries numériques se font encore a priori principalement avec des êtres humains, même si nous ne côtoyons jamais certains de nos interlocuteurs dans la vie réelle. Quels pourraient être les conséquences, sur l’équilibre mental (émotionnel, cognitif et relationnel) des utilisateurs intensifs, de ces nouveaux modes d’échanges avec des IA dénuées d’existence physique?

Il est difficile de les imaginer toutes, mais on peut concevoir sans peine que les effets pourraient être particulièrement problématiques chez les personnes les plus fragiles. Or, ce sont précisément celles qui risquent de faire un usage excessif de ces systèmes, comme cela est bien établi avec les réseaux sociaux classiques.

À la fin de l’année dernière, la mère d’un adolescent de 14 ans qui s’est suicidé a poursuivi les dirigeants de la plateforme Character.ai, qu’elle tient pour responsables du décès de son fils. Selon elle, son geste aurait été encouragé par l’IA avec laquelle il échangeait. En réponse à ce drame, les responsables de la plateforme ont annoncé avoir implémenté de nouvelles mesures de sécurité. Des précautions autour des propos suicidaires ont été mises en place, avec conseil de consulter en cas de besoin.

Une rencontre entre des personnes en souffrance et un usage intensif, mal contrôlé, d’IA conversationnelles pourrait par ailleurs conduire à un repli progressif sur soi, du fait de relations exclusives avec le robot, et à une transformation délétère du rapport aux autres, au monde et à soi-même.

Nous manquons actuellement d’observations scientifiques pour étayer ce risque, mais une étude récente, portant sur plus de 900 participants, montre un lien entre conversations intensives avec un chatbot (vocal) et sentiment de solitude, dépendance émotionnelle accrue et réduction des rapports sociaux réels.

Certes, ces résultats sont préliminaires. Il paraît toutefois indispensable et urgent d’explorer les effets potentiels de ces nouvelles formes d’interactions pour, si cela s’avérait nécessaire, mettre tout en œuvre afin de limiter les complications possibles de ces usages.

Autre crainte: que dialoguer avec un " fantôme " et se faire prendre à cette illusion puissent aussi être un facteur déclenchant d’états pseudo-psychotiques (perte de contact avec la réalité ou dépersonnalisation, comme on peut les rencontrer dans la schizophrénie), voire réellement délirants, chez des personnes prédisposées à ces troubles.

Au-delà de ces risques, intrinsèques à l’emploi de ces technologies par certaines personnes, la question d’éventuelles manipulations des contenus – et donc des utilisateurs – par des individus mal intentionnés se pose également (même si ce n’est pas cela que nous constatons aujourd’hui), tout comme celle de la sécurité des données personnelles et intimes et de leurs potentiels usages détournés.

IA et interventions thérapeutiques, une autre problématique

Pour terminer, soulignons que les points évoqués ici ne portent pas sur l’utilisation possible de l’IA à visée réellement thérapeutique, dans le cadre de programmes de psychothérapies automatisés élaborés scientifiquement par des professionnels et strictement encadrés.

En France, les programmes de ce type ne sont pas encore très utilisés ni optimisés. Outre le fait que le modèle économique de tels outils est difficile à trouver, leur validation est complexe. On peut cependant espérer que, sous de nombreuses conditions garantissant leur qualité et leur sécurité d’usage, ils viendront un jour compléter les moyens dont disposent les thérapeutes pour aider les personnes en souffrance, ou pourront être utilisés comme supports de prévention.

Le problème est qu’à l’heure actuelle, certaines IA conversationnelles se présentent d’ores et déjà comme des chatbots thérapeutiques, sans que l’on sache vraiment comment elles ont été construites: quels modèles de psychothérapie utilisent-elles? Comment sont-elles surveillées? et évaluées? Si elles devaient s’avérer posséder des failles dans leur conception, leur emploi pourrait constituer un risque majeur pour des personnes fragiles non averties des limites et des dérives possibles de tels systèmes.

Les plus grandes prudence et vigilance s’imposent donc devant le développement ultrarapide de ces nouveaux usages du numérique, qui pourraient constituer une véritable bombe à retardement pour la santé mentale…

Le cerveau peut rester jeune à 80 ans:

l’énigme des " SuperAgers " enfin décryptée

Des traits biologiques et comportementaux spécifiques à la base de leur résilience cérébrale.

En analysant 25 ans de données pour tenter de percer les secrets des " SuperAgers ", ces personnes dotées d’une mémoire exceptionnelle à plus de 80 ans, des chercheurs ont découvert qu’elles remettent en question la croyance de longue date selon laquelle le déclin cognitif accompagne inévitablement le vieillissement. Ces personnes possèderaient des traits biologiques et comportementaux spécifiques leur conférant une étonnante résilience cérébrale même à un âge avancé. Ces données pourraient, à terme, mener à de nouvelles stratégies pour retarder le vieillissement cérébral chez les individus normaux.

Le cerveau humain est un système dynamique dont la plasticité se construit et évolue au fil du temps. Du début de développement jusqu’à l’âge adulte, la plasticité fonctionnelle et constructive domine. Cependant, cette plasticité diminue avec le vieillissement, parallèlement à celui de l’ensemble de l’organisme. Une coupure à la peau met par exemple deux fois plus de temps à cicatriser à 40 ans qu’à 20 ans et la régénération cérébrale après une lésion est significativement plus rapide chez les jeunes adultes, lors d’expériences sur des rats.

Bien que les effets du vieillissement impactent tous les organes du corps, le cerveau y est particulièrement vulnérable. Cela s’explique par le fait que la plupart des neurones du système nerveux central des adultes sont post-mitotiques, c’est-à-dire qu’ils ne peuvent plus se diviser et que leur nombre est établi après la fin du développement cérébral, les rendant ainsi plus vulnérables aux effets du temps.

D’autre part, mis à part la transmission des signaux nerveux, les neurones transportent d’énormes quantités d’organites et consomment beaucoup d’énergie pour le traitement des informations. Compte tenu de cette charge de travail et de l’usure qui en résulte, il n’est pas étonnant que les neurones soient plus exposés aux effets du vieillissement. Les cerveaux vieillissants perdent d’ailleurs en poids, en volume, en tailles de neurones et de synapses, sont plus réactifs à l’inflammation, etc.

DES CERVEAUX QUI DEFIENT LE TEMPS

Ces effets ont poussé les neurobiologistes à penser que le déclin cognitif est une conséquence inévitable du vieillissement. Cependant, certaines personnes âgées semblent échapper à la règle. Elles continuent d’acquérir beaucoup de nouvelles informations, de gérer des situations complexes et même de montrer une créativité accrue à un âge avancé. Surnommées SuperAgers, ces personnes exceptionnelles présentent des performances de mémoire qui équivalent à celles d’individus âgés d’au moins trois décennies de moins.

Les chercheurs de l’Université Northwestern, aux États-Unis, étudient ces personnes depuis 25 ans pour tenter de comprendre pourquoi leur cerveau semble ne pas subir les effets du vieillissement. Ils ont découvert des caractéristiques biologiques uniques qui pourraient expliquer leur résistance au déclin cognitif.

"Nos résultats montrent qu’une mémoire exceptionnelle à un âge avancé est non seulement possible, mais qu’elle est liée à un profil neurobiologique particulier ", explique dans un communiqué, Sandra Weintraub, professeur de psychiatrie et de sciences du comportement et de neurologie à la Feinberg School of Medicine de l’Université Northwestern".

"Cela ouvre la voie à de nouvelles interventions visant à préserver la santé cérébrale jusqu’à un âge avancé", indique l’experte.

superagers

Les participants à l’étude SuperAging de l’Université Northwestern se sont réunis le 24 mai 2013 pour discuter et socialiser. © Ben Kesling/Wall Street Journal

LA SOCIABILITE: UN TRAIT COMMUN DES SUPERAGERS

Le terme SuperAger a été inventé à la fin des années 1990 par Marsel Mesulam, le fondateur du Mesulam Center for Cognitive Neurology and Alzheimer’s Disease de l’Université Northwestern, à l’origine du programme SuperAging. Le programme a été créé à la suite de la découverte fortuite d’une patiente de 81 ans qui ne présentait aucun signe de déficience fonctionnelle cérébrale et qui obtenait des scores de mémoire très élevés pour son âge.

En effectuant l’analyse post-mortem de son cerveau, les chercheurs du Northwestern ont été surpris de constater qu’il ne présentait qu’un seul enchevêtrement neurofibrillaire dans une section hémisphérique complète du cortex entorhinal, une situation rare à cet âge, même chez les personnes sans anomalie cognitive connue. Depuis 2000, 290 personnes se sont inscrites au programme SuperAging et 77 dons de cerveaux post-mortem ont pu être analysés. Les participants sont évalués chaque année et peuvent choisir de faire don de leur cerveau pour une analyse post-mortem.

"De nombreuses conclusions de cette étude proviennent de l’examen d’échantillons de cerveaux de SuperAgers généreux et dévoués qui ont été suivis pendant des décennies ", a déclaré Tamar Gefen, co-auteur de la nouvelle étude et professeur associé de psychiatrie et de sciences du comportement à Feinberg et directeur du laboratoire de neuropsychologie translationnelle de Feinberg et neuropsychologue au Mesulam Center.

Les résultats – publiés dans la revue Alzheimer’s & Dementia – révèlent que la sociabilité constitue un trait commun entre les SuperAgers, malgré des modes de vie diversifiés et des approches variées quant aux exercices qu’ils effectuent. Ils obtiennent au moins un score de 9 sur 15 à un test de mémoire standard, ce qui est équivalent à ceux d’individus dans la cinquantaine ou la soixantaine.

UNE RESISTANCE ET UNE RESILIENCE AUX PROCESSUS NEURODEGENERATIFS

Mais si les chercheurs ont constaté des différences notables dans le mode de vie et la personnalité des SuperAgers, "c’est vraiment ce que nous avons découvert dans leur cerveau qui a été si bouleversant pour nous", indique Weintraub.

En effet, certains des cerveaux autopsiés contenaient des agrégats de protéines tau et amyloïdes, connues pour leur implication dans la progression des maladies neurodégénératives comme Alzheimer. Cependant, d’autres n’en contenaient pas du tout.

Les experts en ont déduit qu’il existe deux mécanismes par lesquels certaines personnes deviennent des SuperAgers.

Le premier consiste en une résistance, notamment pour celles qui ne produisent pas du tout de protéines toxiques, tandis que le deuxième consiste en une résilience, où les personnes en produisent mais n’y sont pas affectées.

Les chercheurs ont également constaté que les SuperAgers avaient globalement une structure cérébrale plus jeune. Contrairement aux cerveaux vieillissants normaux, leurs cerveaux ne présentent pas d’amincissement significatif du cortex, une région essentielle au traitement des informations liées à la prise de décision, aux émotions et à la motivation. Ils possèdent même un cortex cingulaire antérieur (impliqué dans la perception de la douleur, le traitement des récompenses, la surveillance des actions et la détection des erreurs) plus épais que ceux des jeunes adultes.

Par ailleurs, leurs cerveaux présentaient des caractéristiques cellulaires uniques. Ils comportent plus de neurones de von Economo, des neurones spécialisés dans les comportements sociaux.

Ils comportent également des neurones entorhinaux (essentiels à la mémorisation) plus volumineux que ceux de leurs pairs typiques. Les experts espèrent que ces données pourraient contribuer au développement de stratégies visant à promouvoir la résilience cognitive et à prévenir les maladies neurodégénératives.

 

Ce trait de personnalité

.... (signe d'intelligence et de mépris à la fois) rendrait plus heureux, selon les neurosciences

Olivia Bokhobza

Faut-il être intelligent pour être heureux? Et si un changement d’état d’esprit inédit pouvait nous mener plus rapidement vers la réussite et le bonheur?

Quelles sont les clés pour être heureux? Comment activer les bons leviers en s'appuyant sur nos atouts et les différents types d’intelligence dont nous sommes dotés? Enfin, quel est le rôle des autres ? Plusieurs études soulignent que les personnes particulièrement intelligentes sont aussi plus enclines à la solitude. Si elles ont tendance à attirer spontanément les autres, elles seraient, de leur côté, peu intéressées par la socialisation à outrance, allant même jusqu’à trier leurs relations pour ne choisir que des profils au même degré d’intelligence qu’elles. L’intelligence pourrait alors mener davantage au cynisme qu'au bonheur.

Jamil Zaki, professeur de psychologie à l’université de Stanford et directeur de leur "Lab Neuroscience" a justement exploré la question de la cohabitation possible entre le cynisme et la quête de bonheur. Il a publié récemment un ouvrage sur la question: “Hope for Cynics: The surprising science of Human Goodness”, littéralement: De l’espoir pour les cyniques : les surprenantes découvertes scientifiques sur la bonté humaine .

S’auto-proclamant lui-même "cynique en voie de guérison", ce professeur affirme clairement, preuves à l’appui : le cynisme n’est pas une qualité et certainement pas le signe d’une intelligence supérieure.

PEUT-ON ETRE HEUREUX EN ETANT CYNIQUE ?

La croyance populaire voudrait, en effet, que les “grands” de ce monde aient des traits de caractères assez marqués notamment par un cynisme exacerbé. Pour ne citer qu’un exemple, la personnalité de Steve Jobs illustre cette idée. Pour Jamil Zaki, les recherches nous montrent au contraire que le cynisme est un désavantage sur bien des plans et ne reflètent pas nécessairement une intelligence supérieure.

“Bien que ce trait soit socialement valorisé dans bien des cultures, notamment au Royaume-Uni (beaucoup d’Anglais perçoivent le cynisme comme à la pointe du chic et de la sagesse !), il est en fait délétère sur de nombreux plans – et largement mythifié”, explique-t-il dans une interview donnée à nos confrères de L’ Express. Ce professeur a creusé ce sujet en reprenant de nombreuses études scientifiques jusqu'à comprendre  que les personnes cyniques finissaient finalement par être parfois plus malades et sujettes à des troubles anxieux, entre autre.

LE SCEPTICISME PLEIN D’ESPOIR: LA FORME D’INTELLIGENCE A CULTIVER POUR ETRE HEUREUX

Un changement d'état d'esprit en faveur d'un "scepticisme optimiste" serait, selon notre expert, synonyme de meilleurs résultats que la tendance cynique. Pour lui, nous pouvons gagner en bonheur, en réussite et ce, que ce soit sur un plan personnel ou professionnel, en cultivant un type d’intelligence spécifique, que tout le monde peut développer : il s'agit d'une philosophie basée sur l'optimisme qui est un vecteur clé de réussite. ”Les non-cyniques gagnent régulièrement plus d'argent au cours de leur carrière”, confie Jamil Zaki à L’express.

La solution proposée par cet expert pour aider les cyniques à être plus heureux est ainsi celle d’un "scepticisme plein d'espoir": Il s’agit de trouver la parfaite balance entre le positivisme, sans tomber dans l’excès, et la méfiance raisonnable. Comme le souligne Zaki, le scepticisme de l'espoir consiste à appliquer un état d'esprit scientifique proche de la pensée critique.

Quitter le cynisme ne signifie donc pas perdre en intelligence et en sens critique, bien au contraire ! En adoptant une attitude de sceptique plein d’espoir, on peut questionner les faits, être critique mais curieux et s’ouvrir à des découvertes humaines et informatives qui vont renforcer notre intelligence sociale et nous mener vers l’action et la réussite alors que cynisme plonge souvent dans l’inaction.

Ainsi, pour être plus heureux, cultiver l’intelligence sociale et émotionnelle, ne cesser de se questionner et d’apprendre des autres semble être l’attitude la plus propice.