Les IA, nos nouvelles confidentes: quels risques pour la santé mentale?

Image générée par moi par I.A.

Depuis le lancement, en novembre 2022, de ChatGPT, l’agent conversationnel développé par OpenAI, les intelligences artificielles génératives semblent avoir envahi nos vies. La facilité et le naturel avec lesquels il est possible d’échanger avec ces outils sont tels que certains utilisateurs en font même de véritables confidents. Ce qui n’est pas sans risque pour la santé mentale.

Les grands modèles de langage, autrement dit les intelligences artificielles " génératives " telles que ChatGPT, Claude et autre Perplexity, répondent à de très nombreux besoins, que ce soit en matière de recherche d’informations, d’aide à la réflexion ou de résolution de tâches variées; ce qui explique l’explosion actuelle de leur utilisation scolaire, universitaire, professionnelle ou de loisir.

Mais un autre usage de ces IA conversationnelles se diffuse à une vitesse impressionnante, en particulier chez les jeunes: l’équivalent de discussions entre amis, pour passer le temps, questionner ou échanger des idées et surtout se confier comme on le ferait avec un proche. Quels pourraient être les risques liés à ces nouveaux usages?

UN TERRAIN PROPICE A UNE ADOPTION RAPIDE

La conversation par écrit avec les intelligences artificielles semble s’être banalisée très rapidement. À noter d’ailleurs que s’il existe des IA utilisant des échanges vocaux, elles semblent cependant moins utilisées que les échanges textuels.

Il faut dire que nous étions depuis de longues années déjà habitués à échanger par écrit sans voir notre interlocuteur, que ce soit par SMS, par e-mail, par " tchat " ou tout autre type de messagerie. Les IA génératives reproduisant remarquablement bien l’expression verbale des êtres humains, l’illusion de parler à une personne réelle est quasiment immédiate, sans avoir besoin d’un avatar ou d’une quelconque image simulant l’autre.

Immédiatement disponibles à toute heure du jour et de la nuit, conversant toujours sur un ton aimable, voire bienveillant, entraînées à simuler l’empathie et dotées, si ce n’est d’une "intelligence", en tout cas de connaissances en apparence infinies, les IA sont en quelque sorte des partenaires de dialogue idéales.

Nous y sommes presque! Nous avons atteint 90% de notre objectif.

Il n’est dès lors pas étonnant que certains se soient pris au jeu de la relation, et entretiennent des échanges suivis et durables avec ces substituts de confidents ou de "meilleurs amis". Et ce, d’autant plus que ces conversations sont "personnalisées": les IA mémorisent en effet les échanges précédents pour en tenir compte dans leurs réponses futures.

Certaines plate-formes, comme Character.ai ou Replika, proposent par ailleurs de personnaliser à sa guise l’interlocuteur virtuel (nom, apparence, profil émotionnel, compétences, etc.), initialement pour simuler un jeu de rôle numérique. Une fonctionnalité qui ne peut que renforcer l’effet de proximité, voire d’attachement affectif au personnage ainsi créé.

Voici à peine plus de dix ans, le réalisateur Spike Jonze tournait le film Her, décrivant la relation amoureuse entre un homme sortant d’une difficile rupture et l’intelligence artificielle sur laquelle s’appuyait le système d’exploitation de son ordinateur. Aujourd’hui, il se pourrait que la réalité ait déjà rejoint la fiction pour certains utilisateurs des IA génératives, qui témoignent avoir entretenu une "romance numérique" avec des agents conversationnels.

Des pratiques qui pourraient ne pas être sans risque pour l’équilibre mental de certaines personnes, notamment les plus jeunes ou les plus fragiles.

DES EFFETS SUR LA SANTE MENTALE DONT LA MESURE RESTE A PRENDRE

Nous constatons aujourd’hui, dans tous les pays (et probablement bien trop tard…), les dégâts que l’explosion de l’usage des écrans a causés sur la santé mentale des jeunes, en particulier du fait des réseaux sociaux.

Entre autres facteurs, une des hypothèses (encore controversée, mais très crédible) est que la désincarnation des échanges virtuels perturberait le développement affectif des adolescents et favoriserait l’apparition de troubles anxieux et dépressifs.

Jusqu’à aujourd’hui, pourtant, les échanges menés par l’intermédiaire des réseaux sociaux ou des messageries numériques se font encore a priori principalement avec des êtres humains, même si nous ne côtoyons jamais certains de nos interlocuteurs dans la vie réelle. Quels pourraient être les conséquences, sur l’équilibre mental (émotionnel, cognitif et relationnel) des utilisateurs intensifs, de ces nouveaux modes d’échanges avec des IA dénuées d’existence physique?

Il est difficile de les imaginer toutes, mais on peut concevoir sans peine que les effets pourraient être particulièrement problématiques chez les personnes les plus fragiles. Or, ce sont précisément celles qui risquent de faire un usage excessif de ces systèmes, comme cela est bien établi avec les réseaux sociaux classiques.

À la fin de l’année dernière, la mère d’un adolescent de 14 ans qui s’est suicidé a poursuivi les dirigeants de la plate-forme Character.ai, qu’elle tient pour responsables du décès de son fils. Selon elle, son geste aurait été encouragé par l’IA avec laquelle il échangeait.

En réponse à ce drame, les responsables de la plate-forme ont annoncé avoir implémenté de nouvelles mesures de sécurité. Des précautions autour des propos suicidaires ont été mises en place, avec conseil de consulter en cas de besoin.

Une rencontre entre des personnes en souffrance et un usage intensif, mal contrôlé, d’IA conversationnelles pourrait par ailleurs conduire à un repli progressif sur soi, du fait de relations exclusives avec le robot, et à une transformation délétère du rapport aux autres, au monde et à soi-même.

Nous manquons actuellement d’observations scientifiques pour étayer ce risque, mais une étude récente, portant sur plus de 900 participants, montre un lien entre conversations intensives avec un chatbot (vocal) et sentiment de solitude, dépendance émotionnelle accrue et réduction des rapports sociaux réels.

Certes, ces résultats sont préliminaires. Il paraît toutefois indispensable et urgent d’explorer les effets potentiels de ces nouvelles formes d’interactions pour, si cela s’avérait nécessaire, mettre tout en œuvre afin de limiter les complications possibles de ces usages.

Autre crainte: que dialoguer avec un "fantôme" et se faire prendre à cette illusion puissent aussi être un facteur déclenchant d’états pseudo-psychotiques (perte de contact avec la réalité ou dépersonnalisation, comme on peut les rencontrer dans la schizophrénie), voire réellement délirants, chez des personnes prédisposées à ces troubles.

Au-delà de ces risques, intrinsèques à l’emploi de ces technologies par certaines personnes, la question d’éventuelles manipulations des contenus – et donc des utilisateurs – par des individus mal intentionnés se pose également (même si ce n’est pas cela que nous constatons aujourd’hui), tout comme celle de la sécurité des données personnelles et intimes et de leurs potentiels usages détournés.

IA et interventions thérapeutiques, une autre problématique

Pour terminer, soulignons que les points évoqués ici ne portent pas sur l’utilisation possible de l’IA à visée réellement thérapeutique, dans le cadre de programmes de psychothérapies automatisés élaborés scientifiquement par des professionnels et strictement encadrés.

En France, les programmes de ce type ne sont pas encore très utilisés ni optimisés. Outre le fait que le modèle économique de tels outils est difficile à trouver, leur validation est complexe. On peut cependant espérer que, sous de nombreuses conditions garantissant leur qualité et leur sécurité d’usage, ils viendront un jour compléter les moyens dont disposent les thérapeutes pour aider les personnes en souffrance, ou pourront être utilisés comme supports de prévention.

Le problème est qu’à l’heure actuelle, certaines IA conversationnelles se présentent d’ores et déjà comme des chatbots thérapeutiques, sans que l’on sache vraiment comment elles ont été construites: quels modèles de psychothérapie utilisent-elles? Comment sont-elles surveillées? et évaluées? Si elles devaient s’avérer posséder des failles dans leur conception, leur emploi pourrait constituer un risque majeur pour des personnes fragiles non averties des limites et des dérives possibles de tels systèmes.

Les plus grandes prudences et vigilance s’imposent donc devant le développement ultra-rapide de ces nouveaux usages du numérique, qui pourraient constituer une véritable bombe à retardement pour la santé mentale…

Auteur: Antoine Pelissolo - Professeur de psychiatrie, Inserm, Université Paris-Est Créteil Val de Marne (UPEC) - membre du Parti socialiste

The Conversation - CC BY ND

L’hypothèse du libre arbitre est-elle invalidée par la science?

Albert Moukheiber face à Robert Sapolsky

Et si la science pouvait répondre à des problèmes philosophiques lancinants? Enfin traduit en français, le célèbre neurobiologiste américain Robert Sapolsky soutient que le libre arbitre n’existe pas dans son dernier livre, Déterminisme (Arpa, 2025). Le chercheur français Albert Moukheiber, lui-même neuroscientifique et psychologue, auteur de Neuromania (Allary Éditions, 2024), a voulu débattre avec lui de certaines de ses conclusions pour Philosophie magazine. Voici la transcription de leur dialogue.

Albert Moukheiber: Je suis les publications de Robert Sapolsky depuis longtemps, notamment Why Zebras Don’t Get Ulcers ("Pourquoi les zèbres ne développent pas d’ulcères", non traduit, Freeman, 1994) et Behave: The Biology of Humans at Our Best and Worst ("Tiens-toi bien! La biologie humaine pour le meilleur et pour le pire ", non traduit, Penguin, 2017) et j’ai lu Déterminisme. Une science de la vie sans libre arbitre dès sa parution en anglais (sous le titre Determined), mais je suis ravi que ses travaux commencent à être traduits et accessibles au lectorat francophone.

Comme Oliver Sacks, l’auteur de L’Homme qui prenait sa femme pour un chapeau (1985), je le considère comme l’un des meilleurs auteurs scientifiques de notre époque – d’autant plus qu’il m’intéresse également par rapport à ma pratique de psychologue clinicien. Pour en revenir à Déterminisme, il me semble que l’ouvrage est divisé en deux parties: une première, scientifique, est consacrée à la science du libre arbitre, et j’ai -sur elle- quelques réserves, tandis qu’une seconde, tout aussi intéressante que la première dont elle tire les conséquences, adopte une position résolument politique et sociale. Mes réserves portent sur ce point: quand on parle de "libre arbitre", il faut définir précisément ce qu’on entend par là.

Or il me semble que vous le pensez comme un équivalent du "premier moteur" d’Aristote, un début absolu qui donne l’impulsion initiale d’un mouvement. Mais on n’est pas obligé de placer la barre aussi haut, car en procédant ainsi, on a beau jeu ensuite de considérer que rien ne remplit de telles conditions… Alors que si on la plaçait plus bas, il serait sans doute possible d’admettre quelque chose comme un libre arbitre.

“uand on parle de ‘libre arbitre’, il faut définir précisément ce qu’on entend par là” Albert Moukheiber

Robert Sapolsky: À un niveau empirique, je demande qu’on me montre un seul comportement qui soit complètement indépendant de toute influence liée à la génétique, aux hormones, aux conditions socio-économiques, à l’environnement, à l’histoire personnelle, à ce qui a été consommé au petit-déjeuner, à la paire de chaussettes portée, etc. Ce n’est pas qu’une affaire de neurosciences, car c’est l’interconnexion de toutes ces données qu’il faut alors prendre en considération. Or la plupart des philosophes – mais aussi des juristes – sont ce que j’appelle des "compatibilistes", c’est-à-dire que sans nier l’existence de ces déterminations, ils maintiennent quand même que le libre arbitre existe. Daniel Dennett, par exemple, conserve le principe de la possibilité d’un choix. Or comment un choix pourrait-il exister, sinon par magie?

1. M.: J’ai pensé en vous lisant au démon de Laplace, cette expérience de pensée proposée par le savant français Pierre-Simon de Laplace (1749-1827) qui imaginait un esprit capable de connaître et de prédire toutes les positions et tous les mouvements de tous les atomes de l’univers. Or on sait que les théories du chaos nous empêchent de valider cette hypothèse de prédictibilité totale. Mais il est possible de définir autrement le libre arbitre: en psychologie, le libre arbitre est compatible avec la métacognition, c’est-à-dire la prise de conscience qu’on a sur ses propres processus mentaux. Il ne s’agit pas de prétendre que le libre arbitre surgit de nulle part, mais qu’il s’agit plutôt de feedback loops [boucles de rétroaction], c’est-à-dire qu’il s’établit à partir de mécanismes de rétroactions qui permettent une forme de délibération métacognitive et, in fine, de volonté.

Combien de temps l’humanité survivrait-elle si l’on arrêtait de faire des enfants?

Image IA, générée par moi

 

Suffit-il de calculer l’espérance de vie maximale d’un humain pour deviner combien de temps mettrait l’humanité à disparaître si l’on arrêtait de se reproduire? Pas si simple répond l’anthropologue américain Michael A. Little dans cet article à destination des plus jeunes.

Très peu de personnes vivent au-delà d’un siècle. Ainsi, si plus personne n’avait d’enfants, il ne resterait probablement plus d’humains sur Terre dans 100 ans. Mais avant cela, la population commencerait à diminuer, à mesure que les personnes âgées mourraient sans qu’aucune nouvelle naissance ne vienne les remplacer. Même si toutes les naissances cessaient soudainement, ce déclin serait au départ progressif.

UN EFFONDREMENT DES SOCIÉTÉS

Mais peu à peu, il n’y aurait plus assez de jeunes pour assurer les tâches essentielles, ce qui provoquerait un effondrement rapide des sociétés à travers le monde. Certains de ces bouleversements mettraient à mal notre capacité à produire de la nourriture, à fournir des soins de santé et à accomplir tout ce dont dépend notre quotidien. La nourriture se ferait rare, même s’il y avait moins de bouches à nourrir.

En tant que professeur d’anthropologie ayant consacré ma carrière à l’étude des comportements humains, de la biologie et des cultures, je reconnais volontiers que ce scénario n’aurait rien de réjouissant. À terme, la civilisation s’effondrerait. Il est probable qu’il ne resterait plus grand monde d’ici 70 ou 80 ans, plutôt que 100, en raison de la pénurie de nourriture, d’eau potable, de médicaments et de tout ce qui est aujourd’hui facilement accessible et indispensable à la survie.

L’ELEMENT DÉCLENCHEUR: UNE CATASTROPHE MONDIALE

Il faut bien reconnaître qu’un arrêt brutal des naissances est hautement improbable, sauf en cas de catastrophe mondiale. Un scénario possible, exploré par l’écrivain Kurt Vonnegut dans son roman Galápagos, serait celui d’une maladie hautement contagieuse rendant infertiles toutes les personnes en âge de procréer.

Autre scénario: une guerre nucléaire dont personne ne sortirait vivant – un thème traité dans de nombreux films et livres effrayants. Beaucoup de ces œuvres de science-fiction mettent en scène des voyages dans l’espace. D’autres tentent d’imaginer un futur terrestre, moins fantaisiste, où la reproduction devient difficile, entraînant un désespoir collectif et la perte de liberté pour celles et ceux encore capables d’avoir des enfants.

Deux de mes livres préférés sur ce thème sont La Servante écarlate de l’autrice canadienne Margaret Atwood, et Les Fils de l’homme de l’écrivaine britannique P.D. James. Ce sont des récits dystopiques marqués par la souffrance humaine et le désordre. Tous deux ont d’ailleurs été adaptés en séries télévisées ou en films.

Dans les années 1960 et 1970, beaucoup s’inquiétaient au contraire d’une surpopulation mondiale, synonyme d’autres types de catastrophes. Ces craintes ont elles aussi nourri de nombreuses œuvres dystopiques, au cinéma comme en littérature.

Un exemple: la série américaine "The Last Man on Earth", une comédie post-apocalyptique qui imagine ce qui pourrait se passer après qu’un virus mortel ait décimé la majeure partie de l’humanité.

EN ROUTE VERS LES 10 MILLIARDS D’HABITANTS

La population mondiale continue résolument de croître, même si le rythme de cette croissance a ralenti. Les experts qui étudient les dynamiques démographiques estiment que le nombre total d’habitants atteindra un pic de 10 milliards dans les années 2080, contre 8 milliards aujourd’hui et 4 milliards en 1974.

La population des États-Unis s’élève actuellement à 342 millions, soit environ 200 millions de plus qu’au moment de ma naissance dans les années 1930. C’est une population importante, mais ces chiffres pourraient progressivement diminuer, aux États-Unis comme ailleurs, si le nombre de décès dépasse celui des naissances.

En 2024, environ 3,6 millions de bébés sont nés aux États-Unis, contre 4,1 millions en 2004. Dans le même temps, environ 3,3 millions de personnes sont décédées en 2022, contre 2,4 millions vingt ans plus tôt.

À mesure que ces tendances évoluent, l’un des enjeux essentiels sera de maintenir un équilibre viable entre jeunes et personnes âgées. En effet, ce sont souvent les jeunes qui font tourner la société: ils mettent en œuvre les idées nouvelles et produisent les biens dont nous dépendons.

Par ailleurs, de nombreuses personnes âgées ont besoin d’aide pour les gestes du quotidien, comme préparer à manger ou s’habiller. Et un grand nombre d’emplois restent plus adaptés aux moins de 65 ans qu’à ceux ayant atteint l’âge habituel de la retraite (plus tardif aux États-Unis).

TAUX DE NATALITE EN BAISSE

Dans de nombreux pays, les femmes ont aujourd’hui moins d’enfants au cours de leur vie fertile qu’autrefois. Cette baisse est particulièrement marquée dans certains pays comme l’Inde ou la Corée du Sud.

Le recul des naissances observé actuellement s’explique en grande partie par le choix de nombreuses personnes de ne pas avoir d’enfants, ou d’en avoir moins que leurs parents. Ce type de déclin démographique peut rester gérable grâce à l’immigration en provenance d’autres pays, mais des préoccupations culturelles et politiques freinent souvent cette solution.

Parallèlement, de plus en plus d’hommes rencontrent des problèmes de fertilité, ce qui rend leur capacité à avoir des enfants plus incertaine. Si cette tendance s’aggrave, elle pourrait accélérer fortement le déclin de la population.

LA DISPARITION DES NEANDERTALIENS

Notre espèce, Homo sapiens, existe depuis au moins 200 000 ans. C’est une très longue période, mais comme tous les êtres vivants sur Terre, nous sommes exposés au risque d’extinction.

Prenons l’exemple des Néandertaliens, proches parents d’Homo sapiens. Ils sont apparus il y a au moins 400 000 ans. Nos ancêtres humains modernes ont cohabité un temps avec eux, mais les Néandertaliens ont progressivement décliné jusqu’à disparaître il y a environ 40 000 ans.

Certaines recherches suggèrent que les humains modernes se sont montrés plus efficaces que les Néandertaliens pour assurer leur subsistance et se reproduire. Homo sapiens aurait ainsi eu plus d’enfants, ce qui a favorisé sa survie.

Si notre espèce venait à disparaître, cela pourrait ouvrir la voie à d’autres animaux pour prospérer sur Terre. Mais ce serait aussi une immense perte, car toute la richesse des réalisations humaines – dans les arts, les sciences, la culture – serait anéantie.

À mon sens, nous devons prendre certaines mesures pour assurer notre avenir sur cette planète. Cela passe par la lutte contre le changement climatique, la prévention des conflits armés, mais aussi par une prise de conscience de l’importance de préserver la diversité des espèces animales et végétales, qui est essentielle à l’équilibre de la vie sur Terre, y compris pour notre propre survie.

Auteur: Philippe Ilial - Professeur de Lettres-Histoire. Chargé de cours en Histoire Moderne. Chercheur associé au CMMC, Université Côte d’Azur

The Conversation - CC BY ND