Dialoguer avec un fantôme:

les dangers de l’intelligence artificielle pour la santé mentale

Auteur: Antoine Pelissolo - Professeur de psychiatrie, Inserm, Université Paris-Est Créteil Val de Marne (UPEC)

The Conversation. CC BY ND

Depuis le lancement, en novembre 2022, de ChatGPT, l’agent conversationnel développé par OpenAI, les intelligences artificielles génératives semblent avoir envahi nos vies. La facilité et le naturel avec lesquels il est possible d’échanger avec ces outils sont tels que certains utilisateurs en font même de véritables confidents. Ce qui n’est pas sans risque pour la santé mentale.

Les grands modèles de langage, autrement dit les intelligences artificielles " génératives " telles que ChatGPT, Claude et autre Perplexity, répondent à de très nombreux besoins, que ce soit en matière de recherche d’informations, d’aide à la réflexion ou de résolution de tâches variées; ce qui explique l’explosion actuelle de leur utilisation scolaire, universitaire, professionnelle ou de loisir.

Mais un autre usage de ces IA conversationnelles se diffuse à une vitesse impressionnante, en particulier chez les jeunes: l’équivalent de discussions entre amis, pour passer le temps, questionner ou échanger des idées et surtout se confier comme on le ferait avec un proche. Quels pourraient être les risques liés à ces nouveaux usages?

UN TERRAIN PROPICE A UNE ADOPTION RAPIDE

La conversation par écrit avec les intelligences artificielles semble s’être banalisée très rapidement. À noter d’ailleurs que s’il existe des IA utilisant des échanges vocaux, elles semblent cependant moins utilisées que les échanges textuels.

Il faut dire que nous étions depuis de longues années déjà habitués à échanger par écrit sans voir notre interlocuteur, que ce soit par SMS, par e-mail, par " tchat " ou tout autre type de messagerie. Les IA génératives reproduisant remarquablement bien l’expression verbale des êtres humains, l’illusion de parler à une personne réelle est quasiment immédiate, sans avoir besoin d’un avatar ou d’une quelconque image simulant l’autre.

Immédiatement disponibles à toute heure du jour et de la nuit, conversant toujours sur un ton aimable, voire bienveillant, entraînées à simuler l’empathie et dotées, si ce n’est d’une "intelligence", en tout cas de connaissances en apparence infinies, les IA sont en quelque sorte des partenaires de dialogue idéales.

Il n’est dès lors pas étonnant que certains se soient pris au jeu de la relation, et entretiennent des échanges suivis et durables avec ces substituts de confidents ou de " meilleurs amis ". Et ce, d’autant plus que ces conversations sont " personnalisées ": les IA mémorisent en effet les échanges précédents pour en tenir compte dans leurs réponses futures.

Certaines plateformes, comme Character.ai ou Replika, proposent par ailleurs de personnaliser à sa guise l’interlocuteur virtuel (nom, apparence, profil émotionnel, compétences, etc.), initialement pour simuler un jeu de rôle numérique. Une fonctionnalité qui ne peut que renforcer l’effet de proximité, voire d’attachement affectif au personnage ainsi créé.

Voici à peine plus de dix ans, le réalisateur Spike Jonze tournait le film Her, décrivant la relation amoureuse entre un homme sortant d’une difficile rupture et l’intelligence artificielle sur laquelle s’appuyait le système d’exploitation de son ordinateur. Aujourd’hui, il se pourrait que la réalité ait déjà rejoint la fiction pour certains utilisateurs des IA génératives, qui témoignent avoir entretenu une " romance numérique " avec des agents conversationnels.

Des pratiques qui pourraient ne pas être sans risque pour l’équilibre mental de certaines personnes, notamment les plus jeunes ou les plus fragiles.

DES EFFETS SUR LA SANTE MENTALE DONT LA MESURE RESTE A PRENDRE

Nous constatons aujourd’hui, dans tous les pays (et probablement bien trop tard…), les dégâts que l’explosion de l’usage des écrans a causés sur la santé mentale des jeunes, en particulier du fait des réseaux sociaux.

Entre autres facteurs, une des hypothèses (encore controversée, mais très crédible) est que la désincarnation des échanges virtuels perturberait le développement affectif des adolescents et favoriserait l’apparition de troubles anxieux et dépressifs.

Jusqu’à aujourd’hui, pourtant, les échanges menés par l’intermédiaire des réseaux sociaux ou des messageries numériques se font encore a priori principalement avec des êtres humains, même si nous ne côtoyons jamais certains de nos interlocuteurs dans la vie réelle. Quels pourraient être les conséquences, sur l’équilibre mental (émotionnel, cognitif et relationnel) des utilisateurs intensifs, de ces nouveaux modes d’échanges avec des IA dénuées d’existence physique?

Il est difficile de les imaginer toutes, mais on peut concevoir sans peine que les effets pourraient être particulièrement problématiques chez les personnes les plus fragiles. Or, ce sont précisément celles qui risquent de faire un usage excessif de ces systèmes, comme cela est bien établi avec les réseaux sociaux classiques.

À la fin de l’année dernière, la mère d’un adolescent de 14 ans qui s’est suicidé a poursuivi les dirigeants de la plateforme Character.ai, qu’elle tient pour responsables du décès de son fils. Selon elle, son geste aurait été encouragé par l’IA avec laquelle il échangeait. En réponse à ce drame, les responsables de la plateforme ont annoncé avoir implémenté de nouvelles mesures de sécurité. Des précautions autour des propos suicidaires ont été mises en place, avec conseil de consulter en cas de besoin.

Une rencontre entre des personnes en souffrance et un usage intensif, mal contrôlé, d’IA conversationnelles pourrait par ailleurs conduire à un repli progressif sur soi, du fait de relations exclusives avec le robot, et à une transformation délétère du rapport aux autres, au monde et à soi-même.

Nous manquons actuellement d’observations scientifiques pour étayer ce risque, mais une étude récente, portant sur plus de 900 participants, montre un lien entre conversations intensives avec un chatbot (vocal) et sentiment de solitude, dépendance émotionnelle accrue et réduction des rapports sociaux réels.

Certes, ces résultats sont préliminaires. Il paraît toutefois indispensable et urgent d’explorer les effets potentiels de ces nouvelles formes d’interactions pour, si cela s’avérait nécessaire, mettre tout en œuvre afin de limiter les complications possibles de ces usages.

Autre crainte: que dialoguer avec un " fantôme " et se faire prendre à cette illusion puissent aussi être un facteur déclenchant d’états pseudo-psychotiques (perte de contact avec la réalité ou dépersonnalisation, comme on peut les rencontrer dans la schizophrénie), voire réellement délirants, chez des personnes prédisposées à ces troubles.

Au-delà de ces risques, intrinsèques à l’emploi de ces technologies par certaines personnes, la question d’éventuelles manipulations des contenus – et donc des utilisateurs – par des individus mal intentionnés se pose également (même si ce n’est pas cela que nous constatons aujourd’hui), tout comme celle de la sécurité des données personnelles et intimes et de leurs potentiels usages détournés.

IA et interventions thérapeutiques, une autre problématique

Pour terminer, soulignons que les points évoqués ici ne portent pas sur l’utilisation possible de l’IA à visée réellement thérapeutique, dans le cadre de programmes de psychothérapies automatisés élaborés scientifiquement par des professionnels et strictement encadrés.

En France, les programmes de ce type ne sont pas encore très utilisés ni optimisés. Outre le fait que le modèle économique de tels outils est difficile à trouver, leur validation est complexe. On peut cependant espérer que, sous de nombreuses conditions garantissant leur qualité et leur sécurité d’usage, ils viendront un jour compléter les moyens dont disposent les thérapeutes pour aider les personnes en souffrance, ou pourront être utilisés comme supports de prévention.

Le problème est qu’à l’heure actuelle, certaines IA conversationnelles se présentent d’ores et déjà comme des chatbots thérapeutiques, sans que l’on sache vraiment comment elles ont été construites: quels modèles de psychothérapie utilisent-elles? Comment sont-elles surveillées? et évaluées? Si elles devaient s’avérer posséder des failles dans leur conception, leur emploi pourrait constituer un risque majeur pour des personnes fragiles non averties des limites et des dérives possibles de tels systèmes.

Les plus grandes prudence et vigilance s’imposent donc devant le développement ultrarapide de ces nouveaux usages du numérique, qui pourraient constituer une véritable bombe à retardement pour la santé mentale…

Orthographe: les élèves font deux fois plus de fautes que leurs parents

Auteur: Christophe Benzitoun - Maitre de conférences en linguistique française, Université de Lorraine - The Conversation. CC BY ND

Le 6 décembre 2022, la direction de l’évaluation du ministère français de l’Éducation nationale a publié une nouvelle étude sur les performances en orthographe des élèves de primaire. Cette évaluation se fonde sur les résultats obtenus par des CM2 à une dictée réalisée en 1987, 2007, 2015 puis 2021. De prime abord, le texte proposé ne semble pas particulièrement difficile:

En 34 ans, le nombre d’erreurs a presque doublé, passant de 10,7 à 19,4 en moyenne (pour 67 mots). Et on peut conclure de cette étude que la baisse s’accélère: on est passé d’une chute de 4 points en 20 ans (entre 1987 et 2007) à une baisse de 4,7 points en seulement 14 ans (entre 2007 et 2021). Comme les années précédentes, c’est l’orthographe grammaticale qui est la plus touchée, c’est-à-dire les accords et la conjugaison. Cependant, derrière ce constat sans appel, un éclairage s’impose.

LES DIFFICULTES DE L’ORTHOGRAPHE GRAMMATICALE FRANÇAISE

L’orthographe française est une des plus complexes au monde et nécessite un apprentissage long et fastidieux. Tout particulièrement l’orthographe grammaticale. Ainsi, il est plus difficile d’enseigner le français écrit à des locuteurs francophones natifs plutôt que le finnois, l’italien ou l’espagnol à des natifs respectifs de ces langues.

En français écrit, les marques grammaticales sont majoritairement muettes et de nombreuses finales se prononcent pareillement mais ne s’écrivent pas à l’identique. En linguistique, on parle de mots homophones hétérographes. Et dans la dictée ci-dessus, il y a une concentration importante de ces difficultés. Par exemple, les lettres finales des mots tomb-ai-t, inqui-et-s, demand-ai-ent ne se prononcent pas et leur finale prononcée est homophone. Il en est de même pour les mots rentr-é-s, retrouv-é, arriv-er, fatigu-é-s, téléphon-er, aboy-er. Cela suppose un haut degré d’abstraction et de raisonnement pas évident à solliciter durant une activité de dictée. Détaillons un exemple.

 

 

 

Dans le cas de "nous les verrons arriver très fatigués", l’élève doit choisir si à la fin de fatigués, il faut mettre er, é, és, ée, ées… sans pouvoir s’aider de la prononciation. Pour ce faire, il lui est indispensable de retrouver le donneur d’accord, à savoir les (qui est le complément et non le sujet), ainsi que le groupe auquel renvoie ce pronom ("les gamins").

On imagine donc la complexité de la tâche pour des enfants d’une dizaine d’années. Cela se traduit par le constat que sur les neuf mots les moins bien réussis (moins d’un élève sur deux), huit comportent ces caractéristiques (inquiets, demandaient, rentrés, perdus, retrouvé, verrons, fatigués, vus). Une petite note d’espoir toutefois: entre 2015 et 2021, les performances des élèves en orthographe grammaticale ont légèrement progressé.

Concernant le seul exemple d’accord du participe passé avec le complément d’objet direct antéposé ("Elle les a peut-être vus!"), moins d’un élève sur cinq l’écrit correctement. Dans ce cas, la question qu’il faut se poser, c’est celle de savoir où ils l’ont appris, sachant que cette règle est censée être enseignée au collège (la maitrise de l’accord d’un participe passé avec le verbe être, dans les cas les plus usuels, figure dans le programme du cycle 3, soit du CM1 à la sixième, mais celle de l’accord avec avoir, dans le cas d’un complément d’objet antéposé, figure dans le programme du cycle 4, soit de la cinquième à la troisième). On peut également s’interroger sur la pertinence d’évaluer une règle de grammaire qui n’a pas encore été vue.

L’ORTHOGRAPHE NE S’EST JAMAIS DEMOCRATISEE

La baisse des performances en orthographe est antérieure à 1987. Dans un rapport rédigé par la Commission ministérielle d’études orthographiques datant de 1965 et présidée par Aristide Beslais, il est écrit:

"De toutes parts, dans les administrations comme dans l’enseignement, on se plaint de la dégradation rapide de l’orthographe".

En réalité, contrairement à une idée reçue, l’orthographe ne s’est jamais démocratisée en France. Autrement dit, aucune génération parmi celles qui nous ont précédés n’a maitrisé l’orthographe à grande échelle malgré un nombre d’heures consacré à son enseignement amplement supérieur à ce qu’il est aujourd’hui. On peut dans les années 1950 des témoignages sur le niveau en orthographe qui reprennent presque au mot près le constat actuel.

Et aujourd’hui comme hier, les difficultés orthographiques ne touchent pas avec la même intensité les élèves provenant de milieux sociaux différents. Pour le montrer, le département statistique du ministère a mis au point un indice basé sur le niveau social des écoles. Entre les écoles considérées comme les plus favorisées socialement et celles considérées comme les moins favorisées, on passe de 15,5 erreurs en moyenne à 21,9, avec plus du tiers des élèves qui font plus de 25 erreurs.

Eteve Y., Nghiem X. 2022, "Les performances en orthographe des élèves de CM2 toujours en baisse, mais de manière moins marquée en 2021", Note d’Information, n° 22.37, DEPP.

La question de l’orthographe représente un enjeu majeur de justice sociale et sa démocratisation un véritable choix de société. Depuis des décennies, on assiste à des batailles politiques et idéologiques rendant difficiles toutes avancées sur le sujet. Pourtant, la situation est connue et documentée depuis longtemps et il est temps d’apporter des réponses à la hauteur.

Pour ce faire, il existe deux leviers complémentaires. D’un côté, il est possible de rendre l’orthographe française plus régulière, en corrigeant ses imperfections, comme cela a été fait tout au long de son histoire. D’un autre côté, il y a une nécessité d’utiliser et sans doute aussi de concevoir des méthodes plus robustes en rapprochant l’enseignement et la recherche. Refuser, par principe, de considérer ces deux conditions revient à graver dans le marbre la situation actuelle. Pour relever le défi auquel nous sommes confrontés, il va falloir parvenir à dépasser la sempiternelle querelle des anciens contre les modernes.

 

PS: à force "d'élaguer" soi-disant pour simplifier et ne pas pénaliser les incultes organisés, l'éduc nat à complétement changé l'orthographe et c'est nous, ceux qui ont appris à lire et à écrire le VRAI FRANÇAIS, les retraités, qui sommes devenus les "dinosaures" que les "d'jeuns" ne comprennent plus!

 

31 octobre: HALLOWEEN

LOUP GAROU

Les horribles symptômes de la rage ont inspiré les loups-garous, vampires et autres monstres

Auteur: Jessica Wang - Associate Professor of U.S. History, University of British Columbia

The Conversation - CC BY ND

En 1855, le Brooklyn Daily Eagle rapportait le meurtre horrible d’une épouse par son nouveau mari. L’histoire se passait dans la campagne française, où les parents de la femme avaient d’abord empêché les fiançailles du couple "en raison de l’étrangeté de la conduite parfois observée chez le jeune homme", alors qu’il "était par ailleurs un très bon parti".

Les parents ont finalement consenti et le mariage a eu lieu. Peu de temps après que les jeunes mariés se soient retirés pour consommer leur lien, des "cris de peur" sont venus de leurs quartiers. Les gens ont vite accouru et trouver "la pauvre fille… dans les souffrances de la mort – sa poitrine déchirée et lacérée de la manière la plus horrible, et le misérable mari dans un accès de folie débridée et couvert de sang, ayant en fait dévoré une partie du sein de la malheureuse fille".

La mariée est morte peu de temps après. Son mari, après "une résistance des plus violentes", est également décédé.

Qu’est-ce qui a pu causer cette horrible histoire? On se souvient alors, en réponse à des questions posées par un médecin, que le marié avait déjà été "mordu par un chien étranger". Le passage de la folie du chien à l’homme semblait être la seule raison possible de la tournure effroyable des événements.

Le Brooklyn Daily Eagle a décrit l’épisode comme "un triste et pénible cas d’hydrophobie", ou, dans le langage d’aujourd’hui, de rage.

Mais le récit se lisait comme une histoire d’horreur gothique. C’était essentiellement un récit de loup-garou : la morsure du chien fou a provoqué une métamorphose hideuse, qui a transformé sa victime humaine en un monstre infâme dont les pulsions sexuelles vicieuses ont conduit à une violence obscène.

Mon nouveau livre, Mad Dogs and Other New Yorkers : Rabies, Medicine, and Society in an American Metropolis, 1840-1920, (La rage, la médecine et la société dans une métropole américaine, 1840-1920) explore les significations cachées derrière les récits sur la rage. Des variantes de l’histoire du marié enragé ont été racontées encore et encore dans les journaux de langue anglaise en Amérique du Nord depuis au moins le début du XVIIIe siècle, et elles ont continué aussi tard que dans les années 1890.

Le récit du Eagle est essentiellement un conte populaire sur les chiens enragés et la mince ligne de démarcation entre l’humain et l’animal. La rage a engendré une peur viscérale car il s’agissait d’une maladie qui semblait capable de transformer les gens en bêtes enragées.

UNE MALADIE TERRIFIANTE ET MORTELLE

L’historien Eugen Weber a un jour observé que les paysans français du XIXe siècle craignaient "surtout les loups, les chiens fous et le feu". La folie canine – ou la maladie que nous connaissons aujourd’hui sous le nom de rage – a alimenté les cauchemars pendant des siècles.

D’autres maladies infectieuses – comme le choléra, la typhoïde et la diphtérie – ont tué beaucoup plus de gens au 19e et au début du XXe siècle. Le cri de « chien fou » suscitait néanmoins un sentiment immédiat de terreur, car une simple morsure de chien pouvait signifier une longue épreuve suivie d’une mort certaine.

La médecine moderne sait que la rage est causée par un virus. Une fois qu’il pénètre dans le corps, il atteint le cerveau par le système nerveux. Le délai typique de plusieurs semaines ou mois entre l’exposition initiale et l’apparition des symptômes signifie que la rage n’est plus une sentence de mort si un patient reçoit rapidement des injections d’anticorps immunitaires et un vaccin, afin de renforcer son immunité après avoir rencontré un animal suspect. Bien qu’il soit rare que des gens meurent de la rage en Amérique du Nord, la maladie tue encore des dizaines de milliers de personnes dans le monde chaque année.

Selon des sources du XIXᵉ siècle, après une période d’incubation de quatre à 12 semaines, les symptômes peuvent commencer par un vague sentiment d’agitation. Ils progressent ensuite vers des épisodes spasmodiques caractéristiques de la rage, de l’insomnie, de l’excitation, de la fébrilité, un pouls rapide, de la bave et une respiration laborieuse. Il n’est pas rare que les victimes aient des hallucinations ou présentent d’autres troubles mentaux.

Les efforts visant à atténuer les accès de violence par la drogue ont souvent échoué, et les médecins n’ont pu faire autre chose que d’observer puis de témoigner. La maladie suit son cours inévitablement fatal, généralement sur une période de deux à quatre jours. Aujourd’hui encore, la rage reste essentiellement incurable dès l’apparition des signes cliniques.

Il y a des siècles, la perte de contrôle corporel et de rationalité déclenchée par la rage semblait être une attaque contre l’humanité fondamentale des victimes. D’une véritable maladie redoutée transmise par les animaux sont apparues des visions épineuses de forces surnaturelles qui ont transféré les pouvoirs des animaux malveillants et transformé les gens en monstres.

DES MORSURES QUI TRANSFORMENT L’HUMAIN EN ANIMAL

Les récits américains du XIXe siècle n’ont jamais invoqué directement le surnaturel. Mais la description des symptômes indiquait des hypothèses tacites sur la façon dont la maladie transmettait l’essence de l’animal infecté à l’être humain souffrant.

Les journaux décrivaient souvent ceux qui ont contracté la rage par des morsures de chien comme aboyant et grognant comme des chiens, tandis que les victimes de morsures de chat se grattaient et crachaient. Les hallucinations, les spasmes respiratoires et les convulsions incontrôlables découlaient de l’empreinte maléfique de l’animal enragé.

Les mesures préventives traditionnelles ont également montré comment les Nord-Américains ont discrètement supposé une frontière floue entre l’humanité et l’animalité. Les remèdes populaires soutenaient que les victimes de morsures de chien pouvaient se protéger de la rage en tuant le chien qui les avait déjà mordues, en appliquant les poils du chien incriminé sur la blessure ou en lui coupant la queue.

De telles mesures préventives impliquaient la nécessité de couper un lien invisible et surnaturel entre un animal dangereux et sa proie humaine.

Parfois, la maladie a laissé des traces étranges. Lorsqu’un habitant de Brooklyn est mort de la rage en 1886, le New York Herald a signalé une terrifiante apparition : quelques minutes après le dernier souffle de l’homme, « l’anneau bleuâtre sur sa main – la marque de la morsure mortelle du Terre-Neuve… a disparu. » Seule la mort a brisé l’emprise pernicieuse du chien fou.

LES RACINES DES VAMPIRES CHEZ LES CHIENS ENRAGES

Il est possible qu’en plus des loups-garous, les histoires de vampires aient aussi pour origine la rage.

Le médecin Juan Gómez-Alonso a souligné le lien entre le vampirisme et la rage dans les symptômes capillaires de la maladie – les sons déformés, les apparences faciales exagérées, l’agitation et parfois les comportements sauvages et agressifs qui faisaient paraître les personnes atteintes plus monstrueuses que les humains.

De plus, dans différentes traditions folkloriques d’Europe de l’Est, les vampires ne se sont pas transformés en chauves-souris, mais en loups ou en chiens, les vecteurs clés de la rage.

Alors que des loups-garous, des vampires et d’autres monstres descendent dans la rue pour l’Halloween, rappelez-vous que derrière le rituel annuel de la cueillette de bonbons et de déguisements, se cachent les recoins les plus sombres de l’imagination. Ici, les animaux, la maladie et la peur s’entremêlent, et les monstres se matérialisent dans ce subtil point de croisement entre l’animalité et l’humanité.

Jessica Wang