Dialoguer avec un fantôme:

les dangers de l’intelligence artificielle pour la santé mentale

Auteur: Antoine Pelissolo - Professeur de psychiatrie, Inserm, Université Paris-Est Créteil Val de Marne (UPEC)

The Conversation. CC BY ND

Depuis le lancement, en novembre 2022, de ChatGPT, l’agent conversationnel développé par OpenAI, les intelligences artificielles génératives semblent avoir envahi nos vies. La facilité et le naturel avec lesquels il est possible d’échanger avec ces outils sont tels que certains utilisateurs en font même de véritables confidents. Ce qui n’est pas sans risque pour la santé mentale.

Les grands modèles de langage, autrement dit les intelligences artificielles " génératives " telles que ChatGPT, Claude et autre Perplexity, répondent à de très nombreux besoins, que ce soit en matière de recherche d’informations, d’aide à la réflexion ou de résolution de tâches variées; ce qui explique l’explosion actuelle de leur utilisation scolaire, universitaire, professionnelle ou de loisir.

Mais un autre usage de ces IA conversationnelles se diffuse à une vitesse impressionnante, en particulier chez les jeunes: l’équivalent de discussions entre amis, pour passer le temps, questionner ou échanger des idées et surtout se confier comme on le ferait avec un proche. Quels pourraient être les risques liés à ces nouveaux usages?

UN TERRAIN PROPICE A UNE ADOPTION RAPIDE

La conversation par écrit avec les intelligences artificielles semble s’être banalisée très rapidement. À noter d’ailleurs que s’il existe des IA utilisant des échanges vocaux, elles semblent cependant moins utilisées que les échanges textuels.

Il faut dire que nous étions depuis de longues années déjà habitués à échanger par écrit sans voir notre interlocuteur, que ce soit par SMS, par e-mail, par " tchat " ou tout autre type de messagerie. Les IA génératives reproduisant remarquablement bien l’expression verbale des êtres humains, l’illusion de parler à une personne réelle est quasiment immédiate, sans avoir besoin d’un avatar ou d’une quelconque image simulant l’autre.

Immédiatement disponibles à toute heure du jour et de la nuit, conversant toujours sur un ton aimable, voire bienveillant, entraînées à simuler l’empathie et dotées, si ce n’est d’une "intelligence", en tout cas de connaissances en apparence infinies, les IA sont en quelque sorte des partenaires de dialogue idéales.

Il n’est dès lors pas étonnant que certains se soient pris au jeu de la relation, et entretiennent des échanges suivis et durables avec ces substituts de confidents ou de " meilleurs amis ". Et ce, d’autant plus que ces conversations sont " personnalisées ": les IA mémorisent en effet les échanges précédents pour en tenir compte dans leurs réponses futures.

Certaines plateformes, comme Character.ai ou Replika, proposent par ailleurs de personnaliser à sa guise l’interlocuteur virtuel (nom, apparence, profil émotionnel, compétences, etc.), initialement pour simuler un jeu de rôle numérique. Une fonctionnalité qui ne peut que renforcer l’effet de proximité, voire d’attachement affectif au personnage ainsi créé.

Voici à peine plus de dix ans, le réalisateur Spike Jonze tournait le film Her, décrivant la relation amoureuse entre un homme sortant d’une difficile rupture et l’intelligence artificielle sur laquelle s’appuyait le système d’exploitation de son ordinateur. Aujourd’hui, il se pourrait que la réalité ait déjà rejoint la fiction pour certains utilisateurs des IA génératives, qui témoignent avoir entretenu une " romance numérique " avec des agents conversationnels.

Des pratiques qui pourraient ne pas être sans risque pour l’équilibre mental de certaines personnes, notamment les plus jeunes ou les plus fragiles.

DES EFFETS SUR LA SANTE MENTALE DONT LA MESURE RESTE A PRENDRE

Nous constatons aujourd’hui, dans tous les pays (et probablement bien trop tard…), les dégâts que l’explosion de l’usage des écrans a causés sur la santé mentale des jeunes, en particulier du fait des réseaux sociaux.

Entre autres facteurs, une des hypothèses (encore controversée, mais très crédible) est que la désincarnation des échanges virtuels perturberait le développement affectif des adolescents et favoriserait l’apparition de troubles anxieux et dépressifs.

Jusqu’à aujourd’hui, pourtant, les échanges menés par l’intermédiaire des réseaux sociaux ou des messageries numériques se font encore a priori principalement avec des êtres humains, même si nous ne côtoyons jamais certains de nos interlocuteurs dans la vie réelle. Quels pourraient être les conséquences, sur l’équilibre mental (émotionnel, cognitif et relationnel) des utilisateurs intensifs, de ces nouveaux modes d’échanges avec des IA dénuées d’existence physique?

Il est difficile de les imaginer toutes, mais on peut concevoir sans peine que les effets pourraient être particulièrement problématiques chez les personnes les plus fragiles. Or, ce sont précisément celles qui risquent de faire un usage excessif de ces systèmes, comme cela est bien établi avec les réseaux sociaux classiques.

À la fin de l’année dernière, la mère d’un adolescent de 14 ans qui s’est suicidé a poursuivi les dirigeants de la plateforme Character.ai, qu’elle tient pour responsables du décès de son fils. Selon elle, son geste aurait été encouragé par l’IA avec laquelle il échangeait. En réponse à ce drame, les responsables de la plateforme ont annoncé avoir implémenté de nouvelles mesures de sécurité. Des précautions autour des propos suicidaires ont été mises en place, avec conseil de consulter en cas de besoin.

Une rencontre entre des personnes en souffrance et un usage intensif, mal contrôlé, d’IA conversationnelles pourrait par ailleurs conduire à un repli progressif sur soi, du fait de relations exclusives avec le robot, et à une transformation délétère du rapport aux autres, au monde et à soi-même.

Nous manquons actuellement d’observations scientifiques pour étayer ce risque, mais une étude récente, portant sur plus de 900 participants, montre un lien entre conversations intensives avec un chatbot (vocal) et sentiment de solitude, dépendance émotionnelle accrue et réduction des rapports sociaux réels.

Certes, ces résultats sont préliminaires. Il paraît toutefois indispensable et urgent d’explorer les effets potentiels de ces nouvelles formes d’interactions pour, si cela s’avérait nécessaire, mettre tout en œuvre afin de limiter les complications possibles de ces usages.

Autre crainte: que dialoguer avec un " fantôme " et se faire prendre à cette illusion puissent aussi être un facteur déclenchant d’états pseudo-psychotiques (perte de contact avec la réalité ou dépersonnalisation, comme on peut les rencontrer dans la schizophrénie), voire réellement délirants, chez des personnes prédisposées à ces troubles.

Au-delà de ces risques, intrinsèques à l’emploi de ces technologies par certaines personnes, la question d’éventuelles manipulations des contenus – et donc des utilisateurs – par des individus mal intentionnés se pose également (même si ce n’est pas cela que nous constatons aujourd’hui), tout comme celle de la sécurité des données personnelles et intimes et de leurs potentiels usages détournés.

IA et interventions thérapeutiques, une autre problématique

Pour terminer, soulignons que les points évoqués ici ne portent pas sur l’utilisation possible de l’IA à visée réellement thérapeutique, dans le cadre de programmes de psychothérapies automatisés élaborés scientifiquement par des professionnels et strictement encadrés.

En France, les programmes de ce type ne sont pas encore très utilisés ni optimisés. Outre le fait que le modèle économique de tels outils est difficile à trouver, leur validation est complexe. On peut cependant espérer que, sous de nombreuses conditions garantissant leur qualité et leur sécurité d’usage, ils viendront un jour compléter les moyens dont disposent les thérapeutes pour aider les personnes en souffrance, ou pourront être utilisés comme supports de prévention.

Le problème est qu’à l’heure actuelle, certaines IA conversationnelles se présentent d’ores et déjà comme des chatbots thérapeutiques, sans que l’on sache vraiment comment elles ont été construites: quels modèles de psychothérapie utilisent-elles? Comment sont-elles surveillées? et évaluées? Si elles devaient s’avérer posséder des failles dans leur conception, leur emploi pourrait constituer un risque majeur pour des personnes fragiles non averties des limites et des dérives possibles de tels systèmes.

Les plus grandes prudence et vigilance s’imposent donc devant le développement ultrarapide de ces nouveaux usages du numérique, qui pourraient constituer une véritable bombe à retardement pour la santé mentale…

ChatGPT, nouvel oracle pour soulager nos angoisses.

Auteur: Jocelyn Lachance -  Chargé de recherche, docteur HDR en sociologie, Université de Guyane

The Conversation France - CC BY ND

Et si poser frénétiquement des questions à ChatGPT relevait moins d’une quête de vérité que d’un besoin de conjurer l’angoisse. À l’ère du numérique, assistons-nous au retour des oracles.

Les humains confrontés à l’incertitude ont besoin de moyens pour en conjurer les effets potentiellement délétères sur leur vie. Que nous considérions cela comme un simple instinct de survie ou un héritage culturel, un fait demeure: dans de nombreuses sociétés, des rituels spécifiques sont disponibles pour gérer ces incertitudes. L’oracle est l’un de ces rituels les plus connus en Occident du fait de l’importance de la Grèce antique dans notre imaginaire collectif.

Un puissant ou un citoyen lambda se pose des questions sur son avenir, il consulte alors la Pythie, prêtresse de l’oracle, pour qu’elle lise les signes des dieux. Mais attention, contrairement à ce que la croyance populaire propage, il ne s’agit pas de "prédire l’avenir", mais de dire au solliciteur ce qu’il doit penser et faire pour s’assurer d’un destin plus favorable. En d’autres termes, on lui dit comment lire la complexité du monde et comment agir pour infléchir son avenir.

La logique oraculaire se décline d’une société à une autre sous des formes diverses. Mais, que ce soit l’astrologie, la divination, la lecture des entrailles ou du vol des oiseaux, que ce soit dans l’invocation des dieux et même dans la prière, elle se caractérise toujours par le même enchaînement logique et ses résultats attendus sont toujours semblables: il s’agit de se conformer à une manière d’interroger l’avenir, de partager ses inquiétudes avec les autres, afin de déterminer à plusieurs " ce qu’il faut penser " et " ce qu’il faut faire ".

Ainsi s’expriment les rites oraculaires: à partir d’un sentiment d’incertitude, l’individu s’engage auprès d’un " expert ", qui l’accompagne pour comprendre ce qui se trame et ce qui peut advenir. Le rituel transforme sa question en une action à commettre: il faut planter un arbre, sacrifier une bête, faire un pèlerinage, etc. Ainsi l’humanité s’est-elle construite en traversant les peurs et les crises, mais surtout en s’appuyant sur ce moyen ancien de gérer collectivement les inquiétudes.

Les sociétés occidentales ont remplacé les rites oraculaires par la science. Et lorsque la science fait défaut pour apaiser les craintes, alors la logique de l’oracle est susceptible de reprendre toute la place. En tant qu’humains, nous courrons alors chacun et chacune le risque d’être séduit par ses avantages, en particulier lorsque l’inquiétude s’impose. Dans ce contexte, ce qui compte le plus, c’est le bénéfice que procure la logique oraculaire. Mettre en forme le questionnement. Partager ses inquiétudes avec un " expert ". Obtenir une réponse aux questions: que dois-je penser. et que dois-je faire.

Il ne s’agit pas de "prédire l’avenir", mais de procurer le sentiment d’avoir une prise sur son "destin".

Du lundi au vendredi + le dimanche, recevez gratuitement les analyses et décryptages de nos experts pour un autre regard sur l’actualité. Abonnez-vous dès aujourd’hui!

Malgré le triomphe des Lumières et de la science, dont nous sentons parfois le déclin, la logique oraculaire persiste dans ses formes anciennes. Par exemple, le succès constant de l’astrologie trahit notre tendance collective à nous reposer sur ce moyen de réguler l’angoisse. Plus d’inquiétude et moins de science impliquent toujours le risque plus grand du retour de l’humain vers la logique oraculaire. Il faut bien trouver de l’apaisement dans un contexte anxiogène…

L’IA EST UN ORACLE QUI NE PREDIT PAS L’AVENIR

Parmi les nombreux usages de l’intelligence artificielle générative (IA), plusieurs révèlent le retour de la logique oraculaire. L’IA appuie ses analyses sur un ensemble de données. Ce sont les signes contemporains. On consulte Internet. On consulte les moteurs de recherche. Et on consulte l’IA.

On lui pose une question. L’IA lit les signes disponibles et, devant l’immensité de l’information disponible, elle redonne à un monde complexe un semblant de cohérence. Elle formule une interprétation. Elle rend lisible ce qui ne l’était pas aux yeux de l’individu. Ainsi, devant des incertitudes sans doute légitimes, des jeunes nous révèlent consulter l’IA, comme Kelly 17 ans, qui nous raconte dans le cadre d’une enquête que nous menons:

    "Nous, les filles en général, on a déjà eu cette appréhension, par exemple pour les premières règles, le premier rapport. J’en n’ai pas forcément parlé à ma mère ou à un médecin donc j’ai cherché sur Google. Et c’est vrai que j’avais des trucs pas cool quoi, qui m’ont pas mal fait cogiter certaines nuits […]. Quand j’ai eu mes toutes premières règles, j’ai demandé [à Google] pourquoi le sang devenait marron, des choses comme ça. Et c’est vrai que les réponses, rapidement, c’était: “Ah, bah! Vous avez peut-être un cancer.” Je trouve qu’il y a vachement plus de bêtises sur Internet alors que l’IA, une fois qu’on a confiance en elle, on voit que ce n’est pas des bêtises ce qu’elle raconte. C’est bien pour se reposer et arrêter d’avoir peur de tout et de rien, en fait".

"L’IA, c’est bien pour se reposer. Pour arrêter d’avoir peur". Non seulement, l’IA remplit, dans cet exemple, la fonction du rite oraculaire, mais elle permet la mise en scène de son processus rituel: une incertitude ressentie, la formulation d’une question, la remise de soi à un "expert", l’attente d’une interprétation qui dit quoi penser et éventuellement quoi faire ainsi que la conjuration provisoire du sentiment d’incertitude.

D’ailleurs, dans cette enquête que nous menons auprès des jeunes sur leurs usages de l’IA, la logique oraculaire se décline de différentes manières. Par exemple, la plupart d’entre eux n’utilisent pas l’IA en permanence pour leurs travaux scolaires, mais plutôt lorsqu’ils ne savent pas quoi répondre, qu’ils ne comprennent pas ou que la pression est trop forte, c’est-à-dire lorsque l’inquiétude face à l’avenir rapproché de l’évaluation devient insupportable. Que l’IA ne formule pas la vérité, mais des réponses plausibles, cela n’est plus toujours le plus important dans ce contexte. Ce qui compte, pour l’individu oraculaire, c’est d’abord l’effet d’apaisement que permet son usage.

UN ORACLE 2.0.

L’activité de la consultation est devenue omniprésente, journalière même. On peut utiliser l’IA pour lui poser des questions. On peut également lui demander de générer des images qui mettent en scène des scénarios apocalyptiques. Il s’agit toujours de passer de l’activité cognitive de la rumination ou du questionnement existentiel à une action rituelle, incluant ici des dispositifs informationnels. Mais il est aussi possible de s’en remettre à des "experts", qui liront la complexité du monde, pour le bénéfice du consultant.

Ainsi, il n’est pas surprenant que YouTube ait vu apparaître en quelques années quantité d’experts de tous horizons, dont l’objectivité et la rigueur d’analyse peuvent souvent être critiquées. Car si les individus qui les suivent écoutent attentivement ce qu’ils ont à dire, ce n’est plus toujours pour bénéficier de contenu partagé, mais pour la possibilité d’accéder à de nouveaux processus rituels.

Ainsi, des amateurs de youtubeurs et de twitcheurs mettent en avant le fait qu’ils abordent les "vrais sujets", qu’il est possible de poser les "vraies questions", d’avoir le sentiment d’une " proximité relationnelle " avec les producteurs de contenu, alors que, dans les faits, l’asymétrie règne. En d’autres termes, les questions individuelles sont ici déléguées à un expert qui déchiffre un monde complexe. Il remplit ainsi la fonction d’apaisement autrefois jouée par les rites oraculaires.

Soyons clairs: tous les amateurs de youtubeurs et de twitcheurs ne se retrouvent pas dans ce cas de figure, loin de là. Mais les individus oraculaires accordent plus d’importance aux bénéfices obtenus en termes d’apaisement des inquiétudes qu’à l’objectivité et à la vérité. Et certains youtubeurs et twitcheurs instrumentalisent clairement le retour de l’oracle à l’ère du numérique. Une lecture socio-anthropologique nous permet alors de désigner certains d’entre eux comme de " nouveaux devins contemporains ". Non pas parce qu’ils prédisent l’avenir, mais parce qu’ils offrent des manières de penser un monde incertain et, souvent, d’agir malgré les craintes, comme en leur temps, les " experts de la divination ".

Qu’ils mobilisent des croyances religieuses ou techno-scientifiques, qu’ils se nourrissent de propositions loufoques, voire de théories du complot, nous pouvons penser que ces oracles numériques trouveront un nombre croissant d’adeptes dans un monde de plus en plus incertain. Car, pour des individus inquiets, la logique oraculaire colmate la détresse et enraye provisoirement la souffrance.

Ainsi des individus courent-ils le risque que la recherche d’apaisement devienne à leurs yeux plus importante que la découverte des faits objectifs. Et que la quête de vérité soit oubliée, et même abandonnée, au profit du soulagement de nos angoisses modernes.

 

 

Comment la pub vous manipule

image générée avec I.A.

Vous croyez aux fantômes? Aux sorcières? en la pierre du Nord? A la lithothérapie? Au retour des esprits de vos ancêtres? Aux bracelets "shambala"? et autres….

Des publicités qui nous vendent du bonheur: une affaire de croyants ?

Le bonheur: voilà ni plus ni moins ce que promettent beaucoup de marques dans leur communication marketing. "Et si on se levait de bonheur?" propose Nutella: tartiner de la joie, dans le reste du monde quand McDonald’s vend ses "joyeux repas" dans près de 40.000 restaurants à travers la planète et que Coca-Cola anime sa campagne  "ouvre du bonheur".

Côté français, le site de petites annonces Leboncoin affirme que "le bonheur des uns fait le bonheur des autres" et le spécialiste du surgelé Thiriet que "seul le bon crée le bonheur"

Les gens souhaitent être heureux, et pas seulement dans les pays occidentaux, mais à l’échelle de la planète: pourquoi ne pas s’appuyer dessus ? Du point de vue d’un manager, il semble raisonnable de penser que les consommateurs répondront favorablement à un appel au bonheur.

Cette pratique peut néanmoins se retourner contre la marque. Ambitieuse, pareille promesse semble à double tranchant. Elle peut aussi bien séduire les consommateurs que de susciter le rejet.

Dans un article récemment publié dans le Journal of International Marketing, nous montrons que ces réactions ont à voir, quand bien même cela peut paraître curieux, avec la religiosité des consommateurs. On désigne par là le degré d’adhésion à des valeurs, croyances et pratiques religieuses d’un individu et l’importance avec laquelle il les met en pratique dans son quotidien.

Les conclusions reposent sur plusieurs études conduites dans différents contextes culturels (Amérique du Nord et Moyen-Orient), suggérant que le phénomène dépasse les frontières et les affiliations religieuses.

DES CROYANTS ATTACHES AU BONHEUR

Si la promesse du bonheur par la consommation d’un produit ou service peut susciter le doute, cette pratique permet a minima d’établir une association verbale avec tout un lexique associé. Or, des travaux de recherche suggèrent que les personnes à forte religiosité sont particulièrement sensibles aux expressions écrites évoquant le bonheur. Les consommateurs religieux ne seront ainsi pas plus disposés à croire en la promesse du bonheur mais ils sont en revanche davantage attirés par sa mention dans une publicité.

Nous avons pu le vérifier. Dans le cadre de deux études expérimentales conduites auprès de 2046 consommateurs aux États-Unis et aux Émirats arabes unis, nous avons ainsi mesuré l’attrait pour des publicités de marques fictives et réelles ainsi que la religiosité des répondants. Les résultats révèlent que plus les consommateurs sont religieux, plus ils apprécient les publicités qui promettent explicitement le bonheur.

Peut-être est-ce car ces derniers ont en effet tendance à se déclarer plus heureux et plus optimistes que les personnes non religieuses, et ce, dans un grand nombre de pays. Plusieurs raisons peuvent être avancées comme le soutien social qui découle de l’appartenance à une communauté religieuse ou l’offre de repères qui balise la quête de sens et favorise un sentiment de quiétude, voire de bien-être.

 

 

POUR D’AUTRES, DES PUBLICITES QUI MANQUENT D’OBJECTIVITE

Nous avons également vérifié l’inverse : l’absence de religiosité est un facteur explicatif du scepticisme, c’est-à-dire la tendance à ne pas croire l’information à laquelle on est confrontée. Les personnes non religieuses tendent à rejeter les affirmations qui ne peuvent pas être objectivement vérifiées. Or, deux éléments caractérisent la promesse du bonheur dans la publicité et soutiennent cette logique de rejet.

Premièrement, le bonheur est un phénomène subjectif ; la définition de ce qui nous rend heureux varie d’une personne à l’autre selon sa fortune, sa famille, sa santé, son environnement et de bien d’autres choses encore. En promettant le bonheur, les publicitaires ne donnent pas d’indications concrètes et laissent donc les consommateurs imaginer comment le produit ou service les rendra heureux. L’appel au bonheur peut ainsi, dans le cas du slogan "ouvre du bonheur" de Coca-Cola, avoir trait à la boisson, son goût, sa fraîcheur, autant qu’à la satisfaction de partager un moment avec des proches autour d’un verre.

Deuxièmement, le bonheur est un but à long terme que les individus poursuivent tout au long de leur vie. Sa réalisation dépend de nombreux facteurs qui sont souvent hors du champ d’influence des marques. Des études suggèrent que seulement 40 % du bonheur que les individus prétendent ressentir peut être expliqué par des activités intentionnelles, le reste étant dû à la génétique et aux circonstances. Bien que des épisodes individuels de consommation puissent contribuer à faire l’expérience du bonheur, ces expériences sont limitées dans le temps. Les gens ne souhaitent pas être heureux qu’une seule fois, mais régulièrement voire continuellement tout au long de leur vie.

BIEN CALER SES CAMPAGNES PUBLICITAIRES

Notre recherche montre néanmoins que, dans un cas particulier, les consommateurs religieux réagissent aussi négativement à la promesse du bonheur dans la publicité. C’est lorsqu’ils ont été exposés à un stimulus religieux avant d’avoir vu la réclame.

Dans l’une de nos études, nous avons par exemple demandé à la moitié des participants de lire un magazine sur l’architecture de bâtiments religieux pendant que l’autre moitié lisait un magazine sur l’architecture de gares afin de servir de point de comparaison. Après exposition à un stimulus religieux, les croyants en viennent à contraster la promesse publicitaire au regard de leur foi. Plus précisément, l’affirmation des marques quant à leur capacité à apporter le bonheur par la consommation d’un produit ou service se heurte à la croyance en la capacité de Dieu à faire de même sur un plan spirituel.

Ces résultats soulignent donc, pour les annonceurs, l’importance de tenir compte de la religiosité des consommateurs comme variable stratégique dans le média planning des campagnes publicitaires qui reposent sur la promesse du bonheur. Moins les consommateurs sont religieux, plus ils répondront défavorablement à des slogans promettant le bonheur par rapport à d’autres types de slogans. Les managers devraient donc éviter d’utiliser ce type de message publicitaire dans des marchés où la religiosité des consommateurs est faible.

Dans les marchés où la religiosité est forte, la promesse du bonheur peut être problématique si les consommateurs sont confrontés à des stimuli religieux juste avant l’exposition au message publicitaire. Les managers doivent donc tenir comptent de la probabilité que cela se produise et donc anticiper les célébrations religieuses (Noël, Pâques, Ramadan) ou les programmes de divertissement (séries, films) connus pour avoir du contenu à connotation religieuse ou pour faire des références à Dieu.

Auteur: Jamel Khenfer - Associate Professor of Marketing, Excelia

The Conversation France - CC BY ND