Les IA, nos nouvelles confidentes: quels risques pour la santé mentale?

Image générée par moi par I.A.

Depuis le lancement, en novembre 2022, de ChatGPT, l’agent conversationnel développé par OpenAI, les intelligences artificielles génératives semblent avoir envahi nos vies. La facilité et le naturel avec lesquels il est possible d’échanger avec ces outils sont tels que certains utilisateurs en font même de véritables confidents. Ce qui n’est pas sans risque pour la santé mentale.

Les grands modèles de langage, autrement dit les intelligences artificielles " génératives " telles que ChatGPT, Claude et autre Perplexity, répondent à de très nombreux besoins, que ce soit en matière de recherche d’informations, d’aide à la réflexion ou de résolution de tâches variées; ce qui explique l’explosion actuelle de leur utilisation scolaire, universitaire, professionnelle ou de loisir.

Mais un autre usage de ces IA conversationnelles se diffuse à une vitesse impressionnante, en particulier chez les jeunes: l’équivalent de discussions entre amis, pour passer le temps, questionner ou échanger des idées et surtout se confier comme on le ferait avec un proche. Quels pourraient être les risques liés à ces nouveaux usages?

UN TERRAIN PROPICE A UNE ADOPTION RAPIDE

La conversation par écrit avec les intelligences artificielles semble s’être banalisée très rapidement. À noter d’ailleurs que s’il existe des IA utilisant des échanges vocaux, elles semblent cependant moins utilisées que les échanges textuels.

Il faut dire que nous étions depuis de longues années déjà habitués à échanger par écrit sans voir notre interlocuteur, que ce soit par SMS, par e-mail, par " tchat " ou tout autre type de messagerie. Les IA génératives reproduisant remarquablement bien l’expression verbale des êtres humains, l’illusion de parler à une personne réelle est quasiment immédiate, sans avoir besoin d’un avatar ou d’une quelconque image simulant l’autre.

Immédiatement disponibles à toute heure du jour et de la nuit, conversant toujours sur un ton aimable, voire bienveillant, entraînées à simuler l’empathie et dotées, si ce n’est d’une "intelligence", en tout cas de connaissances en apparence infinies, les IA sont en quelque sorte des partenaires de dialogue idéales.

Nous y sommes presque! Nous avons atteint 90% de notre objectif.

Il n’est dès lors pas étonnant que certains se soient pris au jeu de la relation, et entretiennent des échanges suivis et durables avec ces substituts de confidents ou de "meilleurs amis". Et ce, d’autant plus que ces conversations sont "personnalisées": les IA mémorisent en effet les échanges précédents pour en tenir compte dans leurs réponses futures.

Certaines plate-formes, comme Character.ai ou Replika, proposent par ailleurs de personnaliser à sa guise l’interlocuteur virtuel (nom, apparence, profil émotionnel, compétences, etc.), initialement pour simuler un jeu de rôle numérique. Une fonctionnalité qui ne peut que renforcer l’effet de proximité, voire d’attachement affectif au personnage ainsi créé.

Voici à peine plus de dix ans, le réalisateur Spike Jonze tournait le film Her, décrivant la relation amoureuse entre un homme sortant d’une difficile rupture et l’intelligence artificielle sur laquelle s’appuyait le système d’exploitation de son ordinateur. Aujourd’hui, il se pourrait que la réalité ait déjà rejoint la fiction pour certains utilisateurs des IA génératives, qui témoignent avoir entretenu une "romance numérique" avec des agents conversationnels.

Des pratiques qui pourraient ne pas être sans risque pour l’équilibre mental de certaines personnes, notamment les plus jeunes ou les plus fragiles.

DES EFFETS SUR LA SANTE MENTALE DONT LA MESURE RESTE A PRENDRE

Nous constatons aujourd’hui, dans tous les pays (et probablement bien trop tard…), les dégâts que l’explosion de l’usage des écrans a causés sur la santé mentale des jeunes, en particulier du fait des réseaux sociaux.

Entre autres facteurs, une des hypothèses (encore controversée, mais très crédible) est que la désincarnation des échanges virtuels perturberait le développement affectif des adolescents et favoriserait l’apparition de troubles anxieux et dépressifs.

Jusqu’à aujourd’hui, pourtant, les échanges menés par l’intermédiaire des réseaux sociaux ou des messageries numériques se font encore a priori principalement avec des êtres humains, même si nous ne côtoyons jamais certains de nos interlocuteurs dans la vie réelle. Quels pourraient être les conséquences, sur l’équilibre mental (émotionnel, cognitif et relationnel) des utilisateurs intensifs, de ces nouveaux modes d’échanges avec des IA dénuées d’existence physique?

Il est difficile de les imaginer toutes, mais on peut concevoir sans peine que les effets pourraient être particulièrement problématiques chez les personnes les plus fragiles. Or, ce sont précisément celles qui risquent de faire un usage excessif de ces systèmes, comme cela est bien établi avec les réseaux sociaux classiques.

À la fin de l’année dernière, la mère d’un adolescent de 14 ans qui s’est suicidé a poursuivi les dirigeants de la plate-forme Character.ai, qu’elle tient pour responsables du décès de son fils. Selon elle, son geste aurait été encouragé par l’IA avec laquelle il échangeait.

En réponse à ce drame, les responsables de la plate-forme ont annoncé avoir implémenté de nouvelles mesures de sécurité. Des précautions autour des propos suicidaires ont été mises en place, avec conseil de consulter en cas de besoin.

Une rencontre entre des personnes en souffrance et un usage intensif, mal contrôlé, d’IA conversationnelles pourrait par ailleurs conduire à un repli progressif sur soi, du fait de relations exclusives avec le robot, et à une transformation délétère du rapport aux autres, au monde et à soi-même.

Nous manquons actuellement d’observations scientifiques pour étayer ce risque, mais une étude récente, portant sur plus de 900 participants, montre un lien entre conversations intensives avec un chatbot (vocal) et sentiment de solitude, dépendance émotionnelle accrue et réduction des rapports sociaux réels.

Certes, ces résultats sont préliminaires. Il paraît toutefois indispensable et urgent d’explorer les effets potentiels de ces nouvelles formes d’interactions pour, si cela s’avérait nécessaire, mettre tout en œuvre afin de limiter les complications possibles de ces usages.

Autre crainte: que dialoguer avec un "fantôme" et se faire prendre à cette illusion puissent aussi être un facteur déclenchant d’états pseudo-psychotiques (perte de contact avec la réalité ou dépersonnalisation, comme on peut les rencontrer dans la schizophrénie), voire réellement délirants, chez des personnes prédisposées à ces troubles.

Au-delà de ces risques, intrinsèques à l’emploi de ces technologies par certaines personnes, la question d’éventuelles manipulations des contenus – et donc des utilisateurs – par des individus mal intentionnés se pose également (même si ce n’est pas cela que nous constatons aujourd’hui), tout comme celle de la sécurité des données personnelles et intimes et de leurs potentiels usages détournés.

IA et interventions thérapeutiques, une autre problématique

Pour terminer, soulignons que les points évoqués ici ne portent pas sur l’utilisation possible de l’IA à visée réellement thérapeutique, dans le cadre de programmes de psychothérapies automatisés élaborés scientifiquement par des professionnels et strictement encadrés.

En France, les programmes de ce type ne sont pas encore très utilisés ni optimisés. Outre le fait que le modèle économique de tels outils est difficile à trouver, leur validation est complexe. On peut cependant espérer que, sous de nombreuses conditions garantissant leur qualité et leur sécurité d’usage, ils viendront un jour compléter les moyens dont disposent les thérapeutes pour aider les personnes en souffrance, ou pourront être utilisés comme supports de prévention.

Le problème est qu’à l’heure actuelle, certaines IA conversationnelles se présentent d’ores et déjà comme des chatbots thérapeutiques, sans que l’on sache vraiment comment elles ont été construites: quels modèles de psychothérapie utilisent-elles? Comment sont-elles surveillées? et évaluées? Si elles devaient s’avérer posséder des failles dans leur conception, leur emploi pourrait constituer un risque majeur pour des personnes fragiles non averties des limites et des dérives possibles de tels systèmes.

Les plus grandes prudences et vigilance s’imposent donc devant le développement ultra-rapide de ces nouveaux usages du numérique, qui pourraient constituer une véritable bombe à retardement pour la santé mentale…

Auteur: Antoine Pelissolo - Professeur de psychiatrie, Inserm, Université Paris-Est Créteil Val de Marne (UPEC) - membre du Parti socialiste

The Conversation - CC BY ND

Et si le corps "écoutait "?

Le son peut moduler l’activité des gènes, selon une étude japonaise

Exposées à des ondes sonores, certaines cellules modifient l’activité de leurs gènes.

Une étude révèle la sensibilité des cellules aux stimuli sonores

Et si notre perception du son ne se limitait pas à l’ouïe? Des chercheurs japonais dévoilent une étonnante sensibilité cellulaire aux vibrations acoustiques. Leur étude montre que certaines ondes sonores peuvent aller jusqu’à modifier l’activité de cellules, ouvrant un nouveau champ d’exploration en mécanobiologie et en biologie acoustique. En d’autres termes, le corps, bien au-delà de l’oreille, pourrait lui aussi " écouter ".

Le son, rappelons-le, se manifeste sous forme d’ondes mécaniques de compression se propageant à travers divers milieux – l’air, l’eau ou encore les tissus organiques. Ces ondes induisent des variations de pression que l’appareil auditif humain, hautement spécialisé, est capable d’interpréter avec une précision remarquable.

Partant de cette réalité physique, des chercheurs de l’Université de Kyoto, dirigés par le Dr Masahiro Kumeta, ont exploré la possibilité que les ondes de pression acoustique, même à des niveaux sonores considérés comme physiologiques, puissent interagir directement avec des cellules vivantes et y déclencher des réponses biologiques mesurables.

L’équipe s’est donc attachée à comprendre comment les cellules pouvaient potentiellement décrypter les signaux véhiculés par le son". Le son est l’une des forces physiques les plus omniprésentes dans la nature ", observent les auteurs de l’étude parue dans la revue Communications Biology.

Pour évaluer les effets du son sur l’activité cellulaire, le Dr Kumeta a détaillé dans un communiqué le dispositif expérimental mis au point: " Nous avons conçu un système qui permet d’immerger des cellules cultivées dans un environnement d’ondes acoustiques contrôlées".

Un dispositif spécifiquement adapté pour une immersion sonore contrôlée

Dans le cadre de leur étude, les chercheurs de Kyoto ont élaboré un montage expérimental sur mesure, destiné à exposer des cultures cellulaires à des ondes acoustiques précisément réglées. Ce dispositif a permis de documenter rigoureusement les réactions biologiques induites.

Le cœur du système est un transducteur de vibrations, installé à l’envers sous une étagère de laboratoire. Habituellement utilisé pour convertir des signaux électriques en vibrations mécaniques, ce transducteur a été relié à un lecteur audio numérique, lui-même connecté à un amplificateur. Cette configuration autorise une génération sonore d’une grande précision, tant en fréquence qu’en intensité.

 

L’onde acoustique ainsi produite est transmise directement dans l’environnement des cellules en culture via un diaphragme conçu spécialement à cet effet. Ce dernier est mécaniquement relié à la boîte de culture contenant des cellules issues de modèles murins. Cette interface physique garantit une diffusion uniforme et précisément contrôlée de la pression acoustique, tout en minimisant les interférences extérieures. Les cellules baignent ainsi dans un bain sonore maîtrisé, offrant aux chercheurs un contrôle expérimental optimal.

Les cultures cellulaires ont été soumises à deux fréquences spécifiques: 440 Hz, qui correspond au "la" musical, et 14 kHz, soit un seuil proche des limites supérieures de l’audition humaine. En parallèle, un groupe témoin a été exposé à du bruit blanc. L’analyse par séquençage ARN, couplée à des techniques de microscopie avancée, a révélé une réactivité acoustique chez près de 190 gènes.

Une suppression de la différenciation des adipocytes

Les réactions observées différaient selon les types cellulaires. Toutefois, un fait marquant est apparu: l’exposition aux ondes sonores a démontré une capacité à supprimer la différenciation des adipocytes. Au cours de ce processus, les préadipocytes, cellules indifférenciées, en viennent à se différencier en cellules adipeuses matures, spécialisées dans le stockage des graisses. Une inhibition qui ouvre des perspectives thérapeutiques prometteuses dans la lutte contre l’obésité.

"Le son étant immatériel, la stimulation acoustique représente un outil non invasif, sécuritaire et immédiat, qui pourrait représenter un outil complémentaire prometteur en médecine", estime le Dr Kumeta.

L’étude met en lumière des réponses cellulaires distinctes selon les caractéristiques acoustiques. Certains gènes réagissent uniquement à une fréquence spécifique, tandis que sept d’entre eux présentent une activation à une fréquence et une inhibition à une autre. Il convient cependant de souligner que la significativité statistique de ces résultats devrait être confirmée par des analyses supplémentaires.

Les chercheurs ont également étudié la forme de l’onde sonore. Des signaux sinusoïdaux, carrés et triangulaires ont été appliqués aux mêmes fréquences. La réponse cellulaire s’est révélée globalement similaire, bien que les ondes sinusoïdales aient produit les effets les plus marqués.

La densité cellulaire s’est également avérée déterminante. Certains gènes réagissaient de manière opposée selon la concentration des cellules exposées. Une exposition prolongée de 24 heures était nécessaire pour constater l’ensemble des effets sur l’expression génique, bien qu’un tiers des changements soit apparu dès les deux premières heures.

Des travaux antérieurs ont déjà suggéré que le bruit blanc pouvait traverser les tissus jusqu’au fœtus chez les mammifères, ce qui laisse envisager une transmission similaire chez l’humain. Cela dit, la signification évolutive des réponses cellulaires observées dans cette étude reste difficile à cerner: une exposition prolongée à une fréquence sonore stable est rare dans les environnements naturels. Reste que plusieurs gènes sensibles aux hautes fréquences (14 kHz) sont associés à des mécanismes de réponse à l’hypoxie.

Cette étude contribue au développement d’un champ de recherche encore émergent: la mécanobiologie, qui explore l’influence des forces physiques sur le comportement cellulaire. En mettant en évidence un lien tangible entre ondes sonores et modulation génétique, elle ouvre de nouvelles perspectives à l’intersection de la physique, de la biologie et de la médecine.

Source: Communications Biology

 

Notre tête émet de la lumière

image générée par moi par I.A.

La lumière émise par le cerveau mesurée pour la première fois

Tous les tissus vivants émettent un faible flux de lumière. Des chercheurs ont mesuré pour la première fois ces "bio-photons" produits par le cerveau humain. Jouent-ils un rôle dans la cognition?

La vie, pour l’essentiel, est baignée de lumière: le Soleil procure à la planète l’énergie indispensable à la grande majorité des écosystèmes qu’elle abrite. Mais la vie crée également sa propre lumière, et pas seulement la bioluminescence des vers luisants et des poissons lanternes, ou les rayonnements infra-rouges engendrés par la chaleur. Les tissus vivants émettent un flux continu de lumière de faible intensité, ou bio-photons. Les scientifiques dénomment ce phénomène" émissions de photons ultra-faibles" (UPE, pour ultra-weak photon emissions, en anglais).

Ils supposent qu’elles ont pour origine des réactions biomoléculaires produisant de l’énergie, dont les photons sont des sous-produits. Dès lors, plus un tissu utilise d’énergie, plus il devrait diffuser de la lumière; ce qui signifie que, dans notre corps, le cerveau devrait être particulièrement émetteur.

Dans une nouvelle étude publiée dans la revue iScience, des chercheurs ont détecté pour la première fois, depuis l’extérieur du crâne, des émissions par le cerveau humain de bio-photons et observé que celles-ci changeaient lorsque les participants (sans pouvoir établir de relation claire entre émissions et nature des tâches cognitives). Quel rôle ces photons sont-ils susceptibles de jouer dans l’activité cérébrale?

DE TRES FAIBLES RAYONNEMENTS

Fondamentalement, toute matière émet des photons. En effet, tout corps dont la température est supérieure au zéro absolu produit un rayonnement, dans les longueurs d’onde infra-rouges. Les UPE sont cependant plusieurs ordres de grandeur moins intenses que ce rayonnement thermique, et leurs longueurs d’onde se situent dans la gamme de la lumière visible ou quasi visible du spectre électromagnétique.

Certaines molécules biologiques, lors de processus métaboliques, sont susceptibles de se trouver dans un état excité; elles libèrent alors des photons lorsqu’elles retrouvent leur état fondamental.

Les chercheurs qui étudient les tissus biologiques, y compris les neurones, parviennent à détecter ce très faible flux de lumière continu, allant de quelques photons à plusieurs centaines par centimètre carré chaque seconde, à l’échelle de cultures de cellules, dans des boîtes de Pétri. "La question était de savoir si ces photons, à l’échelle d’un organe qu’est le cerveau humain, pouvaient être impliqués dans le traitement ou la propagation de l’information", explique l’autrice principale de l’étude, Nirosha Murugan, biophysicienne à l’université Wilfrid-Laurier, au Canada.

Cela fait au moins un siècle que les scientifiques font l’hypothèse que les bio-photons jouent un rôle dans la communication cellulaire. En 1923, le biologiste russe Alexander Gurwitsch a mené des expériences dont le principe consistait à empêcher les photons émis par des racines d’oignons d’atteindre d’autres racines adjacentes, et conclu que ces "barrières" empêchaient la plante de pousser. Au cours des dernières décennies, une poignée d’études ont contribué à suggérer que les bio-photons jouent un rôle dans la communication cellulaire, et influencent la croissance et le développement d’un organisme.

DES PHOTONS CAPTES SUR LE CRANE

Se fondant sur ces travaux, Nirosha Murugan et son équipe ont cherché à mettre en évidence un phénomène comparable dans le cerveau humain. Il fallait d’abord, pour cela, vérifier qu’il était possible de mesurer les UPE à la surface du crâne.

À cette fin, ils ont muni vingt participants, dans une salle plongée dans le noir, de casques d’électro-encéphalographie (EEG). Des tubes amplificateurs de photons destinés à détecter les UPE étaient également placés autour de leur tête.

Ces détecteurs étaient regroupés à l’aplomb de deux régions cérébrales: les lobes occipitaux, situés en arrière du cerveau, responsables du traitement visuel, et les lobes temporaux, de chaque côté du cerveau, responsables du traitement auditif. Pour distinguer les UPE du bruit de fond, l’équipe a également installé des détecteurs d’UPE distincts, orientés à l’opposé des participants.

"Notre premier constat, c’est que les photons sortent de la tête, ça ne fait pas de doute", affirme Nirosha Murugan. La chercheuse a ensuite voulu vérifier si l’intensité de ces émissions changeait en fonction du type de tâche cognitive effectuée par les participants.

Le cerveau étant un organe très coûteux sur le plan métabolique, son hypothèse était que l’intensité des UPE devait augmenter lorsque les personnes exécutaient des tâches nécessitant plus d’énergie, comme le traitement visuel. C’est ce qui est en général observé dans les cultures cellulaires: un surcroît d’activité des neurones se traduit en émissions plus intenses.

UN ROLE DANS LES PROCESSUS COGNITIFS?

Si les dispositifs de mesure parvenaient à distinguer les photons provenant de la tête des participants du bruit de fond de ceux de la pièce, ils ont cependant échoué à établir une différence entre différentes régions cérébrales". Peut-être est-ce parce que les biophotons se diffusent dans le cerveau ", estime la chercheuse. Son équipe a toutefois mesuré des variations, pour une région donnée, au moment où les sujets changeaient de tâche, suggérant un lien entre les processus cognitifs et les émissions.

Les chercheurs ont donc plus de questions que de réponses quant au rôle des UPE dans le cerveau.

"C’est une approche très étonnante, recelant un potentiel intéressant pour la mesure de l’activité cérébrale, même si de nombreuses incertitudes subsistent", juge Michael Gramlich, biophysicien à l’université d’Auburn, en Alabama, aux États-Unis, qui n’a pas participé à l’étude". La question essentielle est de savoir si les UPE constituent un mécanisme actif de modification des processus cognitifs ou s’ils ne font que renforcer des mécanismes cognitifs connus".

Daniel Remondini, biophysicien à l’université de Bologne, en Italie, soulève une autre question: "Quelle distance ces photons peuvent-ils parcourir à l’intérieur des tissus biologiques?".

La réponse pourrait aider à éclaircir la relation entre activité cérébrale et émissions de photons issues de différentes régions du cerveau.

Pour répondre à ces nouvelles interrogations, l’équipe de Nirosha Murugan envisage d’utiliser des réseaux de capteurs plus précis afin de déterminer l’origine des photons dans le cerveau. Des scientifiques de l’université de Rochester développent également des sondes nanométriques pour évaluer la capacité des fibres nerveuses à transmettre des bio-photons.

Même si la lueur émise par notre cerveau ne joue aucun rôle dans son fonctionnement, la technique consistant à mesurer les biophotons en même temps que les signaux électriques – ce que Nirosha Murugan et ses collègues appellent la " photoencéphalographie " – pourrait un jour constituer un moyen utile de recueillir de manière non invasive des informations sur son état". Il est possible que cette technique soit largement adoptée dans les décennies à venir, même si la théorie selon laquelle les UPE soutiennent la cognition se révèle fausse ", anticipe Michael Gramlich.

Auteur: Conor Feehly

Conor Feehly est journaliste scientifique. Il travaille notamment pour Scientific American, New Scientist, Discover ou Nautilus.