Et si certaines IA étaient déjà conscientes… sans qu’on le sache?

À l'ère des intelligences artificielles toujours plus sophistiquées, une question fondamentale émerge: comment pourrions-nous détecter l'apparition d'une conscience dans ces systèmes? Des experts en neurosciences et en IA tentent d'établir des critères objectifs pour identifier cette frontière cruciale. Entre science-fiction et réalité scientifique, les enjeux éthiques d'une telle découverte seraient considérables.

La possibilité qu'une intelligence artificielle développe une forme de conscience n'est plus cantonnée aux œuvres de science-fiction comme 2001: l'Odyssée de l'espace. Des chercheurs de premier plan, dont certains travaillent pour les entreprises leaders du secteur, s'interrogent désormais sérieusement sur les méthodes qui permettraient de détecter l'émergence d'une conscience artificielle. Cette question soulève des enjeux éthiques majeurs qui pourraient redéfinir notre relation avec les machines et notre responsabilité envers elles.

LES DEFIS DE L'IDENTIFICATION D'UNE CONSCIENCE ARTIFICIELLE

La détection d'une conscience dans un système d'IA se heurte d'abord à un obstacle fondamental: définir ce qu'est la conscience elle-même. Parmi les différentes approches, la "conscience phénoménale", cette expérience subjective d'être et de ressentir, constitue le centre d'attention principal des chercheurs.

Un groupe de dix-neuf scientifiques, incluant des neuroscientifiques, des philosophes et des informaticiens comme Yoshua Bengio, pionnier de l'apprentissage profond, a récemment proposé une méthodologie pour évaluer la présence de conscience dans les systèmes d'IA. Plutôt que de s'appuyer sur des tests comportementaux facilement trompeurs (les IA excellent dans l'imitation), ils ont adopté une approche fondée sur des théories neuroscientifiques de la conscience.

Cette démarche repose sur deux principes essentiels:

    Le fonctionnalisme computationnel: l'idée que la conscience dépend du traitement de l'information, indépendamment du support physique.

    L'application aux IA des théories neuroscientifiques de la conscience humaine et animale.

THEORIES ET INDICATEURS DE CONSCIENCE

Parmi les différentes théories examinées par les chercheurs, celle de "l'espace de travail global" occupe une place importante. Cette théorie suggère que la conscience émerge lorsque différents modules cognitifs spécialisés (vision, audition, etc.) partagent et intègrent leurs informations dans un système unifié.

Pour détecter des signes de conscience dans une IA selon cette théorie, Robert Long, philosophe au Centre pour une IA sécurisée, propose d'analyser " l'architecture du système et la façon dont l'information y circule ". Cette approche permet d'établir des indicateurs objectifs, indépendants des déclarations que pourrait faire le système sur sa propre conscience.

De façon intéressante, les chercheurs ont délibérément exclu la théorie de l'information intégrée (TII), pourtant populaire. Cette théorie contredit le principe du fonctionnalisme computationnel en affirmant que la conscience dépend nécessairement d'un substrat biologique, ce qui exclurait par définition les ordinateurs numériques.

APPLICATIONS AUX SYSTEMES ACTUELS

En appliquant leurs critères aux systèmes d'IA existants comme ChatGPT, les chercheurs ont identifié certains indicateurs associés à la théorie de l'espace de travail global. Pourtant, leurs analyses suggèrent qu'aucun système actuel ne se rapproche véritablement du seuil de conscience.

Les implications éthiques d'une telle découverte seraient considérables. Comme le souligne Megan Peters, neuroscientifique à l'université de Californie à Irvine: "Si quelque chose est qualifié de conscient, cela change beaucoup de choses sur la façon dont nous pensons que cette entité devrait être traitée".

LES ETAPES A FRANCHIR POUR UNE DETECTION FIABLE INCLUENT:

 

    développer des théories de la conscience plus précises et consensuelles;

    créer des protocoles d'évaluation standardisés pour les systèmes d'IA;

    établir un cadre éthique anticipant l'émergence potentielle de conscience artificielle;

    impliquer davantage les entreprises technologiques dans cette réflexion.

RESPONSABILITE ET ANTICIPATION

Paradoxalement, alors que des dirigeants comme Ilya Sutskever (co-fondateur et ancien scientifique en chef d'OpenAI) ont évoqué la possibilité que certains systèmes avancés soient déjà "légèrement conscients", les entreprises semblent réticentes à s'engager pleinement dans cette réflexion. Interrogé sur ce sujet, Microsoft a indiqué se concentrer davantage sur l'aide à la productivité humaine que sur la reproduction de l'intelligence humaine.

Cette prudence contraste avec l'urgence exprimée par les chercheurs indépendants. Robert Long déplore que "les entreprises qui proposent des systèmes d'IA avancés ne fassent pas assez d'efforts pour évaluer la conscience de leurs créations et anticiper les décisions à prendre si elle advenait".

Le travail collectif de ces dix-neuf experts constitue une première étape importante, mais ils reconnaissent eux-mêmes les limites de leur approche et appellent la communauté scientifique à poursuivre et affiner cette recherche fondamentale. Leur démarche transparente et méthodique ouvre la voie à une évaluation plus rigoureuse de ce qui pourrait constituer l'une des plus grandes révolutions technologiques et philosophiques de notre histoire

Futura

Vos décisions, vous les prendrez avec ou sans émotions?

On pense encore trop souvent que prendre une décision rationnelle nécessite de s’extraire de ses émotions. De les faire taire. Elles ne seraient là que pour nous faire dévier du chemin indiqué par la raison. Cette perspective dite cartésienne – car inspirée de la pensée du philosophe René Descartes – a pourtant été remise en cause par trois décennies de recherches sur le cerveau.

Dans une perspective anticartésienne, en effet, la meilleure décision est celle qui évalue correctement ce qui nous est bénéfique en faisant appel à un ressenti de type émotionnel ou affectif. Sans ce ressenti, impossible de prendre une décision juste. Cette approche a été popularisée dans les années 1990 par le neuroscientifique Antonio Damasio à travers son livre L’erreur de Descartes (Odile Jacob).

Et si la réalité, en fait, se situait… entre les deux? La somme des travaux menés en sciences cognitives montre aujourd’hui que nos émotions, si elles peuvent nous guider vers la décision la meilleure compte-tenu de nos expériences passées, peuvent aussi nous leurrer. Des limites dont nous pouvons tenir compte au moment de faire des choix importants – à condition d’en être averti.

Le Cas Phineas Gage

Dans son livre au sous-titre explicite,"la raison des émotions", Antonio Damasio appuie son argumentation sur un cas historique, celui d’un américain ayant vécu au milieu du XIXe siècle. Selon la légende, Phineas Gage était un contremaître sérieux et sans histoire travaillant à la construction des voies de chemin de fer est-ouest. Un jour, une barre à mine a été propulsée au travers de son crâne, accident spectaculaire qui allait faire de lui un "cas" médical.

À la surprise générale, Phileas Gage n’était pas mort. Et en plus, il parlait toujours. Il ne semblait avoir perdu ni ses capacités intellectuelles, ni ses capacités motrices. Par contre, il avait changé de personnalité! Il était devenu grossier, bagarreur, impulsif et prenait beaucoup de mauvaises décisions." Phineas Gage n’est plus Phineas Gage", disait son médecin.

Un siècle plus tard, Antonio Damasio a reconstitué la trajectoire de la barre à mine dans le cerveau de Gage. Le chercheur a montré que le métal avait traversé les régions orbitaires médianes du cortex préfrontal. Pour expliquer les changements observés chez Gage après son accident, il estime que cette région est le siège de sensations corporelles liées au ressenti affectif. Ainsi, la mémoire de nos expériences passées serait soutenue par des repères émotionnels qualifiés de" marqueurs somatiques". Ceux-ci entrent en jeu lorsque nous considérons différentes options avant de prendre une décision.

UNE SENSATION DEPLAISANTE, OPTION REJETEE

Au moment de faire un choix, nous prenons en compte plusieurs options possibles, et chacune va susciter des sensations particulières dans notre corps – ce dont nous n’avons pas forcément conscience. C’est le" marquage somatique", produit de notre histoire personnelle. Cette phase nous oriente vers une option privilégiée, celle associée à la sensation la plus positive. Une option associée à une sensation déplaisante au niveau du corps est interprétée comme néfaste par notre cerveau, et automatiquement rejetée.

Dans une perspective cartésienne relevant de la théorie de la décision standard en économie, la prise de décision intervient différemment. Confronté à plusieurs options, l’individu assigne une valeur à chacune, sur une même échelle. Il peut ensuite comparer les valeurs entre elles. L’option affichant la plus grande valeur attendue emporte alors sa décision.

Il est probable, à la lumière des travaux les plus récents, que des modes de prise de décision cartésien et non cartésien se combinent dans notre cerveau. Le modèle dessiné par la communauté internationale des chercheurs s’affine et s’affinant… il devient plus complexe. Aussi, l’apport de la théorie des perspectives s’avère important. Élaborée par deux professeurs israélo-américains de psychologie, Daniel Kahneman et Amos Tversky, elle a valu au premier le prix Nobel d’économie en 2002 – le second étant décédé.

VOIR LES GAINS POTENTIELS, OU BIEN LES PERTES

Cette théorie s’efforce de décrire le comportement des individus face à des choix risqués. Si elle a trouvé son application majeure dans la finance, elle décrit des ressorts qui ne sont pas spécifiques à la bourse et aux traders. En fait, les expériences réalisées par ses deux fondateurs montrent que, pour un même problème, la décision prise diffère selon la manière dont le problème est présenté: sous l’angle de ses gains potentiels, ou celui de ses pertes, là aussi potentielles. Selon que l’individu adopte l’une ou l’autre de ces perspectives, pourtant équivalentes, il n’aboutit pas à la même décision.

Derrière ce paradoxe, il y a une explication. Lorsqu’un individu calcule la valeur de chaque option avant de prendre une décision, ces valeurs ne sont pas objectives. Il se produit un certain nombre de distorsions qui les rendent subjectives. Et dans ces distorsions, les émotions entrent en jeu, selon Daniel Kahneman et Amos Tversky.

Une première expérience, vue sous l’angle des gains, a été réalisée par les deux chercheurs et publiée dans la revue Science en 1981. La question y est posée ainsi: vous êtes un médecin et avez le choix entre deux possibilités, soit sauver 200 personnes à coup sûr, soit sauver 600 personnes mais avec seulement une chance sur trois de réussir.

Une aversion pour le risque

Quand la problématique est présentée sous l’angle des gains – ici les personnes sauvées – la plupart des sujets favorisent le sauvetage de 200 personnes à coup sûr, plutôt que de prendre un risque. Cela met en évidence leur aversion pour le risque.

Le même principe s’applique pour des loteries avec des gains monétaires: entre toucher 50 euros à coup sûr, ou une chance sur deux de gagner 100 euros, la majorité des sujets choisissent 50 euros à coup sûr.

La troisième expérience des deux chercheurs amène les sujets à regarder un choix sous l’angle des pertes. La question est posée de la manière suivante: vous avez le choix entre deux possibilités, tuer 400 personnes à coup sûr, ou tuer 600 personnes mais avec seulement deux chances sur trois que cela arrive vraiment.

Quand la problématique est présentée sous l’angle des pertes, les sujets n’acceptent pas la perte certaine. La majorité choisit les 2 chances sur 3 de tuer 600 personnes.

L’explication avancée par Daniel Kahneman et Amos Tversky se situe au niveau des émotions. L’idée de tuer est trop rebutante sur le plan émotionnel, ce qui explique le changement d’option de la majorité des sujets. Le fait d’exprimer tantôt une préférence tantôt une autre, selon la façon dont le problème est formulé, est un cas flagrant d’irrationalité, selon les deux psychologues.

L’AMYGDALE ACTIVEE LORS DE LA PRISE DE DECISION

Des expériences de neuro-imagerie réalisées dans des IRM ont montré que l’amygdale, une région du cerveau impliquée dans les réactions émotionnelles, s’active lorsque le sujet prend des décisions. Cette dernière découverte, rapportée dans la revue Science en 2006, constitue un argument en faveur d’un rôle important des émotions dans la prise de décision.

Il existe sans aucun doute des variations selon les individus. Ainsi, des études intégrant la réaction face au risque ont été menées en comparant les traders et la population générale. Les traders ont une aversion au risque moins grande – une caractéristique qui serait liée à des réactions émotionnelles moindres. Ainsi, il semble que plus les réactions émotionnelles sont intenses, plus les personnes ont une aversion marquée pour le risque.

Des travaux en cours à l’Institut du cerveau et de la moelle épinière (ICM) testent l’hypothèse selon laquelle notre humeur influence la façon dont nous pondérons les gains et les pertes. Un peu comme dans la parabole du verre à moitié vide et à moitié plein… Une personne de bonne humeur mettrait davantage l’accent sur les gains alors qu’une personne de mauvaise humeur aurait tendance à mettre l’accent sur les pertes.

En attendant d’autres avancées dans la connaissance, comment prendre des décisions en tenant compte de nos émotions, mais sans les laisser nous" berner" pour autant? À nous de jouer finement sur la régulation émotionnelle. Une technique consiste à se convaincre, au moment de prendre la décision, que c’est seulement une parmi beaucoup d’autres, pour ne pas se laisser gagner par l’émotion. C’est ce qu’aurait sans doute conseillé René Descartes…

Attention, toutefois, à ne pas basculer dans l’excès inverse. Trop de froideur, trop d’indifférence ne sont pas non plus la solution, comme l’a rappelé Antonio Damasio. Trouvons une voie moyenne en prenant conscience de notre ressenti émotionnel pour pouvoir prendre des décisions en conséquence, sans verser dans des réactions automatiques qui s’avèrent très souvent inadaptée

Auteur: Mathias Pessiglione - Chercheur en sciences cognitives, psychologue clinicien, Inserm, Institut du Cerveau (ICM)

The Conversation - CC BY ND

Quand la musique nous veut du bien

Au début du siècle dernier, on disait que "le violon calme assez bien les personnes atteintes de kleptomanie", tandis que "le piston est indispensable aux malheureux que tourmente le délire des grandeurs". On déclinait ainsi, dans quelques Annales africaines de 1924, la liste des instruments dans une sorte de tableau des pathologies: "La caisse donne des jambes aux ataxiques. La flûte combat victorieusement tous les cas d’affaiblissements cérébraux".

L’histoire est si pleine d’exemples de lyres et de flûtes guérisseuses que, dans leurs compilations de remèdes, les érudits du Cinquecento ne pouvaient faire l’impasse sur la musique. Dans La Magie naturelle de 1558, le polymathe Giambattista della Porta offre une rapide anthologie historique de guérisons musicales:

    "Terpender et Avion Methymneus ont guéri les Lesbiens et les Ioniens de graves maladies par l’effet de la musique. Asclepiade, médecin, par le son de la trompette, a guéri les sourds, et par la mélodie de son chant il a réprimé les séditions du peuple. Herminius de Thèbes a guéri ainsi plusieurs personnes de douleurs aiguës des hanches et des cuisses. Thalès de Candie a chassé la peste au son de la harpe, et Hérophile avait coutume d’alléger les infirmités des malades par la musique".

MUSIQUE ET SCIENCES COGNITIVES

À la fin du siècle dernier, en recourant dans les années 1990 à la tomographie par émission de positons (TEP), les effets singuliers de la musique s’attiraient les attentions des sciences cognitives. Robert Zatorre et Anne Blood du Montreal Neurological Institute vérifiaient que les mécanismes à l’origine des émotions musicales n’interviennent pas dans les aires auditives (les zones cérébrales " dédiées " à la reconnaissance des sons), mais dans les circuits neuronaux liés à la constitution du système limbique. Et en comparant les sécrétions de dopamine, les neuroscientifiques en sont venus à penser que la musique pouvait objectivement avoir sur le cerveau des effets comparables à des substances pharmacologiques, des drogues ou du chocolat.

En 1631, La Magie naturelle ou les secrets et miroirs de la nature de Jean‑Baptiste de Porta détaille, entre autres, comment la musique peut soulager les malades. Gallica

D’un côté, la musique est présentée comme une force aux effets magiques. Inattendus, puissants et salvateurs, ses pouvoirs passent pour surnaturels, irrépréhensibles, impossibles à contenir par un homme normalement constitué, à l’exception éternelle des bonimenteurs habitués à s’approprier la responsabilité des incidences hasardeuses qui, statistiquement, ne tombent vraiment bien qu’une fois sur deux. D’un autre côté, la musique est analysée comme une composante aux effets chimiques. Insoupçonnées jusqu’à récemment, ses influences sont désormais traçables et les euphories spécifiques qu’elles procurent s’expliquent alors par une prise directe sur la sécrétion de telle ou telle hormone.

POUVOIRS DE LA MUSIQUE

Alors qu’ils semblent antagonistes, les deux côtés présentent tout de même quelques similitudes. La musique offre à la magie, au charlatanisme et aux sciences positives, un espace de dialogue, si ce n’est un terrain d’entente. Pour se défier des crédulités dont les esprits les plus rationnels pourraient être victimes au sujet de la musique, on s’en tient à se moquer de certaines croyances: "le célèbre Sammonicus proposait, très sérieusement, d’appliquer sur la tête des fébricitants le quatrième livre de l’Iliade (le plus beau du poème) afin de calmer, aussitôt, l’accès de fièvre! De même, la force de la musique a pu s’attirer quelques suspicions de soignants bienveillants qui préféraient, à toute musicothérapie, consigner les ambivalences d’une "arme à double tranchant":