Les développements de l’IA dans la technologie de lecture de l’esprit mettent la vie privée et la liberté en danger. Des chercheurs sont parvenus, par l’intermédiaire d’outils liés à l’intelligence artificielle, à « lire » les pensées d’une personne comme un flux continu de texte.
Pour la première fois, des chercheurs ont réussi à utiliser GPT1, précurseur du chatbot IA ChatGPT, pour traduire les images IRM en texte dans le but de comprendre ce que quelqu’un pense.
Cette récente percée a permis aux chercheurs de l’Université du Texas à Austin de «lire» les pensées de quelqu’un comme un flux continu de texte, basé sur ce qu’il écoutait, imaginait ou regardait.
Cela soulève des préoccupations importantes pour la vie privée, la liberté de pensée et même la liberté de rêver sans interférence. Nos lois ne sont pas équipées pour faire face à l’utilisation commerciale généralisée de la technologie de lecture de pensées – la loi sur la liberté d’expression ne s’étend pas à la protection de nos pensées.
Les participants à l’étude de l’Université du Texas ont été invités à écouter des livres audio pendant 16 heures à l’intérieur d’un scanner IRM. Dans le même temps, un ordinateur a « appris » à associer leur activité cérébrale à partir de l’IRM à ce qu’ils écoutaient. Une fois formé, le décodeur parvenait à produire du texte à partir des pensées de quelqu’un pendant qu’il écoutait une nouvelle ou imaginait sa propre histoire.
Selon les chercheurs, le processus demande beaucoup de travail et l’ordinateur ne parvient pour l’instant qu’à obtenir l’essentiel de ce que quelqu’un pense. Cependant, ces recherches représentent une nouvelle percée significative dans le domaine des interfaces cerveau-machine qui, jusqu’à présent, reposaient nécessairement sur des implants invasifs. Les appareils non invasifs précédents ne pouvaient déchiffrer qu’une poignée de mots ou d’images.
Voici un exemple de ce que l’un des sujets écoutait (à partir d’un livre audio):
Je me levai du matelas pneumatique et appuyai mon visage contre la vitre de la fenêtre de la chambre, m’attendant à voir des yeux me fixer mais ne trouvant à la place que l’obscurité.
Et voici ce que l’ordinateur « lit » à partir de l’activité cérébrale du sujet :
J’ai continué à marcher jusqu’à la fenêtre et j’ai ouvert la vitre Je me suis tenu sur la pointe des pieds et j’ai regardé dehors Je n’ai rien vu et j’ai levé les yeux à nouveau Je n’ai rien vu.
Les participants à l’étude ont dû coopérer pour former et appliquer le décodeur, afin que la confidentialité de leurs pensées soit maintenue. Cependant, les chercheurs avertissent que « les développements futurs pourraient permettre aux décodeurs de contourner ces exigences ». En d’autres termes, la technologie de lecture dans les pensées pourrait un jour être appliquée aux gens contre leur gré.
Les recherches futures pourraient également accélérer le processus de formation et de décodage. Alors qu’il a fallu 16 heures pour entraîner la machine à lire ce que quelqu’un pensait dans la version actuelle d’IA, cela diminuera considérablement dans les futures mises à jour. Et comme nous l’avons vu avec d’autres applications d’IA, le décodeur est également susceptible de devenir plus précis avec le temps.
Il y a une autre raison pour laquelle cela représente un changement radical. Les chercheurs travaillent depuis des décennies sur les interfaces cerveau-machine dans une course pour créer des technologies de lecture de l’esprit qui peuvent percevoir les pensées de quelqu’un et les transformer en texte ou en images. Mais généralement, cette recherche s’est concentrée sur les implants médicaux, l’objectif étant d’aider les personnes handicapées à exprimer leurs pensées.
Neuralink, la société de neurotechnologie fondée par Elon Musk, développe un implant prétendument médical qui peut « vous permettre de contrôler un ordinateur ou un appareil mobile où que vous alliez ». Mais la nécessité de subir une chirurgie cérébrale pour se faire implanter un dispositif en vous restera probablement un obstacle à l’utilisation rapide de cette technologie.
Les améliorations de la précision de cette nouvelle technologie dite non invasive pourraient considérablement réduire les barrières qui limitent le nombre de volontaires intéressés. Pour la première fois, la technologie de lecture mentale semble viable en combinant deux technologies facilement disponibles, mais à un prix élevé. Les appareils d’IRM coûtent actuellement entre 150.000 $ et 1 million de dollars.
Ramifications juridiques et éthiques
La loi sur la protection des données ne considère actuellement pas la pensée comme une forme de données. Nous avons besoin de nouvelles lois qui empêchent l’émergence de crimes de pensée, de violations de données de pensée et même un jour, peut-être, l’implantation ou la manipulation de la pensée. Passer de la lecture de la pensée à son implantation peut prendre encore beaucoup de temps, mais les deux nécessitent une réglementation et une surveillance préventives.
Des chercheurs de l’Université d’Oxford plaident pour un droit légal à l’intégrité mentale, qu’ils présentent comme suit :
Un droit contre une ingérence significative et non consentie dans l’esprit d’une personne.
D’autres commencent à défendre un nouveau droit humain à la liberté de pensée. Cela irait au-delà des définitions traditionnelles de la liberté d’expression, pour protéger notre capacité à réfléchir, à nous émerveiller et à rêver.
Un monde sans réglementation pourrait devenir dystopique très rapidement. Imaginez qu’un patron, un enseignant ou un fonctionnaire puisse envahir vos pensées privées – ou pire, être capable de les changer et de les manipuler. Cela nous rappelle le projet MK Ultra de contrôle mental.
Nous voyons déjà des technologies de balayage oculaire déployées dans les salles de classe pour suivre les mouvements oculaires des élèves pendant les cours, pour savoir s’ils sont attentifs. Que se passera-t-il lorsque les technologies de lecture de pensées arriveront ?
De même, que se passera-t-il sur le lieu de travail lorsque les employés ne seront plus autorisés à penser au dîner ou à quoi que ce soit en dehors du travail ? Le niveau de contrôle abusif des travailleurs pourrait dépasser tout ce qui avait été imaginé auparavant. Or, le sujet était évoqué au Forum économique mondial de Davos.
George Orwell a écrit de manière factuelle sur les dangers du « Thoughtcrime », où l’État érige en crime le simple fait d’avoir des pensées rebelles à propos d’un régime autoritaire. L’intrigue de 1984, cependant, était basée sur des fonctionnaires de l’État lisant le langage corporel, des journaux intimes ou d’autres indications externes de ce que quelqu’un a pensé.
Avec la nouvelle technologie de lecture de pensées, le roman d’Orwell pourra se réduire en une seule phrase :
Winston Smith s’est dit : « A bas Big Brother » – après quoi, il a été arrêté et exécuté.
Pierre-Alain Depauw
Cet article vous a plu ? MPI est une association à but non lucratif qui offre un service de réinformation gratuit et qui ne subsiste que par la générosité de ses lecteurs. Merci de votre soutien !
