Le Chili est le premier pays à introduire dans sa Constitution la protection des "neuro-droits". L’amendement à la loi fondamentale du pays a obtenu l’approbation de la Chambre des députés le mercredi 29 septembre 2021 et a été promulgué par le Président de la République chilienne le jeudi 14 octobre 2021. C'est un événement proprement historique puisqu'il s'agit de faire servir les immenses progrès des neurosciences et de l'intelligence artificielle aux progrès de la médecine mais d'interdire toute tentative de manipulation ou prise de contrôle du cerveau. Au moment où une partie de l'innovation américaine est fascinée par la perspective de "l'homme augmenté", un Etat latino-américain pose des limites claires à l'expérimentation scientifique.
Un article de la Constitution sur la protection de l’identité mentale: une première dans l’histoire
Historic!: Constitutional amendment in Chile protects brain activity and information. Unanimous approval by all deputies in both chambers. Kudos to Chile!!! pic.twitter.com/AWjuw82vN5
— rafael yuste (@yusterafa) October 26, 2021
« Le développement scientifique et technologique doit être au service des personnes et s’effectuer dans le respect de la vie et de l’intégrité physique et mentale. la loi réglemente les exigences, les conditions et les restrictions de son utilisation sur les personnes, et protège tout particulièrement l’activité cérébrale, ainsi que les informations qui en découlent« .
La nouvelle rédaction de l’article 19 de la Constitution du Chili pour garantir les « neuro-droits » (dont nous donnons le texte original en espagnol dans le tweet reproduit ci-dessus) a vu le jour grâce à l’engagement d’un petit nombre de sénateurs. La Haute Assemblée l’a votée à l’unanmité et la Chambre des Députés à une large majorité. C’est la première fois dans l’histoire qu’un tel paragraphe consititionnel va entrer en vigueur. Le texte demande au législateur d’élaborer autant que de besoin des lois permettant de respecter les principes ainsi établis dans la Loi suprême du pays.
«Nous sommes heureux que ce soit le début d’une évaluation au niveau mondial sur comment les technologies doivent être utilisées pour le bien de l’Humanité» s’est félicité le sénateur Guido Girardi sur son compte Twitter.
Cette modification de la Constitution chilienne a été conçue pour protéger l’identité mentale et l’intégrité psychologique de tous les Chiliens face à l’avancée des neurotechnologies et au développement de l’intelligence artificielle (IA). Le texte permettra à chaque individu « le droit à l’intimité mentale, à l’identité personnelle, au libre arbitre de la pensée, à l’accès équitable aux technologies qui augmentent les capacités humaines et à la protection contre la discrimination ».
La protection des "neuro-droits" est une innovation juridique majeure.
Selon l’un des promoteurs de ce texte, le sénateur Guido Girardi, l’intelligence artificielle et les neurosciences évoluent à grande vitesse et il était urgent d’intervenir. Le chercheur espagnol Rafael Yuste, actuellement en poste à l’Université de Columbia et expert du Brain project au Chili, prétend pour sa part que « la neurotechnologie sera capable de décoder la pensée humaine d’ici 1 ou 2 ans et de la modifier d’ici 5 ou 10 ans. ». Plutôt que de se demander si ces délais indiqués sont exagérément courts, les énateurs chiliens ont préféré prendre les devants. Il faut empêcher que les neurosciences servent à manipuler le cerveau humain ou à collecter des données cérébrales d’un individu sans son consentement.
La Chambre des députés a aussi indiqué dans un communiqué que les avancées scientifiques et technologiques doivent être au service des personnes. Elles ne devront en aucun cas nuire à l’intégrité physique et mentale.
Prévenir les mauvais usages d'avancées technologiques extraordinaires
La réalité commence bel et bien à dépasser la fiction, comme le montre l’expérience réalisée par la start-up Neuralink fondée par Elon Musk (vidéo ci-dessus). On y a mis au point des implants cérébraux testés sur un singe en avril 2021. Ces implants auraient permis à l’animal de jouer à un jeu vidéo sans manette. Le singe aurait tout simplement contrôlé ce qui se passait avec sa pensée. On voit bien les enjeux médicaux: de tels progrès pourraient permettre à des personnes paralysées de se servir d’ordinateurs. Cependant, la nature humaine étant ce qu’elle est, il faut prévenir la tentation pour des entreprises ou des Etats de manipuler des personnes à l’aide de telles méthodes.
On pense à l’usage que le « capitalisme de surveillance » mais aussi certains Etats totalitaires peuvent en faire. Le domaine de la neurotechnologie séduit par exemple les entreprises chinoises de connivence avec les autorités centrales, qui envisage la mise en place de capteurs sur les casques des ouvriers pour une meilleure productivité et contrôler leur état émotionnel.
Rafael Yuste, espère que l’Espagne adoptera bientôt une loi semblable à celle votée par le Chili. Selon lui, «Bientôt, il sera possible de déchiffrer la pensée et la manipuler. Mais il est urgent d’éviter de possibles dérives de la part d’entreprises voire de certains Etats».
