REBLOG

L’Article du Jour : Le projet Neuralink de Musk est prometteur pour les personnes handicapées, mais pose des problèmes éthiques pour le grand public, selon des experts

Le projet Neuralink de Musk est prometteur pour les personnes handicapées, mais pose des problèmes éthiques pour le grand public, selon des experts

L’implant Neuralink, qui vise à permettre à une personne de contrôler un ordinateur par la pensée, a de bonnes chances d’atteindre son objectif initial, à savoir aider les personnes paralysées à communiquer. Il pourrait, du moins dans une certaine mesure, aider à restaurer la vision des aveugles. Selon plusieurs neuroscientifiques, il pourrait, dans une large mesure, rétablir le contrôle des membres pour les personnes souffrant de lésions de la colonne vertébrale.

 

Mais lorsqu’il s’agit des objectifs plus larges de Neuralink, qui consistent à laisser les personnes en bonne santé s’interfacer avec les ordinateurs directement via l’esprit, la capacité technique est réalisable, mais entraînerait des problèmes expansifs en matière d’éthique, de sûreté, de sécurité, de confidentialité et même de philosophie, ont déclaré des experts à The Epoch Times.

 

Neuralink – fondée en 2016 par l’homme le plus riche du monde, l’entrepreneur prolifique Elon Musk – a récemment demandé à la Food and Drug Administration (FDA) américaine de procéder à des essais humains de ses implants cérébraux. L’entreprise a organisé une présentation de trois heures sur ses progrès, avec notamment des démonstrations d’un singe contrôlant un ordinateur avec son esprit, d’un robot capable de gérer certaines des parties les plus délicates de la chirurgie d’insertion de l’implant cérébral requise, ainsi que d’un cochon dont les jambes peuvent être contrôlées à distance par un ordinateur.

La présentation comprenait également un singe doté d’un implant cérébral qui lui permet de voir des flashs lumineux, ce qui constitue un pas vers la proposition de la société de restaurer la vision des aveugles.

 

« L’objectif global de Neuralink est de créer, à terme, une interface cérébrale complète. Il s’agit donc d’un dispositif d’entrée-sortie généralisé qui, à long terme, pourrait littéralement s’interfacer avec tous les aspects de votre cerveau et, à court terme, s’interfacer avec n’importe quelle section de votre cerveau et résoudre un très grand nombre de problèmes débilitants pour les gens », a déclaré Musk lors de la présentation.

 

La technologie Neuralink « a beaucoup de sens » pour aider les personnes handicapées, a déclaré Nicho Hatsopoulos, professeur de neurologie à l’Université de Chicago et l’un des pionniers du développement des interfaces cerveau-machine.

« C’est impressionnant, en fait », a-t-il déclaré après avoir assisté à la présentation de Neuralink.

Mark Churchland, professeur associé de neurosciences à l’université de Columbia et expert en décodage des signaux cérébraux, a félicité Neuralink pour avoir fait passer la technologie de l’interface cerveau-machine de l’expérimentation au produit.

« Ils semblent disposer d’une interface sans fil solide, ce qui n’est pas facile à réaliser. Et le fait de passer de la nécessité de racks d’équipements et d’ordinateurs à celle d’un iPhone est impressionnant », a-t-il déclaré.

« En termes d’expériences proprement dites, il ne fait rien qui n’ait été fait auparavant, mais si vous le faites mieux et plus facilement, cela compte beaucoup. »

Lorsqu’il s’agit des projets de la société de produire un jour en masse les implants pour qu’ils soient utilisés par tout le monde, Hatsopoulos et Churchland se sont montrés beaucoup plus réservés.

« Nous allons devoir avoir de sérieuses discussions éthiques », a déclaré M. Hatsopoulos, notant que « c’est une chose d’aider à restaurer la fonction chez les personnes handicapées », mais « une autre chose d’augmenter les gens ».

« L’augmentation va être une grande préoccupation éthique », a-t-il ajouté.

M. Churchland a été plus direct.

« Je pense que c’est probablement une très mauvaise idée », a-t-il déclaré.

D’autres experts ont également exprimé des inquiétudes, allant de questions philosophiques sur le libre arbitre à des problèmes de sécurité et de confidentialité concernant les données collectées dans le cerveau, en passant par la possibilité de pirater l’implant.

Niveau 1 : la souris mentale

L’objectif initial de Neuralink est de faire en sorte que les personnes physiquement incapables puissent contrôler un ordinateur. Au stade actuel de son développement, l’implant a à peu près la taille d’une petite pile de pièces de 25 cents. Pour l’installer, il faut d’abord couper et décoller un morceau de peau du crâne du patient. Ensuite, un petit trou est percé dans le crâne. Ensuite, une série de fils souples et extrêmement fins sont reliés un par un à une aiguille fine et collés par un robot à l’intérieur de la couche superficielle du cerveau, dans la zone du cortex moteur. L’implant est placé à l’intérieur du trou dans le crâne, ce qui le rend étanche. La peau est cousue par-dessus et, au fur et à mesure de sa guérison, l’implant devient invisible de l’extérieur.

On demande à la personne de penser, par exemple, à déplacer sa main dans une certaine direction. Les signaux correspondants de l’activité cérébrale émis par l’implant seraient recueillis pendant un certain temps, traduits en données et en commandes informatiques par l’intelligence artificielle et, voilà, l’implant permettrait à la personne de contrôler un ordinateur par la pensée.

 

La présentation de Neuralink a prouvé le concept en montrant une vidéo d’un singe avec l’implant. Le primate déplaçait le curseur d’une souris vers des positions en surbrillance sur un écran d’ordinateur, recevant des morceaux de smoothie à la banane par un tube en guise de récompense.

 

La technologie sous-jacente est réelle et une expérience similaire a été répétée à de nombreuses reprises par des chercheurs utilisant diverses méthodes, selon Shinsuke Shimojo, professeur de psychologie expérimentale au California Institute of Technology.

En fait, il est possible d’obtenir un effet similaire même sans introduire de fils dans le cerveau, car une partie de l’activité cérébrale peut être détectée à la surface de la tête, a-t-il déclaré, précisant qu’il travaille actuellement sur une telle technologie.

 

« Il est possible de l’enregistrer raisonnablement bien à partir d’électrodes situées à l’extérieur du crâne », a déclaré M. Shimojo. « Cela se fait déjà et ce sera encore mieux ».

 

La voie plus invasive empruntée par Neuralink est plus ambitieuse et plus délicate.

Les autorités réglementaires n’autorisent pas les techniques expérimentales invasives, sauf en cas de besoin médical urgent, a fait remarquer M. Shimojo.

« Ce n’est pas un problème scientifique. C’est un problème d’éthique », a-t-il déclaré.

Jusqu’à présent, de telles expériences ont été approuvées à petite échelle à des fins de recherche.

Au début des années 2000, des implants développés par Cyberkinetics, une société cofondée par Hatsopoulos, ont été testés sur plusieurs patients handicapés physiques. Le projet s’est essoufflé parce que les investisseurs se sont désintéressés du projet, a-t-il expliqué.

Le logiciel sous-jacent a été acquis par une société appelée BrainGate en 2008 et des essais cliniques sur de petits groupes de patients sont en cours dans plusieurs instituts de recherche, dont un appelé BrainGate2 sous la direction de Leigh Hochberg, professeur d’ingénierie à l’université Brown.

Ce n’est que récemment que la science a atteint un point où plusieurs entreprises ont décidé d’essayer de la faire passer de la recherche à un produit commercialisable, a déclaré Hochberg.

Il aide actuellement plusieurs de ces entreprises, dont Neuralink, qui est actuellement en pourparlers avec la FDA pour mener des essais cliniques qui pourraient aboutir à l’approbation officielle de son implant comme forme de traitement.

« Les essais cliniques de ce type prennent généralement quelques années », a déclaré Hochberg.

Chaque nouvelle itération des implants nécessiterait alors de nouveaux essais, même s’il espère que les améliorations logicielles du système pourront être intégrées « peut-être plus rapidement ».

La technologie a été favorisée par les progrès de l’apprentissage automatique, qui permet de faire correspondre des schémas de signaux cérébraux à des actions spécifiques, comme le déplacement du curseur d’une souris dans une direction particulière. L’apprentissage automatique permet de corréler les schémas cérébraux avec des résultats physiques sans qu’il soit nécessaire de comprendre la fonction de chaque neurone spécifique.

« C’est la différence entre l’approche scientifique et l’approche technique », a commenté Shimojo.

Les scientifiques essaient de découvrir comment les choses fonctionnent, par exemple en explorant « comment chaque neurone est câblé » ou « quelle est la hiérarchie du traitement de l’information dans les différentes parties du cerveau », a-t-il expliqué. Par conséquent, ils essaient d’aller jusqu’aux relations de cause à effet.

 

Les ingénieurs, quant à eux, tentent de résoudre un problème. Si une intelligence artificielle trouve un modèle qui correspond au résultat souhaité 95 % du temps, cela peut être suffisant, a-t-il noté.

 

« Je pense qu’à l’heure actuelle, elle évolue, notamment grâce aux progrès de l’apprentissage profond, dans cette direction. »

Niveau 2 : Œil artificiel

La prochaine étape pour la technologie Neuralink serait de restaurer la vue, ont déclaré les présentateurs. Le même implant serait inséré à l’arrière du crâne et connecté au cortex visuel, la partie du cerveau responsable du traitement des images provenant des yeux. Le flux vidéo provenant d’une caméra serait alors codé sous forme de signaux neuronaux et utilisé pour stimuler les neurones responsables du traitement des images, ce qui permettrait d’obtenir une image.

Cela semble possible en principe, mais il pourrait y avoir des difficultés en pratique.

« Il y a certaines contraintes qui peuvent être levées à terme par le simple progrès technique. Et puis il y a certaines limitations intrinsèques liées à la façon dont le cortex visuel lui-même est organisé », a déclaré Shimojo.

Certains neurones du cortex visuel correspondent en effet à un emplacement dans le champ visuel. Cela signifie que la stimulation correcte d’un endroit du cerveau produit un flash lumineux à un endroit particulier de la vision et que la stimulation d’un autre endroit produit un flash lumineux à un endroit différent. Des expériences de ce type ont été réalisées chez les singes et Neuralink en a montré une.

Mais « jusqu’à présent, la résolution est très, très faible – ridiculement faible », a déclaré Shimojo.

Les éclairs de lumière produits par une telle stimulation ne peuvent être positionnés que sur une grille de 12 pixels sur 12, a-t-il ajouté.

La qualité de l’image peut être améliorée en stimulant davantage de neurones, c’est-à-dire en insérant plus d’électrodes dans le cerveau. L’implant Neuralink utilise actuellement plus de 1 000 électrodes, avec une promesse de 16 000 électrodes sur la même puce. Pour l’aide visuelle, la présentation proposait deux implants avec 16 000 électrodes chacun. Si chaque électrode pouvait être utilisée pour stimuler plusieurs « pixels », il serait peut-être possible d’obtenir une qualité d’image comparable à celle d’un ordinateur des années 1980.

Mais même si le nombre d’électrodes est encore augmenté à l’avenir, la qualité de l’image obtenue resterait limitée, selon M. Shimojo.

 

Le problème est que si l’on crée une carte topographique du champ visuel, en attribuant à chaque neurone sa position dans le champ, le résultat n’est nulle part assez précis pour constituer une image claire.

 

« La carte topographique est en quelque sorte grossière et diffuse. Elle n’est pas précise », a-t-il déclaré.

Les gens voient avec clarté grâce au traitement complexe et multicouche des images par le cerveau, où le signal peut aller et venir entre les couches et où les neurones aident les neurones adjacents dans leurs tâches.

Selon M. Shimojo, la façon dont l’implant pourrait obtenir un résultat comparable n’est pas claire.

« Ce n’est pas facile à résoudre du point de vue technique », a-t-il déclaré.

Musk est allé jusqu’à suggérer que la vision peut être restaurée pour les personnes atteintes de cécité congénitale, car même ces personnes possèdent un cortex visuel.

« Même s’ils n’ont jamais vu auparavant, nous sommes convaincus qu’ils pourraient voir », a-t-il déclaré.

Hatsopoulos n’était pas aussi convaincu.

« Je ne suis pas certain que cela soit possible », a-t-il déclaré.

Le problème est que le cortex visuel « se développe au cours des premières années de la vie » et que l’apport visuel des yeux « aide à organiser le fonctionnement du cortex visuel », a expliqué M. Hatsopoulos.

Vers l’âge de deux ans, le cerveau perd sa capacité initiale à se développer aussi rapidement.

Ce développement précoce est « crucial », a-t-il ajouté, en donnant l’exemple des enfants nés avec une cataracte. Il est possible de remédier à cette affection en remplaçant chirurgicalement les lentilles oculaires, mais cette opération doit être effectuée à un stade précoce. Si l’opération est réalisée trop tard, le patient ne pourra pas voir, même si toutes les parties physiques sont présentes et fonctionnent.

« Tout va parfaitement bien, mais la personne ne comprendra pas les données visuelles qui lui parviennent », explique M. Hatsopoulos.

Niveau 3 : Étirer les membres

La présentation de Neuralink a montré comment les implants pourraient rétablir le contrôle des membres pour les personnes paralysées à la suite de blessures à la colonne vertébrale. Outre l’implant dans le cortex moteur, plusieurs autres implants seraient insérés dans la colonne vertébrale. Les signaux du cerveau seraient alors enregistrés et envoyés aux implants spinaux, comblant ainsi la partie où la moelle épinière est sectionnée ou endommagée.

En principe, cela est tout à fait réalisable, selon les experts.

« En fait, c’est ce que nous faisons en ce moment même », a déclaré M. Hatsopoulos. Son université travaille sur une technologie d’implant différente qui permet à un patient de contrôler un bras mécanique par l’esprit.

L’un des défis consiste à enregistrer les données de nombreux neurones en même temps « pour obtenir le type de mouvement riche que l’on souhaite obtenir » afin de produire « un mouvement qui soit quelque peu normal », a-t-il déclaré.

La lecture d’un millier de neurones devrait suffire à rétablir un « mouvement fonctionnel », permettant par exemple à une personne de se nourrir ou de s’habiller seule, a expliqué M. Hatsopoulos.

« Peut-être pas aussi rapidement que s’ils avaient un système intact, mais ils peuvent le faire », a-t-il ajouté.

D’après ses spécifications techniques, l’implant Neuralink devrait permettre une large gamme de mouvements. La présentation comprenait une vidéo d’un cochon porteur d’implants cérébraux et spinaux qui plie sa jambe et étire ses cuisses en réponse à des commandes envoyées aux implants.

Faciliter un mouvement complexe, comme jouer du piano, nécessiterait probablement des milliers d’électrodes, a déclaré Hatsopoulos, en précisant que « nous faisons des pas de bébé pour le moment. »

Un autre défi consiste à affiner la stimulation afin qu’elle cible les fils musculaires qui ne se fatiguent pas rapidement.

« Vous devez faire plus que simplement activer les muscles », a déclaré Churchland.

« Vous devez les activer d’une manière relativement naturelle pour éviter la fatigue. Et c’est tout à fait faisable, mais ce n’est certainement pas trivial. »

Le fait que les patients coopèrent généralement de manière active pour que la solution fonctionne est utile dans cette entreprise. Même si le nombre d’électrodes peut créer un goulot d’étranglement, avec des efforts, les patients peuvent recâbler leur cerveau pour tirer le meilleur parti de l’interface.

« Avec de la pratique, ils peuvent s’améliorer », a déclaré Hatsopoulos.

Cependant, la capacité de bouger n’est pas suffisante. Pour restaurer véritablement la fonction d’un membre, il faut aussi rétablir le sens du toucher.

Cela signifie qu’il faut enregistrer les impulsions sensorielles du membre et les envoyer à un autre implant dans le cortex sensoriel du cerveau.

En principe, cela a déjà été fait. La stimulation de certaines cellules du cerveau, par exemple, peut donner l’impression que l’on touche quelque chose, a déclaré M. Hatsopoulos, en se référant à des expériences réalisées dans son université. Le problème, là encore, est de lire et de stimuler suffisamment de neurones pour créer une expérience tactile suffisamment robuste.

Hochberg a reconnu que la technologie a encore beaucoup de chemin à parcourir à cet égard.

« Nous n’en sommes qu’au début, mais nous vivons des jours passionnants », a-t-il déclaré.

Pour un mouvement véritablement naturel, il faudrait toutefois aller encore plus loin.

Une personne en bonne santé ne perçoit pas seulement le mouvement de ses membres à partir de ce qu’elle touche extérieurement, mais elle perçoit également le mouvement et la position de ses membres à l’intérieur de son corps.

Ce phénomène s’appelle la proprioception. Les scientifiques savent que certaines zones du cerveau reçoivent ce type d’entrées sensorielles, mais on ne sait pas encore très bien comment cela fonctionne.

« C’est la prochaine frontière dans ce domaine », a déclaré M. Hatsopoulos. « Personne ne l’a encore percé à jour ».

Niveau 4 : les cyborgs

Pour Musk, Neuralink va bien au-delà de l’aide aux personnes handicapées. Il l’a dépeint davantage comme l’étape suivante naturelle d’un smartphone ou d’une smartwatch. Tout comme « remplacer un morceau de crâne par une smartwatch, faute d’une meilleure analogie », comme il l’a dit.

« Je pourrais me faire implanter un dispositif Neuralink en ce moment même et vous ne le sauriez même pas. Je veux dire, hypothétiquement, je pourrais être l’un de ces démonstrateurs. En fait, je serai l’une de ces démos », a-t-il déclaré sous les rires et les applaudissements du public.

Il a fait valoir que « nous sommes tous déjà des cyborgs dans la mesure où votre téléphone et votre ordinateur sont des extensions de vous-même ».

« Je suis sûr que vous avez constaté que si vous laissez votre téléphone derrière vous, vous finissez par vous tapoter les poches et c’est comme avoir le syndrome du membre manquant », a-t-il dit.

Neuralink pour les personnes en bonne santé, cependant, peut être loin dans le futur, si jamais il arrive.

« La FDA n’approuvera pas l’utilisation de ce dispositif chez les personnes en bonne santé. Du moins dans cette version de l’implant », a déclaré M. Hatsopoulos, notant qu’il faudrait « démontrer un niveau de sécurité incroyable ».

Shimojo a exprimé un sentiment similaire.

« Si la sécurité est prouvée, il est possible, dans un avenir très lointain, que des personnes intactes et en bonne santé aient des électrodes dans le cerveau. Mais je ne pense pas que cela se produira bientôt », a-t-il déclaré.

La technologie devrait probablement arriver au point de donner aux personnes handicapées des capacités supérieures à celles des personnes en bonne santé.

Musk pense que l’implant conférerait effectivement des capacités supérieures.

« Nous sommes convaincus que quelqu’un qui n’a pratiquement aucune autre interface avec le monde extérieur serait capable de contrôler son téléphone mieux que quelqu’un qui a des mains en état de marche », a-t-il déclaré.

Mais même si l’implant est techniquement sûr, en ce sens qu’il ne peut pas nuire accidentellement à l’utilisateur, et même s’il est finalement accepté par la réglementation, la technologie est confrontée à d’autres problèmes qui pourraient s’avérer insolubles.

Sécurité des données

L’implant Neuralink communique actuellement avec un ordinateur par Bluetooth. Cela peut être piraté par un certain nombre d’outils facilement disponibles, selon Gary Miliefsky, expert en cybersécurité, chef du groupe Cyber Defense Media et membre fondateur du département américain de la sécurité intérieure.

« Si vous êtes à proximité de la personne, vous serez probablement en mesure de voler certaines données. Ce n’est donc pas une solution sûre », a-t-il déclaré.

Dans un premier temps, la communication entre l’implant et un ordinateur devrait être cryptée, mais cela épuiserait la batterie et la puissance de traitement de l’implant.

Même dans ce cas, « les gens trouveront des moyens de pirater » les implants, a déclaré M. Miliefsky.

Il existe déjà des dispositifs capables de « dérouler » les protocoles de cryptage SSL et TLS couramment utilisés pour sécuriser les courriers électroniques, a-t-il ajouté. Et les nouvelles technologies peuvent aller encore plus loin.

« L’informatique quantique peut probablement briser le cryptage actuel assez facilement », a-t-il déclaré.

Un cryptage « à l’épreuve du quantique » se profile à l’horizon, mais la puissance de traitement qu’il requiert est bien au-delà de ce qu’un petit implant pourrait gérer aujourd’hui ou même dans les décennies à venir, a-t-il estimé.

« Rien n’est à l’épreuve des balles. Rien n’est infaillible. Lorsqu’on vous dit qu’un système est inviolable, il est généralement piraté en cinq minutes, quel qu’il soit », a-t-il déclaré.

Même si la communication entre l’implant et l’ordinateur est sécurisée d’une manière ou d’une autre, les données relatives à l’activité cérébrale peuvent toujours être exfiltrées de l’ordinateur, par exemple en infectant l’ordinateur avec un logiciel malveillant.

« Soixante-dix pour cent des nouveaux logiciels malveillants échappent à tous les scanners de virus », a fait remarquer M. Miliefsky.

Et même si les données sont sécurisées d’une manière ou d’une autre sur l’ordinateur, les techniciens chargés de l’entretien de l’implant devront y avoir accès.

Toute personne ayant un accès interne au système Neuralink deviendrait immédiatement une cible de choix pour toutes les agences de renseignement et tous les acteurs malveillants du monde, reconnaît Miliefsky.

« Ils seront des victimes sans méfiance. Absolument », a-t-il déclaré.

Et c’est sans compter le problème des agents secrets de toutes sortes qui font la queue pour travailler chez Neuralink.

« La défense contre les menaces d’initiés est une question importante « , a déclaré M. Miliefsky.

Autre sujet de préoccupation : une fois que les données existent, il est possible que le gouvernement utilise la procédure légale pour obliger Neuralink à les conserver et à les partager à des fins d’enquêtes criminelles, de contre-espionnage, de sécurité nationale et de collecte de renseignements.

Piratage cérébral

Les implications d’un implant piraté semblent difficiles à appréhender pleinement.

Les gens semblent être prêts à accepter un certain niveau d’intrusion dans leur vie privée. Les smartphones, par exemple, peuvent facilement être utilisés pour écouter une personne et suivre ses mouvements.

« Nous nous promenons tous les jours avec des logiciels espions », a déclaré Miliefsky.

Un implant cérébral, cependant, peut produire des données personnelles à un autre niveau d’intimité.

À partir du cortex moteur, un implant pourrait enregistrer un large éventail de mouvements corporels, selon M. Hochberg.

« Je pense qu’un grand nombre de personnes dans ce domaine continuent d’être étonnées et agréablement surprises par la richesse des informations qui peuvent être extraites de petites zones du cortex moteur », a-t-il déclaré.

Dans le cortex visuel, tout ce qu’une personne voit pourrait théoriquement être enregistré, mais probablement en basse résolution.

De plus, l’implant serait placé sous la peau, ce qui signifie qu’il ne peut pas être retiré par l’utilisateur et qu’il ne peut pas être désactivé, car il doit pouvoir être activé et désactivé à distance.

Pire encore, l’implant peut aussi envoyer des signaux dans le cerveau. En donnant des ordres au cortex moteur, on pourrait faire bouger quelqu’un involontairement.

En théorie, il est possible de fabriquer un humain télécommandé, a confirmé M. Hatsopoulos.

Selon les expériences de Neuralink, l’envoi de signaux visuels pourrait faire voir des choses qui ne sont pas là, distraire une personne ou même obstruer la vision avec des flashs lumineux.

Churchland a toutefois rejeté ces préoccupations, les jugeant trop éloignées de la réalité technologique

« Ce n’est pas physiquement impossible, mais c’est extrêmement improbable », a-t-il déclaré.

« Les inquiétudes concernant une manipulation externe, je pense, sont fantaisistes dans un avenir prévisible ».

Niveau 5 : Bien loin de « Matrix »

Musk prévoit d’aller encore plus loin. À mesure que la technologie d’insertion des électrodes s’améliorera, l’implant pourra également atteindre les zones profondes du cerveau, selon la présentation.
Ces parties du cerveau sont responsables de l’activité de la pensée, comme le traitement de la mémoire, les émotions, la motivation et la pensée abstraite.

Pourtant, le savoir-faire pour décoder les signaux provenant de ces parties du cerveau est jusqu’à présent limité, selon M. Shimojo.

L’apprentissage automatique peut reconnaître des modèles avec un haut degré de probabilité, mais un certain niveau d’ambiguïté peut être « intrinsèque », a-t-il déclaré.

« Le cerveau est compliqué et un neurone ne participe pas à une seule tâche. Le même neurone peut participer à différents réseaux à des fins totalement différentes. C’est vraiment très dépendant du contexte et de l’environnement. »

La question de savoir s’il est possible de décoder entièrement de tels processus de pensée reste ouverte.

« Même parmi les neuroscientifiques, les avis divergent », a-t-il déclaré, notant que de telles difficultés pourraient nécessiter « une certaine créativité intelligente pour y faire face. »

« Est-ce que cela finira par être surmonté ? C’est possible, mais c’est un processus de très longue haleine. Ce n’est pas aussi facile que ces démonstrations peuvent l’indiquer. »

Hypothétiquement, la capacité de lire et d’écrire véritablement dans des zones plus profondes du cerveau soulèverait de profondes questions éthiques et philosophiques.

Accéder aux centres de traitement de la mémoire, par exemple, ouvrirait une autre porte aux problèmes de confidentialité et de sécurité, selon Miliefsky, du vol de mots de passe à l’exfiltration de secrets nationaux, d’entreprise et personnels.

« Il n’y a pas un seul ordinateur sur Internet qui, à mon avis, soit à l’abri d’une perte de vie privée ou qui soit suffisamment sécurisé pour que l’on puisse dire : « Jimmy, qui a l’implant, toutes ses pensées privées sont encore en sécurité. Et cela ne se produira pas », a-t-il déclaré.

En outre, lier les parties du cerveau responsables de la prise de décision à une IA remettrait en question l’intégrité du libre arbitre, a fait valoir M. Shimojo.

« Si vous et l’IA prenez ensemble une décision sur une action, est-ce votre libre arbitre ou le libre arbitre hybride ? » a-t-il demandé.

« Est-ce que c’est correct pour les gens ? Est-ce que c’est bon pour la société ? Que va-t-il se passer pour les élections, par exemple ? »

Comme Musk l’a expliqué au cours de multiples entretiens, l’interfaçage avec une IA est en fait l’objectif principal de la raison pour laquelle il a poursuivi la technologie de l’implant au départ.

Sa motivation initiale pour lancer Neuralink, a-t-il dit, était de faire face au développement rapide de l’intelligence artificielle.

Au cours de la présentation et dans des exposés antérieurs, il a estimé qu’à mesure que l’IA se développe, elle est susceptible de dépasser de loin l’intelligence humaine. À ce stade, même si elle s’avère bienveillante, elle pourrait traiter les humains comme une forme de vie inférieure.

« Nous serons comme le chat domestique », a-t-il déclaré lors de la Recode’s Code Conference en 2016.

La solution serait d’empêcher le pouvoir de l’IA de se centraliser entre quelques mains, a-t-il soutenu.

« Si, au contraire, le pouvoir de l’IA est largement distribué et à un degré tel que nous pouvons lier le pouvoir de l’IA à la volonté de chaque individu », ce qui signifie que chacun aurait le contrôle de son propre système d’IA, « alors si quelqu’un essayait de faire quelque chose de vraiment terrible, la volonté collective des autres pourrait vaincre ce mauvais acteur », a-t-il déclaré.

C’est pour cette raison, dit-il, qu’il a cofondé OpenAI en 2015, une organisation à but non lucratif qui développe une IA qui devrait être mise à disposition gratuitement. Il a récemment dévoilé une IA de traitement du langage appelée ChatGPT, qui a fait des vagues par sa capacité à composer des textes complexes, y compris des essais, des opinions, et même de la poésie et des blagues.

Le problème, a expliqué M. Musk, c’est que la capacité de l’homme à saisir des commandes dans un ordinateur est trop lente pour qu’il puisse même « accompagner » une IA puissante.

« Si vous interagissez avec un téléphone, il est limité par la vitesse à laquelle vous pouvez bouger vos pouces ou la vitesse [à] laquelle vous pouvez parler dans votre téléphone », a-t-il déclaré lors de la présentation de Neuralink.

« Il s’agit d’un débit de données extrêmement faible, de l’ordre de 10, voire 100 bits par seconde dans le meilleur des cas. Mais un ordinateur peut communiquer à des gigabits, des térabits par seconde, donc c’est la limitation fondamentale que je pense que nous devons aborder pour atténuer le risque à long terme de l’intelligence artificielle et aussi juste accompagner la balade. »

Pourtant, rien ne prouve que les implants réduiraient de manière significative l’écart de vitesse entre un humain et un ordinateur. Les gens sont toujours limités par le rythme auquel ils forment leurs pensées et prennent leurs décisions.

Des recherches antérieures ont montré que le cerveau ne peut pas traiter les décisions à une vitesse supérieure à 100 bits par seconde. Les mesures du temps de réaction suggèrent que les gens ne peuvent prendre qu’une poignée de décisions par seconde et que ce taux diminue à mesure que la complexité des décisions augmente.

Le temps de réaction des muscles est un peu plus long, mais en général, la vitesse du corps semble bien correspondre à la vitesse du cerveau.

« On peut certainement imaginer qu’il y a certaines circonstances où vous pourriez être plus rapide avec un implant, mais… dans l’ensemble, le corps est optimisé pour être un très, très bon dispositif de sortie », a déclaré M. Churchland.

Si l’on pousse le raisonnement de Musk jusqu’au bout, l’adoption généralisée des implants cerveau-ordinateur ne résoudrait pas les dangers potentiels de l’IA, mais ouvrirait plutôt la voie à des résultats totalitaires d’un calibre sans précédent, a soutenu Michael Rectenwald, professeur d’arts libéraux à la retraite de l’université de New York, qui a exploré les conséquences de la collusion entre le gouvernement et les grandes entreprises technologiques dans plusieurs livres.

« L’État a déjà utilisé le prétexte d’une pandémie pour abroger des droits et contrôler le comportement de millions de personnes. Qu’est-ce qui les empêche de contrôler directement et à distance des sujets humains ? » a-t-il commenté par courriel.

« Cela reviendrait à une routine bait-and-switch. L’appât (bait) est la promesse transhumaniste de capacités surhumaines et de prolongation de la vie. Le passage est vers un monde contrôlé par des algorithmes, sans autonomie, sans liberté, et une existence virtuelle dans un métavers de leur création. »

Traduction de The Epoch Times par Aube Digitale

« Le vrai bonheur serait de se souvenir du présent »

Le vrai bonheur serait de se souvenir du présent.

Jules Renard – Journal (1887)

EN BANDE SON :

Catégories :REBLOG

1 réponse »

Laisser un commentaire