Mardi 7 juin 2016

admin1045 Mot du jour
Mardi 7 juin 2016
« La singularité »
« Sapiens : Une brève histoire de l’humanité » pages 483-489

Le dernier chapitre du livre, juste avant l’épilogue de 2 pages que nous verrons demain, s’intitule « La singularité ».

J’ai hésité à utiliser comme exergue de ce mot du jour plutôt que le titre du chapitre, sa dernière phrase : « Si cette question ne vous donne pas le frisson, c’est probablement que vous n’avez pas assez réfléchi».
A ce stade il faut parler d’un homme Ray Kurzweil qui pour certains est un génie, pour d’autres un fou mais qui est le chantre de ce concept : « la singularité » ou pour être plus précis : « La singularité technologique ».

Mais qu’appelle t’on singularité ?
En science, ce concept est surtout utilisé pour qualifier le « big bang ». Depuis le big bang nous disposons d’outils et de théories qui peuvent décrire et expliquer comment l’univers a évolué. Mais nous ne disposons d’aucun élément de compréhension pour décrire ce qu’il y avait avant. Le big bang est donc un point de singularité, c’est une rupture.
Du point de vue de la physique, « un trou noir » constitue également une singularité où nos outils de conceptualisation et de compréhension s’arrêtent, ne parviennent plus à concevoir.

Kurzweil est appelé le pape du transhumanisme qui est ce mouvement intellectuel auquel adhère beaucoup des responsables de la silicon valley et qui était le sujet du mot du jour du 18 septembre 2014.
Ray Kurzweil qui est aujourd’hui directeur de l’ingénierie chez Google n’a pas inventé le concept de « la singularité technologique » mais l’a popularisé avec un autre intellectuel qui a joué un rôle de premier plan : le mathématicien Vernor Vinge. Ray Kurzweil a d’ailleurs participé à la création de l’Université de la singularité <qui arrive en France nous apprend cet article du site Philomag>
Mais en deux mots de quoi s’agit-il ?
D’abord de l’arrivée à maturité de l’intelligence artificielle, c’est-à-dire à une intelligence artificielle qui aurait conscience de son existence et de son intelligence.
Cette intelligence surhumaine produirait alors un progrès qui n’est plus linéaire comme du temps des humains mais exponentiel. C’est du moins ce que prédit Kurzweil. D’où la singularité, un point de rupture.
Si vous voulez en savoir plus, Wikipedia contient une page très documenté et aussi critique: <https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique>
<Il y a aussi cet article de Rue 89 qui date déjà de 2013>
<Il y aussi cet entretien avec Kurzweil du Financial Times reproduit par Le nouvel economiste>/
Mais revenons à ce que dit Harari. Je commencerai par un entretien de Yuval Noah Harari avec un journal israélien : <Times of israel> :

« A travers l’histoire, il y a eu de nombreuses révolutions économiques, politiques et technologiques, mais une chose est restée inchangée : l’humanité elle-même. Nous avons toujours le même corps et le même esprit que nos ancêtres dans l’Empire romain et l’Egypte ancienne. Pourtant, dans les décennies à venir, pour la première fois dans l’histoire, l’humanité elle-même subira une révolution radicale. Non seulement nos outils et nos politiques, mais aussi nos corps et nos esprits seront transformés par l’ingénierie génétique, la nanotechnologie et les interfaces cerveau-ordinateur. Les corps et les esprits seront les produits de l’économie du 21e siècle ».
Harari déclare que quand nous pensons au futur, nous pensons généralement au monde dans lequel les humains nous sont semblables pour toutes les choses importantes mais disposent d’une meilleure technologie : des armes lasers, des robots intelligents et des vaisseaux spatiaux qui voyagent à la vitesse de la lumière.
« Pourtant, le potentiel révolutionnaire des technologies futures est de changer l’Homo sapiens lui-même, y compris nos corps et nos esprits, et pas seulement nos véhicules et nos armes. La chose la plus impressionnante du futur ne sera pas les vaisseaux spatiaux, mais les êtres qui les conduisent ».
« Etant donné le rythme effréné des développements dans la biotechnologie et l’intelligence artificielle, je serai extrêmement surpris si d’ici 200 ans, la terre était encore peuplée par des humains comme vous et moi. Nous sommes probablement une des dernières générations d’Homo Sapiens. Nous avons encore des petits-enfants, mais je ne suis pas sûr que nos petits-enfants auront des petits-enfants. Ou du moins, des humains. Ils seront plus différents de nous que nous sommes différents des hommes de Neandertal ou des chimpanzés ».
Cet article revient alors sur la notion de singularité
« […] La Singularité est la notion que d’ici quelques générations, la technologie deviendra si sophistiquée qu’elle atteindra un point de basculement où elle changera l’existence humaine dans des manières inconcevables pour nous aujourd’hui.
[…] Vernor Vinge prédit que cela aura lieu en 2030 tandis que Ray Kurzweil, un cadre de Google, penche plutôt pour 2045. La plupart croit que la Singularité arrivera avec l’intelligence artificielle, au moment où les robots prendront conscience d’eux-mêmes.
Kurzweil prévoit une utopie où les humains, au moins certains humains, obtiendront l’immortalité en devenant des cyborgs. »
L’article rappelle alors que certains scientifiques comme le physicien Stephen Hawking ou l’entrepreneur Elon Musk craignent que des robots d’intelligence artificielle puissent se retourner contre leurs créateurs humains et les tuer. Cette mise en garde avait fait l’objet du mot du jour du jeudi 5 février 2015 dont l’exergue était cette phrase de Rabelais : « Science sans conscience n’est que ruine de l’âme »
Mais Harari est plus proche de la vision de Kurzweil :
« Je pense qu’il est beaucoup plus probable que nous fusionnerons avec les robots, plutôt qu’ils se révolteront et nous tueront. Le grand danger n’est pas qu’une intelligence artificielle (IA) nous assassinera, mais plutôt que l’intelligence artificielle supérieure rende la plupart des humains inutiles. Des algorithmes informatiques rattrapent les humains dans de plus en plus de champs cognitifs. Il est extrêmement improbable que les ordinateurs développeront quelque chose de proche de la conscience humaine, mais afin de remplacer des humains dans l’économie, des ordinateurs n’ont pas besoin de conscience. Ils ont seulement besoin d’intelligence ».
Mais si on lit les pages 483 à 489 de « Sapiens » on verra que la vision de Harari est beaucoup moins optimiste et enthousiaste que celle de Kurzweil :
« Tous ces dilemmes sont bien peu de choses au regard des implications éthiques, sociales et politiques du Projet Gilgamesh et de nos nouvelles capacités potentielles de créer des surhommes. La Déclaration universelle des droits de l’homme, les programmes médicaux officiels, les programmes nationaux d’assurance-santé et les constitutions des divers pays à travers le monde reconnaissent qu’une société humaine digne de ce nom doit assurer à tous ses membres un traitement médical équitable et veiller à ce qu’ils restent en relativement bonne santé. Tout cela était bel et bien tant que la médecine se souciait avant tout de prévenir la maladie et de guérir les malades. Que se passerait-il du jour où la médecine se souciera d’accroître les facultés humaines ? Tous les hommes y auraient-ils droit, ou verrait-on se former une nouvelle élite de surhommes ?
Notre monde moderne se targue de reconnaître, pour la première fois de l’histoire, l’égalité foncière de tous les hommes. Il pourrait être sur le point de créer la plus inégale de toutes les sociétés. Tout au long de l’histoire, les classes supérieures ont toujours prétendu être plus intelligentes, plus fortes et dans l’ensemble meilleures que les classes inférieures. Généralement, elles s’illusionnaient. Le bébé d’une famille paysanne sans le sou avait toute chance d’être aussi intelligent que le prince héritier. Grâce aux nouvelles capacités médicales, les prétentions des classes supérieures pourraient bientôt devenir une réalité objective.
Ce n’est pas de la science-fiction. La plupart des scénarios de science-fiction décrivent un monde dans lequel des Sapiens – pareils à nous – jouissent d’une technologie supérieure : des vaisseaux spatiaux qui se déplacent à la vitesse de la lumière, par exemple, ou des fusils-laser. Les dilemmes éthiques et politiques qu’on trouve au cœur de ces intrigues sont empruntés à notre monde et ils ne font que recréer nos tensions émotionnelles et sociales sur une toile de fond futuriste. En revanche, les technologies futures sont à même de changer l’Homo sapiens lui-même, y compris nos émotions et nos désirs, pas simplement nos véhicules et nos armes. Qu’est-ce qu’un vaisseau spatial en comparaison d’un cyborg éternellement jeune, qui ne se reproduit pas et n’a pas non plus de sexualité, qui peut partager directement ses pensées avec d’autres êtres, dont les capacités de concentration et de remémoration sont mille fois supérieures aux nôtres et qui n’est jamais en colère ni triste, mais qui a des émotions et des désirs que nous ne saurions même commencer à imaginer ?
La science-fiction décrit rarement un avenir pareil, parce qu’une description exacte est par définition incompréhensible. Produire un film sur la vie d’un super-cyborg, c’est un peu donner Hamlet devant un public de Neandertal. En fait, les futurs maîtres du monde seront probablement plus différents de nous que nous ne le sommes des Neandertal. Au moins les Neandertal et nous sommes-nous humains ; nos héritiers seront pareils à des dieux.
[…]
Sauf catastrophe nucléaire ou écologique […] le rythme du développement technique conduira sous peu au remplacement d’Homo sapiens par des êtres entièrement nouveaux dont le physique sera différent, mais dont l’univers cognitif et émotionnel sera aussi très différent. La plupart des Sapiens trouvent cette perspective pour le moins déconcertante. Nous aimons à croire qu’à l’avenir des gens comme nous iront d’une planète à l’autre à bord de vaisseaux spatiaux. Nous n’aimons pas envisager la possibilité qu’il n’y ait plus d’êtres dont les émotions et les identités soient semblables aux nôtres, et que notre place soit prise par des formes de vie étrangères dont les capacités écraseront les nôtres.
[…]
Nous aurions du mal à admettre que les savants puissent manipuler les esprits aussi bien que les corps, et que les futurs Dr. Frankenstein pourraient donc créer quelque chose qui nous est réellement supérieur, un être qui nous regardera de haut, comme nous considérons les Neandertal.
Toutefois, Harari est un homme sérieux, sage et prudent. Il rappelle que d’autres prophéties ne se sont pas réalisées non plus et que dès lors rien ne dit que « la singularité technologique » existera un jour :
« Nous ne saurions savoir avec certitude si les Frankenstein d’aujourd’hui vont accomplir cette prophétie. L’avenir est inconnu, et il serait surprenant que les prévisions des toutes dernières pages se réalisent pleinement. L’histoire nous apprend que ce qui nous semble à portée de main ne se matérialise jamais en raison de barrières imprévues, et que d’autres scénarios qu’on n’avait pas imaginés se réalisent. Quand l’âge du nucléaire est arrivé dans les années 1940, on a vu se multiplier les prévisions sur le futur monde nucléaire de l’an 2000. Quand le spoutnik et Apollo 11 embrasèrent l’imagination du monde, tout le monde se mit à prédire que, d’ici la fin du siècle, on vivrait dans des colonies spatiales sur Mars et Pluton. Peu de ces prévisions ont été confirmées. Par ailleurs, nul n’avait prévu l’Internet. »
Il envisage cependant, la possibilité de la singularité :
« […]De combien de temps disposons-nous ? Nul ne le sait vraiment. Certains disent qu’en 2050 quelques humains seront déjà a-mortels. Des prévisions moins radicales parlent du siècle prochain, ou du prochain millénaire. Mais que valent quelques millénaires dans la perspective des 70 000 années d’histoire du Sapiens ?
Si le rideau est effectivement sur le point de tomber sur l’histoire du Sapiens, nous, qui sommes membres de ses dernières générations, nous devrions prendre le temps de répondre à une dernière question : que voulons-nous devenir ?
Cette question, parfois connue en anglais sous le nom de Human Enhancement Question – la question du « corps augmenté » ou du « développement humain artificiel » –, écrase les débats qui préoccupent actuellement la classe politique, les philosophes, les savants et les gens ordinaires. Après tout, le débat présent entre religions, idéologies, nations et classes est très probablement appelé à disparaître avec l’Homo Sapiens. Si nos successeurs fonctionnent bel et bien sur un niveau de conscience différent (ou, peut-être, possèdent quelque chose au-delà de la conscience que nous ne saurions même concevoir), il semble douteux que le christianisme ou l’islam les intéresse, que leur organisation sociale puisse être communiste ou capitaliste, ou que leur genre puisse être masculin ou féminin. […]
La plupart des gens préfèrent ne pas y penser. Même dans le domaine de la bioéthique, on préfère se poser une autre question : « Qu’est-il interdit de faire ? » Est-il acceptable de faire des expériences génétiques sur des êtres humains vivants ? Sur des fœtus avortés ? Des cellules-souche ? Est-il éthique de cloner des moutons ? Et des chimpanzés ? Et qu’en est-il des humains ?
Ce sont toutes des questions importantes, mais il est naïf d’imaginer que nous pourrions simplement donner un grand coup de frein et arrêter les grands projets scientifiques qui promeuvent l’Homo sapiens au point d’en faire un être d’une espèce différente. Car ces projets sont inextricablement mêlés à la quête de l’immortalité : le Projet Gilgamesh. Demandez donc aux chercheurs pourquoi ils étudient le génome, essaient de relier un cerveau à un ordinateur ou de créer un esprit à l’intérieur d’un ordinateur.
Neuf fois sur dix, vous recevrez la même réponse standard : nous le faisons pour guérir des maladies et sauver des vies humaines. Alors même que créer un esprit dans un ordinateur a des implications autrement plus spectaculaires que soigner des maladies psychiatriques, telle est la justification classique que l’on nous donne, parce que personne ne peut y redire quoi que ce soit. De là vient que le Projet Gilgamesh soit le vaisseau amiral de la science. Il sert à justifier tout ce que fait la science. Le Dr. Frankenstein est juché sur les épaules de Gilgamesh. Puisqu’il est impossible d’arrêter Gilgamesh, il est aussi impossible d’arrêter le Dr. Frankenstein.
La seule chose que nous puissions faire, c’est influencer la direction que nous prenons. Mais puisque nous pourrions bien être capables sous peu de manipuler nos désirs, la vraie question est non pas « Que voulons-nous devenir ? » mais « Que voulons-nous vouloir ? » Si cette question ne vous donne pas le frisson, c’est probablement que vous n’avez pas assez réfléchi. »
Vous comprenez maintenant mieux, le premier mot du jour consacré à ce livre : «L’Histoire commença quand les humains inventèrent les dieux et se terminera quand les humains deviendront des dieux.»