Jeudi 11 octobre 2018

Dans le mot du jour du 2 octobre je précisais que mon objectif n’est pas de réaliser un résumé de « Homo deus » mais d’aborder des questions et des développements qui m’ont interpellé et pour lesquels Harari m’a appris quelque chose ou m’a permis de me poser des questions nouvelles.

Aujourd’hui, j’aborderai dans cet avant dernier article de la série, le sujet central de la préoccupation de Yuval Noah Harari qui se trouve dans l’exploration des capacités de l’intelligence artificielle, de ce qu’il appelle le découplage entre l’intelligence et la conscience et de la confiance de plus en plus grande que manifestent les hommes à l’égard des données, les data en anglais et qui amènerait à une nouvelle religion qui est le « dataïsme »

Yuval Noah Harari insiste beaucoup dans ses développements que dans notre manière de fonctionner et de réagir, nous les humains, mais aussi les autres animaux il y a une grande partie de procédures algorithmiques. Des algorithmes déclenchés par des événements extérieurs ou intérieurs.

Un algorithme n’est rien d’autre qu’un traitement de données, qui reçoit des données, les analyse puis donne un résultat qui est une action, une réflexion, un comportement. Et pour ce faire des processus biologiques, électriques et chimiques sont à l’œuvre dans notre corps.

Ces processus sont les mêmes chez homo sapiens et les autres animaux. L’animal voit, ressent, décide et agit comme le fait un humain. La différence est la taille du cerveau, le nombre de neurones, qui confère à un individu humain sa supériorité sur les autres animaux. Mais pour Harari, l’être humain se différencie aussi de l’animal par la conscience.

Harari a donné pour sa dernière partie un titre explicite : « Homo sapiens perd le contrôle » dont des sous parties sont :

• Le grand découplage
  
• L’océan de la conscience
  
• Et l’ultime chapitre : la religion des data
  

Et je commencerai par citer le début de « L’océan de la conscience »

« Il est peu probable que les nouvelles religions émergeront des grottes d’Afghanistan ou des madrasas du Moyen-Orient. Elles sortiront plutôt des laboratoires de recherche. De même que le socialisme s’est emparé du monde en lui promettant le salut par la vapeur et l’électricité, dans les prochaines décennies les nouvelles techno-religions conquerront peut le monde en promettant le salut par les algorithmes et les gênes. […]

On peut diviser ces nouvelles techno-religions en deux grandes catégories :

• Le techno-humanisme
  
• La religion des données [ou dataisme] »
  

Et Yuval Noah Harari, s’efforce d’abord de définir le techno-humanisme :

« Le techno-humanisme reconnaît qu’Homo sapiens, tel que nous le connaissons a vécu : il arrive au terme de son histoire et cessera d’être pertinent à l’avenir. Il conclut toutefois que nous devons créer Homo deus, un modèle d’homme bien supérieur. Homo deus, conservera des traits humains essentiels, mais jouira aussi de capacités physiques et mentales augmentées qui lui permettront de se défendre contre les algorithmes non conscients les plus sophistiqués. Comme l’intelligence est découplée de la conscience et que l’intelligence non consciente se développe à vitesse grand V, les hommes doivent activement optimiser leur esprit s’ils veulent rester dans la course. […]

Il y a 70 000 ans, la révolution cognitive a transformé l’esprit de Sapiens, faisant d’un insignifiant signe africain le maître du monde. L’esprit amélioré de Sapiens a soudain eu accès au vaste champ de l’intersubjectivité, ce qui lui a permis de créer des dieux et des sociétés, de bâtir des cités et des empires, d’inventer l’écriture et la monnaie et , finalement de scinder l’atome et d’aller sur la lune. Pour autant que nous le sachions, cette révolution stupéfiante a été le fruit de quelques menus changements dans l’ADN de Sapiens et d’un léger recâblage de son cerveau. Si tel est le cas, explique le techno humanisme, peut-être quelques changements supplémentaires de notre génome et un autre recâblage de notre cerveau suffiront-ils à lancer une seconde révolution. »

Par la suite Harari documente toutes les possibilités qui pourraient exister pour étendre nos capacités mentales, permettre de voir un spectre plus large de la lumière par exemple, augmenter nos capacités de raisonnement et notre rapidité de réaction et je vous renvoie par exemple vers le casque évoquée hier et qu’a expérimenté et décrit la journaliste au New Scientist Sally Adee.

Mais Harari reconnaît que le techno-humanisme conduit à un paradoxe :

« Le techno-humanisme est ici confronté à un dilemme insoluble. Il tient la volonté humaine pour la chose au monde la plus importante, et pousse donc l’humanité à élaborer des technologies qui puissent la contrôler et la remodeler. Après tout, il est tentant de contrôler ce qu’il y a de plus important dans l’univers. Or, si nous obtenions un tel contrôle, le techno-humanisme ne saurait qu’en faire car l’être humain sacré ne deviendrait plus qu’un produit manufacturé parmi d’autres. Tant que nous croirons que volonté et expérience humaines sont la source suprême de l’autorité et du sens, il nous sera impossible de composer avec ces technologies. »

C’est ainsi qu’Harari nous amène à son ultime chapitre :

« Aussi une techno-religion plus audacieuse cherche-t-elle à couper carrément le cordon ombilical humaniste. Elle voit se dessiner un monde qui ne tourne pas autour des désirs et expériences d’êtres de l’espèce humaine. Qu’est ce qui pourrait remplacer les désirs et expériences d’êtres de l’espèce humaine […] désirs et expériences qui sont à la source de tout sens et de toute autorité ?

Aujourd’hui, un candidat a pris place pour l’entretien d’embauche dans l’antichambre de l’histoire. Ce candidat n’est autre que l’information. La religion émergent la plus intéressante est le dataïsme, qui ne vénère ni les dieux ni l’homme, mais voue un culte aux data, aux données. »

Je ne peux affirmer que le concept « dataisme » ait été inventé par Harari mais, c’est lui qui l’a rendu populaire au point de parler d’une nouvelle religion celle des « données » des « data » puisqu’il faut donner un nom anglais pour que le concept paraisse sérieux.

Pour retracer l’histoire d’homo sapiens sur la longue période on pourrait écrire que pendant des milliers d’années, les humains ont pensé que l’autorité venait des dieux. Puis à l’ère moderne, la  période « humaniste » l’autorité a été progressivement transmise aux êtres humains, aux savants, aux philosophes et aux humains élus par les citoyens. Aujourd’hui la révolution du numérique, des « big data » et des algorithmes qui savent analyser rapidement ces immenses masses de données conduisent à légitimer l’autorité des algorithmes et du Big Data.

Harari explique :

« Pour le dataïsme, l’univers consiste en flux de données, et sa contribution au traitement des données détermine la valeur de tout phénomène ou entité. […] p. 395

Prenons des exemples concrets :

Vous êtes gravement malade. Voici une machine qui recueille par des dizaines de connecteurs toutes les informations essentielles de votre organisme, elle peut rapidement se connecter à la base de vos données pour connaître vos antécédents et puis analyser dans des milliards de données d’autres humains pour trouver les cas analogues, similaires et choisir le traitement qui a eu le meilleur effet sur des personnes dont l’état de santé et le profil ressemblent au vôtre.

Voici un médecin, certes réputé, certes plein d’empathie mais qui possède beaucoup moins de connaissances que la machine, réfléchit beaucoup moins vite. Et en plus c’est un humain, il est fatigué, il pense à sa compagne, à son fils, à son prochain voyage, à une chanson qu’il a entendu en passant. En plus il est émotif, il a peur de se tromper.

Quel est la thérapie que vous choisirez ?

Notre vieil ami Luc Ferry, dira qu’il est stupide de présenter cette situation de cette manière. Cet optimiste nous dira qu’il ne faut pas opposer la machine et le médecin mais les associer, le médecin utilisera la force de l’intelligence artificielle pour parfaire son diagnostic et choisir la bonne thérapie.

Ah bon ?

Mais enfin, c’est l’intelligence artificielle qui diagnostiquera et décidera de la thérapie, le médecin ne sera que son porte-parole. je suis même persuadé qu’il n’osera pas contredire la machine.

Il pourra, peut-être mettre un peu d’empathie. Et même sur ce point Harari n’est pas convaincu, l’intelligence artificielle saura mieux que le médecin analyser dans quel état de stress et d’émotion vous êtes et trouver les mots les plus appropriés pour communiquer avec vous.

Harari cite l’exemple de la célèbre actrice Angelina Jolie. En 2013, l’actrice américaine a découvert grâce à un test génétique qu’elle portait une dangereuse mutation du gène BRCA1. Selon les bases de données statistiques, les femmes portant cette mutation ont 87% de probabilités de développer un cancer du sein. Sans attendre le cancer, Angelina Jolie a décidé de faire confiance aux algorithmes et de procéder à une double mastectomie.

Et le choix de l’âme sœur ? L’intelligence artificielle saura tout de vous et même mieux que vous et il saura tout des autres. Qui mieux qu’elle pourra réaliser la meilleure association pour la vie ? Ce ne serait pas rationnel de ne pas suivre son avis …

Et alors le choix du gouvernement démocratique ou la stratégie économique ? Peux t’on vraiment faire confiance à homo sapiens ? Pour les dataistes, c’est bien sûr l’intelligence artificielle qui sera la plus compétente pour faire les bons choix et décider des mesures à prendre.

Dans ce nouveau récit, c’est l’information analysée par des programmes sachant la maîtriser qui est source de sens et non plus les désirs et les expériences humaines.

Et Harari de conclure :

« Les dataïstes sont sceptiques envers le savoir et la sagesse des hommes, et préfèrent se fier au Big Data et aux algorithmes informatiques » p.396.

Pour les partisans de ce mouvement l’univers tout entier est un flot de données, les organismes comme des algorithmes biochimiques.

Car Harari explique que contrairement à ce qu’on pourrait penser, les sentiments ne sont pas l’opposé de la rationalité. Mais Ils représentent davantage la rationalité de l’instinct. Quand un babouin, une girafe ou un humain voit un lion, il éprouve de la peur car son algorithme biochimique lui indique qu’un individu à proximité représente une menace immédiate. Cet algorithme biochimique a évolué et s’est amélioré au fil de millions d’années d’évolution. Si les sentiments d’un ancêtre lui font commettre une erreur, les gènes autour de ce sentiment n’ont pas été transmis à la génération suivante. Il y a donc bien aussi dans ce cas production de données et d’informations.

L’humanité est à la confluence de deux vagues scientifiques. D’un côté, les biologistes déchiffrent les mystères du corps humain, et plus particulièrement ceux du cerveau et des sentiments humains. D’un autre côté, les informaticiens sont détiennent désormais un pouvoir de traitement de données sans précédent. L’association de ces deux sciences permet de créer des systèmes externes capables de surveiller et de comprendre nos sentiments mieux que nous-mêmes. Une fois que les systèmes Big Data nous connaîtront mieux que nous ne nous connaissons nous-mêmes, l’autorité sera transmise des humains aux algorithmes.

Et harari pose alors cette question

« Si le dataïsme réussit à conquérir le monde, qu’adviendra-t-il de nous les hommes ?

Dans un premier temps, le dataïsme accélèrera probablement la quête humaine de la santé, du bonheur et du pouvoir. Le dataïsme se propage en promettant de satisfaire ces aspirations humanistes. Pour accéder à l’immortalité, à la félicité et aux pouvoirs divins de la création, il nous faut traiter d’immenses quantités de données qui dépassent de loin les capacités du cerveau humain. Les algorithmes le feront donc pour nous. Mais du jour où l’autorité passera des hommes aux algorithmes, il se peut que les projets humanistes perdent toute pertinence. » P.424

Et il devient poète :

« Nous nous efforçons de fabriquer l’Internet-de-tous-les-objets dans l’espoir qu’il nous rendra bien portants, heureux et puissants. Mais une fois que celui-ci sera opérationnel, les hommes risquent d’être réduits du rôle d’ingénieurs à celui de simples puces, puis de data, pour finalement se dissoudre dans le torrent des données comme une motte de terre dans une rivière […] Rétrospectivement, l’humanité n’aura été qu’une ondulation dans le flux de données cosmique. »

P. 424 & 425

Et il pointe ce danger :

« Le dataïsme menace de faire subir à l’Homo sapiens ce que ce dernier a fait subir à tous les autres animaux.» P. 424

<1128>