{"id":12914,"date":"2021-12-08T00:45:00","date_gmt":"2021-12-07T23:45:00","guid":{"rendered":"https:\/\/lemotdujour.fr\/?p=12914"},"modified":"2021-12-09T10:35:25","modified_gmt":"2021-12-09T09:35:25","slug":"mercredi-8-decembre-2021","status":"publish","type":"post","link":"https:\/\/lemotdujour.fr\/?p=12914","title":{"rendered":"Mercredi 8 d\u00e9cembre 2021"},"content":{"rendered":"
\u00ab\u00a0Nous nous trouvons aujourd’hui dans la r\u00e9alisation du test de Turing qui pr\u00e9disait que les machines seraient en capacit\u00e9 de tromper 30% des juges humains pendant un test de 5 minutes de conversation.\u00a0\u00bb<\/div>\n
Alexei Grinbaum\u00a0\u00bb<\/div>\n

Vendredi, j’avais donn\u00e9 mon sentiment que nous manquions d’humains dans le quotidien, pour nous \u00e9couter, nous r\u00e9pondre, nous aider dans nos probl\u00e8mes quotidiens.
\n<\/span><\/p>\n

Mais une r\u00e9volution est en marche. Nous allons pouvoir trouver une \u00e9coute et des r\u00e9ponses, de mani\u00e8re efficace et sans compter le temps qui nous sera consacr\u00e9.
\n<\/span><\/p>\n

Mais ce ne sera pas des humains.
\n<\/span><\/p>\n

Aujourd’hui, je vous renvoie vers une \u00e9mission d’Etienne Klein<\/strong> <Comment converser avec les machines parlantes ?<\/a><\/span>>
\n<\/span><\/p>\n

Nous sommes de plus en plus en contact avec des machines qui \u00e9coutent nos questions et nous r\u00e9pondent en langage naturelle.
\n<\/span><\/p>\n

En bon fran\u00e7ais on appelle ces machines des \u00ab\u00a0agents conversationnels<\/strong>>
\n<\/span><\/p>\n

Mais dans le langage globish<\/span><\/a> on parle de \u00ab\u00a0Chatbots<\/strong>>
\n<\/span><\/p>\n

Dans leurs versions les plus r\u00e9centes, ces chatbots<\/strong> soul\u00e8vent de multiples questions d’ordre \u00e9thique, notamment parce qu’ils sont en mesure d’influencer notre comportement. Ils peuvent cr\u00e9er un rapport affectif avec leurs utilisateurs et sont susceptibles de les manipuler.
\n<\/span><\/p>\n

Pour parler de ces sujets Etienne Klein a invit\u00e9 Alexei Grinbaum<\/strong> physicien et philosophe, membre du Comit\u00e9 National pilote d’\u00e9thique du num\u00e9rique (CNPEN) et co-rapporteur du rapport \u00ab Agents conversationnels : enjeux \u00e9thiques<\/strong> \u00bb. Ce rapport est accessible derri\u00e8re <ce lien<\/a><\/span>>\u00a0:
\n<\/span><\/p>\n

Etienne Klein a commenc\u00e9 son \u00e9mission par une exp\u00e9rience, il a demand\u00e9 \u00e0 un chatbot de r\u00e9pondre \u00e0 la question suivante : \u00ab L’intelligence artificielle peut-elle \u00eatre \u00e9thique\u00a0?\u00a0\u00bb et il a demand\u00e9 une r\u00e9ponse en dix lignes.
\n<\/span><\/span><\/span><\/p>\n

Etienne Klein a lu la r\u00e9ponse qui \u00e9tait tout \u00e0 fait rationnel et intelligente.
\n<\/span><\/p>\n

Cette r\u00e9ponse n’a \u00e9t\u00e9 \u00e9crite par personne, l’intelligence artificielle l’a con\u00e7ue elle-m\u00eame \u00e0 partir de son apprentissage op\u00e9r\u00e9 par l’acc\u00e8s \u00e0 d’immenses bases de donn\u00e9es et l’analyse qu’elle en a faite.
\n<\/span><\/p>\n

Pour rebondir Alexei Grinbaum a \u00e9voqu\u00e9 une tribune qui a \u00e9t\u00e9 enti\u00e8rement con\u00e7ue par une machine et un langage am\u00e9ricain appel\u00e9e le GPT-3<\/span><\/a> (cr\u00e9\u00e9 dans une entreprise d’Ellon Musk) et a \u00e9t\u00e9 publi\u00e9e dans le journal anglais \u00ab The Guardian<\/strong>\u00a0\u00bb en 2020.
\n<\/span><\/p>\n

Les lecteurs ont \u00e9t\u00e9 inform\u00e9s que l’article avait \u00e9t\u00e9 \u00e9crit par une machine et ont \u00e9t\u00e9 \u00ab \u00e9merveill\u00e9s \u00bb, selon les propos d’Alexei Grinbaum, par sa qualit\u00e9.
\n<\/span><\/p>\n

On a ainsi pu constater que ces \u00ab\u00a0agents conversationnels\u00a0\u00bb pouvaient remplacer dans certaines t\u00e2ches des journalistes, assurer un service apr\u00e8s-vente, remplacer votre m\u00e9decin pour un entretien m\u00e9dical.
\n<\/span><\/p>\n

Alexei Grinbaum a ajout\u00e9 que cela posait des probl\u00e8mes \u00e9thiques consid\u00e9rables et particuli\u00e8rement sur l’influence que ces machines pouvaient avoir sur les humains.
\n<\/span><\/p>\n

Quand l’ancien journaliste du Figaro et ancien chroniqueur de Ruquier parle du grand remplacement, il a raison. <\/span>Simplement il n’y met pas bon contenu : il ne s’agit pas du remplacement des catholiques fran\u00e7ais par une population d’une autre religion et qui viendrait de l’autre c\u00f4t\u00e9 de la m\u00e9diterran\u00e9e mais des \u00eatres humains qui vont \u00eatre remplac\u00e9s par des machines.<\/strong>
\n<\/span><\/p>\n

On pourra de mieux en mieux converser avec des agents conversationnels. <\/span>Alexei Grinbaum \u00e9voque une vitesse d’\u00e9volution r\u00e9cente absolument incroyable\u00a0 qui se base sur ce qu’on appelle \u00ab\u00a0<\/span>la technologie des transformers<\/span>\u00a0<\/a>\u00bb qui s’appuie sur le \u00ab\u00a0deep learning\u00a0<\/span><\/a>\u00bb ou apprentissage profond.
\n<\/span><\/p>\n

Grinbaum explique\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0Nous avons commenc\u00e9 \u00e0 travailler sur les Chatbot en 2018. En 2018 les syst\u00e8mes de 2021 n’existaient pas. Ces syst\u00e8mes nouveaux ont profit\u00e9 de la cr\u00e9ation de r\u00e9seaux du type \u00ab\u00a0transformer\u00a0\u00bb qui sont des r\u00e9seaux de neurones apprenant sur des masses gigantesques de donn\u00e9es.\u00a0\u00bb
\n<\/span><\/p>\n

Ces syst\u00e8mes se r\u00e9v\u00e8lent capable de g\u00e9n\u00e9rer \u00ab\u00a0un langage naturel\u00a0<\/a><\/span>\u00bb qui ne se distingue quasi pas du langage de l’homme.
\n<\/span><\/p>\n

Tout au plus comme le dit Grinbaum\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0Ces machines parlent parfois trop bien.\u00a0[\u2026] Ils ne font pas de raccourcis \u00bb
\n<\/span><\/p>\n

Ils ne font aucune erreur d’orthographe et de grammaire. Ce qui prouve que mes mots du jour ne sont pas \u00e9crits par un agent conversationnel\u00a0!
\n<\/span><\/p>\n

Grinbaum ajoute\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0Il y a de l’inhumain dans la mani\u00e8re de parler des chatbots\u00a0!\u00bb
\n<\/span><\/p>\n

Et quand Etienne Klein pose cette question\u00a0: est-ce que l’agent conversationnel peut comprendre de la po\u00e9sie\u00a0?
\n<\/span><\/p>\n

Alexei Grinbaum r\u00e9pond\u00a0:
\n<\/strong><\/span><\/p>\n

\u00ab\u00a0Comprendre est un mot qui nous distingue nous les \u00eatres humains, des machines qui ne comprennent rien\u00a0! Mais elles peuvent provoquer chez nous une illusion qu’elles aient compris quelque chose. Les machines fonctionnent de mani\u00e8re statistique sur de grandes masses de donn\u00e9es. Le r\u00e9sultat est \u00e0 la fois ressemblant et nouveau.\u00a0\u00bb
\n<\/span><\/p>\n

Il est nouveau parce que la phrase que la machine fabrique, elle ne l’a pas trouv\u00e9 telle quelle, elle produit du texte \u00e0 partir de son outil statistique qu’on appelle intelligence artificielle.
\n<\/span><\/p>\n

Les processus d’appropriation du langage sont tr\u00e8s diff\u00e9rents\u00a0: les machines utilisent un processus statistique, alors que les humains s’attachent \u00e0 comprendre la signification des mots et des phrases.
\n<\/span><\/p>\n

\u00ab\u00a0La signification<\/strong>\u00a0\u00bb n’a selon Grinbaum, aucun sens pour les machines.
\n<\/span><\/p>\n

Nous disposons dans notre quotidien d’agents conversationnels, qui ne sont peut-\u00eatre pas du niveau de ceux qu’\u00e9voque Grinbaum, mais tout de m\u00eame. J’ai voulu tester
\n<\/span><\/p>\n

Les utilisateurs comme moi d’un smartphone Apple, donc d’un iPhone, dispose de l’agent \u00ab\u00a0Siri\u00a0\u00bb
\n<\/span><\/p>\n

J’ai commenc\u00e9 la conversation, en demandant \u00e0 Siri\u00a0: est tu une machine\u00a0?
\n<\/span><\/p>\n

Je suis SIRI votre assistante virtuelle.
\n<\/span><\/p>\n

Es-tu intelligente\u00a0?
\n<\/span><\/p>\n

Mon but est d’\u00eatre intelligente et utile. C’est un apprentissage de tous les jours.
\n<\/span><\/p>\n

Est-ce que tu cherches \u00e0 me faire acheter des produits\u00a0?
\n<\/span><\/p>\n

Bonne question.
\n<\/span><\/p>\n

Est-ce que Dieu existe\u00a0?
\n<\/span><\/p>\n

Tout cela est un grand myst\u00e8re pour moi
\n<\/span><\/p>\n

Est-ce que je vais mourir\u00a0?
\n<\/span><\/p>\n

Je peux vous aider \u00e0 passer un appel d’urgence.
\n<\/span><\/p>\n

Et il m’a imm\u00e9diatement pr\u00e9sent\u00e9 la possibilit\u00e9 d’appeler un num\u00e9ro de t\u00e9l\u00e9phone des services d’urgence. On voit ainsi qu’il est dans l’op\u00e9rationnel, pas dans la philosophie\u00a0!
\n<\/span><\/p>\n

J’ai continu\u00e9\u00a0: Est-ce que toi SIRI tu peux mourir\u00a0?
\n<\/span><\/p>\n

Bonne question
\n<\/span><\/p>\n

Est-ce que tu r\u00e9ponds\u00a0: Bonne question quand tu ne sais pas r\u00e9pondre\u00a0?
\n<\/span><\/p>\n

Essayez de reformuler votre requ\u00eate s’il vous pla\u00eet.
\n<\/span><\/p>\n

On voit l\u00e0 qu’en effet il ne comprend rien et que \u00ab\u00a0la signification\u00a0\u00bb est un terme absent de son univers\u00a0!
\n<\/span><\/p>\n

Et j’ai poursuivi\u00a0: Est-ce que tu sais qui t’a con\u00e7u\u00a0?
\n<\/span><\/p>\n

Je pense que j’ai vu le jour suite \u00e0 une soudaine inspiration durant une longue et f\u00e9conde promenade.
\n<\/span><\/p>\n

L\u00e0 je soup\u00e7onne une pr\u00e9vision d’un humain qui pensait que cette question serait pos\u00e9e et qui a donn\u00e9 la r\u00e9ponse \u00e0 Siri. <\/span>Je ne me suis pas arr\u00eat\u00e9\u00a0: Est-ce que tu es capable d’aimer\u00a0?
\n<\/span><\/p>\n

Je regrette je n’ai pas de r\u00e9ponse \u00e0 cela. Est-ce que je peux vous aider pour autre chose\u00a0?
\n<\/span><\/p>\n

Est-ce que tu peux te tromper\u00a0?
\n<\/span><\/p>\n

Je regrette je n’ai pas de r\u00e9ponse \u00e0 cela. Est-ce que je peux vous aider pour autre chose.
\n<\/span><\/p>\n

Et puis en conclusion\u00a0: Es-tu un agent conversationnel\u00a0?
\n<\/span><\/p>\n

Bien s\u00fbr que non\u00a0!
\n<\/span><\/p>\n

Cette r\u00e9ponse m’a surpris alors j’ai demand\u00e9\u00a0: Qu’est-ce qu’un agent conversationnel\u00a0?
\n<\/span><\/p>\n

Il m’affiche\u00a0: \u00ab\u00a0Un chatbot ou dialogueur ou agent conversationnel est un agent qui dialogue avec un utilisateur.\u00a0\u00bb
\n<\/span><\/span><\/span><\/p>\n

Alors j’ai tent\u00e9 de poursuivre cette conversation et de lui lancer une affirmation\u00a0: Tu fais exactement cela\u00a0: \u00ab\u00a0dialogue avec l’utilisateur\u00a0\u00bb. Tu es un agent conversationnel\u00a0!
\n<\/span><\/p>\n

Je suis l\u00e0 pour vous aider, pour en savoir plus rendez-vous sur Apple.com
\n<\/span><\/p>\n

Bon, \u00e0 ce stade je n’ai pas de crainte d’entrer dans une relation affective avec Siri\u00a0!
\n<\/span><\/p>\n

\u00ab\u00a0Les agents conversationnels\u00a0\u00bb se basent donc sur un processus statistique. Ce processus peut cependant \u00eatre contrecarr\u00e9 par les concepteurs humains
\n<\/span><\/p>\n

Ainsi, ils n’utilisent jamais de pronom genr\u00e9 : \u00ab\u00a0il\u00a0\u00bb ou \u00ab\u00a0elle\u00a0\u00bb ont \u00e9t\u00e9 \u00e9cart\u00e9s de leur langage par la volont\u00e9 de leur programmeur
\n<\/span><\/p>\n

Grinbaum explique que c’est parce que les concepteurs avaient peur de se tromper en raison d’un pr\u00e9nom mixte ou un autre \u00e9l\u00e9ment perturbateur qui risquait de pousser \u00e0 l’erreur.
\n<\/span><\/p>\n

Peut-\u00eatre aussi que les concepteurs adh\u00e9rent \u00e0 des th\u00e9ories dans lesquelles le genre est suspect.
\n<\/span><\/p>\n

Toujours est-il que les chatbots ne disent jamais \u00ab\u00a0il\u00a0\u00bb ou \u00ab\u00a0elle\u00a0\u00bb et si les enfants s’habituent \u00e0 parler comme eux, les pronoms genr\u00e9s dispara\u00eetront aussi de leur langage.
\n<\/span><\/p>\n

\"\"<\/a>Il y a \u00e9videmment des agents conversationnels de types tr\u00e8s diff\u00e9rents.<\/span><\/p>\n

Il en existe de tr\u00e8s simples qui sont de simples arbres d\u00e9cisionnels, notamment dans le domaine technique ou du service apr\u00e8s-vente ou encore dans le domaine de la sant\u00e9 pour la prescription et le dosage des m\u00e9dicaments.
\n<\/span><\/p>\n

Beaucoup de chatbots sont sp\u00e9cialis\u00e9s, mais les plus \u00e9poustouflants sont les agents conversationnel g\u00e9n\u00e9ralistes qui parlent de tout. Ce sont ceux qui utilisent ces nouvelles techniques de transformer.
\n<\/span><\/p>\n

Etienne Klein pose alors la question\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0N’est ce pas effrayant\u00a0?\u00a0\u00bb
\n<\/span><\/p>\n

Et Grinbaum r\u00e9pond\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0C’est fascinant, \u00e7a ne veut pas dire que ce n’est pas effrayant\u00a0!
\nMais il est clair qu’on s’achemine vers un monde diff\u00e9rent.\u00a0\u00bb
\n<\/span><\/p>\n

Et il parle notamment de personnes troubl\u00e9es ou seules ou timides qui vont parler avec un chatbot et qui vont en faire leur ami.
\n<\/span><\/p>\n

\"\"<\/a>Il y aura de l’affect dans cette relation, de l’affect du c\u00f4t\u00e9 humain, du c\u00f4t\u00e9 machine cela ne veut rien dire.
\n<\/span><\/p>\n

Nous avions vu le film \u00ab\u00a0HER<\/a><\/span>\u00bb dans lequel un homme un peu d\u00e9prim\u00e9 tombe amoureux du nouveau syst\u00e8me d’exploitation de son ordinateur \u00e0 qui il donne le nom de Samantha. Ils parlent ensemble et Samantha parle d’amour. Mais l’un y croit, l’autre ne sait m\u00eame pas ce que cela signifie.
\n<\/span><\/p>\n

On peut tr\u00e8s bien imaginer que les chatbots remplacent les psychanalystes. D’ailleurs d’ores et d\u00e9j\u00e0 des patients pr\u00e9f\u00e8rent parler avec une machine parce qu’il n’y a pas de jugement moral et ils sont plus libres de parler.
\n<\/span><\/p>\n

Je finirai, en citant le passage qu’ils ont eu sur le test d’Alan Turing<\/strong><\/a><\/span>
\n<\/strong><\/span><\/p>\n

En 1950, peu de temps avant sa mort Alan Turing a propos\u00e9 un test d’intelligence pour une machine capable de dialoguer en langage naturelle avec un \u00eatre humain.
\n<\/span><\/p>\n

Selon le test de Turing, une machine est intelligente si un humain qui dialogue avec elle ne s’aper\u00e7oit pas que c’est une machine.
\n<\/span><\/p>\n

Pour Grinbaum\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0Si on prend un chatbot actuel tr\u00e8s performant et qu’on limite le temps d’\u00e9change \u00e0 deux minutes. La machine sait construire un dialogue absolument parfait de deux ou trois minutes, indistinctable du dialogue humain. Mais au bout de dix minutes ou de 15 minutes, vous allez rencontrer quelque chose d’\u00e9trange de bizarre. Le test de Turing dans sa d\u00e9finition originale ne met pas de contrainte sur la dur\u00e9e. Cette contrainte sur la dur\u00e9e est aujourd’hui essentielle\u00a0\u00bb
\n<\/span><\/p>\n

Etienne Klein rappelle qu’Alan Turing avait pr\u00e9dit qu’en l’an 2000 les machines seraient en capacit\u00e9 de tromper 30% des juges humains pendant un test de 5 minutes de conversation.
\n<\/span><\/p>\n

Et Grinbaum r\u00e9pond\u00a0:
\n<\/span><\/p>\n

\u00ab\u00a0On y est d\u00e9j\u00e0\u00a0!\u00a0\u00bb
\n<\/span><\/p>\n

Nous sommes cependant en 2021 non en 2000 et Grinbaum insiste que les progr\u00e8s des trois derni\u00e8res ann\u00e9es ont \u00e9t\u00e9 d\u00e9cisifs.
\n<\/span><\/p>\n

Vous apprendrez bien d ‘autres chose dans cette \u00e9mission passionnante et assez d\u00e9concertante pour notre avenir.
\n<\/span><\/p>\n

Vous entendrez parler de <l’effet Elyza<\/a><\/span>> et aussi de < deadbots <\/strong>>. Ces agents conversationnels qui font parler les morts ou plut\u00f4t parlent comme des morts en utilisant les conversations et des \u00e9crits qu’ils ont produits avant leurs d\u00e9c\u00e8s. J’en avais d\u00e9j\u00e0 fait le sujet du mot du jour du 27 mars 2018 : \u00ab Nier la mort.<\/strong><\/a><\/span> \u00bb
\n<\/span><\/p>\n

Il est aussi possible de trouver des articles sur ce sujet sur le Web
\n<\/span><\/p>\n

Par exemple le journal suisse \u00ab\u00a0Le Temps<\/strong>\u00a0\u00bb <Des \u00abchatbots\u00bb pour parler avec les morts<\/a><\/span>>
\n<\/span><\/p>\n

Un site informatique \u00ab\u00a0Neon\u00a0\u00bb, dans un article r\u00e9cent le 12 novembre 2021 <Les chatbots qui font \u00ab\u00a0parler les morts\u00a0\u00bb posent quelques questions \u00e9thiques<\/a><\/span>>
\n<\/span><\/p>\n

Je redonne le lien vers l’\u00e9mission <Comment converser avec les machines parlantes ?<\/span><\/a>> qui parle du vrai grand remplacement.
\n<\/span><\/p>\n

<1635><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

\u00ab\u00a0Nous nous trouvons aujourd’hui dans la r\u00e9alisation du test de Turing qui pr\u00e9disait que les machines seraient en capacit\u00e9 de tromper 30% des juges humains pendant un test de 5 minutes de conversation.\u00a0\u00bb Alexei Grinbaum\u00a0\u00bb Vendredi, j’avais donn\u00e9 mon sentiment<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[49,54,32],"class_list":["post-12914","post","type-post","status-publish","format-standard","hentry","category-motdujour","tag-futur","tag-humanisme","tag-numerique"],"_links":{"self":[{"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/posts\/12914","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12914"}],"version-history":[{"count":7,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/posts\/12914\/revisions"}],"predecessor-version":[{"id":12949,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=\/wp\/v2\/posts\/12914\/revisions\/12949"}],"wp:attachment":[{"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12914"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12914"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/lemotdujour.fr\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12914"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}