Intelligence artificielle v/s intelligence humaine : 5 leçons d’AlphaGo 1/2

Photo by Google via Getty Images

En 2010, un programme de Go jouait encore au niveau amateur.
En 2015, le programme d’Intelligence Artificielle AlphaGo a gagné contre le champion d’Europe, le chinois Fan Hui, qui joue au niveau professionnel.
En 2016, AlphaGo a gagné contre le Lee Sedol, le « Roger Federer du Go », plongeant
 le monde du Go dans un mélange de fascination et d’effroi.

Je n’ai vu le documentaire de Greg Kohs, AlphaGo – The Movie, que cet automne. En tant que joueuse de Go, bien sûr. Mais aussi en tant que systémicienne, habituée à résoudre des problèmes relationnels : avec soi, les autres et/ou son environnement. Ce documentaire met en scène une relation Intelligence humaine – Intelligence artificielle, porteuse en tant que telle de problèmes et d’apprentissages que j’ai observés par la suite dans plusieurs autres relations entre des humains et diverses formes de technologie.

A l’heure où les confinements successifs nous font sentir avec plus d’acuité l’emprise de la technologie sur nos existences, j’ai eu envie d’explorer tout ça de plus près. Que pouvons-nous apprendre de l’expansion des relations entre l’humain et la machine ?

Une combinaison de croyances limitantes qui mène à une erreur de jugement et de posture vis-à-vis des capacités d’AlphaGo. Intelligence Artificielle :  1 – Le monde entier sauf l’équipe DeepMind : 0 

Au bout d’un quart de siècle de recherches, aucun programme informatique de Go n’avait réussi à dépasser le niveau d’amateur débutant.

Quand DeepBlue avait battu Kasparov aux Échecs en 1997, tout le petit monde du Go s’était rengorgé. Une machine à forte capacité de calcul combinatoire pouvait battre un humain aux Échecs, pas au Go. Cela arriverait un jour peut-être, mais lointain. En effet, jouer au Go demande de l’intuition, de la créativité… et ça, croyait-on alors, ça ne se calcule pas. Pour concevoir un programme qui saurait vraiment jouer au Go, il faudrait (croyance corollaire) que la programmation informatique ait réalisé des progrès qu’elle n’avait pas encore faits. Si j’en crois les informaticiens de mon entourage, ces avancées espérées permettraient alors de résoudre tout un tas d’autres problèmes que l’informatique du début du XXIème siècle ne savait pas résoudre.

En 2015, AlphaGo développé par l’équipe du Britannique Demis Hassabis, a flanqué une volée à Fan  Hui, trois fois champion d’Europe.

Cela représentait déjà une avancée spectaculaire et totalement inattendue par rapport à tous les efforts de développement précédents. Un an plus tard, grâce à la collaboration entre l’équipe de Hassabis et Fan Hui, AlphaGo battait 4 à 1 le génie Coréen du Go Lee Sedol. Fait remarquable, AlphaGo a été conçu et amélioré par une équipe dont le niveau de Go était très inférieur à celui de Lee Sedol et des principes de programmation assez classiques, aux dires mêmes des concepteurs d’AlphaGo et des informaticiens avec lesquels j’ai pu parler. La capacité de calcul et d’auto-apprentissage du programme sont tels qu’il a pris le monde entier par surprise, provoquant un véritable séisme dans le monde du Go.

 

L’asymétrie émotionnelle enferme l’humain dans une solitude et accentue un rapport de forces favorable à l’Intelligence Artificielle. AlphaGo  2 – Lee Sedol 0. 

Une défaite humiliante

Perdre est une chose. Perdre après avoir publiquement sous-estimé son adversaire en est une autre. Et perdre une seconde fois après avoir compris qu’il fallait prendre l’adversaire au sérieux est vraiment terrible.

Une relation sans relation

Le programme n’a aucune notion de tout ça et l’humain porte seul la charge émotionnelle de la situation. J’ai aussi observé que Lee, même si c’est un autre humain en face qui joue les coups proposés par AlphaGo, n’a jamais aucun point de repère émotionnel pour savoir ce que pense ou ressent son adversaire. La machine joue des coups qui paraissent bizarres, voire mauvais – il suffit d’entendre les commentaires offusqués ou hilares des experts qui retransmettent la partie en direct. Lee a beau lever les yeux du jeu pour scruter le visage de l’ingénieur qui lui fait face, ce dernier ne peut le renseigner car il n’est pas l’auteur de ces coups. Il n’est que le messager d’un programme qui a calculé objectivement que c’était le coup qui lui offrait la meilleure probabilité de gagner la partie. Et du reste, AlphaGo gagne encore.

Comment garder confiance en soi quand le seul feedback que l’on reçoit, c’est celui de son impuissance soudaine ?

Alors que la plupart du temps, les visages Asiatiques me paraissent indéchiffrables, je me suis retrouvée, en tant que spectatrice Européenne, submergée par les expressions de doute et de souffrance que je lisais sur le visage de cet homme et surtout, par sa solitude face à cette machine imperturbable. J’ai eu l’impression, à tort ou à raison, que cette solitude émotionnelle a significativement aggravé la chute de confiance en soi de Lee.

Des tentatives de suradaptation qui scellent la défaite de l’Intelligence Humaine face à l’Intelligence Artificielle. AlphaGo 3 – Lee et tous les commentateurs 0 

La suradaptation est une stratégie tentante, mais perdante.

Après deux défaites inexplicables dans sa vision du monde, le champion humain est perdu. D’après tous les commentateurs, il perd son style si créatif à essayer de se suradapter à ce satané programme qui joue des coups que des siècles de théorie jugent mauvais. La suradaptation est une stratégie de survie bien connue dans les relations dysfonctionnelles. Et pour le coup, le résultat est connu d’avance : la perte de soi.  

 

Les réactions de tous autour de la défaite de Lee montrent que toute l’humanité est touchée par cette victoire de l’Intelligence Artificielle sur l’Intelligence Humaine.

Même les membres de l’équipe AlphaGo, pour qui cette victoire est historique, peinent à se réjouir complètement. Cette victoire est teintée d’une forme de deuil, celle de la suprématie de l’humain sur la machine. Et de compassion pour l’être humain qui avait été chargé de défendre les derniers bastions de l’Intelligence Humaine face à AlphaGo.

 

Les limites de nos apprentissages humains apparaissent de plus en plus clairement.

C’est très intéressant de voir que dans le commentaire de la partie, Fan s’écrie « je ne sais pas expliquer pourquoi ce coup est mauvais, je sais juste qu’il est mauvais ! ». Sauf qu’il gagne la partie. Cette remarque est tellement représentative du caractère limitant de nos apprentissages humains…

Premiers enseignements

 

  • Nos croyances limitantes sur la technologie nous amènent à des erreurs de jugement cuisantes même si elles sont compréhensibles.
  • Ce qui était valable dans des parties entre humains – des apprentissages communs, des conventions théoriques et sociales, des croyances partagées, une dose, même minimale, de communication non-verbale – n’est plus valable avec une machine qui elle, optimise les critères de réflexion qui lui ont été donnés, point final. L’humain se retrouve dans une relation sans relation.
  •  La suradaptation est presque toujours une stratégie perdante.
  • Nos apprentissages passés sont parfois nos pires ennemis.

A suivre la semaine prochaine

Acte 4 : le baroud d’honneur du génie créatif

Acte 5 : le Go d’après, résilience et apprentissage augmenté

A lire aussi 

Ce que le jeu de Go apporte (vraiment) au management 

Le business aura toujours besoin de joueurs d’Échecs, et de plus en plus de joueurs de Go.

Sans expérience émotionnelle, point de changement – 1

Sans expériences émotionnelles, point de changement – 2