e-tissage

traitements d'information & outils numériques
pour êtres humains

Qui a peur de la NON Intelligence Artificielle ?

Depuis qu’un ramassis de plastique et de composants électroniques a battu des champions au jeu de go, le monde est secoué d’une nouvelle crise hystérique1 au sujet de l’ « intelligence artificielle ». Un pic de délire a été atteint lorsque des députés européens ont préconisés la création d’une personnalité juridique spéciale pour les robots2. Et pourquoi pas une personnalité juridique pour les tapis de salle de bain, tant qu’on y est ? Mais si ! puisque certains les considèrent comme un grave danger mortel… Comment en sommes nous arrivés là ???

Au départ, nous avons un terme – intelligence – qui est appliqué aux machines par analogie à l’humain et puis, de fils en aiguille, on voudrait nous faire croire que finalement, ce que les machines font mieux que l’humain, c’est de l’intelligence !!! Ce serait pas un peu le monde à l’envers là ???

Que savent faire les machines ?

  • calculer très très très vite
  • stocker un très grand nombre d’informations, c’est a dire des représentations du monde selon une certaine modélisation formelle.
  • apprendre, certes, mais à partir de représentations que nous leur fournissons
  • trouver des liens entre des représentations. Là encore, il faut leur fournir les représentations.

De nouvelles formes de modélisation, comme l’indexation de documents qui permet de trouver tout un document à partir de mots clés ou bien les base de données en graphe qui mettent en évidence des connections entre un grand nombre de données ont certes permis des avancées remarquables. Pourtant, c’est bien plus sur l’augmentation des vitesses de traitements et l’augmentation phénoménale des volumes de données stockables et calculables que sont basés les récents progrès car ils s’appuient sur des apprentissages statistiques.

Trois points différencient radicalement l’intelligence humaine et la dites « intelligence » artificielle.

Les machines sont incapables de modéliser elles-mêmes le monde.

Gagner au jeu de go, c’est être capable d’envisager un très grand nombre de possibilités et de choisir la mieux adaptée pour contrer le jeu de l’adversaire. Ce n’est qu’une puissance de calcul appliquée à un problème finalement relativement simple pour un ordinateur, parce que purement rationnel. Un ordinateur peut gagner au go parce que les règles du jeu sont modèlisables. Il ne s’agit pas du tout de minimiser le travail et de ceux qui réalisent des systèmes automatiques qui effectuent des tâches de plus en plus complexe. Toute la difficulté réside justement à modéliser les règles du jeu de sorte qu’elles puissent être « apprises » à un ordinateur. AlphaGo et ses congénères sont de remarquables réalisations, mais mettez les donc devant un problème de math de niveau 6e : ils ne « sauront3 » même pas de quoi il s’agit, alors que n’importe quel enfant a en lui ce qui va lui permettre d’appréhender puis résoudre le problème..

Les machines n’ont aucun sens de l’initiative.

Aussi fortiche soit-il pour jouer au jeu de go, il ne viendra pas à l’ « idée3 » d’AlphaGo d’apprendre le coréen pour mieux comprendre la stratégie de ses adversaires ni de fonder une école pour enseigner le jeu de GO aux enfants. Pour qu’une machine élargisse sont champ d’action ou de compétence au-delà de ce qui a été prévu au départ, il faut nécessairement l’intervention d’un humain. Dans ces conditions, peut-on encore parler d’intelligence ??

Les mots ont un sens. L’ « intelligence » artificiel et l’ « apprentissage » machine sont des termes basés sur une analogie avec l’humain. Même si les machines font certains calculs beaucoup plus rapidement que nous, l’ « intelligence » et la capacité d’ « apprentissage » de l’humain ne se réduisent pas à ce que font ces machines. Pourtant, l’utilisation métaphorique des termes « intelligence » et « apprentissage » est à l’origine d’une inflation fantasmatique nourrie d’une sorte de complexe de Geppetto des uns et de la fascination des autres4.

Les machines n’ont pas de corps émotionnel et sensible.

La conception de l’intelligence comme pur produit du cerveau et réduite à un calcul rationnel est certes répandue – sans doute en partie parce que nos élites sont formées dans des Grandes Ecoles où on ne développe et valorise que cette forme d’intelligence – mais elle est totalement partielle.
Est-ce que la capacité à trancher une question éthique ou morale ne fait pas partie de ce que l’on appelle l’intelligence humaine ? Idem pour la capacité à créer une solution dans une situation que l’on a jamais rencontré. Autant de situations dans lesquelles l’intelligence à laquelle nous faisons appel est ancrée dans l’ensemble de notre vécu d’être humain sensible.
A partir de ce constat, deux choix sont possibles : soit vous considérez que l’humain peut être réduit à une mécanique biologique totalement calculable. Dans ce cas, il est tout de même raisonnable de constater qu’étant donnés les pans entiers de la complexité humaine qui nous échappent encore, nous sommes encore très, très, très loin de pouvoir la reproduire artificiellement dans toute sa spécificité. L’autre choix – qui est le mien – est de considérer que l’humain est irréductible à une mécanique entièrement calculable, que dans la conscience humaine, quelque chose échappe et que par conséquent, quels que soient les progrès techniques que nous accomplirons, l’artificiel restera toujours en deçà de l’humain. Question de vision anthropologique…

Sans une mise au point préalable sur ce que l’on entend par intelligence, les débats sur l’ « Intelligence Artificielle » dévient rapidement vers ce qui revient à se préoccuper des problèmes de surpopulation sur mars5… On peut d’ailleurs se demander à quoi bon appeler intelligence, ce qui dans les faits est de l’apprentissage statistique. Je ne vois pas d’autre explication qu’une tendance à la course au hype de la part des chercheurs concernés, qui a pour regrettable effet d’embrouiller les débats publics sur le sujet. Le plus désolant est que de tels débats – relayés par ceux pour qui agiter le chiffon rouge de la peur fait monter les audiences – oblitèrent les vraies questions que posent le numérique. Plutôt que de s’inquiéter d’une très très très hypothétique disparition de la distinction humain / machine, avec scénarios SF de prise de pouvoir des machines, nous serions bien mieux avisés d‘observer attentivement quels sont les choix et les objectifs très très humains qui orientent les algorithmes et les collectes très très actuelles de données

1 Par « hystérique » je veux dire qui apparaît totalement disproportionnée par rapport à la réalité de la situation. La précédente crise date des années 70s. Elle a été suivie d’une sorte de fatwa qui fin des années 90 – début 2000, lorsque je travaillais en recherche sur la reconnaissance automatique de la parole avait totalement banni le terme IA du vocabulaire des chercheurs : honte à celui qui prononçait alors ce terme tant il était associé aux divagations mégalomanes de chercheurs qui s’étaient perdus dans des promesses plus inspirées par la sciences fiction que par les possibilités réelles…

2 Par chance, des conseillers de la République gardent la tête sur les épaules … Le CESE n’est pas favorable à la création d’une personnalité juridique pour les robots ou l’IA.

3 Une autre métaphore ok ? Les ordinateurs n’ont pas d’idées, ils ne savent rien. Ne nous laissons pas embrouiller par les analogies…

4 A quoi il faut évidement ajouter quelques petits intérêts commerciaux : Google, propriétaire de la société DeepMind qui a conçu AlphaGo n’est pas le moteur de recherche numéro un en Asie. Or en Chine et en Corée, les matchs contre AlphaGo ont été vus par des dizaines de millions de personnes … Intelligence artificielle : les leçons d’une victoire

5 « Fearing a rise of killer robots is like worrying about overpopulation on Mars » Andrew Ng cité par Dominique Cardon le 19 janvier 2017 lors de l’audition publique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques consacrée à l’IA. La courte intervention de Dominique Cardon, très éclairante sur le sujet à 11:57:45.

Véronique Gendner

25 juin, 2017