Avec l’apprentissage profond, l’intelligence artificielle va-t-elle dépasser l’Homme ?

Depuis qu’AlphaGo, un programme informatique, a battu les meilleurs joueurs de go [1] en utilisant, entre autres techniques, un réseau de neurones formels doté d’un mécanisme d’apprentissage profond (deep learning), les médias se sont mis à rêver et à attribuer à cette technologie la capacité de régler tous les problèmes rencontrés jusque-là en intelligence artificielle (IA).

La presse, mais aussi certains acteurs du domaine imaginent que cette technique permettrait de créer (ou a déjà permis de créer ?) une véritable intelligence artificielle... dont il faudrait se méfier car elle pourrait considérer que l’espèce humaine est trop primitive et décider qu’il est inutile de la maintenir sur Terre. Ainsi, Elon Musk, fondateur de l’entreprise Tesla, déclarait : « Si je devais me prononcer sur ce qui représente la plus grande menace pour notre existence, je dirais probablement l’intelligence artificielle. Je suis de plus en plus enclin à penser qu’il devrait y avoir une régulation, à un niveau national ou international, simplement pour être sûr que nous ne sommes pas en train de faire quelque chose de stupide. Avec l’intelligence artificielle, nous invoquons un démon » [2].

Mais remettons quelques pendules à l’heure.

L’intelligence artificielle ne se réduit pas aux réseaux de neurones

Les méthodes mettant en œuvre des réseaux de neurones ne sont pas, de très loin, les seules qui participent aux développements d’applications en intelligence artificielle.

Le programme AlphaGo n’est d’ailleurs pas seulement un réseau de neurones, il comporte aussi des règles du jeu programmées soigneusement et classiquement ainsi que des techniques d’affichage à l’écran, un puissant algorithme de recherche (exploration combinatoire) ¹, un mécanisme de supervision pour organiser l’apprentissage et une multitude d’ajustements pour paramétrer le dispositif, paramétrages qui n’étaient pas évidents avant qu’à force d’essais, on en découvre une bonne version [3, 4].

Dans les travaux sur les véhicules autonomes – qui pour l’instant ne le sont pas suffisamment pour qu’on les laisse circuler sans mécanicien à bord prêt à chaque instant à reprendre la main –
les réseaux de neurones ne représentent qu’une très faible partie des programmes utilisés [5], tout le reste consistant en de la modélisation 3D, du calcul de trajectoires pour anticiper les mouvements, et l’assemblage de systèmes plus ou moins classiques en robotique.

Bien des applications de l’IA n’utilisent pas ou très peu d’apprentissage profond, même si – parce que c’est la mode – on essaie de l’introduire un peu partout. Par exemple, en mathématiques, les assistants de preuves (devenus importants pour valider les démonstrations, certifier des circuits électroniques et prouver le bon fonctionnement des logiciels utilisés en aéronautique) ont été développés sans utiliser la méthode d’apprentissage profond, que l’on n’a introduite que récemment. Même sans apprentissage profond, ces systèmes font un véritable travail intellectuel difficile : ils raisonnent et calculent mieux que les spécialistes qui les utilisent.

Même si, aujourd’hui, on tente de mettre de l’apprentissage profond et des réseaux de neurones formels un peu partout, c’est une erreur de considérer que l’IA commence avec cette technique, et une illusion de croire qu’elle remplacera toutes les autres méthodes.

L’apprentissage profond va-t-il dépasser l’Homme ?

Il n’est pas vrai qu’on réussit avec les méthodes d’apprentissage profond à égaler ou dépasser de nombreuses performances humaines.

Pour qu’un programme à base de réseaux de neurones reconnaisse un chat dans une nouvelle image, il aura fallu au préalable lui montrer un très grand nombre d’images de chats. Les humains apprennent à partir de bien moins d’exemples. De nombreuses faiblesses des réseaux de neurones ont été identifiées depuis longtemps [6] : impossibilité d’expliquer les résultats proposés, difficultés à manipuler des informations symboliques et plus encore à enchaîner des éléments de raisonnements (tous les hommes sont mortels, Socrate est un homme...).

Apprentissage profond facile à berner ?

Insistons sur l’un de ces défauts inquiétants : les systèmes fondés sur les techniques d’apprentissage profond peuvent se faire duper. Des chercheurs ont en effet mis au point des méthodes pour leur faire prendre certaines vessies pour des lanternes. Par exemple, en collant quelques papiers sur un panneau « stop », une équipe a réussi à faire croire au réseau de neurones chargé de lire des panneaux de circulation routière qu’il s’agissait d’un panneau de limitation de vitesse à 45 km/h. On pourra trouver en [7, 8, 9, 10] des précisions sur ce genre de techniques trompant l’apprentissage profond.

En résumé, les méthodes d’apprentissages peuvent traiter rapidement des millions de données – ce que nous ne sommes pas capables de faire –, mais les résultats obtenus restent limités à quelques domaines que l’on tente d’élargir, sans réussir nécessairement, et avec parfois de mauvaises surprises à cause d’une fiabilité décevante.

Risques réels et risques fantasmés

L’IA fait courir des risques, mais aujourd’hui ce ne sont pas ceux d’une révolte contre l’espèce humaine. Le vrai danger se trouve dans les bugs qu’on ne pourra pas éliminer facilement des applications et dans la trop grande confiance qu’on risque d’accorder à des dispositifs d’IA. La voiture Uber qui a renversé et tué une passante en 2018 dans l’Arizona ne l’a pas fait parce qu’elle s’est révoltée, mais parce qu’elle était mal programmée et qu’on lui a fait trop confiance ; elle aurait confondu la passante avec un carton poussé par le vent [11, 12].

Le problème de la révolte des robots se posera peut-être un jour, mais ce n’est pas tout de suite et ce n’est pas certain car les robots avancés réellement intelligents, s’il en existe un jour, seront notre prolongement, en quelque sorte d’autres nous-mêmes. Et même s’ils devenaient aussi intelligents que nous, ou plus, les robots intelligents se retrouveraient embarqués dans nos conflits humains – c’est d’ailleurs déjà le cas –, et seraient associés à chaque camp plutôt que d’en constituer un nouveau, contre nous.

Avant que le problème se pose d’une guerre entre humains et IA, qu’au fond je crois absurde, beaucoup d’eau passera sous les ponts. L’IA avancera petit à petit et pas seulement grâce à l’apprentissage profond. À cause des imperfections que contiendront inévitablement les systèmes d’IA, elle sera la cause, comme n’importe quelle autre technologie, de pannes, d’accidents et de dysfonctionnements aux conséquences parfois mortelles, comme on l’observe dans de nombreux domaines (automobile, aviation, industrie chimique, etc.).

Ce que nous devons craindre, ce n’est pas trop l’intelligence des systèmes IA qui nous regarderait de haut, mais une insuffisante évaluation des limites d’intelligences incomplètes, mal conçues, mises en marche sans précaution ou bêtement défaillantes comme nos voitures, nos avions, nos ordinateurs et tout ce qui est complexe et dont la mise au point ne s’opère que lentement et péniblement.