Regards sur la science

Les débats sur l’intelligence artificielle

par Jean-Paul Delahaye - SPS n° 313, juillet 2015

Depuis plusieurs mois, les médias français et internationaux mentionnent régulièrement les progrès de l’intelligence artificielle et les dangers qui – peut-être – en résulteraient. Une lettre sur ce thème a été signée récemment par plusieurs centaines de personnalités dont Stephen Hawking. On y lit, en substance, que le développement des méthodes et des applications de l’intelligence artificielle créerait des dangers et que nous devrions absolument les anticiper et étudier les moyens de les éviter.

PNG - 154 ko
Les musiciens humanoïdes programmables d’Al-Jazari

Stephen Hawking, dans une interview, n’hésite pas à préciser : « Les formes primitives d’intelligence artificielle que nous avons déjà se sont montrées très utiles, mais je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’espèce humaine ». Bill Gates qui est sans doute plus compétent en informatique que Hawking le rejoint cependant : « Je suis dans le camp de ceux qui se sentent préoccupés ».

En France, les experts qui s’expriment sur ces problèmes sont le plus souvent bien moins inquiets... car d’une certaine façon, ils ne semblent pas croire en une véritable intelligence artificielle. Thierry Vieville (directeur de recherche à l’Institut national de recherche en informatique et en automatique – INRIA) a publié un blog intitulé « L’intelligence artificielle n’aura pas lieu », et parle de « sempiternelle contre-vérité » à propos de la phrase de Stephen Hawking citée ci-dessus1.

Gérard Berry (membre de l’Académie des sciences, premier Professeur au Collège de France en informatique, Médaille d’or du CNRS) parle lui aussi des « fantasmes de l’I.A. » et dit sans détour que « l’ordinateur est complètement con »2.

PNG - 395.7 ko
Le Turc mécanique ou l’automate joueur d’échecs : une illusion développée à la fin du XVIIIe siècle. Il a trompé (et battu) quelques personnages célèbres, dont Napoléon.

Il est étrange que d’un côté on s’inquiète et que de l’autre on minimise ou nie les risques résultant du développement de systèmes possédant certaines facultés de raisonnement et d’intelligence. J’y vois une forme de timidité et de conservatisme français – maintenant habituels – qui se manifestent aussi à propos des OGM et des questions éthiques posées par les sciences du vivant : l’état du droit français dans le domaine de la procréation assistée est la conséquence concrète de cette frilosité.

En France, quand on parle du « transhumanisme » ce n’est – sauf exception – que pour le critiquer et s’en moquer. Ce mouvement, lié aux libertariens américains, qui tente de voir ce que les progrès de la science peuvent ou pourront faire pour changer l’Homme et la société, peut paraître parfois antipathique mais les thèmes de réflexion qu’il évoque sont réels. Il serait dommage de les mépriser et de se voiler la face.

Concernant l’intelligence artificielle, je pense que l’on confond deux affirmations :

(a) Nous ne sommes pas sur le point de faire des machines douées de conscience, d’humour, de sentiments. Je suis assez d’accord avec ça.

(b) Les machines qui réalisent des tâches intelligentes et se substituent à nous (pour faire atterrir les avions et conduire les voitures, jouer aux échecs, au go, au poker, écrire des articles de presse, gérer les nœuds des réseaux informatiques, nous surveiller, etc.) ne doivent pas nous inquiéter. Je ne suis pas d’accord.

Parler de fantasme de l’intelligence artificielle, c’est mélanger (a) et (b). Les machines d’aujourd’hui ne sont pas intelligentes, de la même façon que les avions ne volent pas... si on décrète que pour voler véritablement, il faut battre des ailes. Les machines que nous faisons sont de plus en plus capables de mener des tâches qu’autrefois personne n’hésitait à qualifier d’intelligentes et elles nous dépassent alors souvent. Cela engendre et engendrera des dangers de toutes sortes. Ne refusons pas de les voir. Certes l’informatique crée de nombreux autres problèmes et tout ce qui tourne autour des données personnelles, de la surveillance généralisée (que l’Assemblée nationale vient d’approuver montrant encore une fois que les députés ne cherchent pas à comprendre les lois qu’ils votent, mais ne font que de la communication et de la politique politicienne) est très grave et urgent. Cela n’empêche pas qu’il y a et qu’il y aura aussi des problèmes de plus en plus graves et urgents posés par l’intelligence artificielle : responsabilité des systèmes qui prennent des décisions, conduisent, tuent ; statut légal des systèmes les plus avancés ; conflits entre eux ou entre nous et eux ; contrôle ; pannes ; etc.

Mis en ligne le 1er décembre 2015
2939 visites

Explorer par thème


Valid HTML 4.01 Transitional CSS Valide !