Cédric Villani : "Depuis la bombe atomique, l'éthique s'impose à tous les chercheurs"

 |   |  1875  mots
Le mathématicien et député LREM Cédric Villani à l'Université Hommes - Entreprises
Le mathématicien et député LREM Cédric Villani à l'Université Hommes - Entreprises (Crédits : J. Philippe Déjean)
La science a été mise sur de nouveaux rails dès le premier essai réussi avec la bombe atomique. L'éthique s'impose désormais à tous les scientifiques et l'arrivée de l'intelligence artificielle ouvre de nouveaux enjeux qui ne font que renforcer cette nécessité, a déroulé le mathématicien Cédric Villani lors de la 24e Université Hommes - Entreprises (réactualisé 04/09/2018)

Lors de sa deuxième journée, la 24e édition de l'Université Hommes - Entreprises organisée par le Ceca, au château Smith-Haut-Lafitte, à Martillac (Gironde), a notamment accueilli le mathématicien Cédric Villani, qui a donné une conférence intitulée "L'intelligence artificielle est-elle au service de l'humain ?". A la fin du XIXe siècle, le poète Gérard de Nerval se promenait avec un homard en laisse au Palais Royal, Cédric Villani épingle quant à lui chaque jour une broche en forme d'araignée au revers de sa veste, porte une Lavallière et vérifie l'heure sur une montre à gousset, ressuscitant à sa façon le style romantique de l'époque de Victor Hugo.

Ce mathématicien né à Brive-la-Gaillarde (Corrèze), qui a notamment dirigé l'Institut Henri-Poincaré (université Pierre-et-Marie-Curie) pendant près de dix ans avant d'être élu député LREM en 2017, appartient à l'élite de sa discipline puisqu'il s'est vu décerner en 2010 la médaille Fields, l'équivalent du prix Nobel en mathématiques.Cette médaille Fields, Cédric Villani la différencie du prix Nobel, en particulier parce qu'elle implique que son bénéficiaire accepte de représenter et faire la promotion des mathématiques : un vrai sacerdoce. Cédric Villani donne de nombreuses conférences, en particulier dans les lycées, et un jour, rincé par l'exercice, il a demandé à avoir un sujet original à traiter. La responsable du lycée avec laquelle il était en contact lui a alors proposé la chauve-souris. Et c'est ainsi que Cédric Villani a donné une conférence intitulée « Les mathématiques de la chauve-souris ». Un petit animal gothique qui se marie très bien avec ses araignées.

Le syndrome du fils de pute

Pour ce mathématicien, l'histoire de l'intelligence artificielle est liée à celle de la bombe atomique.

"Kenneth Bainbrige a travaillé au côté de Robert Oppenheimer sur le développement de la bombe atomique dans le cadre du projet Manhattan. Il a dirigé le premier test nucléaire à Los Alamos, au Nouveau-Mexique. Une fois que la première bombe atomique a explosé, il a dit « Now we are all sons of bitches » : Maintenant nous sommes tous des fils de putes. C'est un moment fort car c'est celui de la perte de l'innocence scientifique, qui va devenir le symbole au XXe siècle de la puissance d'impact de la science sur la société", éclaire Cédric Villani.

Ce que l'orateur a principalement mis en scène pendant sa conférence, c'est l'éclosion de l'éthique contemporaine. Une intervention qui a semble-t-il largement puisé dans la bande dessinée "Les rêveurs lunaires - Quatre génies qui ont changé l'histoire", dont Cédric Villani est le scénariste et Edmond Baudouin le dessinateur (Gallimard/ Grasset - 180 pages - 22,00 €). Cédric Villani explique qu'il a ainsi travaillé sur un document historique pour écrire le premier chapitre de "Rêveurs lunaires" : la transcription en anglais de l'enregistrement secret des conversations d'une dizaine de scientifiques allemands détenus en 1945 pendant près de six mois à Farm Hall, près de Cambridge. Parmi ces prisonniers, Werner Heisenberg, théoricien du principe d'incertitude, prix Nobel de physique 1932, Otto Hahn, prix Nobel de chimie 1944 et Max von Laue, le seul anti nazi du groupe, prix Nobel de physique 1914.

Mais qu'est-ce qu'un scientifique ?

"Je me suis intéressé aux enregistrements du 6 août 1945, jour du lancement de la bombe atomique sur Hiroshima. Ce qui est frappant, c'est que ces prisonniers scientifiques allemands qui ont travaillé sur la bombe atomique l'apprennent sans pouvoir y croire, pour eux c'est du bluff. Ils ne comprennent pas comment les Etats-Unis, qui en sciences sont un pays du Tiers Monde, ont pu arriver à la bombe. Puis ils finissent par comprendre que c'est arrivé, se disent qu'ils n'ont pas été à la hauteur et commencent à refaire les calculs pour savoir à quel moment ils se sont trompés. Otto Hahn commence à se saouler. Deux autres ont voulu se suicider tandis qu'Heisenberg essayait de remonter le moral de tout le monde. Il y a là le début d'un débat pour savoir ce qu'est un scientifique, pour savoir s'il a le droit de donner son avis sur une découverte qui appartient à la société et qui lui échappe", extrait Cédric Villani.

Comme l'a mis en lumière un film biographique, Werner Heisenberg était un patriote allemand décidé à participer au redressement de son pays, y compris par la guerre. Un patriote pourtant vite attaqué par le parti Nazi, dont il n'était pas membre, parce qu'il pratiquait "de la physique juive" et osait prononcer le nom d'Albert Einstein ! Il sera sauvé par sa mère, amie proche de celle d'Heinrich Himmler, le chef de la SS. Malgré tout Heisenberg a suivi la folie nazie qui a pourtant décapité en la poussant à l'exil, essentiellement aux Etats-Unis, la fine fleur de l'avant-garde scientifique allemande et centre-européenne, pour cause de guerre de religion, et enclenché un monstrueux processus d'extermination dont personne n'aurait pu prédire in fine la véritable dimension.

Leo Szilard lisait-il trop de science fiction ?

Dans ce contexte Cédric Villani revient sur la trajectoire d'un autre homme clé, un physicien flamboyant, "le génie dans l'ombre" comme l'a surnommé l'orateur : Leo Szilard, Hongrois de confession juive réfugié aux Etats-Unis, qui va jouer un rôle clé dans le lancement du projet Manhattan. Tout ça parce qu'il est persuadé que l'Allemagne nazie va la première mettre au point la bombe atomique et conquérir le monde.

"Leo Szilard est le premier physicien à avoir l'intuition que la bombe atomique est faisable, qu'elle n'est pas qu'une idée de science-fiction [Cédric Villani fait ici référence au roman de H.G. Wells "La Destruction libératrice", publié en 1914 dans lequel l'auteur invente la bombe atomique et que Leo Szilard a lu en 1932 - NDLR]. Il a remué ciel et terre pour lancer le projet Manhattan et c'est lui qui a écrit la lettre qu'a envoyé Einstein au président Roosevelt dans ce sens", a recadré le conférencier.

Ceci avant de dresser un parallèle entre l'activiste Leo Szilard, sans lequel la bombe atomique américaine n'aurait peut-être pas vu le jour, et celui qui est considéré comme le prophète de l'intelligence artificielle, l'inventeur de l'informatique : Alan Turing, l'Anglais qui a brisé la machine de cryptage allemande Enigma.

"Ces deux profils représentent des options radicalement différentes. Alan Turing, on ne lui connait aucun engagement politique, contrairement à Leo Szilard. Ces deux attitudes, celle du scientifique politiquement impliqué ou pas, ne sont pas moralement meilleures l'une que l'autre. Le fait que la science soit effectivement ambivalente est une question réglée. Ce qui implique que la mise en œuvre de l'éthique scientifique se pose pour toutes les technologies", resitue Cédric Villani.

 Contrôler l'honnêteté de la communauté scientifique

Avec l'irruption des technologies de l'information, après-guerre, les Etats ont développé une planification de leur stratégie scientifique, a souligné l'orateur.

"Au-delà de l'éthique se posent ainsi des questions morales qui influent sur les pratiques dans la société des scientifiques. Plus aucun scientifique n'a le droit de dire "ah je ne savais pas ce que ça allait donner". L'autre enjeu est de savoir comment faire pour qu'il n'y ait pas de comportements malhonnêtes dans la communauté scientifique, comme les plagiats, etc. La science est organisée par les Etats car la guerre a été gagnée par la technologie. Il faut donc éviter d'avoir un monde scientifique mal organisé, parce que ça peut vous coûter des milliards...", relève Cédric Villani.

Cédric Villani se félicite ainsi qu'aient été créés le Comité d'éthique et l'Office français d'intégrité scientifique. Une fois toute cette architecture intellectuelle bien installée, l'orateur en est venu à l'intelligence artificielle, après avoir précisé, juste avant le début de son intervention que dans cette expression il n'y a qu'un mot de vrai, celui d'artificiel.

La résurrection du réseau de neurones artificiel

"L'arrivée de l'intelligence artificielle change les perspectives dans un contexte de tensions exacerbées entre les sphères économique, scientifique et sociale. L'histoire de l'intelligence artificielle n'est pas celle de la montée irrésistible d'une nouvelle technologie puisqu'à une époque pas très lointaine, les réseaux de neurones artificiels étaient complètement ringards. A cette époque les politiciens n'acceptaient de mettre que quelques centimes sur ces réseaux, qui miment le fonctionnement du cerveau. Ils raisonnent aujourd'hui en milliards d'euros. Parce que désormais le concept de réseau de neurones artificiel fonctionne et mobilise tout le monde. C'est le boom, avec l'apprentissage profond", s'amuse Cédric Villani.

Pour lui l'intelligence artificielle n'a rien d'intelligent. Et c'est avec une certaine délectation qu'il explique que les algorithmes qui ont successivement écrasé les meilleurs joueurs humains d'échecs puis de go n'étaient "que des bourrins", des calculateurs dopés aux stéroïdes, des caricatures de force mathématique brute sans aucun cerveau. Soit une forme particulière de puissance abstraite sans lien avec la vie et la capacité instinctive des être humains à se repérer dans l'espace.

"Ces super algorithmes qui terrassent les plus grands maîtres aux échecs ou au go sont encore incapables de faire des choses toutes simples pour le commun des mortels, comme prédire à quel moment une voiture doit s'engager sur la bretelle pour sortir de l'autoroute... Pour avoir une école en intelligence artificielle digne de ce nom dans un pays, il faut cumuler trois facteurs : avoir des ingénieurs et des scientifiques, du matériel de calcul et des grands jeux de données pour pouvoir faire du calibrage", expose Cédric Villani.

Grands jeux de données : l'Europe distancée par les Etats-Unis

Les risques d'accaparement de ces technologies existent, et l'on peut dire sans risque d'erreur que sur ce terrain l'Europe ne fait pas la course en tête.

"Nous sommes tous très inégaux par rapport à ces trois ingrédients. Google peut payer un chercheur cinq fois plus cher que n'importe quel institut et lui permettre de continuer à travailler dans son pays. Pour la capacité de calcul, l'Europe est en retard de plusieurs dizaines de millions d'euros par rapport aux Etats-Unis, et enfin les plus grands jeux de données du monde se trouvent aux Etats-Unis et en Chine. Mais, temporise l'ancien patron de l'Institut Henri-Poincarré, nous assistons aujourd'hui à l'arrivée des données professionnelles et sur ce nouveau terrain le jeu est ouvert pour les Européens."

Jugeant que le modèle gaullien de développement de l'innovation est derrière nous, Cédric Villani en appelle à une politique éclairée de coopération entre public et privé. D'autant que pour lui la révolution de l'intelligence artificielle fonctionne quasiment à l'inverse de celle de la bombe atomique. Alors que dans le second cas il s'agissait d'une découverte fondamentale, de l'histoire d'une poignée de physiciens puis de l'affaire top secrète d'un gouvernement, l'intelligence artificielle porte sur les usages et se développe au contact du plus grand nombre.

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 04/09/2018 à 8:09 :
Il ne fallait pas mettre la bombe atomique en de mauvaise mains : les USA , peuple belliqueux et narcissique !
a écrit le 03/09/2018 à 23:05 :
La première chose à faire dans le cas de la Recherche publique est de sortir de nos petites politiques de clochers nationaux, et de monter des programmes pan-européens, en les appuyant sur des scientifiques dignes de ce nom, quelque soient leurs nationalités. Il suffirait de faire les nominations des chefs de projets, après définition des dits projets bien sûr, et de leur laisser libre choix dans la constitution de leurs équipes.. Les laissez pour compte n'auraient dès lors plus qu'à trouver un autre job, libérant ainsi des moyens bien nécessaires. Trop de chercheurs dans nos organismes publics ne méritent pas le support de la Nation.
a écrit le 03/09/2018 à 23:02 :
Super article et très intéressant sur la plan historique. Merci. La science, autrement dit la connaissance de la nature comme elle est en vérité, fait bien sûr partie du patrimoine de l'humanité et n'appartient à aucun gouvernement. Seul l'usage qui en est fait entre dans le champ de l'éthique. Mais qui peut aujourd'hui de façon sensée juger de son usage à Hiroshima? Cet événement est entré dans l'histoire et a profondément et définitivement modifié les comportements des gouvernements.
a écrit le 03/09/2018 à 20:26 :
Marronnier. Ce genre de questions se pose depuis que la science existe. Ces considérations sont déjà apparues avec les gaz de combat, la guerre bactériologique ou la mitrailleuse. Sans parler de la décision de s'en prendre aux populations civiles. Quant à la faisabilité de la bombe atomique il est étonnant que M. Villani ne sache pas que des brevets ont été déposés par l'équipe de Joliot Curie dès 1939. On peut se poser de très sérieuses questions d'éthique mais il ne faut pas tomber dans le sensationnel en citant tout et n'importe quoi, à tort et à travers.
Réponse de le 04/09/2018 à 16:16 :
Si effectivement Cédric Villani n’a pas abordé la question du dépôt en France en 1939 par l’équipe Joliot-Halban-Kowarski des brevets (via la Caisse nationale de recherche scientifique) qui décrivent avec précision le fonctionnement de la bombe atomique, indiquant jusqu’à la quantité d’uranium (en kilos) nécessaire pour provoquer une réaction en chaîne, le choix qu’il fait de retenir la mise au point de ce nouvel explosif est tout à fait défendable.

Le compte rendu de sa conférence que nous avons mis en ligne n’est pas un verbatim, et Cédric Villani dit bien que ce type de choc éthique a déjà eu lieu auparavant dans le passé et à plusieurs reprises. Mais il se trouve qu’avec la bombe atomique c’est la survie même de l’ensemble de l’humanité qui peut être remise en question en quelques fractions de secondes. Ce qui semble bien être un phénomène historique sans précédent.

Quant au brevet français de la bombe atomique, qui a été gardé secret pendant toute l’Occupation, son histoire mériterait sans doute un film.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :