Pour Axel Kahn l’intelligence artificielle atteint un seuil critique

 |  | 1062 mots
Axel Kahn à l'hôtel de région de Nouvelle-Aquitaine.
Axel Kahn à l'hôtel de région de Nouvelle-Aquitaine. (Crédits : J. Philippe Déjean)
Très intimidé par les "machines à penser", l’homo sapiens va avoir du mal à faire face à l’explosion de l’intelligence artificielle d’autant que, de son côté, il ne cache plus grand-chose de sa vie privée aux cyber-machines du monde virtuel. C’est une partie du diagnostic délivré hier à Bordeaux par le généticien Axel Kahn, qui est aussi un intellectuel bien connu pour son engagement dans les questions de bioéthique.

Axel Kahn, médecin, généticien, président honoraire de l'université Paris-Descartes, mais aussi intellectuel très connu pour ses interventions sur les questions de bioéthique, était hier en fin de journée dans l'hémicycle de l'hôtel de région Nouvelle-Aquitaine, à Bordeaux, où il a participé à une conférence-débat intitulée "Du cerveau au robot - Quelle éthique à l'ère de l'intelligence artificielle ?". Cette rencontre, animée par Bernard Broustet, était organisée par la Ligue des droits de l'Homme (LDH) Aquitaine et l'Espace réflexion éthique Nouvelle-Aquitaine (Erea).

Elle s'inscrivait dans le cadre des Etats généraux 2018 de la bioéthique et s'est déroulée en présence de Jean-Claude Guicheney, délégué régional de la LDH Aquitaine, Dominique Guibert, secrétaire général de la LDH France, et Bernard Bioulac, président d'Ere Nouvelle-Aquitaine, membre de l'Académie nationale de médecine, ex-président du Conseil général de la Dordogne.

L'IA pas tout à fait dans la bioéthique

"Mon engagement dans l'élaboration des lois de bioéthique est très ancien et remonte à 1988, j'ai été commissaire du gouvernement à l'occasion des trois révisions" a rappelé Axel Kahn. La loi de bioéthique de 2011 sur laquelle a travaillé le généticien résulte ainsi de la révision de la loi de bioéthique de 2004, qui a notamment interdit le clonage reproductif ou thérapeutique.

Rappelons que la dernière consultation organisée par le Comité consultatif national d'éthique (CCNE) s'est officiellement achevée le 30 avril dernier et qu'elle doit in fine nourrir la réflexion des parlementaires et ministres en vue de l'élaboration de la future loi bioéthique. La consultation lancée dans le cadre des Etats généraux de la bioéthique s'est appuyée sur un site Internet dédié, les débats organisés en région, les auditions, et le comité citoyen. Formé de "22 personnes représentatives" ce dernier a mis au menu deux grandes questions d'actualité : "Fin de vie et suicide assisté", "Génomique en population générale".

L'Homme intimidé par les "machines à penser"

"2018, cela fait sept ans après 2011 et les problèmes liés à l'intelligence artificielle ne seront pas considérablement abordés dans le cadre de la prochaine révision de la loi car il ne s'agit pas de questions de bioéthique stricto sensu. Pour résumer, rappelons tout d'abord que ce problème majeur de l'intelligence artificielle traite des relations de l'Homme avec ses outils : une vieille thématique. Dès l'origine l'Homme fabrique des outils, c'est l'homo faber. Nous sommes très intimidés par les performances de la machine, par la capacité d'une chaîne d'embouteillage, la vitesse d'une voiture, l'aptitude d'un avion à décoller... A partir de l'invention du premier boulier, l'Homme a commencé à fabriquer des machines à penser. Etre intimidé par une voiture, une embouteilleuse ou un avion ce n'est pas grave... Mais être intimidé par des machines à penser c'est très différent, ça peut devenir grave pour l'humanité" a recadré Axel Kahn.

Si le changement de paradigme en cours vient de loin, il semble atteindre désormais un seuil critique pour l'humanité. C'est sous cet angle que l'essayiste a abordé la question de l'intelligence artificielle.

Quelle place restera-t-il pour "l'agir humain" ?

"L'intelligence artificielle c'est le big data, la capacité à stocker d'énormes quantités de données, l'algorithme pour exploiter cette ressource, la robotique, et l'intelligence artificielle proprement dite. Ensuite nous n'avons plus qu'à imaginer les performances qu'atteindra l'intelligence artificielle d'ici dix ans. Sachant par exemple qu'un système expert peut sans doute déjà délivrer des diagnostics médicaux plus fiables qu'un médecin. Dans ce contexte, quelle place laissera l'évolution de l'intelligence artificielle à un agir proprement humain ?" a questionné Axel Kahn.

Tout ceci avant de revenir à la question de savoir si le début du cauchemar orwellien de "1984", dans lequel le tout puissant "Big Brother" surveille tout le monde, a commencé ou s'il n'est encore qu'une probabilité.

Internet détecte les épidémies avant tout le monde

"Nous assistons à l'implosion de la vie individuelle. La vie privée a complètement changé de définition, son étanchéité appartient au passé, et c'est ce monde qui va s'établir. Cela se passe de deux manières. Tout d'abord avec la numérisation des données de santé. La Commission nationale de l'informatique et des libertés, la CNIL, a déployé beaucoup d'efforts pour crypter, protéger les données de santé mais aucun code n'est inviolable. Tout le monde le sait. Protéger les citoyens va devenir difficile. Mais il y a plus pervers encore. Une grande partie de ce qui peut être transformé en données n'est protégé par aucun code. Il suffit de suivre le comportement des internautes. On est désormais capable de détecter le début d'une nouvelle épidémie avant même que les centres de contrôle soient au courant. Il suffit juste pour cela d'analyser le comportement des gens connectés ! Si la machine sait mieux que vous ce que vous allez vouloir, que reste-t-il ? La dictature de "Big Brother" avait besoin d'espions. Nous sommes devenus nos propres "Big Brother", parce que nous dévoilons notre intimité volontairement" a déroulé Axel Kahn, évoquant les comportements sur Internet et les réseaux sociaux.

La loi pour retarder l'inévitable ?

L'essayiste ne pense pas pour autant que les médecins soient appelés à disparaître ou que, dans sa plus large acception, l'Homme ait perdu le combat contre "les machines à penser". Dans tous les cas ce ne sera pas facile et son pronostic est très réservé, parce que la notion d'inévitable, qu'il a mis sur le tapis sans vraiment la développer, va se nourrir de tropismes parfois faciles à deviner, comme la tentation des compagnies d'assurance à accumuler des informations personnelles sur leurs futurs assurés pour optimiser les bénéfices.

La Ligue des droits de l'Homme n'était pas présente pour rien puisque la loi est appelée à jouer un rôle croissant pour protéger les citoyens contre ce type de menace. Pour autant Axel Kahn est bien convaincu que l'histoire des "machines à penser" connait une avancée que l'on pourra freiner mais sûrement pas stopper.

Réagir

Votre email ne sera pas affiché publiquement
Tous les champs sont obligatoires

Commentaires
a écrit le 15/06/2019 à 0:01 :
Pr Axel Kahn, votre thèse selon laquelle, l'avenir de l'humanité doit appartenir à l'éthique, quel rapport épistémologique voulez-vous entre la science et l'éthique? L'éthique peut-elle sauver l'humanité du nihilisme et de la mort? Comment doit se faire le progrès scientifique, si les scientifiques prennent le progrès comme une fin en soi? L'éthique peut-elle empêcher l'évolution spectaculaire de la science ?
a écrit le 25/05/2018 à 11:00 :
Réponse à "Wiji" du 19/05/2018 à 14:46
Sur la forme :
Au moins vous ne risquez pas de vous faire reconnaître avec votre pseudo.
Dommage car vous semblez connaître du sujet.
En ce qui me concerne, je m'affiche en toute franchise et non de manière artificielle.

Sur le fond :
Je vous rappelle que mon propos tenait à contredire Axel KAHN sur le fait qu'un robot puisse être intelligent et penser.
Vous venez m'apporter la preuve des raisons de mon action.
Vous confirmez que les "réseaux de neurones" donnent des résultats plus ou moins bons, ils donnent donc des résultats (mathématique) et non le fruit d'une recherche personnelle. Leurs imprévisibilités confirment d'autant plus qu'il ne s'agit pas d'une réflexion. Le fait que ce ne soit pas calculable par l'être humain, confirme encore mes dires, mais importe peu car l'être humain ne peut enregistrer autant de données que la mémoire d'un robot. De ce fait, l'humain ne peut calculer ni autant, ni aussi vite. C'est par ce biais que le robot peut gagner aux jeux (d'échecs, de Go ou autres) car il sera corrigé sur les erreurs qu'il aura faites mais corrigées par l'être humain et non par lui-même comme se corrige seul un être humain sur les erreurs qu'il peut faire. Ces corrections amènent inévitablement à ce que le robot gagne contre l'être humain car il saura toujours ce qu'il ne faut pas faire, à défaut de savoir ce qu'il faut faire exactement sur toutes les possibilités (occurrences dites vous) qui s'offrent à lui.
Aussi, par son manque de mémoire en rapport avec celle du robot, l'homme sera toujours surpris des résultats de ce dernier. Ce n'est pas pour autant que cela relève de la pensée mais seulement d'une mathématique algorithmique.
Cela amène le robot à n'effectuer que des tâches, je le rappelle, et non des recherches.
a écrit le 22/05/2018 à 20:56 :
On jette l'ordi à la poubelle, le portable idem. Direction le Larzac ou NDL ,on se déconnecte
de partout . Retour dans le temps, après tout, Christophe Colomb ne pensait-il pas que la terre était plate et qu'après la ligne d'horizon, les vaisseaux risquaient de tomber dans le vide?
a écrit le 22/05/2018 à 17:25 :
Le vrai enjeu : que l'intelligence artificielle compense au moins la c...nerie artificielle.
Ce n'est pas gagné, mais c'est bien d'y travailler en tous cas.
a écrit le 22/05/2018 à 10:21 :
C'est toujours pareil, avec des propriétaires d'outil de production éclairés nous ne risquerions quasiment rien mais hélas ils nous démontrent surtout être arriérés du coup en effet on ne peut que s'inquiéter.
a écrit le 18/05/2018 à 18:11 :
Axel Kahn soutient qu'un robot puisse être intelligent et aussi penser, du seul fait qu'il puisse créer de la nouveauté.
Il l'a dit et soutenu usant, de manière têtue, de sa position dominante.
Seulement, un robot ou une machine ont des programmes intégrés issus de logiciels et d'algorithmes qui lui indiquent, par formules mathématiques, les taches à réaliser et ne peut en aucun cas fournir de l'intelligence.
D'ailleurs une formule mathématique n'est pas brevetable donc ne peut être générée par de l'activité inventive que seul l'être humain peut produire.
Réponse de le 19/05/2018 à 14:46 :
Je pense que vous ne mesurez pas réellement comment fonctionne les réseaux de neurones. Ils sont certes programmés à l’origine, mais leur adaptation est ensuite imprévisible car non calculable par l’etre Humain. C’est en cela que l’ia pose un problème. Déjà en informatique classique déterministe, il y a des bugs parce que les programmeurs ne sont pas forcément capables de connaître toutes les occurrences possibles. Avec les réseaux de neurones qui font de l’apprentissage, la multitude des configurations n’est pas imaginable: on sait qu’ils donnent des résultats plus ou moins bons, mais on ne sait pas à la fin comment et surtout on ne connaît pas tous les résultats potentiels.

Merci pour votre commentaire. Il sera visible prochainement sous réserve de validation.

 a le à :