La page VGpolitique (sur LinkedIn) propose des éléments de réflexion pour le débat public à ce sujet, ainsi que des éclaircissements techniques adressés au grand public, afin que chacun comprenne ce dont il est question et puisse ainsi participer aux discussions en connaissance de cause.

avoir 22 ans
être né dans un pays en paix
avoir monté sa boîte il y a 1 an,
construit une piscine, pour l’anniversaire de sa sœur
et mourir un samedi soir
écrabouillé contre un arbre

parce que la vie était un peu trop facile,
alors on n’a pas eu le temps de comprendre,
à quel point elle est fragile

il est déjà bien assez insupportable,
que d’autres jeunes,
pour échapper à l’enfer, de la Libye ou d’ailleurs
ne puissent que jeter leur vie à la Méditerranée,
sur des rafiots gonflables…

alors vous,
vous qui avez la chance de pouvoir danser vos vies,
je vous en supplie
ne jouez plus à cette roulette russe,
sur 4 roues.

votre vie est précieuse

prenez en soin
prenez en soin
prenez en soin

Since a bunch of plastic and electronic components beat go game champions, the world is shaken by a new hysterical¹ crisis about « Artificial Intelligence. » A peak of delirium has been reached when MEPs have advocated the creation of a special legal personality for robots². Why not a legal personality for bathroom carpets, while we’re at it ? Why not ? Some do consider them a serious deadly danger … How did we get here ???

Geluck – I say, Artificial Intelligence is good, unless it is to serve natural foolishness / nonsense / bullshitting

Initially, we have a term – intelligence – that is applied to machines by analogy to human beings, and then, with one thing leading to another, one would have us believe that what machines do better than humans, is intelligence ! Isn’t that a bit of an upside down world ???

What is it that machines can do ?

• Calculate very very quickly
• Store a very large number of information, that is to say representations of the world according to a certain formal modelling
• Find links between representations. Again, we must provide them with those representations.

New forms of world modelling, such as documents indexing to find an entire document based on keywords or graph databases that put forward implicit connections in a large number of data, have certainly allowed remarkable progress. Yet it is much more about the increase in processing speeds and the phenomenal increase in the volumes of storable and calculable data that recent progress are based on, because recent progress rely on statistics. If it’s often called statistical learning, it is by analagy again. Human learning is based on experience, which involves the whole body, whereas machine learning only involves calculations on provided representations.

Three points radically differentiate human intelligence and artificial so called « intelligence ».

Machines are incapable of modeling the world by themselves.

Wining a game of Go means being able to consider a very large number of possibilities and choose the best suited to counter the opponent’s game. It is only a computing power applied to a problem that is ultimately relatively simple for a computer, because it is purely rational. A computer can win a Go game because the rules of the game are modelizable. It is not at all to minimize the work and those who build automatic systems that perform more and more complex tasks. The difficulty lies in modeling the rules of the game so that they can be « learned » by a computer. AlphaGo and its fellow advanced systems are remarkable achievements, but put them in front of high school level math problem and they will not even « know »³ what it is about. While any child has in her what it takes to apprehend and then to solve the problem.

Machines have no sense of initiative.

No matter how good it is at playing Go game, it will not come to AlphaGo’s « idea »³ to learn Korean to better understand the strategy of his opponents nor to found a school to teach the Go game to children. For a machine’s field of action or competence to expanded beyond what was originally intended, a human intervention is necessary. Under these conditions, can we really speak of intelligence ??

Words have meaning. Artificial « intelligence » and machine « learning » are terms based on an analogy with human beings. Even if machines calculate much faster than we do, human « intelligence » and ability to « learn » are not reduced to what these machines can do. Yet the metaphoric use of the terms « intelligence » and « learning » is at the origin of a phantasmatic inflation fed by some sort of Geppetto complex and fascination⁴.

Machines do not have an emotional and sensitive body.

The conception of intelligence as a pure product of the brain that is reduced to a rational calculation is certainly widespread – probably in part because our elites are trained in schools where only this form of intelligence is developed and valued – but it is totally partial.
Isn’t the ability to decide an ethical or moral issue also part of what is called human intelligence? Same for the ability to create a solution in a situation that we have never encountered. So many situations in which the intelligence to which we appeal to is anchored in the whole of our experience as a sensitive human being.
Having said this, only two choices are possible: either you consider that human beings can be reduced to a fully calculable biological mechanics. In this case, it is still reasonable to consider that, given the entire human complexity that still eludes us, we are still very, very far from being able to reproduce it artificially in all its specificity. The other choice – which is mine – is to consider that human beings can not be reduced to a fully calculable mechanics, that in the human consciousness, something escapes. Consequently, whatever technical advances we make, artificial should always be considered essentially different to human in particular, and alive in general. Question of anthropological vision and ethical position…

Artificial grass – Do you really want my opinion ?

Without a prior understanding of what is meant by intelligence, debates on « Artificial Intelligence » are rapidly shifting to discussing the problems of overpopulation on Mars⁵… One can also ask what is the point of calling intelligence, what in fact is statistical calculations. I can see no explanation other than the quest for hype of involved industrials and researchers. It has the regrettable effect of confusing public debates on the subject. Most distressing is that such debates – relayed by those for whom shaking the red rag of fear raises the audience – obliterate the real questions raised by NT. Rather than worrying about a very, very, very hypothetical disappearance of the human / machine distinction, with SF scenarios of power-taking of machines, we would be much better advised to carefully observe the very very human choices and goals which guide the algorithms and very very current collections of all sorts of data …

Updated 5th jan 2018 and 7th May 2020

¹ By « hysterical » I mean that appears totally disproportionate to the reality of the situation. The previous crisis dates back to the 70s. It was followed by some kind of fatwa, in the late 90s and early 2000s when I was working on research in automatic speech recognition : the term IA was completely banned from the vocabulary of the researchers. Shame on the one who pronounced it, because it was associated with the megalomaniac ramblings of researchers who had lost themselves in promises more inspired by Science Fiction than real possibilities …

² Luckily advisers of the Republic keep their heads on their shoulders … Le CESE n’est pas favorable à la création d’une personnalité juridique pour les robots ou l’IA « CESE does not support the creation of a legal personality for robots or AI ».

³ Another metaphor here, right ? Computers do not know anything, they have no idea. Let’s not get confused by figures of speech…

⁴ Plus some small commercial interests, of course : Google, the owner of the DeepMind company that designed AlphaGo is not the number one search engine in Asia. In China and Korea, competition against AlphaGo have been seen by tens of millions of people … Intelligence artificielle : les leçons d’une victoire« Artificial Intelligence: Lessons of a Victory »

⁵ « Fearing a rise of killer robots is like worrying about overpopulation on Mars » Andrew Ng, quoted by Dominique Cardon on 19 January 2017 during the public hearing of the Parliamentary Office for the Evaluation of Scientific and Technological Choices, devoted to AI. La courte intervention de Dominique Cardon, très éclairante sur le sujet à 11:57:45.

Initially written in French, the French version of this article contains references in French

Depuis qu’un ramassis de plastique et de composants électroniques a battu des champions au jeu de go, le monde est secoué d’une nouvelle crise hystérique¹ au sujet de l’ « intelligence artificielle ». Un pic de délire a été atteint lorsque des députés européens ont préconisés la création d’une personnalité juridique spéciale pour les robots². Et pourquoi pas une personnalité juridique pour les tapis de salle de bain, tant qu’on y est ? Mais si ! puisque certains les considèrent comme un grave danger mortel… Comment en sommes nous arrivés là ???

Geluck

Au départ, nous avons un terme – intelligence – qui est appliqué aux machines par analogie à l’humain³ et puis, de fils en aiguille, on voudrait nous faire croire que finalement, ce que les machines font mieux que l’humain, c’est de l’intelligence… !!! Ce serait pas un peu le monde à l’envers là ???

Que savent faire les machines ?

• calculer très très très vite
• stocker un très grand nombre d’informations, c’est-à-dire des représentations du monde selon une certaine modélisation formelle.
• trouver des liens entre des représentations. Là aussi, il faut leur fournir les représentations.

De nouvelles formes de modélisation, comme l’indexation de documents qui permet de trouver tout un document à partir de mots clés ou bien les bases de données en graphe qui mettent en évidence des connections entre un grand nombre de données ont certes permis des avancées remarquables. Pourtant, c’est bien plus sur l’augmentation des vitesses de traitements et l’augmentation phénoménale des volumes de données stockables et calculables que sont basés les récents progrès, car ils s’appuient sur des statistiques. Si on parle souvent d’« apprentissage » statistique, c’est encore une fois par analogie : là où, pour apprendre, l’humain fait intervenir son expérience et donc tout son corps, pour les machines, il ne s’agit que de calculs, c’est-à-dire de traitements sur des représentations qui lui sont fournies !

Trois points qui différencient radicalement l’intelligence humaine et la dites « intelligence » artificielle.

Les machines sont incapables de modéliser elles-mêmes le monde.

Gagner au jeu de go, c’est être capable d’envisager un très grand nombre de possibilités et de choisir la mieux adaptée pour contrer le jeu de l’adversaire. Ce n’est qu’une puissance de calcul appliquée à un problème finalement relativement simple pour un ordinateur, parce que purement rationnel. Un ordinateur peut gagner au go parce que les règles du jeu sont modélisables. Il ne s’agit pas du tout de minimiser le travail et de ceux qui réalisent des systèmes automatiques qui effectuent des tâches de plus en plus complexes. Toute la difficulté réside justement à modéliser les règles du jeu de sorte qu’elles puissent être « apprises » à un ordinateur. AlphaGo et ses congénères sont de remarquables réalisations, mais mettez les donc devant un problème de math de niveau 6e : ils ne « sauront⁴ » même pas de quoi il s’agit, alors que n’importe quel enfant a en lui ce qui va lui permettre d’appréhender puis résoudre le problème..

Les machines n’ont aucun sens de l’initiative.

Aussi fortiche soit-il pour jouer au jeu de go, il ne viendra pas à l’ « idée⁴ » d’AlphaGo d’apprendre le coréen pour mieux comprendre la stratégie de ses adversaires, ni de fonder une école pour enseigner le jeu de GO aux enfants. Pour qu’une machine élargisse sont champ d’action ou de compétence au-delà de ce qui a été prévu au départ, il faut nécessairement l’intervention d’un humain. Dans ces conditions, peut-on vraiment parler d’intelligence ??

Les mots ont un sens. L’ « intelligence » artificiel et l’ « apprentissage » machine sont des termes basés sur une analogie avec l’humain. Même si les machines font certains calculs beaucoup plus rapidement que nous, l’ « intelligence » et la capacité d’ « apprentissage » de l’humain ne se réduisent pas à ce que font ces machines. Pourtant, l’utilisation métaphorique des termes « intelligence » et « apprentissage » est à l’origine d’une inflation fantasmatique nourrie d’une sorte de complexe de Geppetto des uns et de la fascination des autres⁵.

Les machines n’ont pas de corps émotionnel et sensible.

La conception de l’intelligence comme pur produit du cerveau et réduite à un calcul rationnel est certes répandue dans le monde occidental où elle perdure, sans doute en partie parce que nos élites sont formées dans des Grandes Ecoles où on ne développe et valorise que cette forme d’intelligence, mais elle est totalement partielle !
Est-ce que la capacité à trancher une question éthique ou morale ne fait pas partie de ce que l’on appelle l’intelligence ? Idem pour la capacité à créer une solution dans une situation que l’on a jamais rencontré. Autant de situations dans lesquelles l’intelligence à laquelle nous faisons appel est ancrée dans l’ensemble de notre vécu d’être humain sensible.
A partir de ce constat, deux choix sont possibles : soit vous considérez que l’humain peut être réduit à une mécanique biologique totalement calculable. Dans ce cas, il est tout de même raisonnable de constater qu’étant donnés les pans entiers de la complexité humaine qui nous échappent encore, nous sommes encore très, très, très loin de pouvoir la reproduire artificiellement dans toute sa spécificité. L’autre choix – qui est le mien – est de considérer que l’humain est irréductible à une mécanique entièrement calculable, que dans la conscience humaine, quelque chose échappe et que par conséquent, quels que soient les progrès techniques que nous accomplirons, l’artificiel doit être considéré comme essentiellement différent du vivant en général et de l’humain en particulier. Question de vision anthropologique et de position éthique…

Sans une mise au point préalable sur ce que l’on entend par intelligence, les débats sur l’ « Intelligence Artificielle » dévient rapidement vers ce qui revient à se préoccuper des problèmes de surpopulation sur mars⁶… On peut d’ailleurs se demander à quoi bon appeler intelligence, ce qui dans les faits n’est que du calcul statistique. Je ne vois pas d’autre explication qu’une tendance à la course au hype de la part des industriels et des chercheurs concernés. Cela a pour regrettable effet d’embrouiller les débats publics sur le sujet. Le plus désolant est que de tels débats – relayés par ceux pour qui agiter le chiffon rouge de la peur fait monter les audiences – oblitèrent les vraies questions que posent le numérique. Plutôt que de s’inquiéter d’une très très très hypothétique disparition de la distinction humain / machine, avec scénarios SF de prise de pouvoir des machines, nous serions bien mieux avisés d‘observer attentivement quels sont les choix et les objectifs très très humains qui orientent les algorithmes et les collectes très très actuelles de données…

25 juin 2017, Mis à jour le 6 janv 2018, le 28 janv 2019 et le 7 mai 2020

Pour aller plus loin

• à 11:57:45, la courte intervention de Dominique Cardon, le 19 janvier 2017 lors de l’audition publique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques consacrée à l’IA..
• 4 aout 2017Démythifier l’intelligence artificielle et ses prédictions apocalyptiques, France Culture, Les Discussions du soir, 22 juillet 2017
• 4 aout 2017Intelligence artificielle : pourquoi il faut différencier la réalité de la fiction, Usine Digitale, 2 août 2017
• Consultation publique sur l’IA, dec 2017-janv 2018, dans le cadre de la mission Villani, mes contributions sous le pseudo v2belleville
• Le père de Siri et celui de M for Messenger dézinguent la hype autour de l’intelligence artificielle, 28 avril 2017 trouvé le 6 janv 2018 et ajouté ici parce que ça fait du bien de voir qu’il y a des pros du domaine qui ne disent pas n’importe quoi …
• si vraiment vous n’êtes toujours pas convaincu -> “L’intelligence artificielle n’existe pas” : interview de Luc Julia, le cocréateur de Siri, à propos de son livre éponyme, par Anne Cagan, 24 janv 2019

¹ Par « hystérique » je veux dire totalement disproportionnée par rapport à la réalité de la situation. La précédente crise date des années 70s. Elle a été suivie d’une sorte de fatwa qui fin des années 90 – début 2000, lorsque je travaillais en recherche sur la reconnaissance automatique de la parole avait totalement banni le terme IA du vocabulaire des chercheurs : honte à celui qui prononçait alors ce terme tant il était associé aux divagations mégalomanes de chercheurs qui s’étaient perdus dans des promesses plus inspirées par la sciences fiction que par les possibilités réelles…

² Par chance, des conseillers de la République gardent la tête sur les épaules … Le CESE n’est pas favorable à la création d’une personnalité juridique pour les robots ou l’IA.

³ D’après le dictionnaire Larousse, l’intelligence artificielle est l’ « Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine ». On a bien dit simuler… Par définition, l’IA N’EST PAS de l’intelligence, juste un dispositif qui en reproduit la forme. Yes ?

⁴ Une autre métaphore ok ? Les ordinateurs n’ont pas d’idées, ils ne savent rien. Ne nous laissons pas embrouiller par les analogies…

⁵ A quoi il faut évidement ajouter quelques petits intérêts commerciaux : Google, propriétaire de la société DeepMind qui a conçu AlphaGo n’est pas le moteur de recherche numéro un en Asie. Or en Chine et en Corée, les matchs contre AlphaGo ont été vus par des dizaines de millions de personnes … Intelligence artificielle : les leçons d’une victoire

⁶ « Fearing a rise of killer robots is like worrying about overpopulation on Mars » Andrew Ng cité par Dominique Cardon le 19 janvier 2017 lors de l’audition publique de l’Office parlementaire d’évaluation des choix scientifiques et technologiques consacrée à l’IA. La courte intervention de Dominique Cardon, très éclairante sur le sujet à 11:57:45.

A chaque instant, « je » est le résultat de la myriade de choix que nous avons faits à l’intérieur des possibles induits par notre environnement.

Bon, sérieusement. Est-ce qu’il n’est pas plus raisonnable de penser que le savoir humain n’est jamais absolu et que le savoir objectif, malgré tous les progrès qu’il a permis ne sait pas tout de ce qui est humain ???

Parce qu’en parlant de conneries, il y en a une qui est régulièrement proférée par des gens néanmoins intelligent. Suivez mon regard : Max Bird – IDÉE REÇUE #24 : L’homosexualité est contre-nature ?. La dite connerie** c’est : « Ce truc qu’on a observé chez les souris, c’est sûr, c’est tout pareil pour les humains ». Ben voyons … Faites donc l’expérience suivante : prenez le premier enfant de 5 ans qui vous tombe sous la main et demandez lui « Qu’est ce qui est différent entre une souris et un humain, qu’est ce qu’un humain peut faire qu’une souris ne fait pas ? ». Je vous fiche mon billet qu’elle vous répondra … elle vous répondra… ??… « L’humain parle ! » Ben oui, bon sang ! Nous sommes dans le langage comme des poissons dans l’eau ! C’est d’ailleurs sans doute pourquoi nous finissons par oublier qu’il existe. Et vous croyez vraiment que les poissons auraient des nageoires s’ils ne vivaient pas dans l’eau (ou inversement…) ?

La biologie c’est bien, mais ce n’est pas tout ! 6 juin 2017 suite à la lecture de l’article de O. Fillod qui explique qu’en fait cette corrélation n’est pas toujours observée**En admettant que l’on trouve une corrélation entre un pic de machinstérone et l’homosexualité, pourquoi faudrait-il en déduire que l’homosexualité est déterminée uniquement par ce facteur / cette manifestation biologique ?. Pour prouver que c’est naturel ? Et que donc les homosexuels n’ont pas le choix * ? Et que donc ta gueule les discours homophobes ou discriminants ? Alors déjà, pourquoi est-ce que naturel ça voudrait dire uniquement biologique ? Et la parole, c’est pas naturel, peut-être ? Sans compter que c’est le seul truc que tous les humains font et que les animaux ne font pas (à un degré aussi développé en tout cas) et ce serait juste un hasard ? Cela n’aurait aucun effet sur nous ?… Ben voyons …

Mais surtout, il faut bien réaliser qu’essayer de prouver qu’il n’y a aucune part de choix* dans l’homosexualité, pour faire accepter l’homosexualité, c’est très cher payer le fait que certains n’arrivent pas à accepter la différence. A ce compte là,

La science qui par construction s’emploie à neutraliser tout ce qui relève du subjectif ne peut pas et ne doit pas être convoquée pour justifier des choix* subjectifs

Par définition, la science est une méthode pour acquérir un savoir objectif. Point barre. Lui conférer un statut phylosophico-idéologique en impliquant qu’elle pourrait décrire une vision anthropologique, c’est dangereux ! L’humain n’est pas définissable uniquement par un savoir objectif. Une pratique qui par construction s’emploie à neutraliser tout ce qui relève du subjectif ne peut pas et ne doit pas être convoquée pour justifier des choix* subjectifs, sinon, on passe de la science au scientisme !

Certes, dans nos civilisations occidentales, l’omniprésence de la science fini par en faire une idéologie dans laquelle science et scientifiques seraient censés détenir un savoir équivalent à une vérité absolue. Soyons sérieux ! Maintenons la science à sa place et pensons également la complexité de l’humain avec d’autres types de discours, afin d’éviter que les dérives scientistes ne fassent autant de dégâts que la science n’a apporté de progrès !

Au commencement, c’était Dieu qui savait tout, maintenant ce serait la science qui devrait tout savoir ? Ce n’est pas la science qui sait vos préférences sexuelles ! C’est vous ! C’est le sujet ! Imaginez les dérives possibles si on considère que le dit pic de machinstérone détermine de manière absolue l’orientation sexuelle. Dans ce cas, qu’est-ce qui empêche ceux à qui cette différence fait peur de créer des centre de rééducation dans lequel ils mettraient les bébés avec le fameux pic de machinstérone dès la naissance, pour les « rectifier » ?!?

Nous sommes fortement influencés par des facteurs biologiques, genetiques, familiaux, sociaux et culturels, mais nous avons toujours une part de choix*

Il en est de la sexualité comme de tout ce qui est humain : nous sommes fortement influencés par des facteurs biologiques, génétiques, familiaux, sociaux et culturels, mais nous avons toujours une part de choix*. C’est cette part de choix subjectif qu’il faut défendre avant tout ! Soutenir qu’il n’y a aucun choix dans le fait de pratiquer, exclusivement ou non, l’homosexualité, c’est soutenir une vision mécaniste de l’humain. Chacun a la vision anthropologique qu’il veut, mais il faut être conscient que celle-ci implique qu’il n’y aurait aucune différence entre un robot et nous !

Dans le monde où nous vivons, il est certes bien tentant d’en appeler à la science, pour profiter, consciemment ou non du statut de savoir absolu que certains lui confèrent, et ainsi tenter de fermer définitivement le clapet à ceux qui soutiennent l’insoutenable, mais c’est trahir ce qu’est vraiment la science que de l’utiliser ainsi, pour profiter d’un statut d’idéologie qu’elle ne devrait pas avoir.

S’il est évident que l’homosexualité ne devrait poser de problème à personne, c’est justement parce que c’est un choix subjectif et que, pour le dire explicitement : chacun fait ce qu’il veut avec son cul ! Ce n’est pas plus compliqué que cela. Pour certains c’est l’hétérosexualité qui s’impose comme une évidence, pour d’autres c’est l’homosexualité, et certains choisissent de ne pas choisir…

La liberté de choix* est une part de la subjectivité qu’il s’agit de protéger. D’une part en acceptant celle de l’autre, mais ce n’est même pas toujours une mince affaire que d’accepter et assumer sa propre subjectivité, c’est à dire être capable d’assumer un choix ou une inclinaison subjective, simplement parce que c’est mon choix ou parce que cela fait partie de ce que je suis, sans pour cela avoir besoin de s’appuyer sur un discours objectif qui viendrait le justifier. Etre humain, c’est-à-dire être sujet, c’est pouvoir affirmer quelque chose parce que « je » le sait. Un point c’est tout. C’est ce que font, de tous temps, les combattants de la liberté, comme par exemple ceux qui assument simplement leur sexualité, sans pour cela avoir besoin de recourir à un discours scientiste.

« Vas vers ton risque, à te regarder, ils s’habitueront. » René Char

D’après le Pape, le gars d’il y a 2000 ans disait « aime ton prochain comme toi même ». Ce qui est écrit plus haut est finalement assez proche… Comme quoi, chaque discours peut comporter à la fois des conneries en barre et des morceaux de vérités …