Intelligence artificielle : le débat choc et inédit Harari-Le Cun

La rencontre proposée par Le Point et réalisée en visioconférence entre New York et Jérusalem a permis au directeur de la recherche fondamentale en IA chez Meta, par ailleurs Prix Turing, l’équivalent du prix Nobel en informatique, et auteur de Quand la machine apprend (Odile Jacob), et à celui qui a signé les best-sellers Sapiens. Une brève histoire de l’humanité et 21 Leçons pour le XXIe siècle(Albin Michel) de confronter leurs points de vue sur les promesses, les dangers et l’avenir de l’IA. Spoiler : nous n’avons pas réussi à les mettre d’accord.

Le Point : Commençons par le plus important : quelle est votre définition de l’intelligence ?

Yann Le Cun : L’intelligence, c’est être capable de percevoir une situation, puis de planifier une séquence d’actions et d’agir pour atteindre un but.

Yuval Noah Harari : L’intelligence est la capacité à résoudre des problèmes. Les humains qui découvrent comment aller sur la Lune tout comme les organismes unicellulaires en quête de nourriture font preuve d’intelligence. Ce n’est pas la même chose que la conscience. Chez l’homme, elles sont mélangées. La conscience est la capacité de ressentir la douleur, le plaisir, l’amour, la haine. Les humains utilisent parfois la conscience pour résoudre des problèmes, mais de nombreux organismes, comme les plantes et les micro-organismes, en résolvent sans avoir de conscience. Les machines aussi peuvent être intelligentes et résoudre des problèmes sans avoir de sentiments.

Yann Le Cun : Pas encore, mais cela arrivera.

Une machine intelligente, dotée de sentiments, vraiment ? Mais à quelle échéance ?

Yann Le Cun : C’est très difficile de dire combien de temps cela prendra. Mais il ne fait aucun doute pour moi qu’il y aura des machines au moins aussi intelligentes que les humains. Et, si elles ont la capacité de fixer des objectifs, elles auront aussi un équivalent de nos sentiments humains, car très souvent les émotions ne sont qu’une anticipation des résultats. Pour planifier, il faut pouvoir anticiper si le résultat sera bon ou mauvais, et c’est l’une des principales causes des émotions. En tant qu’humains, si nous prévoyons qu’une situation risque d’être dangereuse, nous ressentons de la peur, ce qui nous incite à explorer différentes options pour échapper à la situation dangereuse. Si les machines peuvent le faire, elles auront des émotions.

Mais on est, semble-t-il, encore bien loin de la machine consciente, qui avait été évoquée par le mathématicien britannique Alan Turing dès les années 1950…

Yuval Noah Harari : C’est possible, mais pas inévitable. La conscience est la capacité d’éprouver des sentiments, il est donc tout à fait possible que les machines acquièrent une conscience. Mais elles pourraient aussi progresser selon un mode d’évolution différent, développer d’autres types d’intelligence, supérieurs à l’intelligence humaine, qui n’impliquent aucun sentiment. C’est déjà le cas dans des domaines limités comme les échecs ou le jeu de go. AlphaGo [le logiciel mis au point par DeepMind et qui a battu en 2016 à Séoul le joueur Lee Sedol, considéré comme un des meilleurs du monde, NDLR] ne ressent pas de joie lorsqu’il gagne la partie, et pourtant il est plus intelligent que les humains à ce jeu. Avec une intelligence artificielle générale, notre intelligence pourrait être dépassée de loin par des machines sans émotion.

Yann Le Cun : Il y aura certainement beaucoup de systèmes que nous qualifierons d’intelligents. Il en existe déjà, par exemple un joueur de go ou même un système de conduite automatique. Ils n’ont pas d’émotions mais, en fin de compte, si l’on veut qu’ils acquièrent un certain niveau d’autonomie et travaillent en essayant de satisfaire un objectif, alors on les dotera probablement d’un équivalent d’émotions, parce qu’ils devront être capables de prédire quel sera le résultat d’une séquence particulière d’actions.

ChatGPT, qui s’approprie notre langue, si essentielle dans le contrat social, est-il périlleux ?

Yann Le Cun : Je ne pense pas que ce robot conversationnel soit dangereux pour le moment. Il pourrait le devenir s’il est conçu de manière fermée, à l’abri de tous les regards. Le moyen de progresser avec les grands modèles de langage est de les rendre ouverts, open source. C’est une bonne idée du point de vue économique, mais aussi du point de vue de la sécurité et de la recherche. Mais imaginons un avenir où l’on puisse tous avoir un agent intelligent sous notre contrôle : c’est comme si, tout à coup, une équipe de personnes plus intelligentes que nous travaillait sous nos ordres, pour nous rendre plus efficaces, productifs et créatifs. Nous nous adresserons à ces agents intelligents de manière très naturelle, comme dans le film Her. En tant qu’ancien directeur industriel et professeur d’université, j’essaie de ne travailler qu’avec des personnes plus intelligentes que moi. C’est donc un bon moyen de réussir. On ne devrait donc pas se sentir menacé par ça, mais renforcé. C’est le début d’une Renaissance, une nouvelle ère des Lumières.

Yuval Noah Harari : La question est de savoir entre les mains de qui elle se trouve. Ça peut être merveilleux mais, si l’IA tombe entre de mauvaises mains, elle peut aussi détruire la démocratie. La source de la démocratie est la conversation entre les personnes et, s’il existe ces agents capables de tenir une conversation mieux que n’importe quel humain, déployés au service d’acteurs irresponsables, un scénario catastrophe peut se dessiner. Si la conversation entre les personnes est piratée ou détournée, ce que l’IA est maintenant tout à fait capable de faire, cela détruira les fondements du système démocratique. Et, tout comme nous avons assisté à une course à l’attention sur les réseaux sociaux il y a dix ans, on a maintenant affaire à une course à l’intimité ; or l’intimité est beaucoup plus puissante que l’attention. Si vous pouvez faire en sorte que quelqu’un fasse confiance à votre IA, vous devenez surpuissant. Plus besoin de faire vos recherches sur Google (c’est pour cela que Google a peur), vous demandez à votre IA. Plus besoin de journaux, votre IA pourra vous donner les actualités ! Peut-être que, dans 95 % des cas, elle sert vos intérêts, ce qui vous permet de lui faire confiance et de créer un lien très étroit avec elle. Et puis, de temps en temps, elle oriente vos opinions politiques dans la direction qui lui a été donnée par les personnes qui l’ont conçue. Ce que nous avons vu avec les algorithmes de recommandation n’est rien comparé au pouvoir de ces IA de changer l’opinion des gens, depuis les produits à acheter jusqu’aux politiciens pour lesquels voter.

Est-il plus dangereux d’avoir un assistant intelligent qui donne 95 % de bons conseils qu’un assistant qui multiplie les « hallucinations » [le terme utilisé par les scientifiques à propos des déclarations de machines sans prise avec le réel, NDLR] ?

Yann Le Cun : Les systèmes actuels sont de très bons assistants à l’écriture, mais pas des sources d’information fiables. Au cours des deux à cinq prochaines années, la conception du système va faire des progrès pour créer des IA plus factuelles. À terme, ces systèmes seront plus fiables que n’importe quel autre moyen de recherche d’informations. Prenons la conduite autonome : actuellement, les systèmes d’aide à la conduite sont assez fiables sur l’autoroute, mais pas partout, et vous êtes censé garder les mains sur le volant à tout moment. Avec les modèles linguistiques autorégressifs, vous êtes censé garder vos mains sur le clavier à tout moment parce qu’ils pourraient dire des choses stupides. Ils n’ont pas de bon sens, même s’ils ont accumulé une énorme quantité de connaissances et qu’ils peuvent les régurgiter. Mais ce sera comme pour les voitures : les gens accepteront des voitures complètement autonomes lorsqu’elles seront nettement plus fiables que les humains.

Avec des outils toujours plus autonomes, n’y a-t-il pas un risque de voir se développer un monde où l’être humain abandonne tout son pouvoir de décision à la machine ?

Yann Le Cun : Nous vivons déjà dans un monde où la plupart des décisions sont prises par des machines. Ce ne sont pas des décisions très importantes. Mais, lorsque vous faites une recherche sur un moteur de recherche, l’ordre des informations présentées est déjà déterminé par des algorithmes. Si vous discutez avec vos amis qui parlent une autre langue sur les réseaux sociaux, c’est traduit imparfaitement, mais c’est utile. Chaque outil peut être utilisé pour de bonnes et de mauvaises fins. On peut se servir d’un couteau pour cuisiner comme pour tuer. In fine, ce sont toujours les utilisateurs qui déterminent ce que font les algorithmes car ces algorithmes s’adaptent automatiquement en fonction des desiderata des utilisateurs.

Yuval Noah Harari : Un couteau ne peut pas décider de tuer quelqu’un ou de sauver une vie lors d’une opération chirurgicale. La décision est toujours entre les mains de l’homme. L’IA est le premier outil qui peut nous remplacer dans la prise de décision. Et nous ne sommes pas à l’abri de ne pas faire les bons choix. Nous avons commis de terribles erreurs et avons raté des expériences. Le nazisme et le communisme ont été des expériences ratées. Les deux guerres mondiales ont été de terribles erreurs. Après avoir détruit la vie de centaines de millions de personnes, nous avons appris de ces erreurs et avons finalement appris à construire de meilleures sociétés industrielles. La seule raison pour laquelle nous avons survécu au XX^e siècle est que la technologie n’était pas assez puissante pour nous détruire. La technologie du XXI^e siècle est bien plus puissante. Si l’on commet à nouveau une telle erreur, par exemple en construisant un régime totalitaire fondé sur l’IA ou en lançant une troisième guerre mondiale, il y a de fortes chances que nous ne survivions pas pour apprendre de nos erreurs.

Yann Le Cun : On pourrait dire la même chose pour toutes les révolutions technologiques de l’Histoire. L’imprimerie a détruit la société en Europe au début du XVI^e siècle avec les divisions religieuses, mais elle a aussi apporté les Lumières, le rationalisme, la science, la philosophie et la démocratie.

Yuval Noah Harari : L’imprimerie a alimenté les Lumières, mais aussi l’impérialisme européen et les guerres de Religion. Elle n’était cependant pas assez puissante pour détruire totalement l’humanité. L’IA l’est. Si les guerres de religion reprennent, comme entre protestants et catholiques en France au XVI^e siècle, mais avec l’IA et les bombes nucléaires, je ne pense pas que l’humanité y survivra. Le danger est que l’IA détruise les fondements de la démocratie et conduise à la création de nouvelles dictatures numériques qui seront encore plus extrêmes que l’Union soviétique.

Et pourtant, Yann Le Cun, vous expliquez que « l’amplification de l’intelligence humaine par la machine permettra une nouvelle Renaissance ». Vraiment ?

Yann Le Cun : Une Renaissance ou un nouveau siècle des Lumières, propulsé par une accélération du progrès scientifique, technique, médical et social grâce à l’IA. Un ralentissement dans la recherche n’est pas utile parce que cela ne stopperait pas le danger. C’est ridicule. Pour déployer des systèmes d’IA à grande échelle, il faut être prudent et le faire sous la surveillance des gouvernements et du public. Mais les gouvernements réagissent trop lentement. Il y a quelques années, Facebook a demandé à plusieurs gouvernements de démocraties libérales de définir pour nous ce qu’est un contenu acceptable sur les réseaux sociaux, car nous ne pensons pas avoir la légitimité de décider de ce point crucial pour la société. Nous n’avons eu pour réponse que du silence, alors qu’il s’agit de trouver un compromis délicat entre la liberté d’expression et la préservation de la démocratie.

Yuval Noah Harari : Les gouvernements démocratiques n’ont pas répondu à votre demande, parce qu’ils ne comprenaient pas son importance. Maintenant qu’ils ont compris, la réaction est différente. Les sociétés, en particulier les démocraties, mettent des décennies à comprendre les changements. Il faudra des années pour saisir l’impact de l’IA sur la politique, la psychologie, l’économie… Nous devons ralentir le processus pour que les sociétés puissent identifier les dangers et agir en conséquence.

Et avec de nouveaux logiciels comme Midjourney ou Runway, qui permettent la création de photos ou de vidéos de plus en plus réalistes, la notion de vérité est malmenée…

Yuval Noah Harari : Le problème existait avant l’arrivée de ces outils. La conversation démocratique s’effondre parce que les citoyens, même dans les partis de gouvernement, ne sont plus capables de parvenir à un consensus. C’est le paradoxe des démocraties occidentales. Aux États-Unis, l’un des pays possédant les technologies de l’information les plus puissantes, les Américains sont incapables de s’accorder sur des questions aussi élémentaires que : qui est le vrai vainqueur des élections en 2020 ?, les vaccins peuvent-ils nous aider ou bien sont-ils dangereux ?… Ils en viennent même à se demander si le changement climatique est réel. Comment une société qui dispose d’outils de technologie de l’information si puissants n’arrive-t-elle pas à se mettre d’accord sur des choses aussi basiques ? Plus rien ne semble acquis. Aujourd’hui, au cours de notre discussion, vous savez que je m’adresse à vous en personne, et je suis sûr de vous parler. Cela ne sera plus le cas dans deux ans.

Yann Le Cun : La jeune génération, qui a grandi avec Internet, prend du recul et a une façon plus systématique de parvenir à retrouver l’origine d’une information. Beaucoup de prédictions ne tiennent pas compte du fait que les gens adaptent leur façon de penser.

Yuval Noah Harari, vous estimez que l’IA pourrait pirater nos cerveaux…

Yuval Noah Harari : Pour l’instant nous contrôlons encore la situation. Mais il se pourrait que ce ne soit plus le cas dans un avenir très proche. L’IA est le premier outil de l’Histoire capable de prendre des décisions par lui-même. Beaucoup la comparent aux révolutions passées, comme l’énergie nucléaire ou l’imprimerie. Mais la bombe atomique n’a pas le contrôle de son utilisation, alors que l’IA peut prendre des décisions sur la manière d’utiliser l’IA. De plus, auparavant, les algorithmes des réseaux sociaux ne diffusaient que des contenus produits par des humains. Aujourd’hui, l’IA peut produire du contenu par elle-même… C’est la toute première entité capable de créer de nouvelles idées. L’imprimerie ne pouvait pas écrire des livres, les radios ne pouvaient pas composer de la musique, l’IA le peut. C’est un phénomène totalement nouveau, très puissant dans l’histoire humaine et qui peut nous dépasser.

Aurait-on besoin de la même réglementation que celle qui prévaut pour le nucléaire ?

Yann Le Cun : La grande différence, c’est que l’IA est conçue pour augmenter l’intelligence humaine, alors que les armes nucléaires sont conçues pour tuer des gens.

Yuval Noah Harari : C’est une bonne question : concevons-nous l’IA pour rendre les gens plus intelligents ou pour les contrôler ? Cela dépend des pays.

Yann Le Cun : Certains pays la conçoivent probablement pour contrôler les gens. Mais ces pays seront inévitablement en retard en matière de technologie, comme l’a été l’Empire ottoman, qui avait interdit l’usage de l’imprimerie. Au Moyen Âge, le monde musulman dominait la science. Au XVII^e siècle, il avait déjà pris un retard qu’il a creusé ensuite. Cela pourrait se produire en Chine, qui s’isole de l’écosystème de l’IA. Et, si elle ne donne pas à sa population un accès à une IA plus puissante parce qu’elle est préoccupée par le contrôle de l’immigration, elle sera à la traîne.

Yuval Noah Harari : J’espère que vous avez raison, mais je pense que c’est un vœu pieux. Les nazis étaient bien plus avancés que l’Occident, par exemple dans le domaine des fusées et des avions à réaction. En 1940, l’Allemagne a battu la France de manière décisive, même si l’équilibre économique des forces favorisait l’alliance franco-britannique. Je ne parierais donc pas sur le fait que les démocraties l’emporteront toujours.

L’université de Pennsylvanie nous apprend que les emplois de mathématiciens sont plus exposés que ceux de plombiers. Les cols blancs doivent-ils trembler ?

Yann Le Cun : Des économistes comme Erik Brynjolfsson, à Stanford, nous expliquent que les nouvelles technologies déplacent des emplois, mais qu’elles rendent aussi les gens plus productifs. Si cela prend autant de temps, c’est parce que la vitesse de l’impact de la technologie sur l’économie est limitée par la vitesse à laquelle les gens apprennent à l’utiliser. Il faudra donc attendre dix ou quinze ans pour voir arriver ces grands changements. Certaines personnes devront se renouveler. Des plans sociaux devront être mis en place. Il ne fait aucun doute qu’il y aura des perturbations. Mais, en fin de compte, les gens gagneront plus d’argent pour la même quantité de travail ou travailleront moins pour la même quantité d’argent.

Tout le monde aura donc un emploi et les inégalités ne se creuseront pas ?

Yann Le Cun : De nouveaux emplois vont être créés, d’anciens vont disparaître, de la même manière que l’industrialisation a fait passer la proportion de personnes travaillant dans la production alimentaire de 60 % à 2 %. Qui aurait pensé, il y a vingt ans, que l’on pourrait bien vivre en produisant des applications mobiles, des vidéos sur YouTube ou en concevant des sites Web ? Ensuite, il y a la question de la répartition de la richesse entre les gens. Cela dépend des hommes politiques que nous élisons.

Yuval Noah Harari : Même si, à long terme, il y aura suffisamment d’emplois pour tout le monde, les périodes de transition sont dangereuses pour une grande partie de la population. Pour reprendre l’exemple de l’Allemagne, après la crise de 1929, il n’y a eu que quatre années de chômage élevé, et nous avons eu Hitler. Mais ce qui me préoccupe le plus, c’est que les pays développés qui mènent la révolution de l’IA en tireront d’énormes bénéfices et seront en mesure d’amortir et de reconvertir leur main-d’œuvre, mais que se passera-t-il dans le reste du monde ? Lorsqu’il sera moins cher, par l’effet conjugué de la conception assistée par ordinateur et du recours massif aux robots, de fabriquer des chemises en Europe et aux États-Unis qu’au Bangladesh, qui dépend essentiellement de l’industrie textile ? Où trouver l’argent pour reconvertir ces millions d’ouvriers du textile âgés de 50 ans afin qu’ils deviennent des ingénieurs en IA ? Même si je ne pense pas que l’IA entraînera une pénurie absolue d’emplois, je crains que cette perturbation ne soit extrêmement dangereuse sur le plan politique. Il est possible de résoudre ce problème. On pourrait taxer les entreprises high-tech aux États-Unis et utiliser l’argent pour former les travailleurs du textile bangladais, mais je n’imagine aucune administration américaine aller dans cette direction…

Que pensez-vous de la proposition d’ Elon Musk d’implanter des puces dans les cerveaux des humains pour rivaliser avec l’IA ?

Yuval Noah Harari : Cela revient à se demander : que pensons-nous de la possibilité d’« augmenter » les humains ? Je pense qu’il serait très dangereux d’utiliser l’IA ou les interfaces cerveau-ordinateur pour leur donner une vie plus longue ou une meilleure mémoire. Nous, les humains, avons toujours souffert d’un écart important entre notre capacité à manipuler les systèmes et la sagesse nécessaire pour comprendre ces systèmes en profondeur. Malheureusement, il est beaucoup plus facile de manipuler que de comprendre. Dans le passé, nous avons appris à contrôler les rivières, les animaux, les forêts. Mais, parce que nous n’avons pas compris la complexité du système écologique, nous avons abusé de notre pouvoir, nous l’avons déséquilibré. Au XXI^e siècle, nous pourrions apprendre à manipuler le monde qui nous entoure, mais aussi notre monde intérieur. L’IA et d’autres technologies comme le génie génétique pourraient nous permettre de redessiner nos corps et nos esprits, et de manipuler nos émotions, nos pensées et nos sensations. Les gouvernements, les entreprises et les armées sont susceptibles d’utiliser les nouvelles technologies pour améliorer les compétences dont ils ont besoin comme l’intelligence et la discipline, en délaissant le développement de la compassion, la sensibilité artistique ou la spiritualité. Nous pourrions ainsi perdre une grande partie de notre humanité sans même nous en rendre compte. Nous préférons nous concentrer sur l’augmentation de la puissance des algorithmes plutôt que sur l’exploration de l’esprit humain, que nous connaissons très peu. Je souhaite que, pour chaque minute que nous consacrons au développement de l’IA, nous consacrions une autre minute à l’exploration et au développement de notre propre esprit.

Yann Le Cun : Pour ce qui est des implants cérébraux, la recherche est en cours depuis de nombreuses années. Ils sont très utiles dans le traitement de certains troubles de la vue et de l’audition, et très prometteurs pour remédier à certaines paralysies. Dans l’avenir, on peut imaginer traiter les défauts de la mémoire en ajoutant un hippocampe artificiel. Mais je doute que beaucoup de gens acceptent de se faire poser des implants pour interagir avec un assistant virtuel. Du moins, pas dans un avenir proche. Il est certain que l’IA va accélérer les progrès de la médecine, nous le voyons dès à présent dans l’imagerie médicale. Elle nous aide déjà à comprendre les mécanismes biochimiques de la vie, par exemple en prédisant la conformation des protéines et leurs interactions avec d’autres protéines. Je ne crois pas au scénario favori de la science-fiction où l’IA dominerait et éliminerait l’humanité. Les IA futures seront peut-être plus intelligentes que nous, mais elles nous serviront et n’auront aucun désir de dominer l’humanité.

Qu’enseigner à nos enfants pour qu’ils puissent s’épanouir dans ce nouveau monde ?

Yann Le Cun : Les mathématiciens ne disparaîtront pas. Je pense qu’il est préférable de se tourner vers des professions créatives, dans le domaine de l’art ou de la science. Et vers tout ce qui a trait à l’expérience humaine, parce qu’elle ne peut pas être remplacée par des machines. Imaginez que vous soyez un musicien de jazz : l’improvisation vous permet de partager des émotions avec celles et ceux qui écoutent. Nous pouvons faire des impros de jazz mécaniques, mais que communiquent-elles ? Ces outils vont amplifier la créativité humaine, mais ils ne vont pas la rendre obsolète.

Yuval Noah Harari : Il est dangereux de parier sur une compétence spécifique. Il vaut mieux se concentrer sur le fait d’apprendre à apprendre et la capacité à changer tout au long de sa vie. Le plus gros problème sera d’ordre psychologique : comment se réinventer continuellement alors que le marché de l’emploi devient de plus en plus volatil ? Chaque nouvelle profession disparaît ou change radicalement en l’espace de dix ou vingt ans. Il faut donc aider les gens à cultiver une personnalité capable d’accepter les changements de la vie, car c’est la seule constante du XXI^e siècle.

(S’adressant à Yann Le Cun) Bonne chance, Yann, je pense que l’avenir de la démocratie repose en grande partie sur vous et sur d’autres personnes du secteur. Alors, s’il vous plaît, faites un travail de qualité et responsable !

Yann Le Cun : Cela a toujours été mon principe directeur.

Yann Le Cun
8 juillet 1960 Naissance à Soisy-sous-Montmorency (Val-d’Oise).
1987 Doctorat à l’université Pierre-et-Marie-Curie.
1988 Développe des techniques d’apprentissage supervisé chez AT & T Bell.
2003 Professeur à l’université de New York.
2013 Crée le laboratoire de recherche en IA de Facebook (Meta) à New York, à Menlo Park et, depuis 2015, à Paris.
2015-2016 Chaire au Collège de France.

Yuval Noah Harari
24 février 1976 Naissance en Israël.
2002 Doctorat en histoire à l’université d’Oxford.
Depuis 2005 Professeur à l’Université hébraïque de Jérusalem.
2014 Publie « Sapiens. Une brève histoire de l’humanité », vendu à plus de 23 millions d’exemplaires.
2017 « Homo deus. Une brève histoire du futur ».
2018 « 21 Leçons pour le XXI^e siècle ».
2020 Docteur honoris causa de l’Université libre de Bruxelles.

Propos recueillis par Héloïse Pons et Guillaume Grallet

Source lepoint