Le parrain de l’IA exhorte les gouvernements à mettre fin à la prise de contrôle de la machine
June 28, 2023 10:27 PM
TORONTO — Geoffrey Hinton, l’un des soi-disant parrains de l’intelligence artificielle, a exhorté mercredi les gouvernements à intervenir et à s’assurer que les machines ne prennent pas le contrôle de la société.
Hinton a fait les manchettes en mai quand il a annoncé qu’il avait quitté Google après une décennie de travail pour parler plus librement sur les dangers de l’IA, peu après la sortie de ChatGPT capturé l’imagination du monde.
Le scientifique hautement respecté en intelligence artificielle, qui est basé à l’Université de Toronto, s’adressait à un public nombreux à la conférence Collision tech dans la ville canadienne.
La conférence a rassemblé plus de 30000 fondateurs de start-up, investisseurs et travailleurs technologiques, la plupart cherchant à apprendre à surfer sur la vague de l’IA et à ne pas entendre de leçon sur ses dangers.
“Avant que l’IA ne soit plus intelligente que nous, je pense que les personnes qui la développent devraient être encouragées à mettre beaucoup de travail à comprendre comment elle pourrait essayer de prendre le contrôle”, a déclaré Hinton.
“En ce moment, il y a 99 personnes très intelligentes qui essaient de rendre l’IA meilleure et une personne très intelligente qui essaie de trouver comment l’empêcher de prendre le dessus et peut-être que vous voulez être plus équilibré,” dit-il.
L’IA pourrait aggraver les inégalités, dit Hinton
Hinton a averti que les risques de l’IA devraient être pris au sérieux malgré ses critiques qui croient qu’il surestime les risques.
“Je pense qu’il est important que les gens comprennent que ce n’est pas de la science-fiction, ce n’est pas seulement de la peur”, a-t-il insisté. “C’est un risque réel auquel nous devons réfléchir, et nous devons trouver à l’avance comment y faire face.”
Hinton a également exprimé sa crainte que l’IA ne creuse les inégalités, les gains de productivité massifs découlant de son déploiement allant au bénéfice des riches, et non des travailleurs.
« La richesse ne va pas aller aux gens qui font le travail. Cela va contribuer à enrichir les riches et non à les appauvrir, et c’est très mauvais pour la société », a-t-il ajouté.
Il a également souligné le danger des fausses nouvelles créées par les robots de style ChatGPT et a déclaré qu’il espérait que le contenu généré par l’IA pourrait être marqué d’une manière similaire à la façon dont les banques centrales filigranent l’argent liquide.
“Il est très important d’essayer, par exemple, de marquer tout ce qui est faux comme faux. Si nous pouvons le faire techniquement, je ne sais pas,” dit-il.
L’Union européenne envisage une telle technique dans sa loi sur l’IA, une législation qui fixera les règles de l’IA en Europe, qui est en cours de négociation par les législateurs.
Surpopulation sur Mars
La liste des dangers de l’IA de Hinton contraste avec les discussions de conférence qui étaient moins sur la sécurité et les menaces, et plus sur la possibilité de saisir l’occasion créée dans le sillage de ChatGPT.
Le capital de risque Sarah Guo a déclaré que parler de l’IA comme d’une menace existentielle était prématuré et l’a comparé à “parler de surpopulation sur Mars”, citant un autre gourou de l’IA, Andrew Ng.
Elle a également mis en garde contre le “captage réglementaire” qui verrait l’intervention du gouvernement protéger les titulaires avant qu’il ait une chance de bénéficier des secteurs tels que la santé, l’éducation ou la science.
Les opinions divergeaient quant à savoir si les géants génératifs actuels de l’IA, principalement OpenAI et Google soutenus par Microsoft, resteraient inégalés ou si de nouveaux acteurs développeraient le domaine avec leurs propres modèles et innovations.
“Dans cinq ans, j’imagine encore que si vous voulez aller trouver le meilleur, le plus précis, le modèle général le plus avancé, vous allez probablement devoir aller à l’une des rares entreprises qui ont le capital pour le faire,” a déclaré Leigh Marie Braswell de la société de capital risque Kleiner Perkins.
Zachary Bratun-Glennon de Gradient Ventures a dit qu’il a prévu un avenir où “il y aura des millions de modèles à travers un réseau comme nous avons un réseau de sites Web aujourd’hui.”
Comments are closed.