Hinton, Musk, Hatman : les pères fondateurs de l’intelligence artificielle mettent en garde sur de potentielles dérives

Geoffrey Hinton

Un poids lourd de Google a annoncé qu’il prenait sa démission, a-t-on appris ce 2 mai 2023. Geoffrey Hinton était considéré comme un des fondateurs de l’intelligence artificielle et avait remporté le prix Turing, l’équivalent du Nobel pour les informaticiens en 2019. Quitter l'entreprise est pour lui un moyen de pouvoir s'exprimer plus librement sur la situation:

”Je suis parti pour pouvoir parler des dangers de l’IA sans me soucier d’un éventuel impact sur Google”, a déclaré dans un tweet M. Hinton, après l’annonce de son départ dans le New York Times.

Les avancées dans ce secteur induisent “de profonds risques pour la société et l’humanité”, estime dans le journal américain M. Hinton qui a créé une fondation dédiée aux systèmes d’IA.

Elon Musk

En mars dernier, le milliardaire signait avec une centaine d’experts la tribune du Future of Life Institute, un appel à une pause de 6 mois dans la recherche sur l’intelligence artificielle, invoquant des “risques majeurs pour l’humanité”. Les chercheurs réclamaient notamment un délai jusqu’à la mise en place de “systèmes de sécurité”, comprenant un cadre réglementaire plus strict, une surveillance des systèmes d’intelligence artificielle et des techniques pour distinguer le réel de l’artificiel.

”Devons-nous laisser les machines inonder nos canaux d’information, de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus” détaillait la tribune, signée également par l’historien Yuval Noah Harari ou le Canadien Yoshua Bengio.

Yoshua Bengio

Chercheur enseignant à l’Université de Montréal, il a reçu le prix Turing avec Geoffrey Hinton en 2019, mais aussi avec le Français Yann Le Cun, qui travaille chez Meta et ne souhaite pas d’encadrement. Bengio est aussi considéré comme un “père fondateur” de l’IA et a notamment fondé l’institut québécois de l’IA, MILA. En plus d’avoir signé la pétition du Future of Life Institute, le chercheur a donné quelques explications sur sa prise de position en mars dernier à CNN :

”Je ne pense pas que la société soit prête à faire face à cette puissance-là, à ce potentiel de manipulation de la population qui pourrait mettre en danger les démocraties. Il faut mettre en place les règlements, les lois, les traités internationaux pour que ça bénéficie à tous.”

”On ne s’attendait pas à voir des systèmes aussi compétents arriver aussi vite. Il faut que les quelques compagnies qui travaillent sur l’IA s’entendent, mais ça ne sera pas suffisant si les gouvernements n’interviennent pas”.

Sam Haltman

Le cofondateur – avec Elon Musk – d’OpenAI, la maison mère de ChatGPT, a lui aussi des positions mitigées sur les avancées de l’IA. Dans une interview à ABC News en mars dernier, il reconnaissait lui-même que l’IA allait "remodeler la société" et était "un peu effrayé” par cela. Il affirme que les robots actuellement développés peuvent être “la plus grande technologie que l’humanité ait encore développée”, à condition que cette technologie soit régulée et que “l’ensemble de la société soit aussi impliquée que possible” dans le développement.

Le créateur de ChatGPT ajoutait aussi être en “contacts réguliers” avec des responsables gouvernementaux, sans ajouter plus de détails.