Le parrain de l’intelligence artificielle, Geoffrey Hinton, alerte sur les risques en quittant Google

Un homme largement considéré comme le parrain de l’intelligence artificielle (IA) a quitté son emploi, mettant en garde contre les dangers croissants des développements dans le domaine.

Jeffrey Hinton, 75 ans, a annoncé sa démission de Google dans une déclaration au New York Times, affirmant qu’il regrettait désormais son travail.

Dans une interview accordée à la BBC lundi, il a déclaré: « Je peux maintenant parler librement de ce que je pense que les risques pourraient être.

« Et certains d’entre eux sont très effrayants. »

Les recherches pionnières du Dr Hinton sur l’apprentissage en profondeur et les réseaux de neurones ont ouvert la voie aux systèmes d’IA actuels tels que ChatGPT.

Mais un psychologue cognitif et informaticien anglo-canadien a déclaré à la BBC qu’un chatbot pourrait bientôt dépasser le niveau d’informations détenu par le cerveau humain.

« Pour le moment, ce que nous constatons, c’est que des choses comme GPT-4 surpassent une personne dans la quantité de connaissances générales qu’elle possède et surpassent beaucoup une personne. En termes de raisonnement, ce n’est pas très bon, mais c’est simple. pensée.

« Et en regardant le rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Nous devons donc nous en inquiéter. Pour l’instant, ils ne sont pas beaucoup plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils sont proches d’être. »

Dans un article du New York Times, le Dr Hinton a fait référence aux « mauvais acteurs » qui essaieraient d’utiliser l’IA pour de « mauvaises choses ».

Lorsque la BBC lui a demandé de donner des détails à ce sujet, il a répondu : « Ce n’est qu’un scénario du pire des cas, un genre de scénario cauchemardesque.

« Vous pouvez imaginer, par exemple, certains mauvais acteurs comme [Russian President Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres sous-cibles.

En fin de compte, cela pourrait « créer des sous-objectifs comme » je dois devenir plus puissant «  », a averti le scientifique.

Il a ajouté : « Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons.

« Nous sommes des systèmes biologiques et ceux-ci sont des systèmes numériques. La grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, du même modèle du monde.

« Et tous ces clones peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est comme si vous aviez 10 000 personnes et que chaque fois que quelqu’un apprend quelque chose, tout le monde le sait automatiquement. Et donc ces chatbots peuvent en savoir beaucoup plus que n’importe qui. »

Le Dr Hinton a également déclaré qu’il y avait plusieurs autres raisons de quitter son emploi.

« La première, c’est que j’ai 75 ans. Il est donc temps de prendre ma retraite. La deuxième, c’est que je veux vraiment dire du bien de Google. Ce serait plus crédible si je ne travaillais pas pour Google. »

Il a souligné qu’il ne voulait pas critiquer Google et que le géant de la technologie était « très responsable ».