Le « parrain de l’IA » a quitté Google pour avertir les gens des risques liés à l’IA

Une partie de Geoffrey Hinton regrette le travail de sa vie.

Geoffrey Hinton, « le parrain de l’IA », a démissionné de Google suite à l’essor rapide de ChatGPT et d’autres chatbots, afin de « s’exprimer librement sur les risques de l’IA », a-t-il déclaré au le New York Times.

Hinton, qui a contribué à jeter les bases de l’IA générative d’aujourd’hui, a été ingénieur chez Google pendant plus d’une décennie. Selon le Times, une partie de lui regrette le travail de sa vie après avoir vu le danger que pose l’IA générative. Il s’inquiète de la désinformation; que la personne moyenne « ne pourra plus savoir ce qui est vrai ». Dans un avenir proche, il craint que la capacité de l’IA à automatiser les tâches ne remplace non seulement le travail pénible, mais bouleverse l’ensemble du marché du travail.

Auparavant, Hinton pensait que la révolution de l’IA était dans des décennies. Mais depuis qu’OpenAI a lancé ChatGPT en novembre 2022, l’intelligence du grand modèle de langage (LLM) a changé d’avis. « Regardez comment c’était il y a cinq ans et comment c’est maintenant », a-t-il déclaré. « Prenez la différence et propagez-la vers l’avant. C’est effrayant. »

Les débuts de ChatGPT ont lancé une sorte de compétition à trois contre Microsoft Bing et Google Bard. Déséquilibré, car GPT-4 qui alimente ChatGPT alimente également Bing. Avec deux concurrents venant pour son activité principale de recherche, Google s’est empressé de lancer Bard, malgré les inquiétudes internes selon lesquelles il n’avait pas été suffisamment testé pour sa précision et sa sécurité.

Hinton clarifié sur Twitter après la publication de l’article du Times qu’il ne critiquait pas spécifiquement Google et estime qu’il a « agi de manière très responsable ». Au lieu de cela, il est préoccupé par les risques plus larges du développement à grande vitesse de l’IA, entraîné par le paysage concurrentiel. Sans réglementation ni transparence, les entreprises risquent de perdre le contrôle d’une technologie puissante. « Je ne pense pas qu’ils devraient étendre cela davantage jusqu’à ce qu’ils aient compris s’ils peuvent le contrôler », a déclaré Hinton.

C’est encore un autre expert appelant au développement de l’IA à appuyer sur le bouton pause.