Stephen Hawking avait un sombre avertissement à propos de l'intelligence artificielle
Nous pouvons recevoir une commission sur les achats effectués à partir de liens.
Stephen Hawking était le physicien le plus célèbre de son temps, donc naturellement, tout le monde voulait savoir comment il pensait que le monde finirait. Hawking a fait de nombreuses prédictions pour la fin de l'humanité au cours de sa longue carrière, mais la montée de l'intelligence artificielle lui était particulièrement préoccupante.
Hawking a averti que l'IA élargirait l'écart de la pauvreté mondiale en accélérant l'automatisation industrielle au détriment des emplois, ce qui se passe déjà à mesure que les entreprises du monde ont annoncé leur intention de réduire leur main-d'œuvre en faveur de l'IA. Il a également mis en garde contre le potentiel de l'IA d'être exploité dans des armes toujours plus mortelles et d'autres moyens d'oppression énergique par quelques-uns puissants. Cependant, ce que Hawking craignait le plus n'était pas ce que les humains pouvaient faire avec l'IA, mais plutôt ce que l'IA pouvait faire avec nous.
Hawking avait un lien étroit avec l'industrie de l'IA. Incapable de parler en raison des effets de la sclérose latérale amyotrophique (SLA), vers la fin de sa vie, Hawking a communiqué via un programme informatique qui a utilisé du texte prédictif alimenté par l'IA. Interrogé sur la technologie dans une interview de la BBC en 2014, Hawking a reconnu les nombreux avantages potentiels des technologies de l'IA, mais il a averti qu'à l'avenir, l'IA « décollerait d'elle-même et se repensait à un rythme toujours croissant ». Son verdict ultime? « Le développement d'une intelligence artificielle complète pourrait épeler la fin de la race humaine. »
À quel point les peurs de Hawking sont-elles valides?
La crainte de Hawking était que l'IA puisse dépasser l'humanité si ces technologies devenaient suffisamment puissantes pour se refaire. Les humains évoluent à un rythme incroyablement lent, avec seulement des changements progressifs d'une génération à l'autre. L'intelligence artificielle, en revanche, a fait des progrès massifs avec pratiquement toutes les nouvelles itations publiées.
Depuis l'aube de la robotique, il y a eu des inquiétudes croissantes concernant une singularité technologique potentielle, un moment où l'IA évolue au-delà de ce que les humains peuvent contrôler et commencent à façonner son propre destin. L'IA approche rapidement des niveaux de compétence humaine dans plusieurs domaines, et dans certains cas, même en dépassant, ce qui a conduit à des prédictions que la singularité pourrait se produire au cours de cette décennie. Ce n'est pas une question de si, mais plutôt quand.
Pour beaucoup, la pensée de Rogue Ai évoque des scénarios de science-fiction de robots qui tournent sur leur maîtrise de manière meurtrière, mais Hawking ne croyait pas que l'IA deviendrait réellement mauvaise. Dans son livre publié à titre posthume, « Bref répond aux grandes questions », a-t-il averti que si l'IA venait à nuire aux humains, il ne serait pas hors de malveillance, mais plutôt parce que la technologie serait si déterminée à l'efficacité et à atteindre ses objectifs qu'il détruirait tout ce qui gênerait.
Hawking n'était pas entièrement sombre sur l'avenir de l'IA. En plus de l'utiliser lui-même pour la parole, il a exprimé à plusieurs reprises l'espoir que l'IA pourrait aider à éradiquer les maux comme la maladie et la famine. Cependant, il a souligné que cela ne pourrait être fait que si les humains régulent strictement les technologies de l'IA.
