Le dernier avertissement d'Elon Musk sur les dangers de l'IA vient dans une nouvelle déclaration sur Twitter la comparant à la nation communiste de Corée du Nord.
Avec la montée des tensions entre les États-Unis et la Corée du Nord sur une éventuelle guerre nucléaire, Musk est intervenu pour nous rappeler à tous que l'IA est vraiment le plus grand risque. Son poste est venu peu de temps après que son propre développement de l'IA ait réussi à battre les joueurs professionnels de Dota 2 avant le tournoi The International.
Les inquiétudes de Musk sont valables et son message sonne vrai – dans le grand schéma des choses, l'IA est véritablement plus dangereuse que la Corée du Nord. Cependant, si la Corée du Nord décide de bombarder les États-Unis au cours de la semaine prochaine, je ne pense pas que l'IA soit vraiment quelque chose à craindre.
C'est loin d'être la première fois que Musk exprime ses inquiétudes concernant l'IA. Il s'est déjà associé à Stephen Hawking pour défendre le développement et protéger autour de la robotique et de l'IA, et s'exprimant lors d'une réunion de la National Governors Association le mois dernier, Musk a de nouveau expliqué pourquoi il pense que les gens devraient s'inquiéter de la marche de l'IA.
"J'ai accès à l'IA la plus avancée, et je pense que les gens devraient vraiment s'en préoccuper", a-t-il expliqué avant de la décrire comme "le plus grand risque auquel nous sommes confrontés en tant que civilisation".
Sa solution? Réglementation, en particulier la réglementation proactive. Selon Musk, les gouvernements ne font pas assez pour planifier l'avenir et créer des réglementations pour ceux qui développent actuellement des technologies.
"L'IA est un cas rare où je pense que nous devons être proactifs dans la réglementation au lieu de réactifs. Je pense qu'au moment où nous réagissons à la réglementation de l'IA, il sera trop tard... L'IA est un risque fondamental pour le l'existence de la civilisation humaine d'une manière telle que les accidents de voiture, les accidents d'avion, les médicaments défectueux ou la mauvaise nourriture n'étaient pas."
"L'IA est un risque fondamental pour l'existence de la civilisation humaine"
Ses craintes spécifiques concernant l'IA ne sont pas sur l'échelle Terminator et Skynet des absurdités de science-fiction, elles sont en fait remarquablement ancré et – pour quiconque se tient au courant de la situation politique des États-Unis – assez proche à la maison.
"[AI] pourrait déclencher une guerre en [créant] de fausses nouvelles et en usurpant des comptes de messagerie et de faux communiqués de presse et simplement en manipulant des informations." Si cette IA comprend la colère ou la méchanceté, elle pourrait facilement développer ces tendances et les utiliser contre nous pour faire tomber l'humanité. Ce n'est pas exagéré non plus: une équipe en Nouvelle-Zélande est déjà travaillant sur le développement de l'IA la plus en colère au monde.
Une IA serait également un adversaire redoutable, facilement capable de prédire et de déjouer nos propres schémas comportementaux – contrecarrant ainsi toute tentative de l'arrêter. Comme le soutient Musk, sans une réglementation appropriée et responsable en place, une IA malveillante pourrait être notre fin à tous.
Étant donné que Musk a une vision quelque peu libertaire du monde, il est surprenant de voir à quel point il croit fermement que le gouvernement devrait intervenir sur le développement de l'IA. Il veut que les régulateurs aient le pouvoir d'arrêter les développements de l'IA jusqu'à ce qu'ils aient été vérifiés pour leur sécurité - mais comprend que cela doit arriver à toutes les personnes impliquées ou les actionnaires de ces entreprises obtiendront irritable.
«Vous avez en quelque sorte besoin que les régulateurs fassent cela pour toutes les équipes du jeu. Sinon, les actionnaires diront « pourquoi ne développez-vous pas l'IA plus rapidement? » Parce que votre concurrent l'est.
Voir liés
Musk ne croit pas que les chercheurs envisagent de créer une IA malveillante déterminée à éliminer l'humanité. Mais il semble qu'il pense que nous, en tant qu'humains, ne comprenons tout simplement pas vraiment ce que nous sommes en train de créer.
Cependant, il y a un problème avec l'avertissement de Musk - il ne parle qu'aux États-Unis. Le développement de l'IA se produit partout dans le monde, avec le propre projet DeepMind de Google qui se déroule actuellement au Royaume-Uni. Si seuls les développeurs américains sont tenus responsables, qu'est-ce que cela signifie pour le reste du monde ?
Vous pouvez voir l'intégralité de l'interview avec Musk dans la vidéo ci-dessous – le chat de l'IA démarre environ 48 minutes plus tard.
