Le dernier avertissement d’Elon Musk sur les dangers de l’IA apparaît dans une nouvelle déclaration sur Twitter la comparant à la nation communiste de Corée du Nord.
Alors que les tensions montent entre les États-Unis et la Corée du Nord sur une éventuelle guerre nucléaire, Musk est intervenu pour nous rappeler à tous que l’IA représente vraiment le plus grand risque. Son message est intervenu peu de temps après que son propre développement d'IA ait réussi à battre les joueurs professionnels de Dota 2 avant le tournoi international.
Les préoccupations de Musk sont fondées et son message sonne juste: dans l’ensemble, l’IA est véritablement plus dangereuse que la Corée du Nord. Cependant, si la Corée du Nord décide de bombarder les États-Unis dans la semaine prochaine, je ne pense pas que l’IA soit vraiment un sujet de préoccupation.
C’est loin d’être la première fois qu’Elon Musk exprime ses inquiétudes concernant l’IA. Il s’est déjà associé à Stephen Hawking pour prôner un développement raisonnable et en matière de protection autour de la robotique et de l'IA, et s'exprimant lors d'une réunion de la National Governors Association le mois dernier, Musk a de nouveau expliqué pourquoi il pense que les gens devraient s'inquiéter de la situation. marche de l’IA.
« J’ai accès à l’IA la plus avancée et je pense que les gens devraient vraiment s’en préoccuper », a-t-il expliqué avant de la décrire comme « le plus grand risque auquel nous sommes confrontés en tant que civilisation ».
Sa solution? Réglementation, notamment proactive. Selon Musk, les gouvernements n’en font pas assez pour planifier l’avenir et créer des réglementations pour ceux qui développent actuellement des technologies.
« L’IA est un cas rare où je pense que nous devons être proactifs en matière de réglementation plutôt que réactifs. Je pense qu’au moment où nous réagissons en matière de réglementation de l’IA, il est trop tard… L’IA représente un risque fondamental pour le monde. l'existence de la civilisation humaine d'une manière telle que les accidents de voiture, les accidents d'avion, les médicaments défectueux ou la mauvaise nourriture n'étaient pas."
« L’IA constitue un risque fondamental pour l’existence de la civilisation humaine »
Ses craintes spécifiques concernant l’IA ne correspondent pas à l’échelle des absurdités de science-fiction de Terminator et Skynet, elles sont en fait remarquablement ancré et – pour quiconque se tient au courant de la situation politique des États-Unis – assez proche à la maison.
"[IA] pourrait déclencher une guerre en [créant] de fausses nouvelles, en usurpant des comptes de messagerie et de faux communiqués de presse et simplement en manipulant l'information." Si cette IA comprend la colère ou la méchanceté, elle pourrait facilement développer ces tendances et les utiliser contre nous pour faire tomber l’humanité. Ce n’est pas non plus exagéré: une équipe en Nouvelle-Zélande est déjà travailler au développement de l’IA la plus en colère au monde.
Une IA serait également un adversaire redoutable, facilement capable de prédire et de déjouer nos propres comportements, contrecarrant ainsi toute tentative de l’arrêter. Comme le soutient Musk, sans une réglementation appropriée et responsable, une IA malveillante pourrait être notre fin à tous.
Étant donné que Musk a une vision quelque peu libertaire du monde, il est surprenant de voir à quel point il croit fermement que le gouvernement devrait intervenir dans le développement de l’IA. Il souhaite que les régulateurs aient le pouvoir d’arrêter les développements de l’IA jusqu’à ce que leur sécurité ait été vérifiée – mais il comprend que cela doit arriver à toutes les personnes impliquées, sinon les actionnaires de ces entreprises en seront victimes. irritable.
« Vous avez en quelque sorte besoin que les régulateurs fassent cela pour toutes les équipes du jeu. Sinon, les actionnaires diront « pourquoi ne développez-vous pas l’IA plus rapidement? » Parce que votre concurrent l’est.
Voir connexe
Musk ne croit pas que les chercheurs envisagent de créer une IA malveillante résolue à éliminer l’humanité. Mais il semble qu’il pense que nous, en tant qu’humains, ne comprenons tout simplement pas vraiment ce que nous sommes en train de créer.
Il y a cependant un problème avec l’avertissement de Musk: il ne s’adresse qu’aux États-Unis. Le développement de l’IA se déroule partout dans le monde, le projet DeepMind de Google étant actuellement en cours au Royaume-Uni. Si seuls les développeurs américains sont tenus responsables, qu’est-ce que cela signifie pour le reste du monde ?
Vous pouvez voir l’interview complète de Musk dans la vidéo ci-dessous – le chat AI démarre environ 48 minutes plus tard.
