Hai maggiori probabilità di morire di cancro o di essere spazzato via da un computer malevolo?
Questo pensiero probabilmente non vi è mai venuto in mente, ma ha infastidito così tanto uno dei co-fondatori di Skype che ha collaborato con i ricercatori di Oxbridge che stanno cercando di prevedere cosa significherà la superintelligenza artificiale per il mondo, al fine di mitigare la minaccia esistenziale della nuova tecnologia, ovvero la possibilità che distrugga umanità.
La tecnologia è stata a lungo una fonte di pericolo per la fertile immaginazione dei romanzieri di fantascienza, ma l’idea sta guadagnando sostegno accademico, con i ricercatori presso il Future of Humanity Institute (FHI) dell’Università di Oxford, unendosi a quelli del Centro per lo studio del rischio esistenziale (CSER) appena lanciato presso l’Università di Cambridge per esaminare più ampiamente le possibili ripercussioni delle nanotecnologie, della robotica, dell’intelligenza artificiale e di altre innovazioni.
Il concetto è semplice, ma le soluzioni sono tutt’altro. I ricercatori stanno cercando di evitare una situazione in cui superiamo noi stessi in astuzia e di creare un sistema che possa a sua volta inventare le proprie tecnologie, che potrebbe “travolgere” l’umanità – non perché sia malvagio, ma semplicemente perché non potevamo prevedere le conseguenze a lungo termine del modo in cui abbiamo programmato Esso.
Soppesare i rischi
Questa idea è studiata dal 2005 dalla FHI, alla quale l'anno scorso si è aggiunto il CSER, fondato da Huw Price, Bertrand Russell professore di filosofia all'Università di Cambridge, l'astronomo reale Lord Martin Rees e Jaan Tallinn, co-fondatore di Skype.
Abbiamo più probabilità di morire per un incidente causato dall’intelligenza artificiale che per cancro o malattie cardiache?
L'istituto è nato in parte da una conversazione tra Price e Tallinn, durante la quale quest'ultimo si è chiesto: “nei suoi momenti pessimistici”, se ha “più probabilità di morire per un incidente causato dall’intelligenza artificiale che per cancro o malattie cardiache”.
L’annuncio del lancio del CSER è iniziato con quella che sembra la premessa di una battuta da nerd, ma è diventata presto più seria: “Un filosofo, uno scienziato e un ingegnere del software sono venuti insieme per proporre un nuovo centro a Cambridge per affrontare gli sviluppi nelle tecnologie umane che potrebbero comportare rischi “a livello di estinzione” per la nostra specie, dalla biotecnologia all’artificiale intelligenza."
Sembra fantastico, ma il trio e i loro colleghi di Oxford sono mortalmente seri. Anche il lavoro ha radici lunghe. Nel 1965, Irving Good – un amico di Alan Turing che lavorava a Bletchley Park – descrisse la prima “macchina ultra-intelligente” in una luce positiva in un articolo del New Scientist, osserva il CSER.
“Questa macchina, ha continuato, sarebbe l’”ultima invenzione” che l’umanità potrà mai realizzare, portando a una “esplosione di intelligenza” – un aumento esponenziale dell’intelligenza artificiale delle macchine. Per Good, che ha continuato a consigliare Stanley Kubrick in 2001: Odissea nello spazio, la “sopravvivenza dell’uomo” dipendeva dalla costruzione di questa macchina ultra-intelligente”, si legge nelle note di rilascio del CSER.
“Mentre pochi negherebbero i benefici che l’umanità ha ricevuto come risultato del suo genio ingegneristico – da una vita più lunga alle reti globali – alcuni stanno iniziando a chiedersi se l’accelerazione delle tecnologie umane si tradurrà nella sopravvivenza dell’uomo, come sosteneva Good, o se in realtà questa è proprio la cosa che ci metterà fine”, ha affermato il CSER solennemente.
Problema singolare
Al centro di tutto ciò c’è un’idea comunemente chiamata “singolarità”, il punto in cui la tecnologia può farlo iniziano a creare la propria tecnologia e diventano più avanzati di noi, rendendo impossibile prevedere cosa accadrà Prossimo.
Il filosofo Nick Bostrom, fondatore della FHI di Oxford, esita a usare questa parola, poiché significa “tante cose per persone diverse, tutte racchiuse in questo fascio di aspettative senza fiato”. Invece, come ha affermato in una conferenza tenuta dall’Economist all’inizio di quest’anno, si riferisce semplicemente alla “super-intelligenza”.
