Se gli esseri umani non ostacolano queste risorse, non c’è problema. “Tuttavia, se e quando un tale agente si trova in una situazione diversa, in cui si aspetta che venga visualizzato un numero maggiore di decimali di pi greco calcolato che se distruggesse la specie umana piuttosto che se continuasse ad agire in modo cooperativo, il suo comportamento prenderebbe immediatamente una svolta sinistra”.
Questo è il motivo per cui dobbiamo stare attenti quando creiamo un potere più intelligente di noi, ad esempio attraverso l’artificiale intelligenza generale (AGI) – la creazione di una macchina in grado di pensare in modo intelligente su una varietà di argomenti, come gli umani lo fanno.
“Pensate a come potrebbe essere competere per le risorse con la specie dominante”, dice Price. “Prendiamo i gorilla, ad esempio: il motivo per cui si stanno estinguendo non è perché gli esseri umani sono attivamente ostili nei loro confronti, ma perché controlliamo l’ambiente in un modo che ci si addice, ma è dannoso per loro sopravvivenza.
Pensa a come potrebbe essere competere per le risorse con la specie dominante
“Ad un certo punto, in questo secolo o nel prossimo, potremmo trovarci di fronte a uno dei maggiori cambiamenti nella storia umana – forse anche nella storia cosmica – quando l’intelligenza sfuggirà ai vincoli della biologia”, aggiunge Price. “La natura non ci ha anticipato e, a nostra volta, non dovremmo dare per scontata l’AGI. Dobbiamo prendere sul serio la possibilità che possa verificarsi un momento del vaso di Pandora con l’AGI che, se mancato, potrebbe essere disastroso. Non voglio dire che possiamo prevederlo con certezza: nessuno è in grado di farlo al momento, ma questo è il punto. Con così tanta posta in gioco, dobbiamo fare un lavoro migliore per comprendere i rischi di tecnologie potenzialmente catastrofiche”.
La civiltà più stupida possibile
C’è un problema: non siamo molto bravi a pensare a queste idee. Come sottolineano entrambi i centri di ricerca, tali minacce potrebbero essere estrapolate dalla trama di un romanzo di fantascienza, il che rende più difficile che il loro lavoro risulti credibile.
Bostrom sostiene che le idee fantascientifiche alimentano un altro problema: la tendenza ad antropomorfizzare i robot e altro macchine, per vederle come avversari a forma umana, come i robot sul campo di battaglia in Terminator film.
"Le nostre intuizioni sono state modellate dalla [fantascienza], dove le macchine sono antropomorfizzate e sono davvero proprio come i supercriminali umani", dice. “Ciò rende più difficile pensare a questo in modo chiaro.”
Come spiega ad Aeon, la tecnologia come l’intelligenza artificiale è meglio pensarla come una “forza primordiale della natura, come un sistema stellare o un uragano – qualcosa di forte ma indifferente”.
E c’è un altro problema: anche se ci consideriamo piuttosto intelligenti, Bostrom sostiene che non lo siamo. Intervenendo alla conferenza dell’Economist, ha sottolineato che “siamo probabilmente la specie più stupida possibile in grado di sostenere la civiltà tecnologica”. A questo punto, la stanza piena di persone intelligenti si riempì di risate imbarazzanti, ma non stava scherzando. “La civiltà tecnologica è avvenuta immediatamente non appena la nostra intelligenza ha raggiunto il livello necessario affinché ciò accadesse accadere." In altre parole, non ci vorrebbe molto perché una tecnologia ci superi in astuzia una volta che inizia a pensare da sola.
Arrestare il progresso
Nonostante i rischi intrinseci – per i singoli conducenti o per l’intera umanità – nessuno di questi ricercatori chiede a sviluppatori, ingegneri e altri inventori di ridurre gli strumenti.
“Non penso che ci siano sfide troppo difficili da affrontare per noi, o ragioni per non intraprendere queste strade”, afferma Bedau del Reed College. “Penso che dobbiamo tenere gli occhi aperti ed essere flessibili; Penso che coloro che vorrebbero che non seguissimo affatto queste strade a causa dei possibili rischi, stiano rinunciando anche ai possibili benefici”.
Price del CSER sostiene che non si tratta di rallentare l’innovazione, ma di cercare di aumentare le nostre probabilità di sopravvivenza. “Dovremmo investire un po’ delle nostre risorse intellettuali nello spostare alcune probabilità da risultati negativi a risultati positivi”.
Anche se lo volessimo, Bostrom non crede che sia possibile fermare il progresso tecnologico. “Anche se si pensa che ci siano grandi pericoli lungo la strada, la risposta ovvia è non cercare di non andarci”, dice. “C’è un grande slancio dietro a tutto questo – probabilmente non è nemmeno un’opzione sul tavolo [fermare il lavoro]. Potremmo rallentare le cose per qualche anno, ma dobbiamo comunque affrontare queste sfide”.
