Aggiornamento: Dopo che Google ha presentato il suo sistema Duplex AI, consentendo all'assistente digitale di chiamare negozi e ristoranti per tuo conto, sono state sollevate preoccupazioni sulla duplice natura della tecnologia. È fuorviante per un'intelligenza artificiale fingere di essere un essere umano, quando l'umano dall'altra parte della linea non sa che sta parlando con una macchina?
Google ha rilasciato una dichiarazione in cui riconosce l'argomento etico che è sorto dall'I/O di Google, sottolineando la "trasparenza" e promettendo che il sistema sarà "opportunamente identificato". Ecco la dichiarazione per intero:
"Comprendiamo e apprezziamo la discussione su Google Duplex: come abbiamo detto fin dall'inizio, la trasparenza nella tecnologia è importante. Stiamo progettando questa funzione con divulgazione integrata e ci assicureremo che il sistema sia identificato in modo appropriato. Quello che abbiamo mostrato all'I/O è stata una prima demo tecnologica e non vediamo l'ora di incorporare il feedback mentre lo sviluppiamo in un prodotto".
Resta da vedere esattamente come si manifesterà questa "rivelazione", ed è contraria all'ethos di Duplex mostrato nella demo; dove l'azienda desiderava mostrare quanto suonasse in modo convincente la sua intelligenza artificiale, inclusi i tick verbali. Terremo d'occhio i piani di Google in quest'area quando Duplex inizierà a essere testato questa estate.
Google ora ha un'intelligenza artificiale che utilizza i tuoi dati per impersonarti al telefono ed è molto inquietante
Ricevere chiamate da bot automatizzati è una fastidiosa perdita di tempo, ma almeno è facile riconoscere una voce artificiale e riagganciare. Immagina se quella voce fosse molto più convincente e immagina se non fossero solo i telemarketing a usarla - e se questa persuasiva imitazione di un essere umano ha avuto accesso a informazioni sufficienti sulla tua vita da poter fingere di essere Voi?
Questa era la visione del futuro delineata da Google durante l'azienda Conferenza I/O 2018. Tra la serie di annunci, il più impressionante e inquietante è stato l'aggiunta di qualcosa chiamato Google Duplex per Assistente Google. In una serie di dimostrazioni sul palco, l'Assistente Google ha chiamato le piccole imprese e ha organizzato le cose per conto del suo utente umano, inclusa la prenotazione di un ristorante e la prenotazione di un parrucchiere.
LEGGI SUCCESSIVO: Cosa abbiamo imparato da Google I/O 2018
Sembrava impressionante. Non solo l'intelligenza artificiale ha risposto in modo accurato e rapido all'umano in linea, ma ha riempito la conversazione con "umms" e "ahhs", tanto meglio per dare un'impressione di vita. Sebbene si trattasse di demo controllate, l'intelligenza artificiale è riuscita a negoziare la conversazione con poche indicazioni che si trattasse di un insieme incorporeo di algoritmi. Da un punto di vista ingegneristico, dovrebbe essere applaudito ed è un'indicazione di quanto sia avanti Google quando si tratta di IA conversazionale.
Parte del motivo per cui Google sta guidando la ricerca sull'IA, tuttavia, è a causa del suo atteggiamento nei confronti dei dati personali dei suoi utenti. L'azienda ha una storia di addestramento della sua intelligenza artificiale dati di provenienza dubbia, e ovviamente non aiuta il fatto che l'azienda sia anche dietro il più grande motore di ricerca del mondo. Le informazioni personali sono il carburante dietro il modello di business basato sulla pubblicità dell'azienda tecnologica, ma Duplex porta l'uso di queste informazioni a un nuovo livello, uno che vacilla attraverso la linea etica "strisciante".
LEGGI SUCCESSIVO: I migliori comandi dell'Assistente Google
Vedi correlati
Poco è stato mostrato su Google Duplex oltre a quelle dimostrazioni sul palco, ma, se funziona come azienda suggerisce, quindi sembra dare spazio a un'intelligenza artificiale per estrarre le tue informazioni personali al fine di impersona te. Questa è un'azienda che sa dove sei stato grazie ai dati di geolocalizzazione, sa tutto quello che hai cercato online, e che ha profili pubblicitari sui tuoi potenziali religiosi, politici e sociali prospettive. Ti sentiresti a tuo agio con queste informazioni che assumessero una voce convincente e parlassero a tuo nome? Ordinare un tavolo in un ristorante può essere innocuo, ma cosa succede se Duplex viene lasciato libero sul posto di lavoro, o all'ufficio delle imposte o al tuo ex?
Per la persona chiamata, c'è anche la questione della doppiezza. Se l'Assistente Google è in grado di portare una conversazione in modo convincente, non è disonesto indurre in errore un altro essere umano a pensare che stiano parlando con una persona viva e che respira? Incoraggia un modo di pensare alle piccole imprese in cui coloro che accettano prenotazioni di tavoli o appuntamenti con i capelli sono poco più che macchine stesse; non vale il tempo per una vera voce.
Poi di nuovo, forse quell'azienda non avrà bisogno di voci reali quando ha un'intelligenza artificiale di Google che risponde alle loro chiamate. Questo è il futuro: un'infinita simulazione AI di esseri umani che parlano avanti e indietro, con solo le macchine ad ascoltare.
