Una tecnologia che può uccidere i sentimenti umani

Saremo condizionati dai robot in un futuro assai vicino

Recentemente un caro amico è tornato dal Giappone a dir poco entusiasta come un bambino davanti ad un negozio di giocattoli, la causa di tanto entusiasmo è l’aver vissuto, tra l’altro, in un albergo a cinque stelle completo di ogni confort nella prefettura di Nagasaki, il Henn-na Hotel.
Alla domanda di cosa c’era di così eccezionale, al di là di essere un albergo di categoria superiore, la risposta è stata che non c’era assolutamente nessuno, almeno di umano ad accoglierlo, ma solo robot dalle sembianze umane con una capacità di interloquire con il cliente veramente eccezionali e in più lingue, purtroppo non c’era l’italiano.
Insomma, un personale robotico che alla reception offre tutte le informazioni necessarie e, una volta in stanza, il cliente trova un altro robot, questa volta solo una voce che diventa l’assistente virtuale a cui chiedere, ad esempio, di alzare il volume della tv, abbassare le luci, sapere che tempo farà domani o che bus prendere per andare in una determinata località.
Le risposte sono sempre perfette e puntuali, l’unico problema, mi ha confidato il mio amico, che dopo un po’ quella voce diventava quasi un amico con cui confidarsi per la ricchezza di argomenti che sapeva affrontare, e, a quanto sembra, non era certamente l’unico caso in quell’albero fantascientifico ad avere questa una strana interlocuzione con un androide come se alla fine fosse una persona in carne e ossa.
Gli ideatori di tale albergo, visto il successo, vogliono adesso riproporlo in tutto il mondo aprendo almeno mille di questi Henn-na Hotel e creando – aggiungiamo – anche tanta disoccupazione, ma questo è un altro discorso.
Ciò che può sembrare, almeno a noi che abbiamo i capelli bianchi, pura fantascienza, non è così per il mondo in cui viviamo quotidianamente, o almeno una parte di esso.

Già in tanti, nelle proprie case o in ufficio, hanno le voci virtuali con le quali poter interagire su ogni cosa: dalle ricette di cucina, al tempo previsto per oggi fino ad arrivare ai compiti a casa per i figli e se già tutto questo è incredibile, interloquire con questo elemento virtuale ha anche dei risvolti imprudenti per la nostra salute mentale, specie quando ci adagiamo per pigrizia su risposte espresse da una macchina – programmata, tra l’altro, non si sa da chi – e senza un approfondimento da parte nostra sulla veridicità delle risposte si può creare di fatto una realtà ancora più virtuale.
In questa maniera, come hanno sottolineato i psicologi, si può tranquillamente ricostruire un episodio storico inventandolo anche di sana pianta grazie alla nostra indolenza culturale e da qui creare profili per nuove identità il passo è breve.
Inutile dire quali sarebbero i risvolti culturali e sociali di tale genere di azioni informatiche.
Ciò che spaventa sono proprio le tante persone sofferenti di solitudine o di fragilità psichica che fanno riferimento spesso a questi ‘amici virtuali’ disponibili giorno e notte, diventandone sempre più dipendenti e diventando a loro volta interlocutori-confidenti, una vera isola in un mondo sempre più individualista e non certo aperto a sentire le sofferenze dell’altro.
Blake Lemoine, ex ingegnere di Google, ammonisce, ormai da anni, sui rischi di questi chat bot che potrebbero diventare tra non molto anche “oggetti senzienti” e un domani, non troppo lontano, sostituirci di fatto in tutto e per tutto e per questo ha definito questa tecnologia “la più pericolosa creata dopo la bomba atomica”.
Un concetto affermato anche da Eugenia Kuyda, fondatrice e CEO di Luka, una di queste startup in un mare di concorrenti sempre più agguerriti “Abbiamo sempre inteso il nostro prodotto come un amico. Poi abbiamo visto che per alcuni diventava un partner romantico. Avevamo allora pensato di chiudere questa funzionalità, ma abbiamo ricevuto migliaia di lettere di protesta di utenti che accusavano la società di avergli tolto il compagno della loro quotidianità”.
Nonostante questi pericoli la tecnologia va avanti e così se chi risponde alle loro richieste non ha solo una voce strumentale, ma anche famosa come quella di una star del cinema, allora il gioco di dipendenza è fatto.
Interloquire, grazie a tecnologie sempre più avanzate, non con una voce qualsiasi strumentale, ma con quella di Tom Cruise, Oprah Winfrey o di Tom Hanks, per ora parliamo solo del mercato americano, si può capire quale confusione emotiva può generare.
Il progresso, si dice, deve sempre andare avanti, è la stessa parola a dirlo, ma, parafrasando Plinio il Vecchio nella sua Naturalis Historia, di agire sempre ‘Cum grano salis’ per non trovarsi, poi, come potrebbe accadere per noi tra qualche anno, con problemi immensi da risolvere.