7 ottobre 2008: volo QF72 della Qantas, da Singapore a Perth in Australia, con 303 passeggeri a bordo. A un tratto, senza preavviso, il pilota automatico inizia una vertiginosa picchiata verso l’oceano, sballottando i passeggeri qua e là tra i sedili. Tutti i grandi aerei sono ormai guidati, per la maggior parte del volo, da sistemi automatici di intelligenza artificiale. Il pilota Kevin Sullivan cerca per due volte di riprendere il controllo e per due volte il computer ritenta la manovra di picchiata sull’oceano. Alla fine, dopo una vera e propria “lotta”, il pilota esclude il computer e prende definitivamente il comando guidando l’aereo fino all’aeroporto più vicino. Bilancio: 11 feriti gravi. Motivo: guasto ai sensori di posizione e al software di bordo.

24 marzo 2015: volo Germanwings 9525, da Barcellona a Düsseldorf. A un tratto, senza preavviso, il copilota Andreas Lubitz inizia una picchiata deliberata verso le montagne francesi dove l’aereo si schianta pochi minuti dopo. Bilancio: 150 morti. Motivo: grave depressione del copilota. Due tragedie: una evitata, una avvenuta. Due cause: guasto della macchina e “guasto” dell’uomo. In comune l’imprevedibilità. Eppure le statistiche e gli esperti confermano che, in situazioni di pericolo, i sistemi software automatici reagiscono di solito in modo molto più razionale, più affidabile e più veloce dell’uomo. Quindi più sicuro. Per questo motivo, l’orientamento prevalente è dare priorità alla macchina, ignorando i comandi dell’uomo quando sono in conflitto con quelli del computer. È un semplice calcolo di probabilità. Per questo Kevin Sullivan ha fatto così fatica a prendere il controllo.

Fiducia

Cambiamo contesto. Le automobili con frenata e parcheggio assistito hanno ridotto il numero di incidenti sulle strade. A breve entreranno nel circuito commerciale macchine a guida automatica (seguite, più in là, da quelle in grado di volare): i test su strada hanno mostrato che la stragrande maggioranza degli incidenti sono causati da imprevedibilità umana, non dalle macchine. Eppure c’è un problema perché, intuitivamente, non ci fidiamo della tecnologia. Un sondaggio ha rilevato che il 75% degli automobilisti non ha intenzione di cedere il controllo ad una automobile a guida automatica. Le donne sono più fiduciose degli uomini, eccetto quando portano i figli a scuola! Prendiamo altri due esempi: se la macchinetta che distribuisce bibite o biglietti della metropolitana non ci restituisce niente in cambio della monetina che abbiamo introdotto, ci irritiamo e magari la prendiamo a calci. HitchBot, piccolo robot canadese capace di fare l’autostop e dialogare con l’autista che gli dà un passaggio, dopo aver viaggiato senza problemi in Canada ed Europa, è sopravvissuto solo pochi giorni nelle autostrade statunitensi: vandali l’hanno danneggiato e poi abbandonato semidistrutto sul bordo della carreggiata. Le macchine sono considerate per definizione “stupide”, quindi inferiori, quindi non degne di rispetto.

Intelligenza

Eppure negli ultimi 30 anni l’intelligenza artificiale ha fatto progressi enormi, tanto che oggi siamo in grado di costruire macchine che sanno “imparare” dall’esperienza. Non sono più guidate, quindi, da un software rigido progettato da noi, ma modificano il loro comportamento adattandolo alla realtà in cui operano. Un po’ come gli umani, senza però la capacità di “capire” quello che fanno. Il problema è che la logica della macchina è ormai così complicata che spesso neanche noi comprendiamo perché agisce in un certo modo. Ma possiamo affidarci a macchine di cui non capiamo il comportamento? E se una automobile a guida automatica deve decidere, in pochi secondi, se salvare il suo passeggero investendo i pedoni, o buttarsi fuori strada uccidendo il passeggero, chi stabilirà qual è la decisione giusta?

Turbamento

Un altro dettaglio: ci sono macchine costruite con sembianze umane. I ricercatori sanno, però, che quando i robot sono “troppo” somiglianti, scatta un meccanismo di malessere e disagio: quella “cosa” che abbiamo davanti è viva? È un essere umano come noi? Il risultato è la paura di quella macchina. All’opposto invece i bambini e le persone anziane con disturbi cognitivi si affezionano molto facilmente ai robot badanti. Ma è giusto “ingannare” in questo modo un bambino (come crescerà?) o una persona al termine della vita, la quale avrebbe diritto di essere assistita da qualcuno che “capisce” le sue confidenze e i suoi timori?

Lavoro

Un ultimo aspetto, forse il più esplosivo. Il lavoro è dignità, ripete papa Francesco. Ma in una società dove i robot sostituiranno l’uomo in quasi tutti i lavori, cosa rimarrà per gli umani? «Il disoccupato a lungo termine perde la stima di sé e soprattutto l’autonomia personale», ammonisce Stefano Zamagni. Sicuramente bisogna riqualificare le persone affinché possano svolgere «l’infinità di lavori nuovi che saranno richiesti domani e che le macchine non potranno svolgere» (Pietro Ichino e Pietro Micheli). Ma questo forse non basterà. Claudio Borio, capo economista della Banca per i regolamenti internazionali (Bri), parlando dei possibili disordini sociali conseguenti alla crisi del lavoro, ha affermato: «Mi aspetto a un certo punto una reazione anti-robot».

Futuro

L’evoluzione dell’uomo, il suo futuro sono ormai strettamente intrecciati con quello della tecnologia, delle macchine. Perciò è inutile lanciare battaglie perse in partenza contro i robot. È più intelligente pensare a come gestire l’automazione diffusa, a beneficio di tutti gli uomini e non di pochi. Anche per non rischiare di perdere il “fattore umano” che ci caratterizza.