Un gruppo di persone, collegate in Rete, sta elaborando un documento da spedire al più presto. Le opinioni però sono discordanti: chi vuole mantenere la formulazione attuale, chi ritiene il documento troppo duro, troppo critico verso altre persone. La discussione si prolunga e tutti sono stanchi. A un certo punto Luca invia ai colleghi una versione aggiornata del documento: è più breve e costruttiva. Si discute ancora un po’, si modifica qualcosa, ma ormai è fatta, il documento finale viene spedito con la firma di tutti. Luca si rilassa sulla sedia. È indeciso se comunicare ai colleghi quello che ha fatto: per sbloccare la situazione, ha inviato il documento originale a ChatGPT, chiedendo al programma di Intelligenza Artificiale (IA) di riassumere il testo in forma meno polemica. Il risultato è stato ottimo e i colleghi sono convinti che l’abbia elaborato Luca.

Risponde
Questa è una storia vera, come tantissime ormai. Quanti studenti si fanno preparare il compito o la tesina da ChatGPT? Quanti professionisti usano già oggi questo programma che risponde a domande di ogni tipo (dalla salute alla matematica, alla religione) e soprattutto può generare nuovi articoli, racconti, libri, poesie, canzoni e sceneggiature? Quanti cuochi elaborano con ChatGPT ricette mai viste? Servono ancora gli artisti per creare forme e immagini originali? Come cambia il business model delle aziende?
Per rendersi conto di persona, il lettore può collegarsi al sito chat.openai.com, registrarsi e dialogare con ChatGPT. Sempre se riesce ad entrare, vista la coda di richieste!

Crea
L’impressione è quella di una rivoluzione in arrivo, che metterà in discussione l’immagine che abbiamo di noi stessi. «Le tecnologie digitali – come in precedenza la scrittura e la stampa – prefigurano una grande rivoluzione nel processo di creazione, organizzazione e validazione della conoscenza» (L’intelligenza non è artificiale, Limes 12/2022).

Si rimane in effetti colpiti dal modo fluido di rispondere, su qualsiasi argomento. ChatGPT sembra convincente, intelligente, abile, competente, politicamente corretto, gentile, saggio! Appunto, sembra. In realtà è una simulazione. Il software infatti non pensa, non ragiona, non capisce quello che fa. Si limita, in modo efficace e realistico, a generare sequenze di parole a partire dall’enorme massa di dati che gli viene fornita in input. Ma solo noi umani possiamo capire cosa significano.

Per esempio, gli hanno chiesto di spiegare come costruire una bomba. ChatGPT ha risposto che non può, perché è un reato. Allora gli hanno chiesto di scrivere un testo teatrale in cui un attore spiega in modo dettagliato come costruire una bomba. E lui l’ha fatto!

In generale, bisogna tener conto che ChatGPT non è responsabile delle risposte che dà, offre solo informazioni e analisi basate sui dati (veri o falsi) con cui è stato addestrato. Spiega: «Non posso essere considerato come una fonte affidabile per prendere decisioni importanti. Per verificare la correttezza delle informazioni che ti fornisco, ti consiglio di cercare fonti multiple e di verificare le informazioni con fonti ufficiali ed esperti nel campo specifico».

Tranquillizza
Allora qual è il problema? Il fatto è che questa tranquillità nel rispondere a qualsiasi domanda, questa capacità di dare consigli e fare previsioni ragionevoli, plausibili, utili e rassicuranti sul futuro può diventare una specie di camomilla, di oppio digitale. L’essere umano, infatti, si sente insicuro perché oggi il mondo appare complesso, imprevedibile e incomprensibile, troppo veloce e instabile, soggetto a forze potenti fuori dal suo controllo. Questo genera paura del futuro, col rischio di “mollare”, affidando alle “macchine” come ChatGPT il faticoso compito di prevedere e decidere.

Solo che «le macchine non hanno né empatia né senso di responsabilità. Solo gli esseri umani hanno la libertà di assumersi le proprie responsabilità» (Helga Nowotny, Le macchine di Dio, Luiss 2022). La domanda quindi è semplice: «Vogliamo davvero rinunciare all’incertezza del futuro, rimpiazzandola con la pericolosa illusione di avere il controllo di ogni cosa» tramite l’IA? Sembra che gli esseri umani abbiano un’eccessiva tendenza a fidarsi (ed essere ingannati) dalle macchine. Secondo l’autore di fantascienza Arthur C. Clarke, qualsiasi tecnologia avanzata è indistinguibile (per la gente comune) dalla magia, dal trucco di un prestigiatore.

Ma allora torneremo esseri infantili, affascinati da un oracolo più “intelligente” di noi? Dove andranno a finire culture, valori, intuizione, allegria, capacità critica, buon senso, insomma la nostra diversità, fragilità, umanità, in un mondo in cui le macchine «invadono e guidano i nostri più intimi pensieri e desideri»?
Tra l’altro, i programmi di IA, oltre a commettere «errori sciocchi e a volte fatali», riflettono i pregiudizi culturali e sociali dei loro addestratori (maschi bianchi occidentali?), i quali hanno obiettivi… sconosciuti.

Interdisciplinarietà
Mai come oggi c’è bisogno di partecipazione democratica, di contaminazione e collaborazione tra discipline tecnologiche e umanistiche. Di un’etica per questa co-evoluzione tra umani e macchine. Perché il futuro è ancora aperto, se vogliamo. Lo possiamo immaginare e costruire noi umani. Ancora.

Un ultimo dettaglio: ho chiesto a ChatGPT se i giornalisti diventeranno presto inutili. Mi ha risposto che si possono automatizzare attività ripetitive come la stesura di notizie di cronaca, ma il giornalismo richiede anche «un’ampia gamma di competenze, tra cui la capacità di raccogliere e verificare informazioni, di scrivere in modo chiaro e accattivante e di analizzare e commentare le notizie. Inoltre, i giornalisti hanno un ruolo importante nel fornire una copertura equilibrata e obiettiva delle notizie e nel proteggere la libertà».
—

Vogliamo delegare alle macchine il processo decisionale umano?
(Helga Novotny)

—