Comprendere le novità senza catastrofismi

Forse capita anche a voi di avvertire un senso di smarrimento, quando vi giunge notizia di una nuova tecnologia, frutto di una non ben definita recente scoperta scientifica, che promette di rivoluzionare (ancora una volta) il nostro modo di vivere.

A coloro i quali, poi, per vocazione o per lavoro tocca l’onere di conoscere per contribuire, o anche solo per valutare e raccontare questa ennesima nuova tecnologia, allora allo smarrimento si aggiunge inevitabile anche un senso di soffocamento. Viene voglia di dire: «basta! Non ce la facciamo più. Basta novità, rendeteci la monotonia dei nostri avi», convinti com’erano che sarebbero morti in una società non molto diversa da quella in cui erano nati.

DL + NLP

L’occasione per esternare questa malcelata insofferenza, stavolta, è fornita dai risultati recentemente raggiunti da una disciplina non nuovissima ma che ora ci appare improvvisamente rivoluzionaria: l’Intelligenza Artificiale. La tematica per sé nasce attorno alla metà del secolo scorso ma fatica a decollare fino a una quindicina di anni fa quando una particolare metodologia nota con il nome di «deep learning» (Dl) si impone all’attenzione dei non specialisti per gli ottimi risultati raggiunti nel settore del riconoscimento automatico delle immagini. Il Dl è una vera e propria tecnologia, capace di produrre quello che in gergo viene sbrigativamente chiamato un «algoritmo». Questa tecnologia utilizza una rete neurale artificiale per costruire uno schema classificatorio molto efficiente, capace ad esempio, di riconoscere la presenza o assenza di un cane in una fotografia, con percentuali medie di successo superiori persino a quelle di un essere umano. Le sue applicazioni sono molteplici e a volte sorprendenti, ad esempio nel campo della medicina per l’interpretazione delle immagini diagnostiche oppure nell’analisi dei dati osservativi in diversi campi scientifici.
Più discutibili e a tratti preoccupanti le sue applicazioni in campo bellico, per il riconoscimento di soggetti nemici o nell’antiterrorismo, per il riconoscimento automatico di potenziali attentatori.
È solo da pochi anni che queste tecnologie sono state applicate anche alle attività di trattamento del linguaggio naturale (NLP – Natural Language Processing), già precedentemente sviluppate sotto forma di sistemi di correzione ortografica e sintattica di un testo scritto, oppure di dettatura automatica mediante riconoscimento del parlato. Questo connubio costituito da Dl + Nlp, ha dato luogo ad una famiglia di applicazioni nota come «algoritmi generativi del linguaggio», ovvero sistemi capaci di intrattenere una conversazione ragionevole con un essere umano. Sono i cosiddetti «chat bot», il più famoso (famigerato) dei quali è sicuramente ChatGpt della OpenAI, fondata tra gli altri da Elon Mask.

ChatGpt

Intrattenere una conversazione online con ChatGpt provoca facilmente un senso di vivo stupore e persino ammirazione, per l’arguzia e la velocità nel formulare frasi e rispondere a domande tra le più disparate. Tuttavia, ad un’analisi più attenta, ChatGPT mostra due difetti importanti che derivano proprio dal modo in cui l’algoritmo è stato costruito, ovvero mediante l’analisi di un numero molto grande di esempi di testi scritti esistenti. Il primo difetto è la mancanza di originalità nelle risposte. Infatti, ChatGPT tende, per costruzione, a fornire una risposta formulata mettendo assieme la frase che risulta essere caratterizzata dalla massima probabilità, tra tutte le frasi analizzate in fase di formazione della rete. Questo fa sì che le risposte tendano ad essere ovvie, scontate e in molti casi banali. Quindi, è uno strumento poco adatto per compiti particolarmente creativi. Il secondo difetto, non meno significativo del primo, consiste nel fatto che ChatGpt fornisce risposte verosimili, ma non necessariamente vere. Anzi, il più delle volte, a motivo della sua innata tentazione di compiacere l’interlocutore, non riuscendo a dire «non lo so», tende a dare risposte formalmente corrette ma false nel loro significato.

In effetti è proprio il concetto di «significato» che fatica a trovare spazio negli attuali prodotti di Intelligenza Artificiale, tutta concentrata negli aspetti strutturali piuttosto che sugli aspetti semantici della comunicazione. Un’Intelligenza Artificiale basata unicamente sulle tecnologie Dl, per le ragioni fondamentali che sono alla base del suo funzionamento, non può nemmeno lontanamente pensare di competere con l’intelligenza naturale. Su questo punto sono molti gli esperti che concordano nei limiti dell’attuale Intelligenza Artificiale. Allora perché cresce la preoccupazione verso le ricerche in questo settore? Non passa mese che non ci sia un appello accorato di ricercatori e alte personalità in favore di una moratoria delle attività, in attesa di un qualche regolamento, che possa calmierare e contenere gli sviluppi dell’Intelligenza Artificiale. L’ultimo, composto unicamente da un singolo paragrafo, è dello scorso 30 Maggio, emesso dal Center for AI Safety, un centro di ricerca non profit californiano, recita: «Mitigare il rischio di estinzione dell’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare». Seguono circa trecento firme di ricercatori e altre personalità. Ne conosco personalmente una manciata e nessuno è un esperto di Intelligenza Artificiale, ma non bisogna biasimare: è difficile resistere al fascino del genere catastrofico. In effetti l’appello parla di «rischio di estinzione», qualcosa di simile all’impatto di un grande asteroide o di una pandemia letale rapidissima. L’estinzione dell’uomo dalla faccia della terra: è davvero questo quello che sarà l’esito dell’Intelligenza Artificiale?

I Chatbot come coltelli

Io penso di no. Penso che sarà una tecnologia di grande utilità (ma non priva di pericoli) che ancora una volta ci costringerà a ripensare il nostro essere persone, il nostro rapporto con il lavoro e con la natura. Quando mi capita di spiegare agli studenti quali siano i rischi di utilizzo dei chat bot, faccio spesso l’esempio del coltello. Il coltello non è un oggetto naturale, ed è invece il frutto di una tecnologia sviluppata dall’uomo, in un lungo periodo di tempo. Quella dei coltelli è una tecnologia di grande utilità ma non priva di pericoli. Tutti abbiamo coltelli in casa e certamente domani tutti avremo dei chat bot in casa. Tuttavia, non lasciamo in giro coltelli alla portata di tutti, e poniamo notevole cura nello spiegare ai bambini quali sono i rischi dei coltelli e come possano essere utilizzati per ottenere buoni risultati senza farsi male. E solo dopo una certa età ne consentiamo l’uso. Inoltre, il loro possesso ed il loro uso sono regolati per legge. La stessa cura dobbiamo applicarla a questi strumenti dell’Intelligenza Artificiale: molto utili se usati con accortezza e prudenza. Potenzialmente letali se utilizzati impropriamente o al fine di fare male. Nel caso dei chat bot, per gli usi malevoli si pensi alla diffusione di «fake news» o di notizie allarmanti o infamanti.

Se l’attuale tecnologia ha le caratteristiche che abbiamo appena discusso, è comprensibile che possa destare qualche apprensione, ma difficilmente può essere elencata tra i grandi rischi per l’umanità. Ma allora perché se ne parla in termini così catastrofici? Vale la pena riflettere su questa domanda perché, a mio avviso, qui si annida uno degli aspetti più interessanti del tema dell’Intelligenza Artificiale. Infatti, alla base di questo diffuso sentimento di paura ci sono almeno tre distinti atteggiamenti.

Da un lato c’è la paura di chi non conosce le tecnologie DL attualmente impiegate, e risulta spaventato dall’abilità di conversazione articolata e complessa dei chat bot, confondendo la capacità di conversare con la capacità di progettare l’estinzione del genere umano o la presa del potere assoluto. Costoro sono scusati solo perché da sempre l’ignoranza genera paura e non ci si può fare molto se non cercare di spiegare cosa si nasconde sotto il velo dalla apparente scaltrezza dei chat bot: un meccanismo di tipo probabilistico, molto lontano da qualcosa che assomigli anche vagamente all’intelligenza umana.

Dall’altro lato però, ci sono gli esperti che, probabilmente in buona fede o per interesse, intendono attrarre l’attenzione del grande pubblico sul tema: grande paura porta grande attenzione, la quale è condizione necessaria per ottenere grandi finanziamenti.

In futuro avremo macchine intelligenti

Infine, c’è l’atteggiamento di chi guardando avanti, si aspetta che continuando nelle ricerche prima o poi si arrivi a quella che i tecnici definiscono «General AI», contrapposta a quella attuale definita «Narrow AI». Quest’ultima è un’intelligenza settoriale, dedicata ad uno specifico compito come il riconoscimento delle immagini. La General AI, invece, è un’Intelligenza Artificiale davvero confrontabile con l’intelligenza umana, capace di eseguire compiti difficili come la guida completamente autonoma di un’automobile in un ambiente complesso e variabile. La General AI non è qui, tra noi, oggi e non sembra nemmeno proprio dietro l’angolo. Però, e su questo voglio essere chiaro, io sono convinto che la «General AI» arriverà. Quando non so dire ma è fuori dubbio che arriveremo a questo risultato, cioè quello di una macchina creata dall’uomo con capacità intellettive simili a quelle umane. Il perché sia convinto che questo avverrà è presto detto: esistono già macchine un po’ speciali, con queste capacità e queste macchine siamo noi. Noi siamo macchine a base Carbonio capaci di «General AI», nulla vieta che in futuro potranno esserci macchine simili a noi a base Silicio o qualunque altro materiale sarà ritenuto utile. Di solito, quando parlando in pubblico arrivo a questo punto della riflessione, nell’auditorio cala un gelo tangibile. Vorrei rassicurare chi tra i lettori, in questo momento prova un certo disagio: il fatto che noi umani siamo macchine può turbarci ma è stato ampiamente acclarato dalla comunità scientifica, in almeno duecento anni di ricerche. Non conosco scienziato che non condivida questa idea: l’uomo è una splendida, sofisticata e complessa macchina, ma non c’è dubbio che esso sia una macchina.

Il soffio dello s/Spirito

Semmai possiamo discutere se siamo soltanto macchine o c’è dell’altro. Questo eventuale altro, di solito viene indicato come «spirito», un’entità reale ma incorporea che diverse tradizioni culturali e religiose chiamano con diversi nomi e a cui attribuiscono diverse proprietà. Non è il mio campo e non spetta a me inoltrarmi in questa non semplice discussione. Vorrei ricordare Genesi 2:7 «Dio il Signore formò l’uomo dalla polvere della terra, gli soffiò nelle narici un alito vitale e l’uomo divenne un’anima vivente». L’uomo, come gli uccelli del cielo e i «mostri marini », esiste prima come essere materiale, ma diviene un’anima vivente solo dopo il soffio divino. Il mio punto di vista su questo tema segue il filone biblico: che l’uomo contemporaneo, nelle ricerche sull’Intelligenza Artificiale si adoperi pure in questo modo speciale e affascinante di partecipare all’opera della creazione (Laborem Exercens, 25) e poi, però, lasci a Dio la decisione su chi o che cosa soffiare il Suo Spirito. In un futuro, forse lontano, forse vicino, avremo sicuramente delle macchine intelligenti. Quale sarà il loro «statuto» spirituale, non spetta a noi deciderlo.