Se ci estingueremo, non sarà colpa di ChatGPT

Una riflessione sui rischi veri e presunti dell’intelligenza artificiale.

Gabriele Costa | professore di informatica, Scuola IMT Alti Studi Lucca
https://www.flickr.com/photos/152824664@N07/30212411048/

Il dibattito sull’introduzione dell’IA e sugli impatti che dovremmo attenderci per la nostra società è estremamente vivace, ma non sempre perfettamente lucido e razionale. Come spesso capita, i rischi tendono a spaventarci e a mettere in secondo piano le potenziali opportunità. L’IA è quasi certamente sul punto di entrare prepotentemente nella nostra quotidianità, sotto varie forme, e questo porterà importanti cambiamenti nelle nostre vite. Se questi cambiamenti saranno positivi o negativi dipenderà anche e soprattutto dalla nostra comprensione di questa tecnologia e dallo sviluppo di un dibattito costruttivo. Lo scopo di questo articolo è di contribuire alla discussione in corso introducendo una nuova prospettiva sui rischi e sulle potenzialità dell’IA, inclusa la nascita di una Skynet.

AI e occupazione

Prima ancora della nostra eventuale estinzione, paventata da un gruppo di esperti che hanno pubblicato di recente una lettera pubblica  comunque, la principale questione di cui si dibatte riguarda l’impatto sul mondo del lavoro. Se è vero infatti che già da tempo siamo abituati all’idea che certi lavori sono destinati a scomparire a causa della sostituzione dell’uomo con strumenti automatici, molti pensano che questo destino riguardi solo i lavori fisici, pesanti e tutto sommato sgradevoli, quelli insomma che è difficile qualcuno possa rimpiangere. È preoccupante scoprire ora che tra i lavori a rischio di estinzione ci sono anche il giornalista e l’avvocato (ammesso che si possa sentire la mancanza di un avvocato divorzista). Alcuni si ostinano a pensare che sia impossibile che questo accada, in virtù delle ineguagliabili (!) facoltà dell’intelletto umano. Ma questo tipo di pensiero consolatorio (whishful thinking – “le cose andranno comunque in una direzione positiva”) che ci induce a pensare che le attività più legate all’intelletto siano al sicuro dai progressi tecnologici è tipico degli esseri umani e ci deve, ancora una volta, spingere a fare una profonda riflessione sulla nostra posizione nell’universo. Dal punto di vista della nostra specie, la storia della scienza (e più di recente quella della tecnologia) delinea una sola grande morale: non siamo speciali (se non nella nostra capacità di fare danni enormi). La situazione ricorda vagamente quella delle gare tra cavalli e le prime locomotive presenti in alcuni film western, in cui il cavallo, magari, riusciva a battere la locomotiva. Anche se in alcuni casi l’animale poteva superare le prime rudimentali macchine a vapore, oggi nessuno farebbe correre un povero cavallo contro un frecciarossa. Da questo punto di vista, è probabile che noi ci troviamo in una situazione molto simile a quella del cavallo nel far west.

Intelligenze a confronto

Qualcuno potrebbe obiettare che, come scritto in precedenza, la competizione tra locomotiva e cavallo era solo di natura “muscolare”, tra il motore a vapore e quello biologico, mentre l’IA sfida il nostro intelletto, tenta di detronizzarci nella classifica di “più intelligente”. Vero, ma anche in questo caso vale la pena riflettere più attentamente. La prima cosa da considerare è che non siamo sostanzialmente in grado di definire il termine “intelligenza” in modo soddisfacente per tutti. Ad esempio, una definizione particolarmente rigorosa e utile è quella che si dà nella teoria dei giochi, dove un agente intelligente è quello sempre in grado di identificare la strategia ottima per il raggiungimento dei propri obiettivi. Tuttavia molti non pensano che questa definizione sia adeguata per descrivere l’intelligenza degli essere umani, più legata alla creatività, cioè alla capacità di immaginare cose che non esistono ancora. Senza contare che se accettassimo questa definizione, risulteremmo subito molto poco intelligenti. Purtroppo, dell’intelligenza, nei termini che più ci piacciono,  non ci sono descrizioni soddisfacenti. “Il genio” rimane qualcosa di vago e inafferrabile, un oggetto misterioso che, come diceve Alan Turing, si trova all’interno di una cipolla con molti strati e che, tutto sommato, potrebbe anche non contenere nulla. In effetti nella classificazione di Linneo la nostra specie è detta appunto “homo sapiens”, non “homo intelligens”. Se ci limitiamo alla “sapienza”, però, la sfida è già persa da molti anni visto che nessun essere umano può veramente competere con un (oggi banale) motore di ricerca.

Il celebre motto di Thomas Edison – “genius is 1 percent inspiration and 99 percent perspiration” – ci ricorda che l’attività mentale, anche quella più raffinata, consiste in un esercizio di natura fortemente fisica (99 per cento sudore!) e infatti il nostro cervello consuma una porzione significativa delle nostre energie (circa il 20 per cento). In questo senso l’IA può portare un contributo significativo alla nostra società, affiancando l’essere umano in tutte quelle attività dell’intelletto che sono più prossime a uno sforzo di tipo fisico. Ad esempio, nel campo della ricerca scientifica, tipicamente considerata un’attività fortemente intellettuale, questo tipo di compiti sono molto frequenti (e spesso delegati ai giovani studenti) ed includono la definizione degli esperimenti, la raccolta dei dati, la revisione della letteratura, la preparazione di tabelle e grafici e molto altro ancora. 

Che cosa ci aspetta?

Quindi, cosa dobbiamo aspettarci dalla diffusione e dallo sviluppo dell’IA nei prossimi anni? Faremo la fine dei cavalli e saremo “condannati” al pascolo mentre i treni ci sfrecciano davanti? Saremo definitivamente eliminati dalla scena planetaria, in stile Terminator? Anche questo richiede alcune considerazioni. La prima è che lo sviluppo dell’IA non è facilmente arginabile. Questa tecnologia rappresenta un vantaggio enorme dal punto di vista economico e in un contesto di produzione competitiva, rinunciare interamente a questa possibilità sarebbe come stendere un tappeto rosso ai propri concorrenti (aziende o nazioni estere). In questo senso, anzi, dobbiamo aspettarci una corsa allo sviluppo dell’IA. Questa rapida evoluzione probabilmente non terminerà con una IA impegnata attivamente nello sterminio del genere umano (come invece ritiene probabile il 42 per cento dei CEO intervistati a Yale). Il motivo principale è la mancanza di motivazioni. Gli agenti razionali a cui siamo abituati sono di tipo biologico, plasmati dall’evoluzione per avere obiettivi come la sopravvivenza o il controllo di certe risorse. Il leone che vi insegue nella savana lo fa per difendersi o per mangiare. Questo tipo di comportamenti è lontano dal modo di operare di un calcolatore. Il rischio in questi casi è più legato ai difetti dell’IA e all’operato dell’uomo che può cercare di trarre vantaggio da questi difetti (se una IA controlla il lancio di missili nucleari il rischio maggiore non è che prenda auto-coscienza, ma che venga compromessa o manipolata da agenti nemici). Il motivo per cui alcuni credono che l’IA possa intenzionalmente aggredire l’umanità è molto semplice: lo hanno visto nei film! Di nuovo, questo è il risultato di un difetto nel nostro modo di ragionare, detto ”euristica della disponibilità” (“se sento che una cosa è capitata significa che è abbastanza probabile”). Per lo stesso motivo, mia moglie teme di essere divorata da uno squalo bianco quando fa il bagno a San Terenzo.

Uno stimolo per ripensare la società?

Un altro aspetto importante è quello legato all’impatto sul mondo del lavoro. Sostanzialmente, la perdita di posti di lavoro, inclusi alcuni di quelli che consideriamo di qualità, è una prospettiva drammatica, ma questo è vero soprattutto in una società “fondata” sul lavoro. Il lavoro, come l’intelligenza, è un concetto difficile da definire e tipicamente molto vago. In generale, consideriamo “lavoro” un’attività (a tempo pieno o parziale) che comporta una retribuzione “formale” (rubare non è tipicamente considerato un lavoro). E infatti, molte attività vengono assimilate al lavoro solo in presenza di questo fattore, si pensi ad esempio allo sport in cui sostanzialmente la retribuzione segna grosso modo il confine tra professionismo e dilettantismo. Quando usiamo termini come “nuovi lavori” o “lavori emergenti” ci riferiamo tipicamente a un cambio di livello retributivo legato ad una attività: chi lo avrebbe detto che si potevano fare i soldi parlando di videogiochi su tiktok? Come già notava Bertrand Russell in “Elogio dell’ozio” (1935) questo atteggiamento è legato a princìpi morali puramente convenzionali che possono mutare nel tempo. In questo senso l’IA potrebbe essere un fattore fondamentale per indurci a ripensare la nostra società. Pensate a una costituzione che inizia con “L’Italia è una repubblica democratica fondata sulla felicità” o “sull’essere umano”). Un cambiamento del genere, ammesso che sia destinato ad avvenire, richiederà comunque tempo.

In collaborazione

Durante questo intervallo si continuerà a ragionare sulla coesistenza tra IA e intelligenza umana. Su questo aspetto ci sono diversi motivi per essere ottimisti. Il primo e più importante è che quasi sicuramente l’intelligenza non sarà mai troppo abbondante da permetterci di rinunciare al contributo di nessuno, inclusi gli esseri umani. È ragionevole aspettarsi che, in molti contesti, le persone saranno affiancate da strumenti basati sull’IA. La principale differenza rispetto ad altri strumenti che sono entrati nella nostra quotidianità sarà che non saremo più in grado di parlare di “uso” dello strumento, ma piuttosto dovremo parlare di “collaborazione” con lo strumento. Un secondo fattore sarà legato alle motivazioni. Come detto in precedenza, il lungo percorso dell’evoluzione ci ha fornito di una vasta gamma di stimoli e motivazioni. Senza questo tipo di spinta, le IA non sono in grado di prendere iniziative particolari, se non quelle per cui sono state configurate. Di conseguenza, se una IA si impegnerà attivamente per distruggere il genere umano sarà quasi certamente perché un essere umano glielo ha chiesto (non che questo sia particolarmente rassicurante in effetti). 

L’AI come Lanterna Verde

Ma quindi, in definitiva, a cosa somiglierà la nostra convivenza con l’IA? Anche se non è facile prevederlo con precisione possiamo farci un’idea abbastanza precisa con una similitudine. In un recente libro intitolato “Homo Deus. Breve storia del futuro”, lo storico Yuval Noah Harari descrive il progresso tecnologico in termini di aumento delle capacità dell’essere umano. In un certo senso, valutando l’introduzione delle nuove tecnologie con gli occhi di chi ha vissuto nel passato, quello che accade è simile all’acquisizione di nuovi “poteri”, non troppo diversi da quelli dei supereroi. Per una donna del 1800, ad esempio, un televisore potrebbe sembrare simile a una sfera di cristallo e per un uomo della stessa epoca una telefonata con un cellulare potrebbe apparire analoga a una comunicazione telepatica. Ai loro occhi potremmo quindi apparire simili a una sorta di Dr. Strange. Se facciamo lo stesso esercizio, ma in direzione opposta, e ci immaginiamo come potrebbero sembrarci uomini e donne che tra qualche anno utilizzeranno quotidianamente l’IA, a quale supereroe potrebbero somigliare? Un’ipotesi abbastanza suggestiva è Lanterna Verde (Green Lantern). Il motivo è abbastanza intuitivo: questo supereroe dei fumetti è in possesso di un anello in grado di materializzare istantaneamente gli oggetti immaginati. Le creazioni dell’anello non sono perfettamente identiche agli oggetti reali e il loro comportamento dipende soprattutto della capacità immaginifica di Lanterna Verde. In questo senso, l’IA che crea contenuti nuovi, guidati dalla capacità degli utenti di immaginare e descrivere cosa deve essere fatto, non è troppo diversa dall’anello del potere. Come nei fumetti e nei film, poi, l’anello non è un oggetto unico, in dotazione a un supereroe solitario, ma una vera e propria tecnologia a disposizione di un vasto gruppo di individui (il corpo delle Lanterne Verdi, appunto). Se eliminiamo dalla storia vicende personali, guerre intergalattiche e supercattivi, quello che resta è una classe di operatori specializzati che usa la tecnologia per compiere azioni estremamente complesse e per svolgere, ognuno, il lavoro di 100 uomini. Allo stesso modo, un solo giornalista potrà svolgere il lavoro di un’intera redazione e un progettista software potrà produrre codice come se guidasse un intero team di programmatori. Ci saranno chiaramente implicazioni di varia natura e questioni di tipo etico, ma quasi certamente, come accade ad Hal Jordan e compagni, disfarci dell’anello non sarà una via percorribile.

Potrebbero interessarti anche

SocietàMente e Cervello

Pillole di razionalità #4 – Gli esperti (non) hanno sempre ragione

Come facciamo a decidere di chi fidarci? La filosofia della scienza prova a rispondere.

Tecnologia e InnovazioneSocietà

Quanto è intelligente ChatGPT?

Botta e risposta con il software di intelligenza artificiale del momento.

Mente e Cervello

Tecnostress, quando l’uso della tecnologia sul lavoro diventa un problema

Un gruppo della Scuola IMT studia questa forma di disagio psicofisico, e progetta interventi per prevenirlo e ridurlo.

Tecnologia e InnovazioneSocietà

Dove ci porterà l’intelligenza artificiale

L’AI Index Report 2023 fotografa lo stato della tecnologia più discussa del momento.