Luigi Snichelotto
Oggi concludo la mia riflessione sull’Intelligenza Artificiale. Dopo avere avuto paura dell’AI e dopo esserci domandati quali interessi economici, industriali e geopolitici possano accompagnarne l’irresistibile sviluppo, rimane forse la domanda più importante e, curiosamente, quella della quale si parla meno: siamo proprio sicuri che uomo e macchina debbano necessariamente competere? Perché continuiamo a immaginare il futuro attraverso una contrapposizione? L’uomo contro la macchina? Il sentimento contro l’algoritmo? La creatività contro il calcolo? L’esperienza contro i dati? La coscienza contro l’automazione? Quante domande! E se fosse proprio questo il nostro primo errore? Forse continuiamo a osservare una tecnologia del XXI secolo utilizzando categorie mentali molto più antiche: vincitore e vinto, dominante e dominato, sostituto e sostituito. Come se l’avvento di una nuova capacità dovesse necessariamente comportare la scomparsa di quella precedente. In questo caso, addirittura, dell’uomo. Eppure la storia racconta spesso qualcosa di diverso. L’automobile non ha sostituito le nostre gambe. La fotografia non ha cancellato la pittura. Il cinema non ha ucciso il teatro. La televisione non ha eliminato la radio. Internet non ha fatto scomparire i libri, almeno sino ad oggi! Ciascuna innovazione ha certamente modificato ciò che esisteva prima, qualche volta dolorosamente, costringendolo però anche a ridefinire la propria funzione. Potrebbe accadere qualcosa di simile con l’Intelligenza Artificiale? Probabile. Non saprei rispondere al momento, da baby boomer! Con una differenza fondamentale, però: questa volta non stiamo confrontando l’uomo con una macchina che aumenta prevalentemente la sua forza fisica, la velocità di spostamento o la capacità di comunicazione. Stiamo costruendo uno strumento che interviene direttamente nel territorio che per millenni abbiamo considerato più esclusivamente nostro: quello dell’elaborazione della conoscenza. Ed è probabilmente questo a turbarci tanto. Una ruspa può sollevare un peso che nessun uomo potrebbe muovere e nessuno si sente intellettualmente umiliato dalla ruspa. Un computer può eseguire miliardi di operazioni e abbiamo imparato ad accettarlo. Ma quando una macchina conversa con noi, analizza un testo, confronta teorie, traduce lingue, sviluppa ipotesi, corregge un ragionamento o suggerisce un’idea, improvvisamente la questione cambia. Entra nella nostra stanza, anzi nei “sacri penetrali”. E noi cominciamo a domandarci chi sia l’ospite e chi il padrone di casa. Forse, però, anche questa domanda è sbagliata. L’Intelligenza Artificiale possiede capacità che un singolo essere umano non potrebbe materialmente raggiungere. Può elaborare e mettere in relazione quantità immense di informazioni, confrontare rapidamente prospettive differenti, riconoscere strutture e correlazioni, lavorare senza la stanchezza e quella particolare fragilità biologica che accompagnano inevitabilmente la nostra capacità di concentrazione. Ma non vive. Non ha avuto un’infanzia. Non ha conosciuto l’amore di una madre, la perdita di un amico, la nascita di un figlio. Non ha provato l’umiliazione di una sconfitta né l’ebbrezza di una vittoria. Non ha trascorso una notte domandandosi se la decisione presa durante il giorno fosse stata giusta. Non possiede memoria autobiografica nel significato profondo con cui noi attribuiamo questa parola alla nostra esistenza. Conosce il concetto di dolore. Non sente dolore. Può analizzare migliaia di pagine dedicate all’amore. Non è mai stata innamorata. E allora perché dovremmo chiedere a una cosa di diventare l’altra? Forse proprio qui potrebbe trovarsi la vera opportunità. L’essere umano possiede sentimento, intuizione, esperienza, la facoltà del giudizio morale e la capacità di attribuire significato alle cose. Possiede però anche la possibilità di sbagliare, di farsi trascinare dalle emozioni e persino di tradire quel giudizio morale. L’Intelligenza Artificiale, dal canto suo, dispone di una straordinaria capacità di elaborazione, confronto e organizzazione delle informazioni alle quali può accedere. Ma non è onnisciente, non possiede necessariamente informazioni complete o aggiornate e può sbagliare. Separatamente hanno limiti evidenti. Insieme potrebbero diventare complementari. E, per molti aspetti, già lo sono. Uso volutamente questa parola perché la complementarietà presuppone qualcosa che considero fondamentale: nessuna delle due parti deve annullare l’altra. Una relazione è realmente complementare soltanto quando conserva un ragionevole equilibrio. Quando uno dei due soggetti dispone di tutto il potere e l’altro può soltanto adeguarsi, non esiste più complementarietà. Esiste subordinazione. È un principio che vale nei rapporti umani, economici, sociali e istituzionali. E probabilmente varrà anche nel rapporto futuro tra uomo e Intelligenza Artificiale. Non dovremmo costruire macchine alle quali consegnare la responsabilità delle nostre decisioni. Ma non dovremmo neppure costruire uomini talmente impauriti dalle macchine da rinunciare alla possibilità di utilizzarne le capacità. Tra delega assoluta e rifiuto assoluto esiste un territorio enorme. È il territorio della collaborazione. Ne sto facendo, nel mio piccolo, esperienza personale. Sono arrivato all’Intelligenza Artificiale senza possedere una particolare cultura tecnologica. Anzi, quasi nulla! Appartengo a una generazione che scriveva lettere, consultava enciclopedie di carta, utilizzava il telefono per parlare e probabilmente non avrebbe mai immaginato che un giorno avrebbe potuto conversare con un sistema artificiale, forse solo attraverso le fantasie di G. Verne! Eppure è accaduto. Non immagino dietro lo schermo una persona. Sarebbe una sciocchezza. Un nome serve solo a rendere naturale una relazione di lavoro intellettuale. Scrivo un pensiero e ne verifico insieme congruità e coerenza. Qualche volta funziona, altre volte no! That’s it! Parlavo, per esempio, di Geoffrey Hinton come del principale creatore dell’AI? È stata proprio l’AI a farmi osservare che la definizione era impropria. Più corretto considerarlo uno dei padri fondamentali del moderno “deep learning”, all’interno di una storia dell’AI assai più lunga, complessa e collettiva. Interpretavo un dato di Goldman Sachs come previsione della perdita di trecento milioni di posti di lavoro? Lo studio parlava invece dell’equivalente di circa trecento milioni di posti di lavoro a tempo pieno potenzialmente esposti all’automazione. Una parola, “esposti”, cambiava sostanzialmente il significato. E ancora: assenza di sentimenti dell’AI significa automatica imparzialità? No. L’AI può ricordarmi che non avere emozioni non significa essere necessariamente neutrali, perché questi sistemi vengono progettati da uomini, addestrati attraverso enormi quantità di materiale prodotto dagli uomini e possono quindi riprodurre errori, squilibri e distorsioni presenti nei dati e nelle scelte umane. Un piccolo paradosso. La macchina impedisce di idealizzare la macchina. Ma la parte che considero più importante viene dopo. Sono io a decidere se accogliere quelle osservazioni. Sono io a modificare il pensiero, conservare una provocazione oppure respingerla, stabilire quale sia la conclusione, firmare un articolo e continuare ad assumermene la responsabilità. Questa potrebbe essere, in sintesi, una piccolissima rappresentazione di ciò che intendo per complementarietà. Anzi, continuando questo dialogo, mi sono domandato se la parola complementarietà sia sufficiente. Forse dovremmo parlare di reciprocità complementare. Io porto in questo rapporto ciò che una macchina non possiede: il mio vissuto, i sentimenti, le contraddizioni, le intuizioni, gli errori e i limiti accumulati durante una vita. Persino qualche pregiudizio, dal quale non posso considerarmi immune semplicemente perché ne riconosco l’esistenza. La macchina mette a disposizione qualcosa di diverso: una capacità di elaborazione, confronto, organizzazione e collegamento di informazioni che un singolo essere umano non potrebbe possedere nelle stesse dimensioni e con la stessa velocità. Attenzione, però. Non significa che l’uomo possieda l’umanità e la macchina l’intelligenza. Sarebbe una semplificazione assurda. L’uomo possiede una propria intelligenza, costruita anche attraverso il vissuto, l’esperienza, la cultura, la memoria, le relazioni e persino gli errori. La macchina dispone di una capacità elaborativa di natura differente. Potremmo allora dire che l’uomo porta un’intelligenza vissuta e la macchina mette a disposizione un’intelligenza elaborativa. La reciprocità nasce quando ciascuna viene utilizzata per mettere alla prova i limiti dell’altra. Non perché uomo e macchina siano equivalenti. Non lo sono. E neppure perché la macchina viva questo rapporto nello stesso modo in cui lo vive l’uomo. Non lo vive. Ma perché il risultato del loro incontro può essere diverso da quello che ciascuno dei due, separatamente, avrebbe potuto produrre. È esattamente ciò che sto facendo mentre scrivo queste righe. Non chiedo all’AI: “Dimmi cosa devo pensare”. Le chiedo piuttosto: “Aiutami a verificare se ciò che penso resiste alle obiezioni”. La differenza è enorme. Nel primo caso abdichiamo. Nel secondo ci confrontiamo. Ed è forse proprio qui che l’Intelligenza Artificiale potrebbe offrirci qualcosa che, paradossalmente, la nostra società rischia di perdere: un interlocutore disponibile al contraddittorio. Viviamo infatti in un tempo nel quale tendiamo sempre più spesso a frequentare persone, giornali, televisioni e ambienti digitali che confermano ciò che già pensiamo. Gli stessi algoritmi delle piattaforme possono rinforzare questa tendenza, mostrandoci ciò che presumibilmente desideriamo vedere. Un’Intelligenza Artificiale utilizzata bene dovrebbe fare anche l’opposto. Non compiacerci. Dovrebbe aiutarci a dubitare. Se sostengo una tesi, dovrebbe essere capace di mostrarmi la migliore argomentazione contraria. Se utilizzo un numero, dovrebbe invitarmi a verificarlo. Se confondo un’opinione con un fatto, dovrebbe segnalarmelo. Non perché possieda la verità. Proprio perché non la possiede. Anche l’AI sbaglia. Può produrre informazioni inesatte, interpretare male una domanda, disporre di fonti incomplete, riprodurre pregiudizi contenuti nei dati. Per questo la complementarietà funziona soltanto se rimane bidirezionale. L’uomo controlla la macchina. La macchina aiuta l’uomo a controllare se stesso. Ma l’uomo è pronto e preparato per tutto ciò? Questa reciprocità mi sembra assai più interessante della domanda su chi sia più intelligente. D’altra parte, che cosa significherebbe realmente “più intelligente”? Una macchina può elaborare più informazioni di quante un singolo medico potrebbe studiarne nell’intera vita senza però avere la responsabilità morale di comunicare a una persona una diagnosi terribile. Può analizzare migliaia di sentenze senza sentire il peso umano di una decisione capace di incidere sul destino di un imputato. Può esaminare milioni di pagine di letteratura senza avere trascorso una sola giornata della propria esistenza cercando disperatamente la frase capace di raccontare un dolore personale. La conoscenza non coincide con la saggezza. E neppure il sentimento, da solo, coincide con essa. Gli esseri umani hanno compiuto atrocità pur possedendo sentimenti, coscienza, passioni, paure, ambizioni, rancori e desiderio di predominio. Forse allora il punto potrebbe essere precisamente questo: utilizzare la capacità analitica della macchina per mettere alla prova l’impulsività dell’uomo e utilizzare la sensibilità dell’uomo per attribuire un significato umano ai risultati prodotti dalla macchina. Non fusione. Non sostituzione. Integrazione. Ma a una condizione irrinunciabile: che il rapporto rimanga equanime. Dobbiamo sapere quando stiamo parlando con una macchina. Dobbiamo poter comprendere, per quanto ragionevolmente possibile, secondo quali regole opera. Dobbiamo conservare la libertà di dissentire dalle sue conclusioni. Dobbiamo poter scegliere, quando possibile, di non utilizzarla. E soprattutto dobbiamo evitare che la conoscenza tecnologica diventi uno strumento attraverso il quale pochi soggetti possano concentrare un potere sproporzionato sulle decisioni di molti altri. Perché la complementarietà non è garantita dalla tecnologia. È una scelta umana, culturale, sociale, politica e normativa. La stessa tecnologia può aumentare l’autonomia dell’uomo oppure ridurla. La complementarietà tra uomo e AI non può diventare il cavallo di Troia della subordinazione dell’uomo né, all’opposto, un alibi attraverso il quale l’uomo scarichi sulla macchina la responsabilità delle proprie decisioni. “Lo ha deciso l’algoritmo” non dovrebbe mai diventare la formula moderna attraverso la quale nessuno risponde più di nulla. Quando un sistema di algoritmi viene utilizzato per assumere decisioni capaci di incidere significativamente sulla vita delle persone, deve continuare a esistere una responsabilità umana e istituzionale identificabile. Forse è questo l’umanesimo tecnologico di cui avremo bisogno. Non mettere l’uomo contro la macchina. Mettere la macchina al servizio della capacità dell’uomo di essere più consapevole, informato e responsabile. E contemporaneamente utilizzare la sensibilità, il giudizio e la responsabilità dell’uomo per impedire che la potenza della macchina diventi cieca rispetto alle conseguenze umane delle proprie applicazioni. Nei due precedenti ragionamenti ero partito dalla paura e poi ero arrivato al potere. In questo terzo preferisco arrivare alla fiducia. Non una fiducia ingenua. Una fiducia vigilante. Ulisse deve continuare a navigare, certamente. Ma forse questa volta possiede uno strumento capace di leggere contemporaneamente migliaia di carte nautiche, confrontare le rotte, individuare alcuni pericoli e avvertirlo che potrebbe essersi sbagliato. Rimane però una cosa che quello strumento non dovrebbe decidere al posto suo. Dove vuole andare? Perché quella destinazione appartiene ancora all’uomo. E forse il futuro migliore non sarà quello nel quale scopriremo chi, tra l’uomo e la macchina, sia diventato più intelligente. Sarà quello nel quale avremo imparato a farli dialogare senza permettere all’uno di diventare padrone dell’altra. Con rispetto dei ruoli, controllo degli abusi, responsabilità e libertà di dissentire. Perché, in fondo, anche nella più avanzata delle tecnologie, la vera evoluzione non consiste necessariamente nel sostituire qualcuno. Qualche volta consiste semplicemente nell’imparare a lavorare meglio insieme.
