La loro (dei populisti ndr.) concezione di fondo della società e dell’informazione è sorprendentemente simile a quella marxista, perché anche i populisti vedono tutte le interazioni umane come una lotta di potere tra oppressori e oppressi. (...) Proprio come i marxisti sostenevano che i media svolgono la funzione di portavoce della classe capitalista e che le istituzioni scientifiche come le università diffondono disinformazione al fine di perpetuare il controllo capitalista, i populisti accusano queste stesse istituzioni di lavorare per promuovere gli interessi delle “élite corrotte” a spese del “popolo”.
I populisti odierni soffrono della stessa incoerenza che ha afflitto i movimenti radicali antiestablishment delle generazioni precedenti. Se il potere è l’unica realtà e se l’informazione è solo un’arma, che cosa implica tutto questo per gli stessi populisti? Che anche loro sono interessati solo al potere e ci stanno mentendo per ottenere a loro volta il potere?
I populisti hanno cercato di risolvere questo rebus in due modi diversi. Alcuni movimenti rivendicano la propria adesione agli ideali della scienza moderna e alle tradizioni dell’empirismo scettico. Dicono alla gente che non ci si dovrebbe mai fidare di nessuna istituzione o figura rappresentante l’autorità, compresi i partiti e i politici autoproclamatisi populisti. Si dovrebbe invece “fare la propria ricerca” e fidarsi solo di ciò che si può osservare direttamente da soli. Questa posizione empirista radicale implica che, mentre non ci si può mai fidare delle grandi istituzioni come i partiti politici, i tribunali, i giornali e le università, gli individui che si impegnano possono comunque trovare la verità da soli.
Questo approccio può sembrare scientifico e può attrarre individui dallo spirito libero, ma lascia aperta la questione di come le comunità umane possano cooperare per costruire sistemi di assistenza sanitaria o approvare regolamenti in materia di ambiente, che richiedono un’organizzazione istituzionale su larga scala. Un singolo individuo è in grado di fare tutte le ricerche necessarie per decidere se il clima della Terra si sta surriscaldando e cosa si dovrebbe fare? Come può una singola persona raccogliere dati climatici da tutto il mondo, per non parlare del recupero di registrazioni affidabili dei secoli passati? Fidarsi solo delle “proprie ricerche” può sembrare un principio scientifico, ma in pratica equivale a credere che non esista una verità oggettiva. (...) la scienza è uno sforzo istituzionale collaborativo piuttosto che una ricerca personale.
Una soluzione populista alternativa è quella di abbandonare l’ideale scientifico moderno di trovare la verità attraverso la “ricerca” e tornare invece ad affidarsi alla rivelazione divina o al misticismo. Le religioni tradizionali come il cristianesimo, l’islam e l’induismo hanno di solito tratteggiato gli esseri umani come creature inaffidabili e assetate di potere che possono accedere alla verità solo grazie all’intervento di un’intelligenza divina. Tra gli anni dieci e l’inizio degli anni venti del Duemila i partiti populisti, dal Brasile alla Turchia, dagli Stati Uniti all’India, si sono allineati a queste religioni tradizionali. Hanno espresso radicali dubbi sulle istituzioni moderne, dichiarando una fede totale nelle antiche scritture. I populisti sostengono che gli articoli che si leggono sul New York Times o su Science sono solo uno stratagemma elitario per ottenere il potere, mentre ciò che si legge nella Bibbia, nel Corano o nei Veda è la verità assoluta.
Una variante sul tema è invitare la gente a riporre la propria fiducia in leader carismatici come Trump e Bolsonaro, che vengono dipinti dai loro sostenitori come messaggeri di Dio o come possessori di un legame mistico con il “popolo”. Mentre i politici comuni mentono al popolo per ottenere il potere, il leader carismatico è l’infallibile portavoce del popolo che smaschera tutte le bugie. Uno dei paradossi ricorrenti del populismo è che inizia avvertendoci che tutte le élite umane sono guidate da una pericolosa fame di potere, ma spesso finisce con l’affidare tutto il potere a un singolo individuo ambizioso.
(...) a questo punto è importante notare che i populisti stanno erodendo la fiducia nelle grandi istituzioni e nella cooperazione internazionale proprio quando l’umanità affronta le sfide vitali del collasso ecologico, della guerra globale e della tecnologia fuori controllo. (...)
Se vogliamo evitare di cedere il potere a un leader carismatico o a un’intelligenza artificiale imperscrutabile, dobbiamo innanzitutto capire meglio che cos’è l’informazione, come contribuisce a costruire le reti umane e come si relaziona alla verità e al potere. I populisti hanno ragione a diffidare di una visione ingenua dell’informazione, ma sbagliano a pensare che il potere sia l’unica realtà e che l’informazione sia sempre e solo un’arma. L’informazione non è la materia prima della verità, ma non è neppure una semplice arma. C’è abbastanza margine tra questi estremi per una visione più sfumata e speranzosa delle reti informative umane e della nostra capacità di dosare il potere con sapienza. Questo libro è dedicato all’esplorazione di questa via di mezzo.
---
Come vedremo, le democrazie ritengono che sia possibile mantenere forti meccanismi di autocorrezione anche in politica. Le dittature disconoscono tali meccanismi. Così, all’apice della guerra fredda, i giornali e le università dei democratici Stati Uniti hanno apertamente denunciato e condannato i crimini di guerra americani in Vietnam. Anche i giornali e le università dell’Unione Sovietica totalitaria erano felici di puntare il dito sui crimini americani, ma tacevano sui crimini sovietici in Afghanistan e altrove. Il silenzio sovietico era ingiustificabile da un punto vista scientifico, ma aveva un senso politico. L’autocritica sul tema della guerra del Vietnam continua ancora oggi a dividere l’opinione pubblica americana e a danneggiare la reputazione del paese in tutto il mondo, mentre il silenzio sovietico e russo sulla guerra in Afghanistan ha contribuito ad affievolirne il ricordo e a limitarne i costi reputazionali.
Solo dopo aver compreso la politica dell’informazione in sistemi storici come l’antica Atene, l’impero romano, gli Stati Uniti e l’Unione Sovietica saremo pronti a esplorare le rivoluzionarie implicazioni dell’ascesa dell’IA. Infatti, uno dei maggiori interrogativi sull’IA è proprio se favorirà o dannegerà i meccanismi democratici di autocorrezione.
---
Se tutto questo suona complicato, è perché la democrazia dovrebbe essere complicata. La semplicità è una caratteristica delle reti informative dei regimi dittatoriali, in cui il centro impone e tutti obbediscono senza replicare. È facile seguire questo monologo. Al contrario la democrazia è un dialogo con numerosi partecipanti, molti dei quali parlano in contemporanea. Può essere difficile seguire questo dialogo.
Inoltre le istituzioni democratiche più importanti tendono a essere dei colossi burocratici. Mentre i cittadini seguono con passione i drammi biologici che mettono in subbuglio la corte del sovrano e il palazzo del presidente, spesso hanno difficoltà a capire come funzionano i parlamenti, i tribunali, i giornali e le università. È questo che aiuta gli uomini forti a sferrare attacchi populisti alle istituzioni, a smantellare tutti i meccanismi di autocorrezione e a concentrare il potere nelle loro mani. (...)
Il termine “populismo” deriva dal latino populus, che significa “il popolo”. Nelle democrazie, il “popolo” è considerato l’unica fonte legittima di autorità politica. Solo i rappresentanti del popolo dovrebbero avere l’autorità di dichiarare guerre, approvare leggi e aumentare le tasse. I populisti hanno a cuore questo principio democratico basilare, ma in qualche modo ne deducono che un singolo partito o un singolo leader dovrebbero monopolizzare tutto il potere. Con una curiosa alchimia politica, i populisti riescono a fondare la ricerca totalitaria di un potere illimitato su un principio democratico apparentemente impeccabile. Com’è possibile?
L’affermazione più originale che i populisti fanno è che solo loro rappresentano davvero il popolo. Poiché in democrazia solo il popolo dovrebbe avere il potere politico, e poiché si assume che solo i populisti rappresentino il popolo, ne consegue che il partito populista dovrebbe avere tutto il potere politico per sé. Se un partito diverso dai populisti vince le elezioni, non significa che questo partito rivale abbia ottenuto la fiducia del popolo e abbia il diritto di formare un governo. Significa invece che le elezioni sono state rubate o che il popolo è stato ingannato e indotto a votare in un modo che non esprime la sua vera volontà.
Va sottolineato che per molti populisti si tratta di una convinzione autentica piuttosto che di un espediente propagandistico. Anche se ottengono solo una piccola quota di voti, i populisti possono essere ancora convinti di rappresentare il popolo da soli. Un caso analogo è quello dei partiti comunisti. (...)
Una parte fondamentale di questo credo populista è la convinzione che il “popolo” non sia un insieme di individui in carne e ossa con interessi e opinioni diverse, ma piuttosto un corpo mistico unificato che possiede un’unica volontà: “la volontà del popolo”. Forse la manifestazione più nota ed estrema di questo credo semireligioso fu il motto nazista “Ein Volk, ein Reich, ein Führer”, che vuol dire “Un popolo, una nazione, un leader”. L’ideologia nazista sosteneva che il Volk (popolo) aveva un’unica volontà, il cui unico rappresentante autentico era il Führer (leader). Il leader avrebbe avuto un’intuizione infallibile di ciò che il popolo sentiva e voleva. Se alcuni cittadini tedeschi non erano d’accordo con il leader, non significava che il leader fosse in errore. Piuttosto, voleva dire che i dissenzienti appartenevano a qualche gruppo estraneo di traditori – ebrei, comunisti, liberali – invece che al popolo.
Il caso del nazismo è ovviamente un esempio estremo e sarebbe parecchio ingiusto accusare tutti i populisti di essere criptonazisti con un’inclinazione al genocidio. Tuttavia, molti partiti e politici populisti negano che il “popolo” possa contenere una diversità di opinioni e gruppi di interesse. Insistono sul fatto che il popolo reale abbia un’unica volontà e che solo loro rappresentino questa volontà. Al contrario i loro rivali politici – anche quando questi ultimi godono di un sostanziale sostegno popolare – vengono dipinti come “élite aliene”. Così, Hugo Chávez si è candidato alla presidenza in Venezuela con lo slogan “Chávez è il popolo!”. Il presidente turco Erdoğan una volta ha inveito contro i suoi critici interni dicendo: “Noi siamo il popolo. Voi chi siete?”, come se i suoi critici non fossero neppure turchi.
Come si fa a capire, allora, se qualcuno fa parte o meno del popolo? È facile. Se sostiene il leader, fa parte del popolo. Secondo il filosofo politico tedesco Jan-Werner Müller, questa è la caratteristica distintiva del populismo. Ciò che trasforma una persona in un populista è l’affermazione di essere l’unico a rappresentare il popolo e che chiunque non sia d’accordo con lui – che si tratti di burocrati statali, gruppi di minoranza o persino della maggioranza degli elettori – soffre di falsa coscienza o non fa realmente parte del popolo.
Ecco perché il populismo rappresenta una minaccia mortale per la democrazia. Se da un lato per un sistema democratico il popolo è certamente l’unica fonte legittima di potere, dall’altro il popolo non è mai un’entità compatta e, quindi, non può possedere un’unica volontà. Ogni popolo – che sia tedesco, venezuelano o turco – è composto da molti gruppi diversi, con una pluralità di opinioni, volontà e rappresentanti. Nessun gruppo, compreso quello di maggioranza, ha il diritto di escludere altri gruppi dall’appartenenza al popolo. Questo è ciò che rende la democrazia un luogo di dibattito. Un dibattito presuppone l’esistenza di più voci legittime. Se, invece, il popolo ha una sola voce legittima, non ci può essere dibattito. Piuttosto, una sola voce impone il proprio discorso. Il populismo può quindi rivendicare l’adesione al principio democratico del “potere del popolo”, ma di fatto svuota la democrazia di significato e cerca di instaurare una dittatura.
Il populismo mina la democrazia anche in un altro modo, più sottile, ma altrettanto pericoloso. Forti della rivendicazione di essere gli unici a rappresentare il popolo, i populisti sostengono che il popolo non è solo l’unica fonte legittima di autorità politica, ma l’unica fonte legittima di ogni autorità. Qualsiasi istituzione che derivi la propria autorità da qualcosa di diverso dalla volontà del popolo è antidemocratica. In quanto autoproclamati rappresentanti del popolo, i populisti cercano di conseguenza di monopolizzare non solo l’autorità politica, ma tutti i tipi di autorità e di assumere il controllo di istituzioni come i media, i tribunali e le università. Portando all’estremo il principio democratico del “potere del popolo”, i populisti diventano totalitari.
Infatti, se abbiamo una democrazia quando l’autorità nella sfera politica proviene dal popolo, questo non nega la validità di fonti di autorità alternative in altre sfere. Come già detto, in una democrazia i media indipendenti, i tribunali e le università sono meccanismi essenziali di autocorrezione che proteggono la verità anche dalla volontà della maggioranza. I professori di biologia sostengono che gli esseri umani si sono evoluti dalle scimmie perché le prove lo confermano, anche se la maggioranza vuole il contrario. I giornalisti possono rivelare che un importante politico ha preso una tangente e, se vengono presentate prove schiaccianti in tribunale, un giudice può mandare in prigione quel politico, anche se la maggior parte delle persone non vuole credere a quelle accuse.
I populisti sono sospettosi nei confronti di quelle istituzioni che, in nome della verità, prevaricano la presunta volontà del popolo. Tendono a vedere queste organizzazioni come una cortina fumogena dietro cui si nascondono le élite che si accaparrano un potere illegittimo. Ciò spinge i populisti a essere scettici nei confronti della ricerca della verità e a sostenere – come abbiamo visto nel prologo – che “il potere è l’unica realtà”. In questo modo cercano di indebolire o appropriarsi dell’autorità di qualsiasi istituzione indipendente che possa opporsi a loro. Quello che ne consegue è una visione oscura e cinica del mondo, una sorta di giungla popolata da esseri umani ossessionati dalla ricerca del potere. Tutte le interazioni sociali sono viste come lotte di potere e tutte le istituzioni sono rappresentate come cricche che promuovono gli interessi dei propri membri. Nell’immaginario populista, i tribunali non si preoccupano realmente della giustizia, ma proteggono solo i privilegi dei giudici. Certo, i giudici parlano molto di giustizia, ma si tratta di uno stratagemma per accaparrarsi il potere. I giornali non si preoccupano dei fatti, diffondono notizie false per fuorviare la gente e favorire i giornalisti e le cricche che li finanziano. Anche le istituzioni scientifiche non sono realmente impegnate nella ricerca della verità. Biologi, climatologi, epidemiologi, economisti, storici e matematici sono solo altri gruppi d’interesse che si arricchiscono a spese del popolo.
Nel complesso si tratta di una visione piuttosto squallida dell’umanità, però due cose la rendono comunque attraente per molti. In primo luogo, poiché riduce tutte le interazioni a lotte di potere, semplifica la realtà e rende facilmente comprensibili eventi come guerre, crisi economiche e disastri naturali. Qualsiasi cosa accada, anche una pandemia, è colpa delle élite che perseguono il potere. In secondo luogo, la visione populista è attraente perché a volte è corretta. Infatti ogni istituzione umana è fallibile e non è esente da un certo livello di corruzione. Alcuni giudici prendono tangenti. Alcuni giornalisti ingannano intenzionalmente il pubblico. Le istituzioni accademiche sono di tanto in tanto contaminate da faziosità e nepotismo. Ecco perché ogni istituzione ha bisogno di meccanismi di autocorrezione. Ma poiché i populisti sono convinti che il potere sia l’unica realtà, non possono accettare che un tribunale, un canale mediatico o un’università siano spinti a correggersi semplicemente dall’amore per la verità o la giustizia.
Mentre tanti abbracciano il populismo perché lo considerano un resoconto onesto della realtà umana, gli uomini forti ne sono attratti per un motivo diverso. Il populismo offre loro una base ideologica per diventare dittatori fingendo di essere democratici. È particolarmente utile quando gli uomini forti cercano di neutralizzare i meccanismi di autocorrezione della democrazia o di appropriarsene. Poiché giudici, giornalisti e professori mirano presumibilmente a interessi politici anziché alla verità, il campione del popolo – l’uomo forte – dovrebbe controllare queste posizioni invece di permettere che cadano nelle mani dei nemici del popolo. Allo stesso modo, poiché anche i funzionari incaricati di organizzare le elezioni e di renderne pubblici i risultati potrebbero far parte di un nefasto complotto, anch’essi dovrebbero essere sostituiti dai fedelissimi dell’uomo forte.
In una democrazia ben funzionante, i cittadini si fidano dei risultati delle elezioni, delle decisioni dei tribunali, dei resoconti dei media e delle scoperte delle discipline scientifiche perché credono che queste istituzioni si impegnino per la verità. Quando la gente pensa che il potere sia l’unica realtà, perde la fiducia in tutte queste istituzioni, il sistema democratico crolla e gli uomini forti possono prendersi tutto il potere.
Naturalmente il populismo potrebbe portare all’anarchia piuttosto che al totalitarismo, se mina la fiducia negli stessi uomini forti. Se nessun essere umano è interessato alla verità o alla giustizia, questo non vale anche per Mussolini o Putin? E se nessuna istituzione umana può avere meccanismi efficaci di autocorrezione, questo non vale forse anche per il Partito nazionale fascista di Mussolini o il partito Russia unita di Putin? Come si può conciliare una profonda sfiducia verso tutte le élite e le istituzioni con l’ammirazione incrollabile per un leader e un partito? Questo è il motivo per cui i populisti dipendono in ultima analisi dal concetto mistico dell’uomo forte che incarna il popolo. Quando la fiducia nelle istituzioni burocratiche come le commissioni elettorali, i tribunali e i giornali è particolarmente scarsa, saper sfruttare le narrazioni mitologiche è l’unico modo per mantenere l’ordine.
---
Per migliaia di anni profeti, poeti e politici hanno usato il linguaggio per manipolare e rimodellare la società. Ora i computer stanno imparando a farlo. E non avranno bisogno di inviare robot assassini a spararci. Potrebbero manipolare esseri umani per fargli premere il grilletto.
La paura dei computer potenti attanaglia l’umanità solo dall’inizio dell’era informatica, a metà del XX secolo. D’altro canto, per migliaia di anni gli esseri umani sono stati tormentati da una paura molto più profonda. Abbiamo sempre apprezzato il potere delle storie e delle immagini di manipolare la nostra mente e di creare illusioni. Pertanto, fin dall’antichità gli esseri umani hanno temuto di essere intrappolati in un mondo di illusioni. Nell’antica Grecia, Platone raccontò il famoso mito della caverna, un’allegoria in cui si immagina che un gruppo di persone venga incatenato per tutta la vita all’interno di una grotta, di fronte a una parete vuota. Uno schermo. Su quello schermo si vedono proiettate varie ombre. I prigionieri scambiano per realtà le illusioni che vi vedono. Nell’antica India, i saggi buddisti e indù sostenevano che tutti gli esseri umani vivevano intrappolati in māyā, il mondo delle illusioni. Ciò che di norma consideriamo “realtà” spesso è solo una finzione della nostra mente. Le persone possono scatenare guerre, uccidendo gli altri e volendo essere uccise a loro volta, a causa della loro fede in questa o quella illusione. Nel XVII secolo René Descartes temeva che forse un demone maligno lo stesse intrappolando in un mondo di illusioni, creando tutto ciò che vedeva e sentiva. La rivoluzione informatica ci sta mettendo faccia a faccia con la caverna di Platone, con māyā, con il demone di Cartesio.
Quello che avete appena letto potrebbe avervi inquietato o fatto arrabbiare. Forse vi ha fatto arrabbiare con le persone che guidano la rivoluzione informatica e con i governi che non riescono a regolamentarla. Forse vi ha fatto arrabbiare con me, pensando che io stia distorcendo la realtà, che sia un allarmista e che vi stia portando fuori strada. Ma qualunque cosa pensiate, i paragrafi precedenti potrebbero aver avuto un effetto emotivo su di voi. Ho raccontato una storia che potrebbe farvi cambiare idea su certe cose e persino farvi compiere determinate azioni nel mondo. Chi ha creato la storia che avete appena letto?
Vi giuro che ho scritto il testo io stesso, con l’aiuto di altri esseri umani. Vi giuro che si tratta di un prodotto culturale della mente umana. Ma potete averne la certezza assoluta? Qualche anno fa si poteva. Prima del 2020, non c’era nulla sulla terra, a parte la mente umana, che potesse produrre testi sofisticati. Oggi le cose sono cambiate. In teoria, il testo che avete appena letto potrebbe essere stato generato dall’intelligenza aliena di un qualche computer.
---
La politica presuppone un delicato equilibrio tra verità e ordine. Man mano che i computer diventano membri importanti della nostra rete informativa hanno sempre più il compito di scoprire la verità e mantenere l’ordine. Per esempio, tentare di scoprire la verità sul cambiamento climatico è sempre più una questione di calcoli vertiginosi che solo i computer possono fare, mentre tentare di raggiungere un consenso sociale su questo argomento dipende sempre più dagli algoritmi che alimentano i sistemi di suggerimenti da cui dipendono i nostri feed di notizie e dagli algoritmi specializzati in creatività computazionale, capaci di scrivere notizie, fake news e fiction. Attualmente sul tema del cambiamento climatico ci troviamo in una situazione di stallo politico, in parte perché sono i computer a essere in una situazione di stallo. I calcoli eseguiti da una serie di computer ci avvertono di un’imminente catastrofe ecologica, ma un’altra serie di computer ci spinge a guardare video che mettono in dubbio questi avvertimenti. A quale serie di computer dobbiamo credere? La politica umana oggi è anche politica informatica.
---
Numerose statistiche attestano il declino della guerra in quest’epoca, ma forse la prova più evidente si trova nei bilanci degli stati. Per la maggior parte della storia documentata, l’esercito è stato la prima voce del bilancio di ogni impero, sultanato, regno o repubblica. I governi spendevano poco per l’assistenza sanitaria e l’istruzione, perché la maggior parte delle loro risorse veniva impiegata per pagare i soldati, e per costruire mura e navi da guerra. Quando il burocrate Chen Xiang esaminò il bilancio annuale della dinastia cinese Song per l’anno 1065, scoprì che su 60 milioni di minqian (unità monetaria), 50 milioni (l’83%) erano consumati dall’esercito. Un altro funzionario, Cai Xiang, scriveva: “Se dividiamo [tutte le proprietà] sotto il Cielo in sei quote, cinque quote sono spese per l’esercito e una quota è spesa per le offerte del tempio e le spese statali. Come può il paese non essere povero e il popolo non essere in difficoltà?”
La stessa situazione si è verificata in molte altre comunità politiche, dall’antichità all’era moderna. L’impero romano spendeva circa il 50-75% del suo bilancio per le forze armate, e la cifra era di circa il 60% nell’impero ottomano della fine del XVII secolo. Tra il 1685 e il 1813 la quota di spesa militare del governo britannico è stata in media del 75%. In Francia, la spesa militare tra il 1630 e il 1659 ha oscillato tra l’89% e il 93% del bilancio, è rimasta al di sopra del 30% per gran parte del XVIII secolo ed è scesa a un minimo del 25% nel 1788 solo a causa della crisi finanziaria che ha portato alla Rivoluzione francese. In Prussia, dal 1711 al 1800 la quota militare del bilancio non scese mai al di sotto del 75% e occasionalmente raggiunse il 91%. Durante gli anni relativamente pacifici del periodo 1870-1913, l’esercito assorbì in media il 30% dei bilanci statali delle maggiori potenze europee, oltre che del Giappone e degli Stati Uniti, mentre nazioni meno potenti come la Svezia spendevano ancora di più. Quando nel 1914 scoppiò la guerra, i bilanci militari salirono alle stelle. Nel periodo in cui questi paesi furono coinvolti nella prima guerra mondiale, la spesa militare francese equivaleva in media al 77% del bilancio; in Germania era il 91%, in Russia il 48%, in Gran Bretagna il 49% e negli Stati Uniti il 47%. Durante la seconda guerra mondiale, il dato della Gran Bretagna salì al 69% e quello degli Stati Uniti al 71%. Anche durante il periodo della distensione degli anni settanta, la spesa militare sovietica ammontava ancora al 32,5% del bilancio dello stato.
I bilanci statali degli ultimi decenni costituiscono un corpus di letture che suscita molte più speranze di qualsiasi trattato pacifista mai composto. All’inizio del XXI secolo, la spesa governativa media mondiale per le forze armate è stata solo di circa il 7% del bilancio, e persino la superpotenza dominante, cioè gli Stati Uniti, ha speso intorno al 13% del suo bilancio annuale per mantenere la sua egemonia militare. Poiché la maggior parte delle persone non viveva più nel terrore di un’invasione esterna, i governi potevano investire molte più risorse finanziarie nel welfare, nell’istruzione e nell’assistenza sanitaria. La spesa media mondiale per l’assistenza sanitaria all’inizio del XXI secolo è stata pari a circa il 10% del bilancio statale, ovvero circa 1,4 volte il bilancio della difesa. Per molte persone nel 2010, il fatto che il budget per la sanità fosse più grande di quello per le forze armate non era un fatto degno di nota. Ma è il risultato di un grande cambiamento nel comportamento umano, che sarebbe sembrato impossibile alla maggior parte delle generazioni precedenti.
Il declino della guerra non è stato frutto di un miracolo divino o di una metamorfosi delle leggi della natura. È stato il risultato di un cambiamento delle leggi, dei miti e delle istituzioni degli esseri umani, che hanno preso decisioni più sagge. Purtroppo, il fatto che questo cambiamento sia derivato da una scelta umana significa anche che è reversibile. La tecnologia, l’economia e la cultura sono in continua evoluzione. All’inizio degli anni venti del Duemila, sempre più leader sognano la gloria marziale, i conflitti armati aumentano e i bilanci militari crescono.
Una soglia critica è stata superata all’inizio del 2022. La Russia aveva già destabilizzato l’ordine mondiale mettendo in atto un’invasione circoscritta dell’Ucraina nel 2014 e occupando la Crimea e alcune altre regioni orientali del paese. Ma il 24 febbraio 2022, Vladimir Putin ha scatenato un’aggressione totale con l’intento di conquistare l’intero territorio e annientare la nazione ucraina. Per preparare e sostenere questo attacco, la Russia ha aumentato il suo bilancio militare ben oltre la media globale del 7%. Le cifre precise sono difficili da determinare, perché molti aspetti del bilancio militare sono avvolti nella segretezza, ma le stime più attendibili parlano di una quota che si aggira intorno al 30%, e che potrebbe anche essere superiore. L’assalto russo ha costretto non solo l’Ucraina, ma anche molte altre nazioni europee a rivedere al rialzo i propri bilanci militari. Il riemergere di culture militariste in luoghi come la Russia e lo sviluppo di armi informatiche e di armamenti autonomi senza precedenti in tutto il mondo potrebbero portare a una nuova era di guerra, peggiore di qualsiasi cosa abbiamo visto fino a oggi.
Le decisioni che leader come Putin prendono in materia di guerra e pace sono influenzate dalla loro comprensione della storia. Ciò vuol dire che, così come le visioni troppo ottimistiche della storia potrebbero rivelarsi pericolose illusioni, quelle troppo pessimistiche potrebbero diventare distruttive profezie che si autoavverano. Prima dell’attacco all’Ucraina del 2022, Putin aveva spesso manifestato la sua convinzione storica che la Russia fosse intrappolata in una lotta senza fine con nemici stranieri, e che la nazione ucraina sia un’invenzione dei suoi nemici. Nel giugno 2021, ha pubblicato un saggio di cinquemilatrecento parole intitolato “Sull’unità storica di russi e ucraini”, in cui nega l’esistenza dell’Ucraina come nazione e sostiene che le potenze straniere hanno più volte cercato di indebolire la Russia favorendo il separatismo ucraino. Mentre gli storici professionisti respingono queste affermazioni, Putin sembra credere sinceramente in questa narrazione storica. Le convinzioni storiche di Putin lo hanno portato nel 2022 a dare priorità alla conquista dell’Ucraina rispetto ad altri obiettivi politici, come fornire ai cittadini russi una migliore assistenza sanitaria o guidare un’iniziativa globale per regolamentare l’uso dell’intelligenza artificiale.
Se i leader come Putin credono che l’umanità sia intrappolata in un mondo spietato in cui esiste solo la legge del più forte, che non sia possibile alcuna trasformazione profonda di questo triste stato di cose e che la relativa pace della fine del XX secolo e dell’inizio del XXI sia stata un’illusione, allora l’unica scelta che rimane è se recitare la parte del predatore o della preda. Di fronte a questa scelta, la maggior parte dei leader preferirebbe passare alla storia come predatore e aggiungere il proprio nome al triste elenco di conquistatori che gli sfortunati studenti sono condannati a memorizzare per gli esami di storia. A questi leader va ricordato, tuttavia, che nell’era dell’intelligenza artificiale il predatore alfa sarà probabilmente l’intelligenza artificiale.
Forse, però, abbiamo a disposizione un ventaglio di opzioni più ampio. Non posso prevedere quali decisioni prenderanno le persone nei prossimi anni, ma come storico credo nella possibilità di un cambiamento. Una delle principali lezioni che la storia ci insegna è che molte delle cose che consideriamo naturali ed eterne sono, in realtà, create dall’uomo e mutevoli. Accettare che il conflitto non è inevitabile, tuttavia, non deve farci sentire soddisfatti. Al contrario. Questo pone sulle spalle di tutti noi il pesante fardello della responsabilità di dover fare buone scelte. Significa che se la civiltà umana viene distrutta da un conflitto, non possiamo dare la colpa a nessuna legge della natura o a nessuna tecnologia aliena. E che se ci sforziamo, possiamo creare un mondo migliore. Questo non è essere ingenui, ma realisti. Una volta, ogni cosa vecchia era nuova. L’unica costante della storia è il cambiamento.
---
L’invenzione dell’IA è potenzialmente più importante dell’invenzione del telegrafo, della stampa o persino della scrittura, perché l’IA è la prima tecnologia in grado di prendere decisioni e generare idee da sola. Mentre le macchine da stampa e i rotoli di pergamena offrivano nuovi mezzi per mettere in contatto le persone, le IA sono membri a pieno titolo delle nostre reti informative, essendo dotate di una loro agentività. Nei prossimi anni, tutte le reti – dagli eserciti alle religioni – acquisiranno milioni di nuovi membri IA, che elaboreranno i dati in modo diverso dagli esseri umani. Questi nuovi membri prenderanno decisioni aliene e genereranno idee aliene, cioè decisioni e idee che è improbabile che vengano prese dagli esseri umani. L’aggiunta di tanti agenti alieni è destinata a cambiare la forma di eserciti, religioni, mercati e nazioni. Interi sistemi politici, economici e sociali potrebbero crollare e nuovi sistemi prenderanno il loro posto. Ecco perché l’IA dovrebbe essere una questione urgente anche per le persone che non si interessano alla tecnologia e che pensano che le questioni politiche più importanti riguardino la sopravvivenza della democrazia o l’equa distribuzione della ricchezza.
Questo libro ha giustapposto la discussione dell’IA con la discussione di canoni sacri come la Bibbia, perché ora ci troviamo nel momento critico della canonizzazione dell’intelligenza artificiale. Quando i padri della Chiesa come il vescovo Atanasio decisero di includere la Prima Lettera a Timoteo nel dataset biblico escludendo gli Atti di Paolo e Tecla, in questo modo essi plasmarono il mondo per millenni. Miliardi di cristiani fino al XXI secolo hanno formato la loro visione del mondo sulle idee misogine della lettera piuttosto che sull’atteggiamento più tollerante degli Atti. Ancora oggi è difficile invertire la rotta, perché i padri della chiesa hanno scelto di non includere alcun meccanismo di autocorrezione nella Bibbia. Gli equivalenti odierni del vescovo Atanasio sono gli ingegneri che scrivono il codice iniziale per l’IA e che scelgono il set di dati su cui viene addestrata l’intelligenza artificiale nel suo stadio infantile. Mentre l’IA cresce in potere e autorità, e forse diventa un libro sacro autointerpretante, così le decisioni prese dagli ingegneri di oggi potrebbero riverberarsi nel corso dei secoli.
Lo studio della storia non ci insegna solo a rimarcare l’importanza della rivoluzione dell’IA e delle nostre decisioni in materia. Ci mette anche in guardia da due approcci comuni ma fuorvianti alle reti e alle rivoluzioni dell’informazione. Da un lato, dobbiamo guardarci da una visione troppo ingenua e ottimistica. L’informazione non è la verità. Il suo compito principale è quello di collegare piuttosto che rappresentare, e le reti informative nel corso della storia hanno spesso privilegiato l’ordine rispetto alla verità. I registri fiscali, i libri sacri, i manifesti politici e gli archivi della polizia segreta possono essere estremamente efficienti nel creare stati e chiese potenti che hanno una visione distorta del mondo e sono inclini ad abusare del loro potere. Per ironia della sorte, a volte una quantità di informazioni più grande può tradursi in una caccia alle streghe più diffusa e spietata.
Non c’è motivo di aspettarsi che l’intelligenza artificiale rompa gli schemi e privilegi la verità. L’IA non è infallibile. Quel poco di prospettiva storica che abbiamo acquisito dai recenti episodi allarmanti che si sono verificati in Myanmar, Brasile e altrove indica che, in assenza di forti meccanismi di autocorrezione, le IA hanno le carte in regola per promuovere visioni del mondo distorte, di consentire abusi di potere eclatanti e di fomentare nuove terrificanti cacce alle streghe.
D’altra parte, dovremmo anche guardarci dall’oscillare troppo nella direzione opposta e adottare una visione troppo cinica. I populisti ci dicono che il potere è l’unica realtà, che tutte le interazioni umane sono lotte di potere e che l’informazione è solo un’arma che usiamo per sconfiggere i nostri nemici. Non è mai stato così e non c’è motivo di pensare che l’intelligenza artificiale cambierà la situazione. Sebbene molte reti informative privilegino l’ordine rispetto alla verità, nessuna rete può sopravvivere se ignora del tutto la verità. Per quanto riguarda i singoli esseri umani, tendiamo a essere sinceramente interessati alla verità piuttosto che solo al potere. Chi fra di noi non vuole conoscere la verità sulla vita? Persino istituzioni come l’Inquisizione spagnola hanno avuto membri coscienziosi che cercavano la verità, come Alonso de Salazar Frías, che invece di mandare a morte persone innocenti ha rischiato la vita per ricordarci che le streghe sono solo finzioni intersoggettive. Per lo più le persone non si vedono come creature unidimensionali ossessionate unicamente dal potere. Perché, allora, avere un’opinione simile su tutti gli altri?
Rifiutare di ridurre tutte le interazioni umane a una lotta per il potere a somma zero è fondamentale non solo per ottenere una comprensione più completa e sfumata del passato, ma anche per avere un atteggiamento più speranzoso e costruttivo nei confronti del nostro futuro. Se il potere fosse l’unica realtà, l’unico modo per risolvere i conflitti sarebbe la violenza. Sia i populisti sia i marxisti credono che le opinioni siano determinate dai privilegi, e che per cambiare le opinioni delle persone è necessario innanzitutto privarle dei loro privilegi – operazione che di solito richiede l’uso della forza. Tuttavia, poiché gli esseri umani sono interessati alla verità, esiste la possibilità di risolvere almeno alcuni conflitti in modo pacifico, grazie al dialogo continuo, al riconoscimento degli errori, all’accoglienza di nuove idee e rivedendo le storie in cui crediamo. Questo è l’assunto di base delle reti democratiche e delle istituzioni scientifiche. È stata anche la motivazione di base per la stesura di questo libro.