Dell'autore Harari, storico israeliano abbiamo già recensito altri suoi libri: 21 Lezioni per il XXI secolo, Da animali a dei. Il libro di oggi riprende alcuni temi dei prcedenti ma si sofferma in particolare sulla ultima frontiera tecnologica e i suoi pericoli: l'Intelligenza Artificiale (IA). Il primo tema che affronta è la informazione, la informazione non è verità e neanche una rappresentazione della realtà come sostengono alcuni, e neanche solamente potere come sostengono i populisti. Per l'autore il ruolo della informazione sta nel collegare le cose, qualcosa che crea nuove realtà collegando punti diversi di una rete o anche un nesso sociale, in ogni caso l'incremento della connettività e della informazione non porta automaticamente un incremento di veridicità e conoscienza.
Ripende poi il tema della importanza delle narrazioni e delle realtà intersoggettive, come ad esempio le nazioni e le società, non sono cose reali ma esistono grazie alle connessioni tra più menti. Le narrazioni e le reti basate sulle storie sono quelle che hanno reso l'Homo Sapiens il più potenti degli animali. Tutte le relazioni tra i gruppi sono modellate da storie e ciò che tiene unite le reti umane sono appunto le finzioni, le storie intersoggettive. Sono queste informazioni e storie che riescono a mantenere l'ordine sociale in comunità molto ampie, le reti di informazione non massimizzazno la verità piuttosto cercano un delicato equilibrio tra verità e ordine.
Un altro aspetto importante è quello della fallibilità degli umani e il tentativo di correggere gli errori. Il libro, in particolare il libro sacro, ad esempio Bibbia e Corano, hanno rappresentato una tecnologia di correzione degli errori, che ha dato luogo alle interpretazioni che hanno costretto da adottare un organo, la Chiesa (infallibile) che ne custodisse la interpretazione corretta. Al contrario la scienza non ha verità assolute ma teorie che possono essere confutate, cioè un meccanismo di autocorrezione.
La differenza tra sistemi totalitari e democratici si basa sulle modalità di funzionamento delle reti di informazione, nelle dittatture le reti informative sono centralizzate al massimo mentre nelle democrazie sono distribuite con meccanismi di autocorrezione. La storia ha dimostrato che le tecnologie informative del passato erano troppo arretrate per permettere una dittatura e anche una democrazia su larga scala, la tecnologia moderna d'altra parte rende più attuabili sia la democrazia che la ditattura su larga scala.
Le nuove tecnologie, dai computer alla IA, rappresentano un salto in avanti tecnologico molto particolare che differisce dalle tecnologie del passato, una bomba atomica non puo esplodere da sola senza l'intervento umano ma reti di computer e algoritmi possono funzionare in maniera autonoma senza intervento dell'uomo. Le catene da computer a computer possono funzionare senza l'uomo, e i computer sempre di più possono prendere decisioni e creare idee da soli. Le reti di computer, inoltre, sono sempre attive e in grado superare gli umani nell'elaborare modelli dai dati, di qualsiasi genere, e potrebbe essere la fine della privacy. Il problema dei computer o delle reti informatiche è che non sono infallibili. Inoltre, se si fissano degli obiettivi razionali anche per le reti di computer, questi obiettivi, come sostiene Clausewitz, dovrebbero essere allineati a una strategia, ma chi decide la strategia e soprattutto non è detto che una strategia, anche nelle migliori intenzioni, non si riveli pericolosa se portata aventi senza un controllo umano, vedi ad esempio certi pericolosi effetti sociali negativi dovuti agli algoritmi dei social network.
Visti i pericoli insiti nello sviluppo della IA si pone il problema di come evitare che mettano a repentaglio la nostra civiltà, infatti le civilta nascono dal connubio tra burocrazia e mitologia e la rete informatica è una burocrazia molto piu potente e implacabile della burrocrazia umana. L'autore indica alcuni principi da adottare per difendere la società e la democrazia che sono in primis il bene comune, le informazioni raccolte devono essere utilizzate per aiutarci e non per manipolare gli esseri umani. La reciprocità, a un aumento dell sorveglianza degli individui deve corrispondere un aumento della sorveglianza dei governi e delle aziende. Il decentramento, le informazioni non devono essere concentrate in un solo luogo. Inoltre le società democratiche devono gurdarsi dagli estremi di una eccessiva rigidità e flessibilità, la democrazia richiede equilibrio. La opacità degli algoritmi deve essere evitata tramite il diritto alla spiegazione (dei meccanismi interni). Il potenziale anarchico della IA è particolarmente allarmante per cui l'autore propone di limitare l'utilizzo dei bot.
Se la democrazia potrebbe incontrare grosse difficoltà ancor peggio potrebbe andare ai sistemi totalitari dove non ci sono sistemi di autocorrezione e l'IA potrebbe prendere il sopravvento.
La nuova teconolgia dell'IA potrebbe diventare la piu potente arma di distruzione sociale di massa, ripetto al pericolo nucleare la sua potenza potrebbe essere maggiore e soprattutto i suoi pericoli meno evidenti e nascosti. La nuova guerra fredda, tra le potenze che si contendono gli sviluppi della tecnologia dell'IA, potrebbe essere caratterizzata dalla divisione di due mondi divisi nella la gestione della propria rete informatica, due imperi digitali separati da una cortina di silicio, con un pericolo di escaltion maggiore.
Nelle conclusioni l'autore ricorda che la invenzione di nuove tecnologie è sempre catalizzatore di grandi cambiamenti storici. Bisogna però evitare false interpretazioni storiche che portano a visioni ingenue e troppo ottimismistiche, l'informazione non è verità e non dobbiamo illuderci che l'IA privilegi la verità, oltre a non esssere infallibile, così come la interpretazione troppo cinica, ma sbagliata, che la informazione sia solo potere. Dobbiamo quindi abbandonare queste visioni fallaci della informazione e impegnarci piuttosto nel difficile compito di costruire istituzioni con forti meccanismi di autocorrezione.
Devo dire che sintetizzare questo libro, di oltre 500 pagine, non è facile, sono molte le suggestioni e le idee che l'autore propone. Inoltre, le sue considerazioni sono accompagnate da interessanti e mai banali notizie e resconti storici. Un libro quindi molto interessante e valido e che, a dispetto della sua lunghezza, si legge piacevolmente.
I pericoli della IA cominciano ad essere evidenziati da molte parti, soprattutto dagli esperti che ci lavorano. La UE ha già emanato una legge per regolamentare i sistemi di IA ma è ancora l'unica, e spesso la legislazione non riesce a stare al passo con la evoluzione tecnologica. Il problema, come ben evidenzia Harari nel suo libro, è molto reale e grave anche se forse non nell'immediato, quindi saremmo in tempo per limitarne i pericoli. La tecnologia è il motore dello sviluppo economico, ma come abbiamo visto nei due libri che abbiamo recensito, Power and Progress e The Technology Trap, la tecnologia prende la direzione di chi la controlla, spesso i privati, e dalla direzione che prende dipende se questa porta vantaggi a tutta la società o solo a pochi, come sembra che stia accadendo recentemente. Quindi, su questi problemi è necessario avere una politica che sia cosciente e preparata ad affrontarli, come pure tale conoscenza e coscienza critica dovrebbe essere diffusa anche nei cittadini.
