Quali sfide attendono la società di domani? Quali sono i rischi e quali le possibilità offerte dallo sviluppo tecnologico? Per la rubrica “Futuro da sfogliare” un estratto del libro La singolarità è vicina – Quando l’umanità supera la biologia, di Ray Kurzweil, edito da Apogeo.
***
Nel mio libro del 2005, La singolarità è vicina, ho proposto la mia teoria: tendenze tecnologiche convergenti ed esponenziali portano a una transizione che sarà estremamente trasformativa per l’umanità. Sono numerose le aree chiave del cambiamento che continuano ad accelerare simultaneamente: la capacità di calcolo diventa meno costosa, comprendiamo sempre meglio la biologia umana e le tecniche ingegneristiche si possono applicare a scale di gran lunga più piccole. Le capacità dell’intelligenza artificiale crescono, le informazioni di- ventano più accessibili e noi integriamo sempre più strettamente quel- le capacità con la nostra intelligenza biologica naturale.
Alla fine la nanotecnologia farà sì che queste tendenze arrivino al culmine e estendano direttamente il nostro cervello con strati di neuroni virtuali nel cloud. In questo modo ci fonderemo con l’AI e aumenteremo noi stessi con una potenza di calcolo milioni di volte superiore a quella che ci ha dato la nostra biologia. La nostra intelligenza e la nostra coscienza si espanderanno e si approfondiranno in una misura che è difficile da comprendere. Questo evento è quello che chiamo la Singolarità.
Il termine “singolarità” è mutuato dalla matematica (dove si riferisce a un punto non definito in una funzione, come quando si divide per zero) e dalla fisica (dove si usa per indicare il punto di densità in- finita al centro di un buco nero, dove le leggi normali della fisica non valgono più). È importante, però, ricordare che il mio uso del termine è metaforico. La mia previsione della Singolarità tecnologica non vuol dire che la velocità del cambiamento diventerà effettivamente infinita, perché la crescita esponenziale non implica l’infinito, e non lo implica nemmeno una singolarità fisica. Un buco nero ha una forza di gravità tanto intensa da intrappolare perfino la luce, ma nella meccanica quantistica non c’è modo di introdurre una quantità di massa vera- mente infinita. Utilizzo la metafora della singolarità, invece, perché cattura la nostra incapacità di comprendere una trasformazione tanto radicale del nostro livello attuale di intelligenza.
Quando la transizione avverrà, la nostra capacità cognitiva si amplierà abbastanza rapida- mente da adattarvisi. Come presentavo in dettaglio ne La singolarità è vicina, tendenze di lungo termine fanno pensare che la Singolarità avverrà intorno al 2045. Quando è stato pubblicato quel libro, era una data lontana quarant’anni (due intere generazioni) nel futuro. A quella distanza potevo fare previsioni sulle forze generali che potevano causare questa trasformazione, ma per la maggior parte dei lettori l’argomento era ancora relativamente lontano dalla realtà quotidiana nel 2005.
Molti critici poi hanno sostenuto che la mia previsione temporale era eccessivamente ottimistica, o addirittura che la Singolarità era impossibile. Da allora, però, è accaduto qualcosa che è degno di nota. Il progresso ha continuato ad accelerare, a dispetto di tutti i dubbiosi. Social media e smartphone che a quel tempo quasi non esistevano sono nel frattempo diventati compagni costanti che ora connettono la maggior parte della popolazione mondiale. Innovazioni nel campo degli algoritmi e l’emergere dei big data hanno consentito ai sistemi AI di compiere incredibili passi avanti ben prima di quanto gli esperti stessi si aspettassero, dal diventare campioni in giochi come Jeopardy! e Go al guidare automobili, scrivere saggi, superare esami da avvocato e formulare diagnosi di cancro.
Ora, modelli linguistici di grandi dimensioni e flessibili come GPT-4 e Gemini possono tradurre in codi- ce informatico istruzioni formulate in linguaggio naturale, riducendo drasticamente la barriera fra esseri umani e macchine. Nel momento in cui leggerete queste pagine, probabilmente decine di milioni di persone avranno sperimentato di prima mano queste capacità. Nel frat- tempo, il costo del sequenziamento di un genoma umano è diminuito di circa il 99,997 percento, e le reti neurali hanno iniziato a produrre scoperte importanti in campo medico, simulando digitalmente la biologia.
Stiamo addirittura avvicinandoci alla possibilità di collegare effettivamente computer e cervello in modo diretto. Alla base di tutti questi sviluppi c’è quella che chiamo “legge dei ritorni accelerati”: le tecnologie dell’informazione diventano esponenzialmente più a buon mercato perché ogni passo avanti rende più facile progettare la fase successiva della loro stessa evoluzione. Mentre scrivo queste righe, con un dollaro (tenendo conto dell’inflazione) si può acquistare circa 11.200 volte la capacità di calcolo che si poteva acquistare quando La singolarità è vicina è arrivato nelle librerie. Il grafico della Figura I.1, che analizzeremo approfonditamente nel seguito del libro, riassume la tendenza più importante che alimenta la nostra civiltà tecnologica: la crescita esponenziale di lungo termine (che si presenta con una linea approssimativamente retta, su questa scala logaritmica) della quantità di potenza di calcolo che un dollaro a valore costante può acquistare. La famosa legge di Moore ha previsto la costante riduzione delle dimensioni dei transistor, grazie alla quale i computer sono diventati sempre più potenti, ma questa non è che una manifestazione della legge dei ritorni accelerati, che valeva già molto prima che i transistor venissero inventati e che possiamo aspettarci continui a valere anche dopo che i transistor avranno raggiunto i loro limiti fisici e saranno sostituiti da nuove tecnologie.
Quindi siamo in linea con le previsioni per la Singolarità. L’urgenza di questo libro deriva dalla natura stessa del cambiamento esponenziale. Tendenze che si potevano a malapena discernere all’inizio di questo secolo ora influiscono attivamente sulla vita di miliardi di persone. Agli inizi degli anni Venti siamo entrati nella parte più ripida della curva esponenziale, e il ritmo dell’innovazione incide sulla società come mai in precedenza. Per mettere le cose in prospettiva, il momento in cui leggete queste righe probabilmente è più vicino alla creazione della prima AI superumana che non all’anno di pubblicazione del mio libro precedente, Come creare una mente, che risale al 2012. E probabilmente siete più vicini alla Singolarità che all’anno di pubblicazione del mio libro del 1999, The Age of Spiritual Machines.
Oppure, pensando in termini di vita umana, i bambini e le bambine che nascono oggi si staranno laureando proprio quando si verificherà la Singolarità. A un livello molto personale, è un tipo di “vicinanza” molto diverso da quello che era nel 2005. È il motivo per cui ho scritto ora questo libro. La marcia dell’u- manità, durata millenni, verso la Singolarità è diventata una corsa. Nell’Introduzione a La singolarità è vicina, scrivevo che a quel tempo eravamo “nelle prime fasi di questa transizione”. Ora stiamo entrando nella sua parte culminante.
Quel libro guardava a un orizzonte distante; questo riguarda gli ultimi chilometri lungo la strada per raggiungerlo. Per fortuna, ora possiamo vedere questa strada molto più chiara- mente. Anche se restano molte sfide tecnologie prima di poter rag- giungere la Singolarità, i suoi precursori fondamentali stanno passando rapidamente dal regno della scienza teorica a quello della ricerca attiva e dello sviluppo. Nel corso del prossimo decennio, le persone interagiranno con AI che possono apparire umane in modo convincente, e semplici interfacce cervello-computer influiranno sulla vita quotidiana come fanno oggi gli smartphone.
Una rivoluzione digitale nell’ambito biotecnologico curerà malattie ed estenderà in modo significativo la vita in salute delle persone. Allo stesso tempo, però, molte persone che lavorano percepiranno il morso della disruption economica, e tutti noi dovremo far fronte ai rischi derivanti da un cattivo uso, accidentale o deliberato, di quelle nuove capacità. Durante gli anni Trenta, AI in grado di migliorare se stessa e nanotecnologie in via di maturazione uniranno gli esseri umani e le macchine di nostra creazione come mai in precedenza, innalzando ancora di più il livello delle promesse e dei pericoli.
Se possiamo affrontare le sfide scientifiche, etiche, sociali e politiche poste da questi passi avanti, entro il 2045 trasformeremo profondamente, e in meglio, la vita sulla Terra. Se falliremo, sarà a rischio la nostra stessa sopravvivenza. Così questo libro parla del nostro avvicinamento finale alla singolarità, delle opportunità e dei pericoli che dobbiamo affrontare insieme durante l’ultima generazione del mondo come lo conoscevamo.
Ne La singolarità è vicina, ho descritto le basi della coscienza come informazione. Ho parlato di sei epoche, o fasi, dall’inizio del nostro universo, dove ogni fase creava la successiva dall’elaborazione delle informazioni della precedente. L’evoluzione dell’intelligenza procede attraverso una sequenza indiretta di altri processi.
La prima epoca è stata la nascita delle leggi che rendono possibili la fisica e la chimica. Qualche centinaio di migliaia di anni dopo il big bang, si sono formati atomi, da elettroni che ruotavano attorno a un nucleo di protoni e neutroni. I protoni in un nucleo sembrerebbe che non debbano essere tanto vicini, perché la forza elettromagnetica cerca di allontanarli violentemente, ma si dà il caso che esista una forza distinta, la cosiddetta forza nucleare forte, che tiene uniti i protoni. “Chiunque” abbia progettato le regole dell’universo ha fornito questa forza aggiuntiva, altrimenti l’evoluzione attraverso gli atomi sarebbe stata impossibile. Miliardi di anni dopo, gli atomi formarono molecole che potevano rappresentare informazioni complesse.
Il carbonio era il “mattone da costruzione” più utile, poiché poteva formare quattro legami, anzi- ché uno, due o tre come molti altri nuclei. Che vivessimo in un mondo che permette una chimica complessa è estremamente improbabile. Per esempio, se la forza di gravità fosse anche di poco più debole, non ci sarebbero supernove che creano gli elementi chimici di cui è fatta la vita. Se fosse anche di poco più forte, le stelle si esaurirebbero e morirebbero prima che possa formarsi una vita intelligente. Questa particolare costante fisica doveva avere un valore all’interno di un intervallo estremamente ristretto, altrimenti ora non saremmo qui. Viviamo in un universo che è bilanciato con grande precisione e consente in tal modo un livello di ordine che ha reso possibile il dispiegarsi dell’evoluzione.
Vari miliardi di anni fa, iniziò la seconda epoca: la vita. Le mo- lecole diventarono abbastanza complesse perché una sola molecola fosse in grado di definire un intero organismo. Così le creature viven- ti, ciascuna con il proprio DNA, sono state in grado di evolvere e di diffondersi. Nella terza epoca, gli animali descritti dal DMA poi formarono i cervelli, che a loro volta immagazzinavano ed elaboravano informa- zioni.
Quei cervelli offrivano vantaggi evolutivi, e questo ha contri- buito alla crescita della loro complessità nell’arco di milioni di anni. Nella quarta epoca, alcuni animali utilizzarono le loro capacità cognitive di livello superiore, insieme con i loro pollici, per tradur- re i pensieri in azioni complesse. Erano gli esseri umani. La nostra specie ha utilizzato quelle abilità per creare tecnologie in grado di immagazzinare e manipolare informazioni, dal papiro ai dischi rigi- di. Quelle tecnologie hanno aumentato le capacità dei nostri cervelli di percepire, richiamare e valutare schemi di informazioni.
Questa è un’altra fonte di evoluzione, di gran lunga superiore al livello di pro- gresso precedente. Per quanto riguarda il cervello, abbiamo aggiunto all’incirca 16 centimetri cubi di materia cerebrale ogni 100.000 anni, mentre nel campo dell’elaborazione digitale raddoppiamo il rapporto prezzo-prestazioni all’incirca ogni 16 mesi. Nella quinta epoca, fonderemo direttamente la cognizione biologica umana con la velocità e la potenza della nostra tecnologia digitale. Sono le interfacce cervello-computer. L’elaborazione neurale umana avviene alla velocità di alcune centinaia di cicli al secondo, rispetto ai vari miliardi di cicli al secondo della tecnologia digitale.
Oltre alla velocità e alle dimensioni della memoria, aumentare i nostri cervelli con computer non biologici ci permetterà di aggiungere molti altri strati alla nostra neocorteccia, rendendo possibili processi cognitivi enorme- mente più complessi e astratti di quelli che oggi possiamo immaginare. La sesta epoca è quella in cui la nostra intelligenza si diffonde nell’universo, trasformando la materia ordinaria in computronio, materia organizzata alla densità ultima della computazione. Nel mio libro del 1999, The Age of Spiritual Machines, ho previsto che un test di Turing (una AI che comunica mediante un testo risulta indistinguibile da un essere umano) sarebbe stato superato entro il 2029.
Leggi anche: L’impero delle scarpe Vans costruito «persona dopo persona». L’iconica storia del colosso dalla voce del fondatore
Ho ribadito quella previsione nel 2005, ne La singolarità è vicina. Se un’AI supera un test di Turing valido significa che ha padroneggiato il linguaggio e il ragionamento di senso comune come li possiedono gli esseri umani. Turing ha descritto quest’idea nel 19501, ma non ha specificato come il testo dovesse essere somministrato. Abbiamo fatto una scommessa con Mitch Kapor, definendo le nostre regole, che sono molto più impegnativo rispetto ad altre interpretazioni.
La mia aspettativa era che, per poter superare un test di Turing valido entro il 2029, avremmo dovuto riuscire a raggiungere una grande varietà di traguardi intellettuali per l’AI entro il 2020. In effetti, da quando ho fatto quella previsione, l’AI ha superato molte delle sfide intellettuali più diffi- cili dell’umanità – da giochi come Jeopardy! e Go ad applicazioni serie come la radiologia e la scoperta di farmaci. Mentre scrivo queste pagi- ne, sistemi AI di fascia alta come Gemini e GPT-4 stanno estendendo le loro capacità a molti campi diversi: passi incoraggianti sulla strada verso l’intelligenza generale. Alla fine, quando un programma supererà il test di Turing, dovrà in realtà far finta di essere molto meno intelligente, in molti ambiti, perché altrimenti sarà chiaro che si tratta di una AI.
Per esempio, se potesse risolvere correttamente e istantaneamente qualsiasi problema matematico, fallirebbe il test. Al livello del test di Turing, quindi, l’AI avrà capacità che di fatto saranno di gran lunga superiori a quelle dei migliori fra gli esseri umani nella maggior parte dei campi. Oggi ci troviamo nella quarta epoca, e la nostra tecnologia già pro- duce risultati che, per alcuni compiti, superano quello che possiamo comprendere. Per gli aspetti del test di Turing che l’AI non ha ancora padroneggiato, stiamo facendo progressi rapidi e in via di accelerazione.
Il superamento del test di Turing, che ho previsto per il 2029, ci farà entrare nella quinta epoca. Negli anni Trenta di questo secolo, una capacità fondamentale sarà quella di connettere le parti superiori della nostra neocorteccia al cloud, il che estenderà direttamente la nostra capacità di pensiero. In questo modo, anziché una concorrente, l’AI diventerà un’estensione di noi stessi. Quando questo accadrà, le parti non biologiche della nostra mente ci daranno una capacità cognitiva migliaia di volte superiore a quella delle parti biologiche. Poiché l’andamento sarà esponenziale, estenderemo le nostre menti milioni di volte entro il 2045. Sono questa velocità inimmaginabile e l’ordine di grandezza della trasformazione che ci consentiranno di mutuare dalla fisica la metafora della singolarità per descrivere il nostro futuro.
