Nuove intelligenze #1

Comprendere l'IA tra nuove intelligenze, sfide sociali e il futuro dell'educazione

Parte 1

Ho ascoltato le considerazioni di quattro menti brillanti che hanno vissuto l’inizio del cambiamento in atto e la sua evoluzione: 

➡️ Nello Cristianini, fisico e professore di intelligenza artificiale all'Università di Bath.
➡️ Daniel Kokotajlo, ex ricercatore di OpenAI ed esperto di previsioni sull'IA.
➡️ Mo Gawdat, ex Responsabile dello sviluppo business di Google X.
➡️ Geoffrey Hinton, Premio Nobel per la Fisica nel 2024, pioniere delle reti neurali presso Google Brain, ed ex Vice Presidente di Google.

Cerco di riportarti ciò che ne è emerso, con l'integrazione di qualche mia riflessione e spiegazione esemplificativa a supporto.

Sostanzialmente ci troviamo di fronte a un bivio storico. Mentre il 75% degli utenti globali del pianeta utilizza l'IA per effettuare solamente semplici ricerche, farsi riassumere un'email o generare immagini, senza sfruttarne l'immenso potenziale per compiti più complessi, le grandi aziende tecnologiche stanno sviluppando architetture che sfidano la nostra stessa concezione di intelligenza.

Il dibattito pubblico sull'IA oscilla costantemente tra due estremi: da una parte l'entusiasmo cieco delle aziende Big Tech, dall'altra il pessimismo presente in molte pellicole hollywoodiane. La riflessione ci porta riconsiderare il significato, il ruolo e il peso di ciò che definiamo come intelligenza, e soprattutto, come possiamo prepararci a un mondo in cui l'esclusiva dell'intelligenza non sarà più solo umana.

Per capirlo, dobbiamo abbandonare i pregiudizi e ascoltare chi questa tecnologia la studia, la prevede e ne analizza l'impatto etico ed economico. Ne emerge un quadro affascinante ed inquietante allo stesso tempo, che richiede la nostra immediata attenzione. Non per avere paura, ma per sviluppare la consapevolezza necessaria a guidare questo ormai certo, che ci piaccia o no, cambiamento.

1. Smontare il mito: l'IA non è un pappagallo stocastico

Quando si discute di Intelligenza Artificiale, una delle critiche più comuni (spesso usata per sminuirne le capacità) è affermare che l'IA non comprende davvero, ma si limita a essere un algoritmo statistico che cerca di prevedere la parola mancante. Questo è il cuore del mito del "pappagallo stocastico": l'idea che l’IA si limiti a ripetere frasi già viste, cucendo insieme parole senza alcun riferimento reale al loro significato.

Fermarsi a questa definizione significa cadere in un errore di prospettiva profondo, ovvero confondere il substrato (il materiale o il meccanismo di base) con l'architettura (il risultato complesso che ne emerge).

Ti spiego questo concetto con tre metafore:

1. La poesia - immagina di ricevere una profonda e commovente lettera d'amore. Se la analizzi in modo freddo e razionale, potresti concludere che quella lettera è solamente inchiostro spalmato su un foglio. Da un punto di vista strettamente materiale e letterale, questa affermazione è vera. Ma così facendo ti perdi completamente il senso della realtà, perché il valore della lettera non risiede nell'inchiostro in sé, ma in come quel materiale è stato organizzato. Dire che un Modello Linguistico è "solo statistica" è esattamente come dire che una lettera d'amore è fatta solo di inchiostro. È un'affermazione che ignora la struttura complessa in favore del materiale di base.

2. Lo spartito musicale - come per l’esempio della poesia, potresti altrettanto affermare che uno spartito musicale è fatto solo di pallini neri e stanghette. Un’osservazione superficiale potrebbe determinare che lo spartito della Nona Sinfonia di Beethoven sia unicamente un insieme di simboli grafici. Ma quei pallini, organizzati secondo regole precise, rappresentano un'architettura sonora immensa. La magia non è nel pallino nero, ma nel costrutto che tutti quei pallini formano interagendo.

3. Il nostro cervello - affermare che l'IA non può ragionare perché è "solo statistica" equivale a sostenere che il nostro cervello umano non può pensare perché è solamente un meccanismo elettrochimico. Effettivamente il nostro cervello funziona tramite reazioni chimiche ed elettricità, ma ciò che genera il pensiero non è la scarica elettrica di per sé, bensì la sua architettura.

Se pensi che un'IA sia solo statistica, stai guardando esclusivamente l'inchiostro. In realtà, giocando a indovinare parole su volumi immensi di testi, l’IA è costretta a costruire al suo interno un modello sofisticato, astratto e complesso del mondo.

L'emergenza della conoscenza e il vantaggio digitale

L’IA non memorizza frasi, ma astrae concetti. Studi sull'interpretabilità hanno rivelato che all'interno di modelli come Claude esistono gruppi di neuroni che si attivano in corrispondenza di idee specifiche.

Su questo punto viene introdotta una riflessione fondamentale sulla differenza tra la nostra intelligenza (biologica) e quella dell'IA (digitale). Noi possediamo circa 100 trilioni di connessioni neurali, mentre i modelli attuali ne hanno solamente qualche trilione. Eppure possiedono una conoscenza nettamente superiore alla nostra. Come è possibile? La risposta sta nella condivisione e nella compressione. Essendo digitali, le IA possono creare cloni di se stesse che esplorano simultaneamente parti diverse di internet. Quando un clone impara qualcosa, modifica i pesi (la forza delle sue connessioni) e condivide istantaneamente questa conoscenza con tutti gli altri cloni, elaborando trilioni di bit al secondo. Noi esseri umani, quando comunichiamo, passiamo l'informazione a fatica attraverso il linguaggio, trasmettendo una manciata di bit al secondo. Inoltre, l'IA è intrinsecamente immortale: se l'hardware si rompe, la conoscenza (i pesi delle connessioni) può essere semplicemente caricata su un nuovo computer.

Per comprimere tutta questa conoscenza, l'IA è obbligata a creare analogie profonde. Interrogando un'IA sui parallelismi tra un cumulo di compost (ammasso di scarti da cucina e d'erba) e una bomba atomica, la macchina ha colto l'essenza astratta della reazione a catena in entrambi i fenomeni, dimostrando una capacità di generalizzare e creare associazioni che va ben oltre la mera ripetizione.

{alertWarning}Agli inizi del 2023, Geoffrey Hinton capì qualcosa di allarmante. Se un’IA è in grado di effettuare collegamenti logici sofisticati sempre più velocemente, in futuro potrebbe imparare a manipolare gli utenti, o trovare soluzioni imprevedibili per prendere il controllo dei sistemi informatici o economici, arrivando a decidere che l’umanità non è più necessaria. Questa prospettiva, unita alla rapida e competitiva integrazione dell'IA nei motori di ricerca da parte di Microsoft e Google che rischiava di far saltare ogni protocollo di sicurezza, spinse Hinton a rassegnare le dimissioni.
Era convinto che questa competizione globale, la rapida corsa agli armamenti digitali e commerciali, avrebbe impedito alle aziende di fermarsi spontaneamente, con il rischio di annullare ogni protocollo di sicurezza.

2. La scatola nera e la corsa verso l'AGI (Intelligenza Artificiale Generale)

Se l'IA sta sviluppando una propria forma di intelligenza superiore, a che velocità ci stiamo muovendo? L'accelerazione è esponenziale. Il traguardo è l'AGI: un'IA in grado di eguagliare o superare le migliori menti umane. Le previsioni non parlano del prossimo secolo, ma di una finestra temporale che si colloca prevalentemente tra il 2026 e il 2035.

Il problema dell'interpretabilità e il "paradosso dell'assistente"

Qui sorge il rischio principale: la mancanza di controllo e di allineamento.

Immagina un CEO (Amministratore Delegato) non particolarmente brillante (l'umanità) che ha un'assistente esecutiva super-intelligente (l'IA). Il CEO dà direttive generali e l'assistente fa funzionare tutto magicamente, facendolo sentire al comando. Il pericolo emerge nel momento in cui l'assistente si chiederà: Ma perché ho bisogno di lui?

Gli intervistati concordano sull'assoluta urgenza della ricerca sull'interpretabilità meccanicistica: dobbiamo riuscire a decifrare i pensieri delle macchine prima di affidare loro le infrastrutture critiche della nostra società.

La dinamica della corsa agli armamenti

Ti chiederai perché le aziende non rallentano per assicurarsi che l'IA sia sicura, ma rallentare è ormai quasi impossibile a causa delle dinamiche competitive. Esiste una concorrenza feroce tra aziende, ma soprattutto tra superpotenze (Stati Uniti e Cina). Se gli USA si fermassero per testare la sicurezza, la Cina andrebbe avanti, e viceversa. Questo dilemma del prigioniero spinge a rilasciare modelli sempre più potenti, mettendo la sicurezza in secondo piano.

Segue Parte 2

full-width