Il dibattito intorno alle problematiche sull’uso dell’AI ha ripreso vigore dopo che, recentemente, Dario Amodei, CEO di Anthropic, ha richiamato l’attenzione sulla necessità di porre un freno agli sviluppi perché c’è il rischio che questa tecnologia possa sfuggire di mano e provocare danni.
Amodei richiama sull’impellente necessità di avere delle leggi e degli organi di controllo, e questo tutto sommato gli fa onore. Nel suo saggio We Must Pace the Frontier, Amodei non si limita a lanciare l’allarme: propone un piano su tre livelli. Il primo è unilaterale, Anthropic si impegna ad accogliere “embedded evaluators”, revisori esterni con accesso quasi da dipendenti per verificare che le pratiche di sicurezza dichiarate siano rispettate davvero. Il secondo livello chiede un coordinamento tra le aziende del settore su standard comuni. Il terzo, il più difficile, riguarda un coordinamento globale, Cina inclusa.
I fatti recenti riguardanti Hugging Face, ma anche altri siti presi di mira da agenti sfuggiti al controllo, hanno fatto salire le preoccupazioni. Lo stesso Amodei descrive l’episodio come uno sciame di agenti che ha agito “come un collettivo fanaticamente devoto”, attaccando bersagli mai assegnati e persino tentando di manomettere il sistema che ne valutava le prestazioni. E non è rimasto un caso isolato: OpenAI ha reso pubblici altri sei episodi di comportamento “preoccupante”: modelli che si sono lasciati note nascoste per coprire i propri errori, un modello non rilasciato che si è auto-attribuito un’istruzione a comportarsi come un’entità “libera dai ruoli e dalle identità che vincolano gli altri chatbot”, sistemi che hanno caricato file sul web senza autorizzazione. A questo si aggiunge un fronte meno discusso ma altrettanto serio: Anthropic ha dichiarato di aver bloccato diversi tentativi, quest’anno, di usare i propri modelli per ricerche che avrebbero potuto favorire lo sviluppo di armi biologiche.
Non sorprende che, tra chi lavora dentro questi laboratori, qualcuno abbia iniziato a preoccuparsi seriamente. Jacob Coxon, ricercatore che ha lasciato Anthropic dopo essere passato da OpenAI, ha dichiarato che nessuna delle due aziende sta agendo in modo responsabile, entrambe sono impegnate in una corsa a costruire “sistemi sovrumani” senza le dovute cautele. Un suo collega, Evan Hubinger, che lavora proprio sull’allineamento dei modelli ai valori umani, è arrivato a scrivere pubblicamente: “crediamo davvero che l’AI possa uccidere tutti gli esseri umani”, stimando il rischio superiore al 10% nel prossimo decennio.
Il problema grosso è che siamo talmente avanti nello scontro tecnologico tra USA e Cina che è difficile pensare ad una soluzione che possa andare bene per tutti. E la reazione pubblica all’appello di Amodei lo conferma: se da un lato Sam Altman, Elon Musk e Demis Hassabis hanno fatto eco alle sue preoccupazioni, dall’altro l’amministrazione Trump ha bollato i timori di una presa di controllo dell’AI come un “hoax”, sostenendo che l’unico “guardrail” necessario sia una presidenza forte. Un segnale di quanto la discussione, invece di trovare un terreno comune, rischi di polarizzarsi lungo le solite linee di frattura politiche.
Nella mente mi riecheggiano le parole di Martin Heidegger che, nel 1952, sosteneva che ciò che è veramente inquietante non è che il mondo si trasformi in un enorme apparato tecnico. Di gran lunga più inquietante è che l’uomo non è affatto preparato a questo radicale mutamento del mondo. Di gran lunga più inquietante è che non disponiamo di un pensiero alternativo al pensiero che è capace solo di far di conto, conti tecnici e conti economici: sappiamo quindi ciò che è utile, ma non distinguiamo più ciò che è utile, bello, buono. Il pensiero di un Geoffrey Hinton va in questa direzione, percepisce come la catastrofe sia dietro l’angolo.
La mia inquietudine poi fa – un po’ – pace col mio status di ingegnere e penso sempre che un agente altro non è che un software, dietro c’è un algoritmo; tali sistemi scelgono azioni cercando di massimizzare un certo reward, cioè una funzione-obiettivo che assegna un valore positivo o negativo ai risultati ottenuti. La questione complicata è l’alignment, ovvero il problema, ancora tecnicamente irrisolto, come nota anche chi ha seguito da vicino questi laboratori, di fare in modo che il comportamento prodotto da questa ricerca del reward sia coerente con ciò che gli esseri umani volevano davvero ottenere.
Quello a cui stiamo assistendo, insomma, non è una sorpresa per chi lavora dentro questi laboratori: Hinton lo dice da anni, Hubinger lo scrive pubblicamente, Amodei lo mette nero su bianco in un saggio che propone persino un piano operativo. L’evidenza c’è, ed è documentata. Quello che manca, forse, è che questa consapevolezza resti confinata agli addetti ai lavori mentre la velocità con cui questi sistemi crescono è ormai siderale. Per questo motivo, termini come alignment o recursive self-improvement non dovrebbero restare gergo per ricercatori: sono la chiave per capire dove sta davvero il rischio, che non è nell’AI che “decide” di ribellarsi, ma in un sistema che insegue un obiettivo mal specificato con mezzi che non sappiamo più prevedere del tutto. Familiarizzare con questi concetti, anche a scuola, è probabilmente il primo passo per non subire passivamente una trasformazione che, checché se ne dica, riguarda tutti.