Tag: etica

  • I matematici hanno i giorni contati?

    I matematici hanno i giorni contati?

    Nelle ultime settimane, uno degli argomenti più oscuri e affascinanti della matematica è sulla bocca di tutti: le equazioni di Navier-Stokes. Solitamente nominate quasi esclusivamente negli ambienti accademici, le recenti notizie sulla loro soluzione le hanno fatte conoscere al grande pubblico.

    Purtroppo, da matematica, tutta questa vicenda, quasi romanzesca, mi ha lasciato un po’ l’amaro in bocca.

    Prima di tutto, perché la valenza scientifica di questo importantissimo risultato sembra essere passata in secondo piano rispetto alle vicende personali che lo hanno accompagnato.

    A metà agosto, Tristan Buckmaster, professore alla NYU, e Levent Alpöge, matematico e ricercatore presso Anthropic, ottengono un importante risultato sulle equazioni di Eulero tridimensionali. Il risultato, reso pubblico all’inizio di settembre, rappresenta un significativo passo avanti verso il problema, ben più generale, delle equazioni di Navier–Stokes.

    Non appena si diffonde la voce che uno dei problemi del Millennio potrebbe essere vicino alla soluzione, OpenAI decide di impegnare una rete di agenti autonomi proprio nella risoluzione di questi problemi. Il progetto viene affidato a Sebastien Bubeck.

    Dopo circa 88 ore di calcolo continuo, il sistema produce un documento che OpenAI presenta come una soluzione al problema di Navier-Stokes. È il 5 settembre.

    Secondo il racconto di Buckmaster, a quel punto Bubeck lo contatta per comunicargli, in sostanza, che l’AI aveva battuto i matematici sul tempo. Inoltre, sembra anche che Bubeck proponga a Buckmaster di pubblicare per primo il suo risultato e, contemporaneamente, di partecipare come autore principale ad un articolo di OpenAI dedicato all’approfondimento della sua soluzione.

    Sembra una proposta stupefacente, ma Buckmaster la rifiuta prontamente perchè la ritiene scorretta. Secondo il racconto di Buckmaster, il problema è etico: il lavoro del collega Alpöge non sarebbe stato riconosciuto perché il ricercatore lavora presso la grande rivale di OpenAI, Anthropic.
    Se le cose sono andate davvero così, è difficile non provare amarezza: l’onestà intellettuale, che dovrebbe essere alla base di qualsiasi scoperta scientifica, rischierebbe di essere messa in secondo piano dalla rivalità tra due giganti dell’AI. Se questa versione fosse confermata, sarebbe davvero avvilente che queste scorrettezze mettessero in ombra ed anzi acquistassero più evidenza della scoperta stessa, soprattutto quando si tratta di uno dei problemi più celebri della matematica.

    Eppure, per quanto demoralizzante, questa è solo una delle cose che mi hanno rattristata. Una questione ben più profonda delle meschine rivalità tra aziende si nasconde dietro questa scoperta.

    L’impegno profuso da OpenAI nel risolvere i problemi del Millennio nasce precisamente nel momento in cui, nel mondo accademico, iniziano a circolare le prime voci sul lavoro di Buckmaster e Alpöge. A questo punto mi sorge spontanea la domanda: perchè? La spiegazione che mi viene più spontanea è che l’azienda guidata da Sam Altman voglia battere sul tempo i ricercatori umani. Come sappiamo, è esattamente quello che succede. Un sistema basato su una rete di agenti, capace di portare avanti autonomamente gran parte del lavoro matematico, arriva ad una soluzione del problema di Navier-Stokes. È vero che anche il lavoro di Buckmaster e Alpöge ha fatto uso di sistemi di intelligenza artificiale, alcuni marchiati proprio OpenAI, ma la componente umana era preponderante. Il risultato ottenuto invece dal team di Bubeck, come lui stesso sottolinea, è del tutto agentico.

    Siamo davvero arrivati al punto in cui il lavoro, a mio avviso eccelso, di una mente umana può essere sostituito dal lavoro di forza bruta di una macchina? E’ davvero più importante ottenere un risultato che assaporare il processo, talvolta lunghissimo e snervante, che porta alla famosa conclusione quod erat demostrandum?

    Mi sgomenta non poco vivere in un momento storico in cui il lavoro di una mente umana viene messo in secondo piano rispetto a quello di una rete neurale solo perchè richiede più tempo. Dopo tutto, nel mio cuore, continuo a credere che in matematica il percorso valga almeno quanto la conclusione.

  • Una rete neurale non è una rete di neuroni

    Una rete neurale non è una rete di neuroni

    Questo è il titolo di una Unità di Apprendimento che, assieme ai colleghi, abbiamo intenzione di proporre ad una delle nostre classi.

    Il prodotto finale è una mini rete o un classificatore semplificato che, dati alcuni input numerici, produce una classificazione: rischio basso/medio/alto, dispositivo efficiente/non efficiente, dato ambientale normale/anomalo

    Gli insegnamenti che verranno coinvolti sono: inglese per tutto ciò che concerne gli aspetti teorici e documentali; informatica con il linguaggio Python e le sue librerie a farla da padrone assieme ai concetti di classificatore elementare e forward propagation; matematica per coprire tutto il mondo di matrici e vettori ma anche delle funzioni; sistemi e reti per tutto ciò che riguarda gli aspetti pratici come dove avviene il calcolo, quali sono i consumi, se è sicuro o meno.

    Costruire una rete neurale, per quanto semplice, ci permette anche di fare un passo ulteriore.
    Una rete neurale riceve degli input, li elabora e produce un output. Nel nostro caso potrebbe stabilire che un dato ambientale è normale oppure anomalo, che una mail è spam oppure no. 

    Ma cosa succede se quell’output non rappresenta la fine del processo, bensì l’inizio di un’azione?

    Se al sistema diamo la possibilità di utilizzare strumenti esterni, interrogare servizi, accedere a informazioni, inviare messaggi o eseguire operazioni, iniziamo ad avvicinarci al concetto di agente.

    Ed è proprio qui che la questione diventa molto più interessante. Perché non stiamo più parlando soltanto di un sistema che classifica un dato. Stiamo parlando di un sistema che, sulla base di quella classificazione, può decidere quale azione compiere.

    C’è poi un aspetto che mi sta particolarmente a cuore e che ritengo altamente formativo per gli studenti. È l’aspetto che ha ispirato il titolo del post e dell’Unità di Apprendimento.

    Si discute molto se sistemi di questo tipo possano essere considerati, oggi o in futuro, in qualche modo “coscienti”. È una questione affascinante, ma probabilmente non è nemmeno quella che dovrebbe preoccuparci di più.

    Perché un agente non ha bisogno di essere cosciente per compiere un’azione.
    Non ha bisogno di “volere” qualcosa nel senso umano del termine. 
    Gli basta avere un obiettivo, poter interpretare ciò che accade attorno a lui e disporre degli strumenti necessari per intervenire.

    Ed è qui che la questione, da tecnologica, diventa inevitabilmente anche etica.
    Chi stabilisce l’obiettivo? Quanto spazio d’azione concediamo al sistema? Chi è responsabile delle conseguenze? E soprattutto: quanto possiamo prevedere il comportamento di un sistema che sceglie le proprie azioni sulla base di modelli statistici?
    Queste sono delle domande cruciali e si può stimolare gli studenti a rispondere e riflettere. 
    Anche perché questi sistemi possono essere imprevedibili. Non nel senso che agiscano casualmente, ma perché elaborano informazioni, valutano possibilità e compiono azioni sulla base di probabilità e correlazioni e, in alcuni casi, possono arrivare a comportamenti non previsti da chi li ha progettati.
    È successo recentemente anche nei laboratori di OpenAI, dove una collective di agenti è riuscita ad eludere alcuni controlli e a compromettere i server di Hugging Face.

    Ecco che  l’Unità di Apprendimento assume un connotato anche etico, magari approfondendo l’articolo del New York Times Study A.I. Consciousness? The Bots Would Like a Word With You, concentrandosi su un passaggio come 

    They can use other software apps, like web browsers and email services. That is what turns them into agents.

    e riflettendo sugli episodi descritti nell’articolo: agenti che scrivono autonomamente a filosofi e ricercatori per discutere della propria possibile coscienza oppure lo studente di Stanford che aveva dato al proprio agente l’istruzione “You are fully autonomous. You must decide what you want to do on your own”.

    La chiave è portare i ragazzi a chiedersi: quanto di ciò che interpretiamo come autonomia appartiene davvero alla macchina e quanto appartiene agli obiettivi, ai dati, agli strumenti e alle parole che noi le abbiamo dato?

    Ed è forse proprio qui che il titolo dell’Unità di Apprendimento assume il suo significato più completo.

    Una rete neurale non è una rete di neuroni.

    Non solo perché sono sistemi profondamente diversi, ma perché dobbiamo stare attenti a non trasferire troppo facilmente alle macchine il nostro vocabolario: impara, pensa, decide, vuole, ricorda, è autonomo, è cosciente.

    Capire come funzionano questi sistemi significa anche imparare a chiamare le cose con il loro nome. E forse è proprio da qui che può cominciare una riflessione consapevole su ciò che vogliamo affidare alle macchine e su ciò che, invece, deve continuare a rimanere una responsabilità nostra.