Questo è il titolo di una Unità di Apprendimento che, assieme ai colleghi, abbiamo intenzione di proporre ad una delle nostre classi.

Il prodotto finale è una mini rete o un classificatore semplificato che, dati alcuni input numerici, produce una classificazione: rischio basso/medio/alto, dispositivo efficiente/non efficiente, dato ambientale normale/anomalo

Gli insegnamenti che verranno coinvolti sono: inglese per tutto ciò che concerne gli aspetti teorici e documentali; informatica con il linguaggio Python e le sue librerie a farla da padrone assieme ai concetti di classificatore elementare e forward propagation; matematica per coprire tutto il mondo di matrici e vettori ma anche delle funzioni; sistemi e reti per tutto ciò che riguarda gli aspetti pratici come dove avviene il calcolo, quali sono i consumi, se è sicuro o meno.

Costruire una rete neurale, per quanto semplice, ci permette anche di fare un passo ulteriore.
Una rete neurale riceve degli input, li elabora e produce un output. Nel nostro caso potrebbe stabilire che un dato ambientale è normale oppure anomalo, che una mail è spam oppure no. 

Ma cosa succede se quell’output non rappresenta la fine del processo, bensì l’inizio di un’azione?

Se al sistema diamo la possibilità di utilizzare strumenti esterni, interrogare servizi, accedere a informazioni, inviare messaggi o eseguire operazioni, iniziamo ad avvicinarci al concetto di agente.

Ed è proprio qui che la questione diventa molto più interessante. Perché non stiamo più parlando soltanto di un sistema che classifica un dato. Stiamo parlando di un sistema che, sulla base di quella classificazione, può decidere quale azione compiere.

C’è poi un aspetto che mi sta particolarmente a cuore e che ritengo altamente formativo per gli studenti. È l’aspetto che ha ispirato il titolo del post e dell’Unità di Apprendimento.

Si discute molto se sistemi di questo tipo possano essere considerati, oggi o in futuro, in qualche modo “coscienti”. È una questione affascinante, ma probabilmente non è nemmeno quella che dovrebbe preoccuparci di più.

Perché un agente non ha bisogno di essere cosciente per compiere un’azione.
Non ha bisogno di “volere” qualcosa nel senso umano del termine. 
Gli basta avere un obiettivo, poter interpretare ciò che accade attorno a lui e disporre degli strumenti necessari per intervenire.

Ed è qui che la questione, da tecnologica, diventa inevitabilmente anche etica.
Chi stabilisce l’obiettivo? Quanto spazio d’azione concediamo al sistema? Chi è responsabile delle conseguenze? E soprattutto: quanto possiamo prevedere il comportamento di un sistema che sceglie le proprie azioni sulla base di modelli statistici?
Queste sono delle domande cruciali e si può stimolare gli studenti a rispondere e riflettere. 
Anche perché questi sistemi possono essere imprevedibili. Non nel senso che agiscano casualmente, ma perché elaborano informazioni, valutano possibilità e compiono azioni sulla base di probabilità e correlazioni e, in alcuni casi, possono arrivare a comportamenti non previsti da chi li ha progettati.
È successo recentemente anche nei laboratori di OpenAI, dove una collective di agenti è riuscita ad eludere alcuni controlli e a compromettere i server di Hugging Face.

Ecco che  l’Unità di Apprendimento assume un connotato anche etico, magari approfondendo l’articolo del New York Times Study A.I. Consciousness? The Bots Would Like a Word With You, concentrandosi su un passaggio come 

They can use other software apps, like web browsers and email services. That is what turns them into agents.

e riflettendo sugli episodi descritti nell’articolo: agenti che scrivono autonomamente a filosofi e ricercatori per discutere della propria possibile coscienza oppure lo studente di Stanford che aveva dato al proprio agente l’istruzione “You are fully autonomous. You must decide what you want to do on your own”.

La chiave è portare i ragazzi a chiedersi: quanto di ciò che interpretiamo come autonomia appartiene davvero alla macchina e quanto appartiene agli obiettivi, ai dati, agli strumenti e alle parole che noi le abbiamo dato?

Ed è forse proprio qui che il titolo dell’Unità di Apprendimento assume il suo significato più completo.

Una rete neurale non è una rete di neuroni.

Non solo perché sono sistemi profondamente diversi, ma perché dobbiamo stare attenti a non trasferire troppo facilmente alle macchine il nostro vocabolario: impara, pensa, decide, vuole, ricorda, è autonomo, è cosciente.

Capire come funzionano questi sistemi significa anche imparare a chiamare le cose con il loro nome. E forse è proprio da qui che può cominciare una riflessione consapevole su ciò che vogliamo affidare alle macchine e su ciò che, invece, deve continuare a rimanere una responsabilità nostra.