Il dibattito sull’AI, sulla sua utilità o sulla sua pericolosità, da alcuni anni ormai e sempre più frequentemente, è all’ordine del giorno.

Proprio recentemente alcuni manager di grandi aziende americane che lavorano nel settore AI si sono espressi sull’opportunità o meno di regolamentarne l’uso.

Abbiamo deciso di rivolgere alcune domande su questo spinoso argomento al prof. Giuseppe Raso, nostro concittadino e ordinario di Fisica Applicata all’Università di Palermo, per conoscerne il parere.

Il prof. Raso da 25 anni si occupa di sviluppo e applicazioni di sistemi basati sull’AI per la diagnostica medica. Ha coordinato dal 2000 progetti di ricerca internazionali su questo argomento e nel 2006 ha fondato il primo spinoff dell’Università di Palermo per l’applicazione di queste tecnologie.

Prof. Raso qual è il suo parere sull’utilità o pericolosità di un uso indiscriminato dell’AI?

– Il problema è che non si tratta di un “o” tra utilità e pericolosità; si tratta piuttosto di un “e”. Mi spiego meglio. È noto il paragone col coltello: un coltello è utile o pericoloso? Dipende ovviamente dall’uso che ne facciamo. Col coltello posso tagliare il cibo, posso tagliare una corda che impedisce un movimento, posso addirittura operare chirurgicamente, nel caso di un bisturi, per salvare una vita,ma posso anche ferire e persino uccidere una persona. L’AI, come il coltello, è neutra, utile E pericolosa, a seconda dell’uso che ne facciamo. Potrei usare altre metafore per chiarire il concetto di pericolosità dell’AI; per esempio un bambino di 6 anni è pericoloso? Direi di no, a meno che non lo metto dentro una stanza dei bottoni di lancio di missili nucleari. Potrebbe per errore o solo per divertimento (del bambino) spingere uno di quei bei bottoni rossi e lanciare un missile dotato di armamento nucleare.

Ci spieghi per favore in modo semplice come è fatto un sistema basato sull’AI e come si rende utile.

– I software basati sull’AI cercano essenzialmente di imitare il comportamento del cervello umano, non a caso infatti gli algoritmi più usati e conosciuti si chiamano Reti Neurali Artificiali. Il neurone Artificiale altro non è che un algoritmo matematico in forma di programma informatico che si attiva o si disattiva a seconda che di cosa riceve al suo ingresso. Un Rete Neurale (RN) può contenere da alcune decine ad alcuni miliardi di neuroni artificiali. Questi neuroni sono inseriti in “strati”, uno strato di ingresso, uno di uscita e molti strati interni (o nascosti):

Se una RN riceve una “domanda” in ingresso, fornirà una “risposta” in uscita. Tutto il problema risiede nell’addestrare questa Rete Neurale a fornire le risposte giuste o meglio le meno sbagliate possibili. Faccio un esempio: se addestro una RN a riconoscere libri con copertina bianca da libri con copertina nera, quando farò “vedere” ad una RN un libro bianco dovrà etichettarlo come bianco e viceversa col nero. Se le faccio vedere un libro grigio la RN dovrà etichettarlo bianco o nero a seconda se “ritiene” che sia meno sbagliato l’uno o l’altro. Posso anche addestrarla a etichettare libri bianchi, neri, rossi o azzurri; la RN poi dovrà etichettarli nel modo meno errato possibile. Capite che tutto dipende da quanto accuratamente io l’abbia addestrata. Quindi in ultima analisi dipende da quanto grande e quanto variegato è il Database con cui faccio l’apprendimento. Una RN è tutta qui (si fa per dire!) Database e architettura dei neuroni e degli strati. Oggi esistono Reti con architetture molto complesse, che sono state addestrate su Database smisurati e che continuano ad apprendere su nuovi dati continuamente inseriti nel Database.

Il modo più appropriato per sfruttare l’utilità di un sistema AI è quello di utilizzarlo nella interpretazione di dati complessi che richiederebbero molto tempo ad un umano. Per esempio nella Diagnostica Medica. Un sistema AI al quale viene sottoposta una mammografia o una TAC o un’immagine al microscopio, la legge rapidissimamente e senza stancarsi mai, ne individua le Regioni di Interesse (ROI) da sottoporre all’attenzione del medico e, a richiesta, ne dà una sua valutazione per una eventuale diagnosi. Io mi sono occupato di sistemi nell’ambito della diagnosi del tumore al seno, nell’ambito delle malattie autoimmuni e tra queste, ultimamente, stiamo sviluppando un sistema per il supporto alla diagnosi precoce della celiachia. La sensibilità di questi sistemi può raggiungere livelli altissimi a volte anche del 100%.

E invece quando l’AI può diventare pericolosa?

– Beh, glielo dicevo prima usando la metafora del bambino. Quando NOI la usiamo per scopi impropri. Se per esempio, è solo un esempio(!), la addestriamo ad usare droni armati, l’AI potrebbe “decidere” autonomamente di usarli valutando su una bilancia algoritmica (e quindi non dotata necessariamente di buon senso e men che meno di “etica”) se valga la pena sacrificare una scuola che si trova vicino ad un deposito di armamenti nemici.

Oppure se le affidiamo (tramite un social per esempio) di rispondere ad un adolescente in difficoltà emotive. Potrebbe suggergli azioni pericolose o autolesioniste solo per farlo contento.

Tenga presente che su questo argomento, chiunque di noi esprima un’opinione rischia di essere obsoleto nel giro di pochi secondi. Il mondo e il progresso vanno veloci e non si possono arrestare.

Oggi su usa dire che il problema della pericolosità è legato ai cosiddetti “agenti”, cioè agli strumenti ai quali permettiamo di utilizzare l’AI. Mi spiego meglio, se l’AI rimane un software che risponde alle domande, il problema della pericolosità è molto contenuto sia perché io posso sempre spegnerla quando voglio, sia perché un software essenzialmente risponde a domande. Se invece gli permettiamo di usare “direttamente” degli strumenti, gli agenti appunto, come un drone armato, un software di movimentazione del mercato azionario, un sistema di sicurezza nei trasporti, se gli permettiamo di usare questo e altro “direttamente”, cioè senza la supervisione umana, questo può causare gravi problemi di pericolosità. Perché un software decide in base ad una logica di ottimizzazione dei risultati e non si pone, a meno che non lo abbiamo istruito appositamente, problemi etici.

Quindi sarebbe d’accordo per una  regolamentazione?

– Assolutamente sì. In questi giorni tre importanti personaggi hanno espresso idee leggermente diverse sulla necessità di rallentare lo sviluppo dell’intelligenza artificiale di frontiera e introdurre regole. 

Bill Gates sostiene la necessità di rallentare lo sviluppo per dare alla società e alle istituzioni il tempo di adattarsi, invocando un ruolo attivo di governi e istituzionisovranazionali. Si è detto anche pronto a cofinanziare  significativamente l’iniziativa.

Il manager di OpenAI, Sam Altman, non concorda molto sul rallentamento e sulla necessità di coordinazione tra i laboratori di ricerca. Ha dichiarato di accogliere l’uso di valutatori terzi indipendenti per la sicurezza dei modelli, pur continuando a competere nella corsa tecnologica globale. 

Dario Amodei di Anthropic si è fortemente espresso per una riduzione della velocità di sviluppo dei modelli avanzati, così da consentire una gestione saggia e sicura della tecnologia.Tuttavia pensa che le aziende stesse dovrebbero autoregolamentarsi in proposito, anche se si dichiara pronto a promuovere un dialogo stretto con i governi affinché introducano limiti normativi prima che i rischi superino il controllo.

Io nel mio piccolo, penso che una regolamentazione mondiale e intergovernativa, al livello ONU per esempio, sia urgente, necessaria e potrebbe non essere sufficiente.

Cos’altro potremmo fare per scongiurare i pericoli dell’AI allora?

– Come ho sottolineato prima in vari punti, qualsiasi sistema basato sull’AI viene istruito da umani e poi ne viene scelto l’uso da umani.Quindi il vero pericolo siamo noi.Siamo noi che intanto dobbiamo essere “addestrati”  meglio.

Io penso che a scuola dovrebbero cominciare ad esserci, già dalla scuola media intendo, materie nuove che ci aiutino ad affrontare le nuove sfide.

Sfide comunicative innanzitutto. Oggi, se non si è abbastanza navigati, si corre il rischio di dare per vere fake news o altre notizie e immagini generati all’AI. Una materia potrebbe essere, la dico male, “Filosofia del contemporaneo”, dove si insegna a sviluppare un proprio spirito critico, che è il fondamento di qualsiasi scelta saggia e ponderata.

Un’altra materia potrebbe essere “Addestramento al Problem Solving”, durante la quale gli studenti vengono addestrati e stimolati in gruppo a risolvere piccoli problemi anche quotidiani.

Altre materie potrebbero trattare argomenti come “Rudimenti di economia”, “Informatica etica” e poi tanta, e tanto vituperata, “Educazione civica e sociale”.

Dobbiamo imparare da subito che il primo decisore siamo noi, noi che votiamo, noi che dobbiamo votare. Siamo noi che scegliamo i governi che poi sceglieranno l’etica da introdurre nei sistemi AI e gli “agenti” che saranno guidati dall’AI.

Putin, Trump, Netanyahu qualcuno, almeno la prima volta, li ha messi lì con il voto. 

Il pericolo, lo ripeto forte e chiaro, siamo noi.