di Riccardo Luna sul Corriere della Sera

Il fisico, fondatore del Future of Life Institute: «Anche il Papa ha detto: niente diritti ai bot»

«Ho trovato il discorso del Papa molto stimolante. Mi sembra che abbia preso le idee di Magnifica Humanitas e le abbia tradotte in indicazioni morali concrete sulle questioni reali che si discutono oggi. Per esempio ha parlato esplicitamente della conferenza di Ginevra del mese prossimo e della necessità di mettere al bando le armi letali autonome. Ed è stato molto chiaro sul fatto che dobbiamo vietare la personalità giuridica dell’intelligenza artificiale: in altre parole, niente diritti ai bot. È un punto molto interessante, perché la settimana prossima vola in Argentina, il primo Paese al mondo ad aver proposto di legalizzare aziende gestite dall’intelligenza artificiale, senza esseri umani. Spero che dica al presidente Javier Milei la stessa cosa che ha detto a noi. Ha anche detto che dovremmo puntare a costruire strumenti, non esseri coscienti o che meritino qualche tipo di diritto. Insomma, oggi si è collegato in pieno ai dibattiti reali che attraversano la società in questo momento».

Sono le due del pomeriggio e Max Tegmark è nel corridoio che porta all’Aula Magna della Casina Pio IV, sede della Pontificia accademia delle scienze sociali. Dentro lo attendono i membri della commissione vaticana sull’intelligenza artificiale presieduta dal cardinale Michael Czerny. Sono in corso i lavori di un seminario a porte chiuse — organizzato dalla Pontificia accademia per la vita assieme al Future of Life Institute — con un gruppo di esperti che arrivano da tutto il mondo. È il secondo tempo: il primo si è svolto nel settembre dello scorso anno, quando gli stessi esperti hanno predisposto per il Pontefice un «Appello» per lo sviluppo dell’AI. Nel frattempo sono successe moltissime cose: è arrivata l’enciclica Magnifica Humanitas, si sono scoperti decine di incidenti in cui agenti di intelligenza artificiale sono entrati in sistemi informatici senza autorizzazione; e la Casa Bianca ha escluso qualunque forma di controllo internazionale sulla corsa che considera decisiva per dominare il mondo. In questo contesto complicato la Santa Sede ha deciso di riconvocare alcuni esperti per sentire la loro opinione su cosa dovrebbe accadere adesso.

Di questo gruppo Max Tegmark è forse la figura più nota: 59 anni, fisico del Massachusetts Institute of Technology e fondatore del Future of Life Institute, è stato il primo a suonare l’allarme, nella primavera del 2023, lanciando un appello per una moratoria di almeno sei mesi.

Sono passati tre anni e mezzo: che bilancio si può fare di quella lettera aperta che venne firmata da moltissimi scienziati famosi e da Elon Musk. È stato un fallimento?
«Ricordo perché prendemmo quella iniziativa. ChatGPT era appena arrivato, tutti dicevano in privato che era pericoloso proseguire su quella strada ma nessuno aveva il coraggio di uscire allo scoperto. Lo facemmo noi e oggi penso che sia stato un grande successo anche se non abbiamo ottenuto la moratoria: ma tutte le persone che erano preoccupate, quando hanno visto questo elenco di scienziati famosi dirlo, si sono sentite legittimate. Da allora è diventato socialmente accettabile dire: sono preoccupato».

E come consideri la firma di Elon Musk, il quale tre mesi più tardi avrebbe lanciato la sua impresa per vincere la corsa dell’intelligenza artificiale?
«Conosco Elon Musk da più di dieci anni, e potrei dire lo stesso della maggior parte degli altri amministratori delegati delle aziende che sviluppano AI. Vedo tutta la vicenda come una tragedia greca. Anthropic, Google, e anche OpenAI: tutte hanno infranto promesse che avevano fatto. E Elon, Sam Altman, Dario Amodei e Demis Hassabis sono chiaramente convinti che sia una cosa così pericolosa al punto da non fidarsi di nessuno degli altri tre. Ogni singolo protagonista è intrappolato in questo destino: anche se capisce qual è la maledizione, non riesce a spezzarla. Per questo il resto del mondo deve intervenire e aiutarli a uscire da questa situazione».

Come si fa a essere ottimisti?
«In realtà sono ottimista. Negli ultimi tre mesi ho visto più cambiamenti nel discorso politico americano su questo tema che negli ultimi dieci anni. Ora parlare di perdita di controllo dell’AI è una discussione su qualcosa che è già successo. Così è arrivato il movimento pro-umani. Che un anno fa sarebbe sembrato ridicolo. Che cosa vuol dire, poi, essere pro-umani? Non siamo tutti pro-umani? All’improvviso è diventata una cosa reale. Il mese scorso a Washington abbiamo tenuto la prima Pro-Human Assembly. È stato surreale. Ero sul palco e mi è toccato presentare Bernie Sanders e Steve Bannon. Quasi mi veniva da darmi un pizzicotto per dirmi: sto sognando? C’è stata una sveglia potentissima. C’è fame di leadership morale, perché la maggior parte degli argomenti che sentiamo sono motivati solo dal profitto, o da come dare più potere a questo o a quel Paese. In questo scenario arriva il Papa che parla invece di qual è la cosa moralmente giusta da fare. Prevedo che ci sarà un enorme cambiamento».

Riccardo Luna (Corriere della Sera)