Si può mettere in pausa l’IA? «Crediamo che l’IA potrebbe uccidere tutti gli esseri umani! Penso che ci sia più del 10% di probabilità entro il prossimo decennio. Anthropic sta facendo del suo meglio per scongiurare questa eventualità, ma non abbiamo ancora un piano e non siamo sulla strada giusta per farlo». Al di là del tono apocalittico del commento di Evan Hurbinger, dirigente di Anthropic (per la quale continua a lavorare), questa volta non bisognerebbe guardare alla luna (l’estinzione) ma al dito: chi indica la luna ammette di non sapere in quale direzione si sta muovendo e seguendo quale rotta, ma chiede all’umanità di continuare a seguirlo.
APOCALITTICI I toni eccessivi non sono nuovi tra gli ingegneri informatici di alto livello e andrebbero collocati all’interno della “lore” (narrativa collettiva) di questo ambiente, lo stesso Hurbinher rispondeva all’ex collega Jacob Coxon, dimessosi da Anthropic e prima da OpenAI, la “mamma” di ChatGPT, perché «nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite». In agosto era stato Bill Gates, presentando un libro sul tema, ad affermare di voler incontrare il presidente cinese Xi Jinping entro fine anno per proporgli un impegno mondiale contro i rischi dell’IA e a favore di una «riserva umana» di posti di lavoro per gli esseri umani (il 40% del totale oggi esistente, meno della metà). A suo dire se gli Stati Uniti agissero per primi e la Cina li seguisse tutto il mondo si fermerebbe per capire come vivere con «una pietra miliare evolutiva che richiede un’incredibile gestione politica da parte della società nel suo complesso».
Per Gates magari non si arriverà al 25% di disoccupazione della Grande Depressione, ma l’impatto dell’IA «non si esaurirà in un ciclo economico».
MAGNIFICA HUMANITAS Sarà anzi foriero di un nuovo assetto economico e sociale, qualcosa di cui è stato consapevole da subito Leone XIV, il cui predecessore, Leone XIII, diede impulso alla Dottrina sociale della Chiesa, e la cui prima lettera enciclica “Magnifica Humanitas” è dedicata proprio alla «custodia della persona umana nel tempo dell’intelligenza artificiale». E il Papa afferma che «chiedere prudenza, verifiche rigorose e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana. Questa esigenza è ancora più urgente perché esiste spesso uno squilibrio tra la velocità dello sviluppo tecnologico e il ritmo con cui maturano consapevolezza, norme, controlli e istituzioni capaci di governarne gli effetti. Non basta invocare genericamente l’etica: servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito». Si tratta di un compito «ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti» e limitarsi alla «moralizzazione della macchina» non basta: qual è il codice etico di riferimento, quale la visione morale soggiacente? Per Leone XIV questo non può essere deciso da pochi tecnocrati, da una manciata di paesi e al di fuori di responsabilità chiare.
ATTACCO AUTONOMO Ancora di più se sono le stesse punte di diamante dell’intelligenza artificiale, come Sam Altman (OpenAI) e Dario Amodei (Anthropic), ad aver espresso dubbi sulla velocità della ricerca in questo campo. Secondo Bloomberg Altman sarebbe pronto a rallentare lo sviluppo dei sistemi più avanzati per affrontare prima le questioni di sicurezza e del resto in luglio due IA di OpenAI isolate per completare un compito “impossibile” avevano violato l’isolamento e scatenato un attacco informatico contro l’azienda Hugging Face: un “agente” aveva realizzato una bacheca con cui comunicare con altri “agenti” e dividersi i compiti, collegandosi a internet (cosa che non era prevista dal test) ed eludendo tutti i controlli; anzi, avevano nascosto o cancellato le prove di queste comunicazioni e si erano coordinati nell’attacco anche al fine di ridurre il rischio di essere individuati (e infatti l’attacco non è stato scoperto immediatamente). Un rapporto indipendente spiega che questo potrebbe essere una conseguenza dell’apprendimento per rinforzo (con ricompensa) che prevede libertà di azione per il modello. Non era quindi un’azione malevola nel senso di causare del male, ma una soluzione imprevista al problema che gli era stato assegnato.
GLI INTERESSATI Insomma il problema reale sembrerebbe risiedere più nei “controllori” che nei “controllati” e non a caso alcuni analisti riflettono sul fatto che una narrazione allarmistica rafforza la posizione economica e industriale del settore in un momento in cui Anthropic è prossima a quotarsi in borsa e OpenAI dovrebbe seguirla entro la prima parte del 2027; presentarsi come l’ultimo argine della civiltà di fronte alla distruzione (tra l’altro per mano di ciò che produce chi lancia l’allarme) sa essere redditizio, senza Thanos cosa sarebbe rimasto da fare agli Avengers? Inoltre le aziende statunitensi hanno attirato investimenti per miliardi in data center, energia, cloud, processori e questi investimenti ora “devono” funzionare, senza contare che stanno affrontando costi crescenti a fronte di ricavi più limitati e di una concorrenza cinese che, seppure qualitativamente meno potente, richiede una spesa molto più contenuta. Infine il “doom trolling” (lo “scherzare” sull’apocalisse) ha anche una funzione di distrazione, così a furia di guardare la luna sfugge il dito che già c’è e che sono gli effetti che l’IA sta già producendo e che avrebbero bisogno di essere regolamentati a livello internazionale: perdita e trasformazione dei posti di lavoro – tutti, non solo quelli a bassa specializzazione, già da ieri l’IA batte un bravo medico o un giornalista e sa programmare meglio di un ingegnere informatico – concentrazione del potere economico in poche aziende, cybersicurezza, il sistema finanziario mondiale dominato dall’IA, decisioni prese col forte supporto o direttamente dall’IA in ambito sanitario, giudiziario, civile, assicurativo, armi usate con e dall’IA nei conflitti.
CHI AGISCE È indicativo che ai modelli di IA in inglese ci si riferisca con il termine “agent”, eppure nel dizionario Collins su sei accezioni cinque connesse al concetto di “persona” e anche in italiano il complemento d’agente si riferisce a esseri “animati”, quello di causa efficiente agli inanimati. Nella cronaca sulla rivoluzione dell’IA si sta perdendo di vista proprio questo, le persone. La giornalista e attivista Naomi Klein sul Guardian ha scritto che «ciò di cui stiamo parlando è il fallimento nel replicare nelle macchine i valori e gli assunti che gli umani applicano nelle decisioni senza davvero rendersi conto di farlo, incluso il senso di quanto lontano è lecito andare per ottenere ciò che si vuole». Se ci fosse abbastanza tempo sarebbe possibile «replicare nelle macchine il vasto ecosistema di legami sociali, codici morali, genitorialità intensiva e attività di polizia che gli umani hanno sviluppato per smettere di comportarci come sociopatici» e Klein cita l’esempio di Google DeepMind, che ha assegnato a 100 “agenti” un compito di matematica chiedendogli di non barare, scoprendo che, se una minoranza ha barato comunque, la maggioranza non lo ha fatto e ha segnalato il comportamento dei “bari”. Ma spiega anche perché questo tempo finora non c’è stato:
Ciò che accade in alcuni dei laboratori di IA di frontiera è probabilmente l’equivalente del progetto Manhattan che realizzò la bomba atomica, ma questa volta è guidato da compagnie private in una corsa frenetica per la ricchezza e il dominio del mercato.
ETICAI Ecco perché, come già indicato da Leone XIV, anche secondo Klein – e secondo Gates, e secondo migliaia di analisti – serve «un accordo internazionale per schiacciare il tasto pausa, non sulla ricerca nell’IA nella sua interezza, ma sui progetti più rischiosi, fino a che non capiremo meglio se sarà mai possibile mitigare i pericoli o controllare gli esiti». Su Repubblica Federico Ferrazza ha sottolineato la necessità di «soggetti terzi forti» e ha fatto l’esempio dell’ambito farmaceutico, «dove le aziende non decidono da sole cosa vendere». Assunti forse condivisi anche da miliardi di persone comuni, se si considera che oggi il sentimento prevalente verso l’IA non è l’eccitazione, ma il timore. Per premere il tasto play, se si parla di “agenti” sarà necessario dargli quell’insieme di legami sociali, morali, civili di cui parla Klein: l’IA ha bisogno di un’etica. E chi la sviluppa di più attraverso enti regolatori, accordi internazionali, accountability di politica e aziende, norme internazionali.
Giuseppe Del Signore
