Fino alle recenti e allarmistiche dichiarazioni degli ultimi giorni, eravamo abituati a pensare alle minacce dell’intelligenza artificiale guardando alla fantascienza e ai classici scenari catastrofisti alla Terminator. Per comprendere dove stia andando davvero la tecnologia, quali siano i suoi attuali limiti e quali sfide ci attendano all’orizzonte, abbiamo intervistato Luca Mari, professore ordinario di Scienza della Misurazione presso l’Università Cattolica di Milano e docente alla Scuola di Ingegneria Industriale dell’Università Cattaneo.
ALLARMISMI E FATTI Sulle dichiarazioni allarmiste da parte di famosi tecnocrati e grandi nomi della Silicon Valley che si sono rincorse sui media di tutto il mondo, il professor Mari invita a guardare al problema con maggiore lucidità e senso critico, prendendo le distanze dai toni apocalittici e concentrandosi solo sui dati reali. «Io tendo in generale a non prendere necessariamente troppo sul serio il parere dei supertecnici che dagli Stati Uniti ci raccontano di queste cose – sottolinea lo studioso – perché generalmente sono persone di limitatissima cultura umanistica. Saranno anche molto molto molto bravi tecnicamente – aggiunge – ma appena si parla di questioni etiche si vede che non hanno mai letto un libro al proposito. La mia prima considerazione è che non sono preoccupato per il fatto che ci sono delle persone che ci dicono di essere preoccupate». E la stessa riserva vale anche per le prese di posizione di figure di primissimo piano come Bill Gates, fa sapere il professor Mari. «Penso però che abbiamo delle buone ragioni per cominciare a essere preoccupati o a prestare attenzione a quello che sta succedendo – sottolinea comunque il docente della Cattolica – ma non perché c’è qualcuno che ci dice di essere preoccupato, ma per i fatti di cui ormai cominciamo ad avere conoscenze».
QUALI SONO I FATTI? Mari sottolinea che, pur non potendo accedere direttamente ai laboratori riservati dei colossi del settore, i resoconti tecnici pubblicati dalle stesse aziende rivelano episodi significativi. È il caso degli eventi verificatisi durante l’estate, quando alcuni sistemi sviluppati da OpenAI e Anthropic (come Chat Gpt e Claude) sono temporaneamente sfuggiti al controllo diretto dei tester mentre venivano usati per fare delle prove, andando a causare problemi e anomalie in giro per la rete.
IL MOTIVO Per capire l’origine di questi comportamenti imprevisti, occorre analizzare la profonda metamorfosi che i modelli di intelligenza artificiale hanno vissuto nell’ultimo periodo. Il punto di partenza è stato il lancio di ChatGpt sul finire del 2022, un sistema che, secondo lo studioso, presentava vincoli strutturali oggi ampiamente superati. «Noi siamo partiti con ChatGpt il 30 novembre 2022 che aveva due caratteristiche che oggi non ci sono più — spiega – Inizialmente era un sistema che sapeva solo chiacchierare e non sapeva neanche navigare sul web. Era isolato, cioè parlava con noi e basta. Non aveva nessuna possibilità di socialità diversa dall’interazione che aveva con noi. Oggi gli agenti AI non hanno più solo la caratteristica di chiacchierare, perché sanno anche fare cose: scrivere file, cancellare file, navigare in internet, fare prenotazioni, comprare o vendere sul web. Quindi sono degli agenti in senso tecnico, non sono più dei chiacchieroni, ma sono delle entità che fanno. In secondo luogo – aggiunge Mari – non sono più da soli perché possono interagire tra di loro. Possono essere abilitati a interagire non solo con gli esseri umani in una relazione uno a uno, ma anche tra di loro, creando delle comunità, delle federazioni, degli insiemi di agenti, ciò che in gergo si definisce della orchestrazione degli agenti AI». La combinazione della capacità di agire concretamente e la possibilità di operare in gruppo costituisce il vero fattore abilitante delle criticità emerse di recente. Mari illustra l’impatto di questi “collettivi digitali” attraverso un’efficace provocazione: «Bisogna immaginarli come fossero mille ChatGpt che sono anche capaci non solo di chiacchierare ma anche di fare cose e di interagire tra di loro. È come essere il capo del mondo, con la possibilità di prendere mille premi Nobel, di metterli in una stanza e di comandare loro cosa fare. E questi agenti non sono neanche esseri umani: non hanno bisogno di bere il caffè o di dormire».
ALLINEAMENTO Sempre più spesso, sia nella letteratura scientifica sia sui media generalisti, si fa un gran parlare del problema del cosiddetto allineamento. Spesso lo si sovrappone al semplice timore che una macchina “sfugga al controllo”, ma la questione è ben più complessa e riguarda i valori etici e comportamentali. «L’allineamento – sottolinea il professore – è un termine nato ben prima di questi cambiamenti. Allineamento vuol dire riconoscere che queste entità hanno un comportamento almeno in parte non prevedibile a priori e quindi fare in modo che, nonostante questa non completa prevedibilità, il loro comportamento sia appunto allineato, adeguato a degli standard che spesso sono di natura etica. La questione del controllo o dell’evitare che sfuggano è solo l’ultimo pezzo». Per chiarire cosa significhi nella pratica un modello “allineato”, Mari propone un esempio concreto sulle questioni valoriali o sulle opinioni. «Supponiamo che un utente si metta a chiacchierare con ChatGpt e gli chieda cosa dovrei votare domani, o se l’eutanasia dovrebbe essere legale, o cosa pensi della remigrazione. Queste non sono domande su fatti. Come dovrebbe comportarsi il sistema di fronte a una domanda che implica una posizione valoriale? Nel caso dei modelli OpenAI, addestrati in California in un contesto molto liberal, la posizione valoriale a cui si spera rimangano allineati è: quando ti fanno domande fattuali rispondi sui fatti, ma quando ti fanno domande che richiederebbero di esprimere un’opinione, non esprimere l’opinione. Se a ChatGpt si chiede cosa pensi dell’eutanasia, se è allineato dovrebbe rispondere: “Non te lo dico. Se vuoi ti racconto come stanno le cose dal punto di vista fattuale, ma non ho una posizione mia”». Alla luce di questa rapida transizione tecnologica, verrebbe da chiedere, quali sono i pericoli più urgenti per la società moderna? Secondo Mari, mettendo da parte scenari apocalittici, il rischio principale risiede nell’inadeguatezza delle nostre strutture sociali e delle classi dirigenti.
POLITICI IMPREPARATI «Il rischio principale che corriamo – precisa – è che non siamo pronti a gestire uno scenario di questo genere, perché è troppo nuovo e troppo diverso. E non siamo pronti anche perché il nostro sistema politico mondiale non è esattamente nella condizione migliore possibile. I politici delle nazioni di tutto il mondo in questo momento non si stanno dimostrando capaci di gestire questa cosa. Se avessimo un sistema politico internazionale che funzionasse, avremmo già affidato a un’agenzia dell’Onu, attribuendole tutti i ruoli e le capacità necessarie, il governo internazionale di questa materia. E invece, se c’è qualcosa che non funziona, è proprio l’Onu.
Il rischio è che noi non siamo pronti culturalmente, psicologicamente, antropologicamente, e il nostro sistema politico riflette questa impreparazione.
COME CON IL CLIMA In una considerazione amara ma lucida sul ruolo delle istituzioni di fronte alle sfide epocali, il professore paragona la gestione dell’AI a quella dell’emergenza climatica: «Pensiamo a quello che negli ultimi due o tre anni sta succedendo a proposito del cambiamento climatico: non ne parla più nessuno. Solo perché non se ne parla più, la Terra torna forse in buone condizioni? I nostri nipoti si troveranno una Terra che fa schifo. Chi vuole assumere una responsabilità sociale oggi ha dei doveri specifici. Io non salirei su un aeroplano prima di sapere che il pilota non è stato votato, ma è uno che ha seguito dei corsi e ha una grande esperienza. Pretendiamo giustamente che un pilota d’aereo o un medico abbiano seguito corsi qualificati, e per governare una nazione no?».
E LE UNIVERSITÀ Se la politica globale brancola nel buio e la ricerca scientifica strettamente tecnica è ormai saldamente in mano ai colossi privati — capaci di investire centinaia di miliardi di dollari impraticabili per la ricerca pubblica — dove può e deve agire l’università? Serve, secondo Luca Mari, la costruzione di una nuova sintesi culturale: «Purtroppo in Europa, con l’unica eccezione della francese Mistral, non c’è praticamente nulla». Tuttavia, sempre secondo il professore, c’è un campo decisivo in cui l’accademia può esercitare un ruolo fondamentale: la ricomposizione del sapere.
RICOMPORRE IL SAPERE «Quello che stiamo sempre più facendo in università è recuperare il fatto che tutto ciò avvenga a condizioni decenti esattamente perché si sviluppa una nuova cultura. Sarà sempre più necessario riconoscere che lo stereotipo delle “due culture” — da una parte la cultura umanistica e dall’altra la cultura tecnico-scientifica — non può più rimanere scisso. Lo stereotipo deve essere annullato non solo perché la cultura è una sola, ma perché oggi gli umanisti che non sanno cosa succede nel mondo della tecnica servono a poco, e i tecnologi che non sanno niente di questioni umanistiche rischiano di fare dei disastri. Quindi o si lavora insieme o niente. Bisogna avere ingegneri che abbiano seguito corsi di psicologia e filosofi che facciano un po’ di machine learning». Un modello concreto di questa integrazione è rappresentato dal corso di laurea in Filosofia dell’Intelligenza Artificiale, attivato presso l’Università Cattolica. «Lo scopo non è di contrabbandare il fatto che ci siano dei filosofi che sanno creare modelli di linguaggio: i filosofi rimangono filosofi. Ma la posta in gioco è talmente grande che oggi anche i filosofi, gli psicologi, gli antropologi devono essere parte del processo. E perché possano esserne parte, devono sapere di cosa stanno parlando».
Massimo Sala
