Gli esseri umani di solito sentono quando entrano in un territorio sconosciuto e le loro conoscenze non bastano più. L’intelligenza artificiale non ha questo intuito: impara da dati selezionati e può restare disorientata quando il mondo appare diverso da quello dell’addestramento. Il progetto europeo E-pi ha insegnato agli algoritmi a riconoscere la propria ignoranza e l’ha messo alla prova dove un errore può costare di più, nelle auto autonome. Alla fine puoi verificare come gestisci tu l’incertezza.
Oggi l’intelligenza artificiale arriva quasi ovunque. Traina l’economia e cambia le nostre case, le scuole e i luoghi di lavoro. Ha però un punto debole di cui si parla meno che dei suoi successi. Un modello impara da un insieme specifico di dati e poi deve funzionare in un mondo che non sempre somiglia a ciò che ha visto durante l’addestramento. È proprio allora che iniziano i guai.
A questo problema si è dedicato il progetto E-pi, finanziato dall’Unione europea e coordinato dalla Oxford Brookes University nel Regno Unito. Per cinque anni il suo gruppo ha lavorato sulla cosiddetta intelligenza artificiale epistemica, cioè un’IA che gestisce meglio l’incertezza e sa formulare previsioni anche in situazioni diverse dai dati di addestramento.
La parola epistemica deriva da epistemologia, il ramo della filosofia che studia la conoscenza. Da questo campo nasce una capacità del tutto naturale per l’essere umano: accorgersi che ciò che sappiamo non basta in una data situazione. È uno degli elementi fondamentali dell’intelligenza umana.
Una macchina non ne è capace da sola. Nel suo caso, il riconoscimento della propria ignoranza deve poggiare su modelli teorici e matematici. In altre parole, la sensazione di non essere più sicuri va scritta, letteralmente, nella struttura dell’algoritmo.
Il coordinatore del progetto, Fabio Cuzzolin, osserva che gli algoritmi classici di apprendimento automatico puntano a spiegare un insieme di dati di addestramento relativamente ridotto, non tutti i dati che possono comparire nella realtà. La conseguenza è facile da immaginare. «I modelli tradizionali basati sull’IA hanno difficoltà a fornire previsioni affidabili quando le distribuzioni di probabilità che generano i dati differiscono da quelle utilizzate in fase di addestramento», spiega il ricercatore.
In parole semplici, un modello che conosce bene solo un frammento di mondo può perdersi quando incontra qualcosa che ne sta fuori. Il consorzio di E-pi ha ritenuto che la teoria dell’incertezza di secondo ordine sia il fondamento più promettente per una soluzione. Le presentazioni del progetto in occasione di conferenze specializzate hanno riscosso un’accoglienza entusiastica e Cuzzolin è stato invitato a partecipare a diverse proposte correlate nell’ambito del programma Orizzonte Europa. Il lavoro del gruppo deve aiutare a costruire un ecosistema internazionale dell’IA epistemica.
Dove è meglio mettere alla prova un’intelligenza artificiale che deve cavarsela con l’imprevedibile? I ricercatori hanno scelto i veicoli autonomi. Sulla strada una situazione può uscire all’improvviso da ogni schema, per il comportamento dei pedoni, il maltempo estremo o una configurazione stradale insolita. Gli errori dei sistemi attuali possono avere conseguenze gravi e, nel peggiore dei casi, causare lesioni mortali.
Il gruppo ha usato il set di dati ROAD, dedicato al riconoscimento degli eventi stradali da parte dei veicoli autonomi. È servito sia ad addestrare il modello sia a testare i nuovi rilevatori di oggetti epistemici. ROAD viene ampliato di continuo e contiene filmati di Europa, Nord America, Dubai e Abu Dhabi, il che lo ha reso una risorsa di portata davvero globale.
Auto senza conducente più sicure sono solo uno degli obiettivi. Dalla stessa logica possono trarre vantaggio anche altri campi:
La fusione nucleare è un esempio particolarmente impegnativo. «Stiamo lavorando allo sviluppo di modelli di operatori neurali che tengano conto dell’incertezza al fine di prevedere le modalità con cui il plasma di fusione scorrerà all’interno di un tokamak e quali aree del reattore ne saranno maggiormente interessate», spiega Cuzzolin. Questi modelli devono prevedere il flusso del plasma all’interno di un tokamak, cioè di un reattore, e indicare quali sue aree ne saranno più esposte. Anche qui la questione è la stessa: il modello non deve solo dare un risultato, ma anche tenere onestamente conto di quanto ne è sicuro.
Un’altra direzione riguarda l’IA generativa. «I modelli linguistici di grandi dimensioni (LLM, large language model) all’avanguardia oggi disponibili sono noti per generare affermazioni false», ammette Cuzzolin. A suo avviso la via d’uscita può essere data da modelli costruiti secondo un nuovo paradigma: «Gli LLM epistemici possono ridurre in modo significativo l’eccessiva sicurezza di tali modelli.»
Sono previste anche soluzioni legate alla teoria della mente e sistemi che evolvono grazie all’apprendimento continuo. Il denominatore comune resta lo stesso: l’intelligenza artificiale non deve solo rispondere, ma anche sapere quando la sua risposta poggia su basi fragili.
Il progetto E-pi, il cui costo totale è stato di circa 3 milioni di euro, ha contribuito allo sviluppo di veicoli autonomi e robot più sicuri e di un’intelligenza artificiale generativa che non ha allucinazioni. Ha inoltre creato una rete dinamica di esperti di apprendimento automatico. I suoi autori sostengono che l’IA epistemica può cambiare il mondo e la nostra vita quotidiana. E tutto comincia da una capacità molto umana: ammettere di non sapere qualcosa.
5 domande · un minuto
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文