IA, Meli (Univr): «Fondamentale l’analisi degli algoritmi»

Durante la puntata di Focus Verona Economia dedicata all’intelligenza artificiale, Matteo Scolari ha intervistato Daniele Meli, ricercatore presso il Dipartimento di Informatica dell’Università di Verona, approfondendo l’importanza della gestione dei dati e degli algoritmi nelle tecnologie emergenti. Ecco i momenti salienti dell’intervista.

Benvenuto, professore Meli. Con lei vorrei entrare in un argomento più tecnico, ovvero gli algoritmi, che sono alla base dell’intelligenza artificiale. Cosa possiamo dire riguardo a questo concetto?

Un algoritmo, in modo molto semplice, è una struttura di regole che prende un input, lo elabora e fornisce un output. Per esempio, l’algoritmo di Facebook prende in input le preferenze dell’utente e restituisce suggerimenti di post o pubblicità. Allo stesso modo, un algoritmo può controllare un robot, elaborando dati dai sensori e producendo movimenti come output. Lo stesso principio si applica agli algoritmi che troviamo nei sistemi di intelligenza artificiale generativa, come ChatGPT.

Parliamo proprio di ChatGPT, un esempio di intelligenza artificiale generativa applicata al linguaggio. Anche questo sistema funziona tramite algoritmi?

Esattamente. L’input è la domanda che l’utente pone, e l’output è la risposta generata dal sistema. Tuttavia, è importante ricordare che gli algoritmi di intelligenza artificiale, come ChatGPT, non sempre producono risposte corrette. Il sistema si basa su regole statistiche e probabilistiche, quindi la risposta si avvicina a quella corretta, ma può contenere errori, un po’ come quando facciamo una ricerca su Google.

Lei si occupa di intelligenza artificiale e tiene corsi legati a questo campo. Ci può spiegare di cosa tratta il suo insegnamento e quali sono le finalità?

Il mio insegnamento si concentra sull’interpretazione degli algoritmi di intelligenza artificiale. Quando ChatGPT ci dà una risposta, come facciamo a sapere se è corretta? E se è sbagliata, perché lo è? Cerchiamo di insegnare agli studenti come analizzare questi algoritmi per comprenderne il funzionamento. Questo tipo di analisi è cruciale in vari ambiti, dall’industria all’assistenza medica, dove i sistemi automatizzati devono essere interpretati e compresi per essere davvero utili e affidabili.

Parliamo dell’Artificial Intelligence Act, il regolamento dell’Unione Europea. In che modo questo impatterà lo sviluppo di algoritmi e IA?

L’AI Act dell’Unione Europea è il primo regolamento al mondo pensato per normare l’utilizzo dell’intelligenza artificiale, specialmente in ambiti ad alto rischio come la medicina o l’industria. Uno degli obiettivi è garantire che gli algoritmi siano interpretabili, ovvero che possano essere compresi dagli utenti umani. Questo è un concetto fondamentale, perché permette di assicurarsi che l’IA supporti l’uomo anziché sostituirlo, mantenendo l’essere umano al centro dei processi decisionali.

Lei si occupa in particolare di intelligenza artificiale applicata alla robotica. Può farci un esempio pratico di come questo si concretizza?

Certo. Pensiamo ai robot per l’assistenza agli anziani o ai sistemi robotici in ambito medico. Questi dispositivi devono essere in grado di percepire l’ambiente e il bisogno del paziente, ma anche di spiegare cosa stanno facendo per rassicurare l’utente. Questo richiede un’analisi causale: i robot devono prendere decisioni basate su regole logiche e causali, e queste devono essere comprensibili per l’essere umano. Il nostro obiettivo è sviluppare modelli che consentano una spiegazione logica del comportamento dei robot, facilitando l’interazione tra uomo e macchina.

Il regolamento AI dell’Unione Europea pone quindi un grande focus sull’interpretabilità degli algoritmi. Quanto è importante questa trasparenza per il futuro dell’IA?

È fondamentale. L’AI Act richiede che gli algoritmi siano comprensibili, specialmente in settori dove è coinvolto il benessere umano. Un esempio pratico sono i robot industriali, che devono comunicare con gli operatori per spiegare le loro azioni. Solo attraverso una comprensione reciproca tra uomo e macchina si potrà garantire che l’IA sia uno strumento di supporto e non una minaccia.

Guarda l’intervista al professor Meli dal minuto 30.20