Is Artificial Intelligence actually "intelligent," or is it just a powerful statistical engine prone to unexpected errors? In this episode of Hello Trust, we sit down with Prof. Fabio Roli, Professor at the University of Genoa and Principal Investigator of the InfoAIcert project, to explore the frontiers of AI security and reliability. Video & Audio Podcast in English and italian Languages avalilable!
Is AI truly reliable? Security risks, regulation, and the AI Act - Watch the video in English language
Starting with the famous "cow on the beach" experiment, Prof. Roli explains why high accuracy doesn't always mean a system is robust and dives into the new wave of vulnerabilities, such as adversarial attacks, that businesses must prepare for.
In this interview, we cover:
- The Scaling Law: Why simply adding more data and computing power isn't a silver bullet for AI performance.
- Trustworthy AI: Breaking down the European Commission's "suitcase word" and what it means for citizens and businesses.
- Cybersecurity vs. AI Security: Why traditional coding security is no longer enough in the age of machine learning.
- The InfoAIcert Project: How to democratize compliance with the EU AI Act for Small and Medium Enterprises (SMEs).
- Trust as a Competitive Advantage: Why regulation is a tool for market growth, not just a legal hurdle.
Host: Silvio di Virgilio (Infosearch).
📌 Video Timestamps:
00:00 The Cow Experiment: Statistical vs. Deterministic thinking
02:30 Large Language Models and the "Big Bet" of Scaling Laws
05:15 Why accuracy does not equal reliability
08:40 Defining "Trustworthy AI" in the European context
11:00 New vulnerabilities: Poisoned data and Adversarial Attacks
14:30 InfoAIcert: Bringing AI compliance to SMEs
18:00 Why the AI Act is a competitive advantage for Europe
L'Intelligenza Artificiale è sicura? Rischi, regole e futuro - Watch the video in Italian language
L'Intelligenza Artificiale è davvero intelligente o è solo una potente macchina statistica? In questo episodio di Hello Trust, ospitiamo il Prof. Fabio Roli, ordinario all'Università di Genova e coordinatore del progetto InfoAIcert, per esplorare le frontiere della sicurezza e dell'affidabilità nell'AI moderna. Partendo dal celebre paradosso della "mucca sulla spiaggia", il Prof. Roli ci spiega perché l'accuratezza non coincide necessariamente con la robustezza e quali sono le nuove vulnerabilità (come gli adversarial attacks) che le aziende devono affrontare.
In questa intervista scoprirete:
- Scaling Law: Perché dare più dati all'AI non risolve tutti i problemi.
- Trustworthy AI: Cosa significa "AI affidabile" secondo gli standard europei.
- Cybersecurity vs AI Security: Perché i bug del software tradizionale sono diversi dalle vulnerabilità dei modelli di apprendimento.
- Progetto InfoAIcert: Come democratizzare la conformità all'AI Act per le piccole e medie imprese (PMI).
- Vantaggio Competitivo: Perché la regolamentazione non è solo un obbligo, ma una leva di fiducia per il mercato.
📌 Capitoli del video:
2:36 ChatGPT e la scommessa delle "Scaling Laws"
5:21 Accuratezza vs Affidabilità: perché l'AI commette errori
8:44 Che cos'è la Trustworthy AI (AI Affidabile)
11:00 Attacchi Adversarial e sicurezza dei dati
14:33 InfoAIcert: certificare l'AI per le PMI
L'Intelligenza Artificiale è sicura? Rischi, regole e futuro - Listen the podcast in Italian language
