Unica Radio Raccontiamo la città che cambia
Il comitato organizzatore dell’International Conference on Machine Learning (ICML) ha insignito il professor Battista Biggio (Dipartimento di Ingegneria elettrica ed elettronica di UniCa) e i coautori
Al ricercatore dell’Università di Cagliari il premio “ICML 2022 Test of Time Award”, assegnato il 19 luglio a Baltimora nel corso dell’International Conference on Machine Learning per l’articolo “Poisoning Attacks Against Support Vector Machines”, che vanta oltre mille citazioni scientifiche e risulta con il maggiore impatto sulla comunità scientifica nell’ultimo decennio. Insieme a Biggio premiati anche i coautori Pavel Laskov (University of Liechtenstein) e Blaine Nelson (Robust Intelligence, USA).
Biggio ha tenuto nell’occasione una presentazione a distanza proprio durante la cerimonia di premiazione per il Test of Time Award. Nel suo intervento – il 19 luglio, dinanzi ai circa mille esperti partecipanti – ha dato risalto anche al racconto della stesura di questo lavoro scientifico e ai principali sviluppi nei dieci anni successivi: «L’idea nasce nel 2011, con il mio trasferimento all’Università di Tubinga (Baden-Württemberg, Germania) per un semestre di lavoro con Pavel Laskov e Blaine Nelson. Lo scopo della nostra ricerca era di capire se gli algoritmi di machine learning usati in applicazioni di sicurezza informatica fossero essi stessi vulnerabili ad attacchi e se, con l’eventuale hackeraggio, si potesse manipolare anche soltanto una piccola porzione dei dati usati per addestrare il sistema. Effettivamente lo studio ha dimostrato che in determinate condizioni l’attacco può sostanzialmente inquinare l’intero processo di addestramento dell’algoritmo».
Successivamente lo stesso gruppo di autori ha concepito anche il primo attacco in grado di aggirare un modello già addestrato. Ad esempio per evadere i sistemi di rilevazione delle minacce informatiche basati su machine learning e intelligenza artificiale.
Le parole del ricercatore
«Nel 2014, lo stesso fenomeno è stato scoperto in modo indipendente e descritto in un altro articolo da ricercatori di Google, della New York University e dell’Università di Montreal e presentato come una “proprietà intrigante” delle reti neurali. Da allora, più di 10mila articoli sono apparsi su riviste e conferenze che esaminano la sicurezza dell’intelligenza artificiale».
