"Alessandra De Rossi, docente di analisi numerica all’ Università di Torino
Evasia Sancio: “ Professoressa De Rossi, il regolamento Chat Control si basa sull’uso di algoritmi per scansionare preventivamente le comunicazioni private alla ricerca di materiale illecito. Dal suo punto di vista di matematica, come si possono valutare e quantificare i rischi legati ai ‘falsi positivi’, ovvero quelle segnalazioni erronee che potrebbero ledere la privacy di cittadini innocenti? Esiste un modello matematico in grado di bilanciare efficacia della sorveglianza e tutela delle libertà individuali? ”
Alessandra De Rossi: Dal punto di vista matematico, possiamo analizzare questi sistemi usando gli strumenti della teoria delle probabilità e della statistica. Quando si sviluppa un algoritmo di classificazione, come nel caso del riconoscimento di materiale pedopornografico, si introduce inevitabilmente un compromesso tra la capacità di individuare contenuti illeciti (veri positivi) e quella di evitare di segnalare contenuti innocui (falsi positivi). In termini concreti si potrebbe dire che anche un algoritmo con il 99% di accuratezza, applicato a miliardi di messaggi al giorno, può generare decine di migliaia di segnalazioni errate e ogni falso positivo significa la violazione della riservatezza di una persona innocente, con potenziali conseguenze psicologiche, sociali, legali. Esistono modelli matematici per quantificare questi rischi, ma nessun modello può eliminare l’asimmetria che sta alla base della procedura: la sorveglianza preventiva su larga scala sposta l’onere della prova sugli utenti, presumendoli tutti potenzialmente colpevoli. In altre parole, il problema non è solo tecnico, ma anche etico e sistemico. Possiamo progettare algoritmi più precisi, ma non possiamo accettare che la vita privata delle persone diventi oggetto di scansione automatica e costante":
[
https://urlsand.esvalabs.com/?u=https%3A%2F%2Finfoalternative.it%2Fitalia%2Fcontrollo-dei-dati-e-democrazia-siamo-a-un-punto-molto-critico-tre-domande-a-alessandra-de-rossi%2F&e=2637b01d&h=430f35fd&f=y&p=y |
https://infoalternative.it/italia/controllo-dei-dati-e-democrazia-siamo-a-un-punto-molto-critico-tre-domande-a-alessandra-de-rossi/ ]
