Ecco come smascherare i video "deepfake": il progetto dell'Università di Trento

Ricostruire la catena delle manipolazioni consente di tracciare la "storia" dell'informazione falsa: ecco il progetto

Trump/Queen Elizabeth: uno dei tanti deepfake su Youtube

La tecnologia ha permesso la creazione e la circolazione di informazioni false, fotomontaggi e video fake. La stesa tecnologia può servire a smascherarli, diventando nostra alleata nella ricerca della verità. Questo l'obiettivo di un ambizioso progetto delle università di Trento e Firenze. l progetto si chiama Unchained (Uncovering media manipulation chains through container and content detectable traces) e ha l’obiettivo di rilevare in rete contenuti multimediali manipolati e potenzialmente diffamatori e la loro tracciabilità. È stato finanziato dalla Darpa (Defense Advanced Research Projects Agency), agenzia governativa del Dipartimento della Difesa degli Stati Uniti incaricata dello sviluppo di nuove tecnologie, in un bando sull’utilizzo dell’intelligenza artificiale nel contrasto ai raggiri (AI Explorations Reverse Engineering Deceptions). Viene lanciato oggi, martedì 27 ottobre, e domani in un kick off online con Matt Turek, project manager americano di Unchained e durerà 18 mesi.

Video deepfake: alcuni esempi

Uno dei casi più noti di deepfake, all’inizio preso per vero e diventato virale, è il video falsificato di Mark Zuckerberg che nell’estate 2019 venne pubblicato su Instagram suscitando grande clamore. L’immagine dell’amministratore delegato di Facebook era stata manipolata per fargli pronunciare, con una voce creata al computer, parole che nella realtà non aveva mai detto sul controllo del futuro. Un esempio di manipolazione video più leggera (un semplice rallentamento introdotto nella sequenza), ma molto dannosa dal punto di vista della reputazione, era stato nella primavera 2019 quello che induceva a pensare a uno stato di ubriachezza della presidente della Camera dei rappresentanti statunitense Nancy Pelosi. Il video, pubblicato su Facebook e condiviso su Twitter, anche questa volta era diventato subito virale.

La catena delle manipolazioni

"Le tipologie di falsificazione sono diverse – spiega Giulia Boato, professoressa del Dipartimento di Ingegneria e Scienza dell’Informazione dell’Università -. A volte vengono combinati e sovrapposti video esistenti, altre volte si fanno dire a persone reali frasi che non hanno mai pronunciato, altre volte ancora si generano al computer immagini umane. Il deepfake è una tecnica di apprendimento e sintesi automatica usata soprattutto per creare video falsi di persone molto note, che può dare luogo a truffe, casi di revenge porn, cyberbullismo o altri crimini informatici. Oggi si riesce già a rilevare molte tracce quali, ad esempio, quelle lasciate dal sistema di acquisizione, la codifica e ri-codifica del segnale, alcune tecniche comuni di elaborazione, alcuni meccanismi di condivisione su social. Molto più complesso e risolto solo in piccola parte è il problema di valutare queste cose all’interno di una catena di elaborazione, il ciclo di vita del dato multimediale, in termini di provenienza, manipolazioni e condivisioni subite. È ciò su cui lavoriamo noi: Il nostro lavoro consiste nello sviluppare algoritmi, basati sia su analisi statistiche sia su paradigmi di deep-learning, adatti a scandagliare e ripercorrere tutta la catena del dato multimediale". 

In Evidenza

Potrebbe interessarti

I più letti della settimana

  • La lotteria degli scontrini dal primo dicembre (e il cashback in arrivo)

  • Operazione «Maestro»: scacco matto dei carabinieri ai grossisti della droga

  • Tutti i proverbi trentini sulla neve

  • Preore, un'altra tragedia stradale: muore una 16enne, altri 3 giovani in gravi condizioni

  • Il Dpcm delle regole di Natale 2020 cambia verso: niente eccezioni per nonni, genitori e figli

  • Via Suffragio, tutti a cercare la fede nuziale perduta: una fiaba a lieto fine

Torna su
TrentoToday è in caricamento