Deepfake: cos'è e come riconoscerlo

Che cos’è, esattamente

L’AI Act europeo, il regolamento che disciplina l’intelligenza artificiale nell’Unione, definisce il deepfake all’articolo 3(60) come un contenuto immagine, audio o video generato o manipolato dall’IA che somiglia a persone, oggetti, luoghi, entità o eventi esistenti (o plausibili) e ne dà una falsa impressione di autenticità. Tre elementi devono coesistere: la somiglianza con un soggetto reale o plausibile, l’esistenza di quel soggetto, e la capacità del contenuto di sembrare autentico a chi lo guarda. UNESCO lo colloca dentro una categoria più ampia, quella dei contenuti sintetici: qualunque materiale, audio, immagine o video, prodotto dall’intelligenza artificiale generativa, di cui il deepfake è il caso più ingannevole perché imita in modo convincente la voce o l’aspetto di una persona reale.

Come si crea, in breve

Fino al 2022 circa la tecnica dominante erano le reti generative avversariali, le GAN: due reti neurali messe l’una contro l’altra, un generatore che produce un’immagine falsa e un discriminatore che ne giudica l’autenticità. Il processo si ripete per ore o giorni, finché il generatore non produce risultati che il discriminatore non riesce più a smascherare. Dal 2023 questa architettura ha in gran parte ceduto il passo ai modelli a diffusione, la famiglia a cui appartengono Stable Diffusion, Sora e Runway Gen-3.

Il risultato pratico è che bastano pochi secondi di voce reale o poche immagini per addestrare un modello capace di generare un video con un turnaround misurato in minuti: alcuni strumenti commerciali, come HeyGen, rendono il processo accessibile a chiunque abbia un video di partenza della persona da imitare. In pochi anni il machine learning applicato a questo scopo è passato da laboratorio di ricerca a strumento diffuso.

Un caso reale: la videochiamata che è costata 25 milioni di dollari

Esempio pratico: nel gennaio 2024 un dipendente di un’azienda di ingegneria con sede a Hong Kong ha partecipato a una videochiamata con quelli che sembravano essere il direttore finanziario e altri colleghi. Erano tutti deepfake. Convinto di parlare con superiori reali, il dipendente ha autorizzato trasferimenti per 25 milioni di dollari. Gli analisti di Trend Micro ritengono probabile che gli autori della frode non usassero un’IA che rispondeva dal vivo, ma un insieme di clip preregistrate fatte scorrere in tempo reale durante la chiamata.

Gli usi impropri, oltre la disinformazione

Il rapporto dell’Europol Innovation Lab del 2022 elenca un ventaglio di usi criminali della tecnologia deepfake che va ben oltre le notizie false: molestie e umiliazioni online, estorsione e frodi come quella appena descritta, falsificazione di documenti, furto di identità digitale, materiale pornografico non consensuale, sfruttamento sessuale di minori, manipolazione di prove elettroniche nei procedimenti giudiziari, e infine disinformazione e polarizzazione politica. Un Recap sulle fake news copre un problema diverso: la fake news è una notizia falsa in qualunque forma, il deepfake è un contenuto sintetico costruito con l’IA per sembrare reale.

Perché non basta più fidarsi di occhio e orecchio

Uno studio pubblicato su Nature Communications nel 2024, condotto da Matt Groh e colleghi del MIT Media Lab su un set di 32 brevi discorsi dei presidenti Joe Biden e Donald Trump, ha testato quanto le persone sappiano riconoscere un deepfake politico. Sul fronte audio la situazione è più netta: una ricerca del 2025 citata da UNESCO indica che le persone percepiscono spesso una voce generata dall’IA come identica a una voce reale, senza riuscire a distinguerle in modo affidabile. UNESCO segnala anche un limite parallelo sul lato tecnologico: gli strumenti automatici di rilevamento restano sistematicamente indietro rispetto alle tecniche di creazione.

Come riconoscere un deepfake, in pratica

Alcuni accorgimenti restano utili proprio perché non dipendono dal riconoscere un dettaglio visivo o sonoro. UNESCO suggerisce alle famiglie di stabilire una parola in codice da usare per verificarsi a vicenda durante una chiamata sospetta, e propone la tecnica “prova che sei live”: chiedere all’interlocutore di compiere un’azione fisica imprevista in tempo reale, qualcosa che i sistemi di generazione in diretta faticano a riprodurre in modo naturale.

Le regole: cosa prevede l’AI Act europeo

Dal 2 agosto 2026 l’AI Act obbliga chi diffonde un deepfake, il cosiddetto “deployer” del sistema, a dichiararlo in modo chiaro a chi lo guarda o lo ascolta, al più tardi al primo contatto con il contenuto. Fanno eccezione le opere evidentemente artistiche, creative, satiriche o di finzione, per cui basta una divulgazione che non ne ostacoli la fruizione. I contenuti generati prima del 2 agosto 2026 non vanno etichettati retroattivamente, anche se la Commissione Europea lo consiglia. Per i sistemi già sul mercato, gli obblighi di marcatura tecnica scattano dal 2 dicembre 2026. Chi non rispetta le regole rischia sanzioni fino a 15 milioni di euro o al 3% del fatturato mondiale annuale. Le regole sono approfondite anche nel Recap sull’AI Act, il regolamento europeo sull’intelligenza artificiale.