Un video mostra un volto noto che pronuncia parole mai dette davvero. Un audio riproduce una voce familiare con perfetta naturalezza, ma quella persona non ha mai parlato in quel modo. Non è fantascienza: è quello che oggi produce un deepfake, contenuto sintetico creato grazie all’intelligenza artificiale generativa.
La tecnologia analizza migliaia di immagini o campioni vocali reali e li ricombina per generare materiale nuovo, indistinguibile a occhio nudo dall’originale. Il confine tra vero e falso digitale si è così assottigliato fino quasi a scomparire, e questo cambia il modo in cui dovremmo guardare a ciò che vediamo online.
Il deepfake non è più un problema tecnico confinato ai laboratori di ricerca: è una realtà che chiunque usi internet può incontrare già oggi, in un video condiviso su un gruppo, in un messaggio vocale inviato da un contatto conosciuto. Questo articolo spiega cosa sono i deepfake, quali meccanismi li rendono così credibili e, soprattutto, come riconoscere un deepfake prima che diventi uno strumento di disinformazione o di truffa. Capire questi segnali non è più un’opzione per pochi esperti, ma una competenza utile per orientarsi nella vita digitale quotidiana.
Cosa sono i deepfake e come vengono creati
Un deepfake è un contenuto audio o video generato artificialmente da un algoritmo di machine learning addestrato a riprodurre volto, voce o movimenti di una persona reale con un livello di realismo tale da risultare indistinguibile dall’originale. È una definizione tecnica precisa, e serve a marcare una differenza netta rispetto al fotoritocco: photoshoppare un’immagine significa modificare pixel esistenti con strumenti manuali, mentre un deepfake nasce da un modello che ha “imparato” i pattern del volto o della voce di una persona e li ricrea da zero, in situazioni mai accadute.
Alla base di questo processo ci sono le reti neurali, strutture matematiche che imitano in modo semplificato il funzionamento dei neuroni biologici e che vengono addestrate su enormi quantità di dati. Il meccanismo più noto è la GAN (Generative Adversarial Network): due reti neurali lavorano in competizione, una genera immagini false e l’altra cerca di distinguerle dalle vere. Questo confronto continuo, ripetuto migliaia di volte, spinge il generatore a produrre risultati sempre più convincenti, fino a superare la capacità della rete “giudice” di individuarli.
Il caso più diffuso è il face swap, che sovrappone il volto di una persona sul corpo o sui movimenti facciali di un’altra all’interno di un video, sincronizzando espressioni e labiale. Parallelamente si è sviluppata la sintesi vocale, capace di clonare un timbro di voce partendo da pochi minuti di audio campione e di farlo pronunciare frasi mai registrate realmente.
La qualità del risultato finale dipende in gran parte dal dataset di addestramento: più immagini, video o registrazioni vocali di una persona sono disponibili online, più il modello generativo può affinare i dettagli, dalle micro-espressioni alle inflessioni vocali. Questo spiega perché personaggi pubblici, molto fotografati e registrati, siano i soggetti più facili da imitare con questa tecnologia.
Le diverse tipologie di deepfake: video, audio e immagini
Il termine deepfake racchiude in realtà tecnologie diverse, ciascuna con un proprio livello di diffusione e di rischio. Il deepfake video resta il formato più conosciuto: sostituisce o modifica il volto di una persona in una clip esistente, sincronizzando labiale ed espressioni con il parlato originale o con uno nuovo. È la categoria che ha attirato più attenzione mediatica, spesso legata a contenuti satirici o, in casi peggiori, a materiale diffamatorio.
Il voice cloning lavora sull’audio: bastano pochi secondi o minuti di voce reale per addestrare un modello capace di riprodurre timbro, cadenza e persino inflessioni emotive di una persona. Non serve un video, solo una registrazione, il che lo rende applicabile anche a chi ha una presenza pubblica minima, come chiunque abbia lasciato un messaggio vocale o un’intervista online.
Accanto a queste due famiglie si è affermata la produzione di immagini generate da IA tramite sistemi text-to-image: si scrive una descrizione testuale e l’algoritmo produce una foto plausibile di una scena o di un volto mai esistiti, oppure di una persona reale in un contesto inventato. Non richiede un volto di partenza da manipolare, ma costruisce l’immagine da zero a partire dal testo.
La frontiera più recente, e più difficile da gestire, è il deepfake in tempo reale: sistemi che alterano volto o voce durante una videochiamata o una diretta streaming, senza bisogno di post-produzione. Questi live deepfake vengono già usati in tentativi di truffa che simulano videoconferenze con dirigenti aziendali o familiari.
Il passaggio dal video preregistrato all’audio e al video generati in tempo reale segna una svolta: più il falso si avvicina all’istante della comunicazione, meno tempo resta per verificarlo, e meno strumenti di controllo si possono applicare prima che il danno sia fatto.
Come riconoscere un deepfake: segnali visivi e comportamentali
Riconoscere un deepfake significa osservare i dettagli che l’algoritmo fatica ancora a ricostruire in modo naturale. Nonostante i progressi, molte generazioni artificiali lasciano tracce riconoscibili a chi sa dove guardare, soprattutto nella zona del volto e nella coerenza tra immagine e suono.
Il primo indizio riguarda il battito delle palpebre: nei video sintetici può risultare troppo raro, troppo regolare o del tutto assente per lunghi tratti, perché i dataset di addestramento contengono più foto a occhi aperti che chiusi. Un volto che sbatte le palpebre in modo meccanico, quasi a intervalli fissi, merita un secondo sguardo.
Molto rivelatrice è la sincronizzazione labiale: se il movimento della bocca anticipa o segue leggermente l’audio, o se alcune consonanti non trovano corrispondenza visiva coerente, il sospetto di manipolazione cresce. Allo stesso modo, l’illuminazione incoerente tra il volto e lo sfondo, ombre che cadono in direzioni diverse o una luce sulla pelle che non corrisponde a quella dell’ambiente, tradisce spesso un’aggiunta artificiale.
Un’altra area da controllare sono gli artefatti ai bordi del volto: linee sfocate, bordi tremolanti o zone di transizione innaturale tra il viso e i capelli, il collo, gli occhiali. Questi difetti emergono soprattutto nei fotogrammi in movimento rapido o quando la persona gira la testa. La texture della pelle è un altro elemento chiave: superfici troppo lisce, uniformi, prive di pori o piccole imperfezioni naturali, possono segnalare un volto generato o sostituito.
Sul piano del corpo, i movimenti rigidi o innaturali, soprattutto nel collo e nelle spalle, restano un limite tecnico comune: il volto risulta ben renderizzato, ma il resto del corpo si muove con una fluidità diversa, quasi disallineata rispetto alla testa. Anche i riflessi negli occhi meritano attenzione: nella realtà riflettono coerentemente le fonti di luce dell’ambiente, mentre nei deepfake possono apparire assenti, sfocati o incoerenti tra un occhio e l’altro.
Sul fronte audio, un audio robotico o piatto, privo delle micro-variazioni di tono ed emozione tipiche del parlato spontaneo, è spesso il segnale più immediato, specialmente nei tentativi di clonazione vocale meno raffinati.
Una checklist mentale rapida può aiutare a orientarsi in pochi secondi: occhi, bordi, luce, audio. Se anche uno solo di questi elementi stona rispetto agli altri, vale la pena fermarsi e verificare prima di credere o condividere.
Strumenti e tecnologie per la verifica dei contenuti
Quando l’occhio umano non basta, esistono software pensati proprio per questo: i tool di rilevamento deepfake analizzano un file frame per frame, cercando pattern statistici invisibili a un osservatore, come incoerenze nella compressione video o anomalie nei pixel attorno al volto. Non sono infallibili, e la corsa tra chi genera falsi e chi li smaschera è continua, ma restano una prima linea di difesa utile soprattutto per giornalisti, piattaforme e aziende che gestiscono grandi volumi di contenuti.
Sul fronte della prevenzione, si sta affermando un approccio diverso: certificare l’origine di un file invece di limitarsi a cercarne le falle. Il watermark digitale inserisce nel contenuto un segnale invisibile che ne attesta la provenienza, mentre le content credentials allegano al file metadati verificabili su chi lo ha creato, quando e con quali strumenti. Alla base di questo sistema c’è lo standard C2PA (Coalition for Content Provenance and Authenticity), sviluppato da un consorzio di aziende tecnologiche e media per creare una sorta di “etichetta nutrizionale” applicabile a foto e video, capace di seguirli lungo tutta la loro diffusione online.
La tecnologia che ha reso possibile il problema può diventare, se applicata con questo scopo, anche la base della sua soluzione: non serve solo individuare il falso a posteriori, ma rendere verificabile il vero fin dall’origine.
Accanto a questi strumenti più recenti, restano valide tecniche più semplici e accessibili a chiunque. La reverse image search, disponibile su diversi motori di ricerca, permette di scoprire se un’immagine è già apparsa altrove, magari in un contesto diverso da quello in cui viene ora presentata. Controllare i metadati del file, quando non sono stati rimossi, può rivelare data di creazione, dispositivo usato o eventuali software di editing applicati. Infine, il fact-checking tradizionale, incrociare fonti, cercare conferme indipendenti, verificare se altre testate hanno riportato lo stesso evento, resta uno dei metodi più affidabili, perché non dipende dalla qualità tecnica del falso ma dal contesto in cui il contenuto viene diffuso.
Perché i deepfake rappresentano un rischio crescente
I deepfake sono un rischio crescente perché la loro applicazione non riguarda più solo la sfera dell’intrattenimento o della satira, ma si estende a settori dove il danno concreto colpisce persone reali, economie e processi democratici. Ogni ambito in cui contava la parola o l’immagine di qualcuno come prova, oggi va riconsiderato.
Il caso più discusso è quello della disinformazione politica: un video che mostra un candidato dire frasi mai pronunciate, diffuso nelle ore prima di un voto, può orientare l’opinione pubblica prima che chiunque abbia il tempo di verificarlo. Sul piano economico, le truffe finanziarie basate su voce clonata hanno già colpito aziende, con dipendenti convinti di parlare con un dirigente che autorizzava un bonifico urgente. Il furto d’identità si arricchisce così di uno strumento nuovo, capace di superare verifiche vocali o videochiamate che fino a poco tempo fa sembravano sicure.
Ci sono poi conseguenze che colpiscono direttamente la sfera personale e non lasciano spazio a interpretazioni ambigue. Il revenge porn sintetico, cioè la creazione di contenuti intimi falsi con il volto di una persona reale inserito senza consenso, produce un danno psicologico e reputazionale spesso irreversibile, a prescindere dal fatto che l’immagine sia “vera” o generata. Legata a questo fenomeno c’è la sextortion, in cui il materiale sintetico viene usato come leva per estorcere denaro o favori sotto minaccia di diffusione pubblica.
Anche chi non è coinvolto in un episodio specifico subisce un effetto più ampio, quello della manipolazione dell’opinione pubblica: quando si sa che qualsiasi video può essere falso, diventa più facile screditare anche le prove autentiche, semplicemente insinuando il dubbio. Il danno reputazionale che ne deriva, per una persona comune o per un personaggio pubblico, può precedere qualsiasi verifica tecnica e restare online molto oltre la sua eventuale smentita.
Il rischio più profondo non è l’inganno del singolo contenuto falso, ma l’erosione lenta della fiducia in ciò che vediamo e sentiamo: quando ogni immagine diventa sospetta per definizione, si perde un terreno comune su cui basare anche le conversazioni più semplici.
Il quadro normativo e le responsabilità: cosa dice la legge
In Europa il riferimento principale è l’AI Act, il regolamento che classifica i sistemi di intelligenza artificiale in base al rischio e introduce, per i contenuti sintetici, un obbligo preciso: chi genera o manipola immagini, audio o video in modo che sembrino autentici deve segnalarlo in modo chiaro, salvo eccezioni limitate come le opere dichiaratamente satiriche o artistiche. Questi obblighi di trasparenza non impediscono la creazione di un deepfake, ma impongono di etichettarlo come tale.
In Italia, chi utilizza un deepfake per impersonare qualcuno con l’intento di trarne vantaggio o di danneggiare la vittima può incorrere nel reato di sostituzione di persona, previsto dal codice penale e applicabile anche a contesti digitali nati ben prima dell’IA generativa. È una norma pensata per altri scenari, adattata di volta in volta a un fenomeno che cambia forma più rapidamente di quanto la giurisprudenza riesca a consolidarsi.
Chi subisce un caso di questo tipo, dal furto d’identità vocale alla diffusione di immagini intime false, può segnalarlo alla Polizia Postale, l’organo che in Italia si occupa di reati informatici e raccoglie le denunce relative a contenuti manipolati diffusi online. La segnalazione tempestiva resta spesso il primo passo utile, anche quando l’esito giudiziario richiede tempi lunghi.
Le piattaforme social hanno un ruolo crescente in questo equilibrio: la moderazione dei contenuti, quando funziona, può limitare la diffusione di un deepfake dannoso prima che raggiunga milioni di visualizzazioni, ma resta un intervento successivo alla pubblicazione, mai preventivo. La legislazione insegue sempre la tecnologia, mai il contrario, e questo scarto lascia zone grigie che solo la consapevolezza individuale può colmare nell’attesa che le norme si aggiornino.
Conclusione
Oggi un occhio allenato può ancora cogliere il battito di ciglia troppo regolare, il bordo sfocato attorno a un volto, il labiale che scivola di qualche frazione rispetto all’audio. Sono le crepe che tradiscono la tecnologia generativa in questa fase della sua evoluzione. Ma è una fase, non un punto d’arrivo.
Ogni mese i modelli riducono quelle imperfezioni. I riflessi negli occhi diventeranno coerenti, la pelle avrà pori, l’audio respirerà come una voce vera. Quando anche l’ultimo indizio visivo sparirà, la domanda che oggi sembra tecnica ne rivelerà una più scomoda: se non potremo più fidarci degli occhi, a cosa affideremo la nostra fiducia?
La domanda vera non è più “come riconoscerli” ma “a cosa affideremo la nostra fiducia” quando la tecnologia sarà indistinguibile dalla realtà. Forse la risposta non starà più nel contenuto in sé, ma nella sua provenienza verificabile, o forse in un’abitudine diversa: sospendere il giudizio prima di condividere, cercare conferme, restare scettici per principio.
È qui che l’alfabetizzazione digitale smette di essere un’opzione per pochi e diventa una forma di pensiero critico quotidiano. Non basterà più guardare bene. Bisognerà imparare a dubitare bene.
Informazioni sull'autore
2 pensieri su “Deepfake: cosa sono, come riconoscerli e perché sono un rischio crescente”