La prova provata

I deepfake sono immagini di sintesi in movimento generate da software che si avvalgono di sistemi di apprendimento automatico (machine learning). Il termine deepfake venne coniato nel 2017 sulla bacheca di Reddit, era il nick di un anonimo produttore di video falsi. Bastava avere il software giusto e un nutrito archivio di foto e video della vittima ed ecco che era possibile produrre materiale video assolutamente realistico dove la vittima faceva, o più spesso diceva, cose che altrimenti non avrebbe mai detto o fatto. Inizialmente a diffondersi furono i video in cui vari personaggi della scena politica dicevano cose che in realtà non avevano mai pronunciato. Successe a Barak Obama, Theresa May, Donald Trump, Adolf Hitler. Contemporaneamente esplose il fenomeno dei deepfake porno: Scarlett Johansson, Katy Perry, Natalie Portman. Nessuno era al sicuro, neanche Nicolas Cage, che cominciò ad apparire in centinaia di scene di diverse serie TV e film. Gli avvocati si erano subito dati da fare, ma era davvero difficile limitare i danni di un deepfake una volta che era stato rilasciato in rete. Lo Stato della California dichiarò illegali i video deepfake al termine del 2019, ma sembrava impossibile far rispettare una legge simile. Aziende di sviluppo software si affannavano a proporre soluzioni per arginare il fenomeno, a cominciare dall’individuazione (deepfake detection). Forse si poteva attenuare un poco (deepfake mitigation), ma ogni tecnica risultava macchinosa, e poco adatta a risolvere il problema alla radice. Le app andavano installate sul dispositivo con cui si scattavano foto e giravano video, questo avrebbe inserito delle informazioni nell’immagine (metadati) tali che potessero, in un secondo momento, essere messe a confronto con i deepfake per dimostrare l’autenticità delle prime e la falsità dei secondi. Un altro metodo, forse ancora più macchinoso, consisteva nell’analizzare i presunti video falsi andando ad osservare con accuratezza alcuni dettagli come le orecchie o il riflesso nelle pupille. Restava comunque una battaglia contro i mulini a vento. Scarlett Johansson, vittima di innumerevoli deepfake pornografici, nel dicembre del 2018 in un’intervista con il Washington Post dichiarava di ritenere ogni tentativo di rimozione dei deepfake «una causa persa» e non si considerava tanto preoccupata per se stessa, protetta dalla sua fama, quanto per tutte le donne comuni che potevano ritrovarsi a loro volta vittime inconsapevoli. L’evoluzione della tecnologia dei deepfake rese in effetti lo strumento molto più accessibile. Era possibile addirittura creare un deepfake a partire da una sola immagine, senza bisogno quindi di un nutrito archivio di foto o video del soggetto. Avete mai desiderato vedere la Monna Lisa parlare e respirare come un vero essere umano? Negli anni Dieci del III millennio esisteva la tecnologia per farlo.

Il fatto che il video non fosse una «prova provata» era già evidente ad alcuni di noi in tempi analogici non sospetti. Nell’epoca del pre-digitale sapevamo bene che era possibile manipolare una ripresa attraverso il montaggio per creare diverse interpretazioni o versioni della realtà. Eppure già alla fine del XX secolo un fatto era considerato vero perché «Lo aveva detto la TV». Noi smanettoni del video parlavamo piuttosto della verità come qualcosa che si va definendo attraverso molteplici punti di vista che insieme illuminano un unico punto. Nei nostri documentari non pretendevamo di raccontare il vero, ma piuttosto cercavamo di offrire una visione parziale delle cose, la nostra visione, il nostro irriducibile punto di vista. Ai miei occhi la tecnologia del deepfake offre un metodo più sofisticato per manipolare la realtà. Ancora una volta, gli anticorpi per non soccombere a questa vulnerabilità non sono digitali; piuttosto, si trovano nelle aspettative che riponiamo nella tecnologia, ed eventualmente nei livelli di delega (della verità, della correttezza, del sapere…). Ad esempio, in questo storia Clara crede ad Eva, nonostante la schiacciante prova video, solo perché le due sono amiche: la fiducia è stata costruita nel tempo e nella relazione.

«La vecchia idea che le immagini non mentono dovrà subire una drastica revisione». Lo scriveva l’autore di fantascienza Jack Wodhams¹ in un racconto del 1986 1. Il fatto che già allora fosse dato per scontato un simile scenario la dice lunga: il problema, ancora una volta, non era tanto la tecnologia a disposizione e l’accuratezza di questa stessa, ma la fiducia nelle fonti e la rete di relazioni in cui si manifesta l’immagine falsificata. Come affrontare dunque un fenomeno come quello del deepfake senza cadere nel relativismo assolutista² tipico dell’era delle post-verità? Un po’ di sano scetticismo, un pizzico di consapevolezza, due grani di fiducia in relazioni costruite con passione… se la verità unica perde di importanza restano le verità parziali che lette in filigrana, sospendendo il giudizio, possono portare a una visione più complessa del mondo che ci circonda.