Di Luca Sambucci

Un altro passo verso i deepfake fai-da-te, o deepfake casalinghi come li chiamo io, ovvero la capacità di manipolare video e immagini con pochi, semplici click, usando volti di persone che conosciamo per creare contenuti completamente artefatti. Una tecnologia già disponibile, come sappiamo, ma non ancora alla portata di tutti.

Quando usciranno software abbastanza semplici da usare, anche una persona con poche competenze informatiche sarà in grado di creare immagini o video compromettenti con i volti dei suoi malcapitati conoscenti. Ma se finora era necessario raccogliere ore e ore di filmati video, o anche migliaia di immagini della persona “target”, adesso bastano un centinaio di foto per generare risultati di qualità.

L’Università di Tel-Aviv assieme a Google Research hanno rilasciato MyStyle, un sistema AI in grado di ricostruire, migliorare e modificare immagini di persone, necessitando solo di un centinaio di immagini per addestrare il modello (ovviamente, con un numero maggiore di immagini i risultati miglioreranno).

Una volta che abbiamo il modello del volto che vogliamo manipolare, è possibile  ad esempio aumentare la definizione delle immagini: pensiamo a una foto sgranata o a bassa risoluzione che può essere modificata per mostrare meglio il volto target. Oppure con l’inpainting è possibile ricreare con buona fedeltà le zone del volto cancellate od oscurate, potendo ad esempio rigenerare una parte del volto coperta da un ostacolo, o da occhiali da sole, o da una mascherina. Ma con l’edit ci si può spingere oltre, consentendo di cambiare angolazione o espressione del volto (ad es. da serio a sorridente, o viceversa).

Infine la funzione di sintesi: con il modello del volto possiamo generare immagini della persona target in qualsiasi posa o espressione vogliamo noi. Gli esempi sottostanti mostrano il volto dell’attrice Emilia Clarke sintetizzato da MyStyle.

Le “foto” in alto in realtà non sono mai state scattate all’artista in carne e ossa, ma sono state generate dai ricercatori usando il loro sistema di intelligenza artificiale. Alle pagine dove viene esposta la ricerca sono disponibili molti altri esempi di personaggi famosi: MyStyle: A Personalized Generative Prior e Supplementary Material.

Il problema ovviamente non è degli studiosi che fanno ricerca: il progresso va avanti comunque e questo modello può avere degli usi completamente legittimi, come la ricostruzione o il miglioramento delle fotografie. Saranno però gli illeciti, ovvero la manipolazione e la generazione di volti di persone senza il loro consenso, a scatenare nei prossimi anni problemi giuridici e sociali.

Già adesso vi sono allo studio leggi che proibiscono la pratica o che impongono requisiti di trasparenza, basta guardare agli esempi negli Stati Uniti, in Europa con l’AI Act e in Cina, con il ban totale. Ma è lecito supporre che chi produrrà questo tipo di materiale non si farà molti scrupoli, né sul piano legale né tanto meno su quello morale. L’argine alla produzione e alla diffusione di questi contenuti sarà probabilmente un misto di pene severe e di totale ostilità sociale, un po’ come oggi avviene con la pedopornografia.

Ad ogni modo, considerando che oggi non è per niente difficile scaricare cento o duecento immagini di una persona, soprattutto se posta frequentemente fotografie di sé sui social media, la strada verso i deepfake casalinghi purtroppo è un po’ più vicina.

***abbiamo stipulato un accordo con l’autore per la divulgazione di alcuni suoi articoli e interviste estrapolati sal suo sito: Notizie.ai

*Immagine di copertina dal sito Notizie.ai