Si può scoprire dagli occhi se un volto è stato creato con l’IA?

Sì, grazie a una tecnica presa in prestito dall’astronomia

Redazione ANSA

04 settembre 2024 - 16:33

A sinistra l'immagine vera di Scarlett Johansson, a destra l'immagine di un volto generata dall'IA. Sotto, i riflessi dei loro occhi (fonte: Adejumoke Owolabi, CC BY)4.0) © Ansa

Cosa verifichiamo
In un'epoca in cui creare e manipolare immagini utilizzando l'intelligenza artificiale è alla portata di molti, la capacità di individuare immagini false, in particolare quelle che hanno come soggetto delle persone, sta diventando sempre più importante. Si cercano quindi elementi e punti di riferimento che difficilmente possano essere riprodotti senza fare errori e la cosa non è affatto semplice. Gli occhi sono fra questi e una tecnica che deriva dall’astronomia promette di offrire un aiuto importante. La scommessa è riuscire a capire se l’immagine di una persona è autentica oppure costruita con l’aiuto dell’IA solo guardando gli occhi

Analisi
La battaglia tra chi usa l’intelligenza artificiale per ottenere immagini false e chi lavora per individuarle sta diventando sempre più intensa e gli occhi sono decisamente fra gli elementi sui quali la sfida si accanisce. Per esempio, la rivista Nature ha citato recentemente il caso di Siwei Lyu, del dipartimento di Computer Science dell’Università di Buffalo e direttore del Media Forensic Lab della stessa università: il suo merito è stato avere dimostrato come nei video generati dall'IA gli occhi sbattono in modo anomalo, non naturale. Il problema è stato poi risolto dai creatori di immagini fake, che un problema che i generatori hanno poi risolto.

Ancora gli occhi, in particolare la struttura dei riflessi, sono al centro della nuova tecnica che, ispirandosi all’astronomia, fornisce un metodo attendibile per riuscire a distinguere l’immagine di un volto vera da una falsa.

Ad aprire questa possibilità è stata, molto recentemente, la scoperta annunciata in Gran Bretagna, nell’ambito del convegno della Royal Astronomical Society. La nuova tecnica è il risultato della ricerca condotta da Adejumoke Owolabi, dell’Università britannica di Hull e suggerisce che i falsi generati dall'intelligenza artificiale possono essere individuati analizzando gli occhi umani nello stesso modo in cui gli astronomi studiano le immagini delle galassie: se i riflessi negli occhi di una persona sono uguali fra loro, è probabile che l'immagine sia quella di un vero essere umano; se invece non corrispondono, probabilmente si tratta di un’immagine falsa, costruita con l’aiuto dell’intelligenza artificiale.

“I riflessi nei bulbi oculari sono coerenti nelle persone reali”, ha rilevato anche Kevin Pimbblet, docente di Astrofisica dell'Università di Hull. Per giungere a questa conclusione i ricercatori hanno analizzato i riflessi della luce negli occhi di persone sia in immagini reali sia in immagini generate dall'intelligenza artificiale. In particolare, i riflessi sono stati analizzati da un punto di vista quantitativo utilizzando i metodi di cui gli astronomi si servono per analizzare le galassie. “Per misurare le forme delle galassie, analizziamo il modo in cui la luce è distribuita in esse per capire se sono compatte nella zona centrale, o se sono simmetriche”, ha detto ancora Pimbblet.

Questa analisi viene condotta utilizzando gli indici relativi a concentrazione, asimmetria e levigatezza, chiamati Cas, e il coefficiente Gini che misura il modo in cui, nell’immagine di una galassia, la luce è distribuita tra i suoi pixel. A questo scopo i pixel che compongono l’immagine vengono ordinati in ordine crescente per flusso e infine il risultato viene confrontato con quello che ci si aspetterebbe da una distribuzione del flusso perfettamente uniforme. In sostanza, un valore di Gini pari a 0 corrisponde a una galassia in cui la luce è distribuita uniformemente in tutti i pixel dell'immagine, mentre un valore di Gini pari a 1 corrisponde a una galassia in cui tutta la luce è concentrata in un singolo pixel.

Applicando lo stesso metodo all’analisi dei riflessi negli occhi, è emerso che nelle gini false spesso sono diversi fra loro, mentre le immagini reali mostrano generalmente gli stessi riflessi in entrambi gli occhi.

I parametri Cas non si sono invece dimostrati altrettanto efficaci nel determinare la differenza tra un’immagine autentica e una falsa.

Conclusioni
Avere uno strumento che permetta di riconoscere la vera immagine di un volto da un’immagine fake è un risultato positivo, ma “non è il proiettile d’argento”, osserva Pimbblet. “Ci sono falsi positivi e falsi negativi – osserva l’esperto - e non riuscirà a trovare tutto. Ma questo metodo ci fornisce una base, un piano d'attacco, nella corsa agli armamenti per individuare i deepfake”. La tecnica è un nuovo passo in avanti, una nuova contromisura che nella lunga storia delle ricerche volte a svelare i deepfake, potrebbe essere superata. Come stanno affermando da tempo molti esperti del settore, la lotta contro le false immagini create con l'aiuto dell'IA ha bisogno innanzitutto di essere alimentata da una maggiore alfabetizzazione tecnologica

Fonti