Foto fake create dall’AI: come riconoscerle #adessonews

Funzionano app e siti per smascherare le foto create con intelligenza artificiale? Le nostre prove

Esistono app e siti per riconoscere le immagini create con l’intelligenza artificiale, ma nelle nostre prove non sono risultati ancora abbastanza efficaci; i nostri occhi e il nostro cervello, seguendo gli accorgimenti di cui vi abbiamo parlato, sembrano ancora il metodo migliore per capire se ci troviamo di fronte a un falso.

Detto ciò, dalle nostre ricerche risulta che ci sono alcuni servizi web meno evoluti – e anche poco efficaci – e altri un po’ più avanzati, che sono stati un po’ più affidabili, anche se l’infallibilità è ancora lontana.

I siti meno evoluti

Cercando online, abbiamo trovato alcuni siti che affermano di essere in grado di rilevare manipolazioni nelle immagini.
Il loro utilizzo è semplice: si effettua un “upload” della foto e si aspetta il responso del sito.

Per verificarne l’efficacia abbiamo utilizzato questa foto, creata sempre tramite il software di intelligenza artificiale basato su Stable Diffusion 

La foto di una coppia in montagna generata con l’intelligenza artificiale

Nessuno dei servizi provati l’ha classificata come un “falso” e questo ci fa pensare che, per identificare un’immagine come fake, servono sistemi più avanzati.

I siti più avanzati (che usano l’AI per smascherare l’AI)

Abbiamo quindi provato anche quei siti che vantano di rilevare i falsi più sofisticati, utilizzando essi stessi l’intelligenza artificiale.
I siti come isitai.com (liberamente accessibile) e aiornot.com (su registrazione) – con i quali abbiamo ottenuto risultati migliori nelle prove effettuate – non dicono espressamente se l’immagine è generata artificialmente o se è reale, ma restituiscono una probabilità, espressa in percentuale: un margine d’incertezza esiste sempre. Comunque, se il sito ci restituisce una probabilità del 90% o superiore che l’immagine sia artificiale, vuol dire che per il sito, quasi certamente, l’immagine è stata generata con l’intelligenza artificiale.

Per la foto della coppia in alto e altre immagini simili che abbiamo caricato, questi servizi hanno indicato che si trattava di immagini create con intelligenza artificiale con una probabilità intorno al 90%. Quindi sono effettivamente riusciti a capire che la foto era, con una probabilità elevatissima, un fake.

C’è da considerare, però, che ci sono stati anche dei falsi positivi, con fotografie reali scambiate per immagini frutto dell’AI.
Come questa.

Una foto – vera – di computer accatastati

Questa foto reale, che riproduce in dettaglio alcuni notebook accatastati, viene identificata come un’immagine “quasi certamente” generata con l’AI.
In generale, quanto più una foto riproduce un dettaglio di un oggetto, di una persona o di un animale tanto più è difficile, per il sistema, stabilire la sua origine.

Inoltre, questi siti sono abbastanza semplici da confondere: se infatti l’immagine viene “sporcata” con del rumore (cioè “disturbata” introducendo alterazioni casuali di colore e luminosità) o se, con un programma di fotoritocco, vengono applicati altri filtri, questi siti non sono più in grado di dire con certezza se la foto è stata creata dall’AI o se è vera e, spesso, la percentuale che restituiscono può scendere fino al 50% o meno.

Infine, facendo una prova con delle immagini generate al computer con altri sistemi (ricorrendo al rendering 3D, una tecnica largamente utilizzata dai moderni videogiochi) i risultati sono palesemente errati. Abbiamo provato inserendo un’immagine tratta da un videogioco di recente pubblicazione (Cyberpunk 2077) e il risultato è che questi servizi web dichiarano che l’immagine, palesemente frutto di rendering, sarebbe invece reale. 

Un’immagine tratta dal videogioco Cyberpunk 2077 e generata con il rendering 3D

Certo, in questo caso è evidente anche ad occhio nudo che l’immagine è frutto di lavoro grafico, ma questo errore di riconoscimento da parte dei siti ci fa capire come questi servizi siano stati creati appositamente per rilevare solo i falsi generati tramite algoritmi di intelligenza artificiale generativa, ma non sono sempre in grado di distinguere altre tecniche, come appunto il rendering.
In prospettiva questo è un problema: i falsi migliori, infatti, combinano più tecniche assieme.

Infine non va sottovalutato il fatto che, siccome questi servizi sono accessibili liberamente online, chiunque fosse intenzionato a creare un falso potrebbe avere un rapido riscontro di quanto l’immagine creata possa essere in grado di ingannare; basterà utilizzarli e, in caso, intervenire prontamente per “raffinare” il proprio lavoro.

Torna all’inizio