Indagare sui filmati di IA che si mascherano da eventi reali
Reality (Un)Rendered è un trittico di poster che mette in evidenza indizi visivi e contestuali per identificare l’uso dell’intelligenza artificiale in reel di Instagram apparentemente realistici. I poster sono accompagnati da un tablet, posizionato su un tavolo, che riproduce in loop una selezione di video per fornire un contesto di visione. Il progetto si basa su un dataset di 34 video Instagram raccolti tramite la ricerca di parole chiave come “AI”, “FYP” e “Sora”. Dai video sono stati estratti commenti che facevano riferimento all’uso dell’IA o al realismo dei contenuti, successivamente categorizzati in otto indicatori di IA, definiti di seguito. I frame che rappresentano al meglio ciascun indicatore principale sono stati organizzati dal più evidente al più sottile, passando da indizi visivi immediati a quelli che richiedono un ragionamento critico. L’artefatto mira a informare il pubblico su come riconoscere l’IA in video altamente realistici.
Design dell’artefatto
L’artefatto espositivo è stato progettato attraverso una combinazione di trasformazione dei dati e strutturazione visiva, con l’obiettivo di rendere leggibili per un pubblico generale i pattern del realismo generato dall’IA. Il dataset iniziale era composto da 34 video Instagram, raccolti manualmente tramite la ricerca di parole chiave come “AI”, “Sora” e “FYP”, insieme alle rispettive sezioni di commenti. Di questi video, 10 presentavano un watermark “Sora”, 11 erano esplicitamente indicati come generati dall’IA e 13 non riportavano alcuna indicazione. Da tutti i video è stato estratto un sottoinsieme di oltre 300 commenti che facevano riferimento ad autenticità, realismo o sospetti di utilizzo dell’IA, successivamente analizzati qualitativamente. I commenti sono stati categorizzati in otto indicatori di IA e sono stati selezionati i frame video che rappresentavano al meglio ciascun indicatore principale. Questa impostazione consente ai visitatori di esplorare gli indizi visivi e contestuali che rivelano la manipolazione tramite IA.
Piuttosto che utilizzare analisi testuali automatizzate, i commenti sono stati raggruppati manualmente in otto indicatori ricorrenti di IA:
- Indicazione del creator: casi in cui il creator segnala l’uso dell’IA nella caption, tramite hashtag o lasciando visibile il watermark di un software di IA. Esempi di commenti: “always look for a ‘sora’ logo, here you can see it at the bottom left”; “I got scared until I read the caption 😮💨”; “ai because you can see where they blurred out the sora logo”.
- Pattern narrativi ripetuti: i video IA ripetono spesso le stesse strutture narrative, come animali che entrano improvvisamente nelle case. Esempi di commenti: “yes, this is 4th video and same some animal is entering through window 😂😂😂😂”; “Okay I seen a cat a dog a bunny let’s see 👀”; “Ok too many AI’s of this already the first one was funnier with the dog 🐕”.
- Posizionamento implausibile della camera: il filmato simula riprese di sorveglianza ma mostra angolazioni insolite, come una telecamera puntata verso un WC. Allo stesso modo, le riprese a mano appaiono fisse e senza reazioni da parte di chi filma. Esempi di commenti: “Ai because who tf sets up a camera in their toilet lol”; “So you just have a camera in the restroom?”
- Comportamenti innaturali: espressioni o azioni che risultano robotiche, illogiche o insolite. Esempi di commenti: “Why did she let the baby go?”; “Why did he just bend over like that.... 😮😂😢”.
- Incoerenze visive: dettagli che dovrebbero rimanere costanti cambiano in modo anomalo da un frame all’altro. Esempi di commenti: “Looks like the water went INTO the TV instead of down it 🤔😂”; “My favourite part was when the blonde woman turned into a brunette man”.
- Errori di rendering: parti di oggetti che attraversano altri oggetti, improvvisi effetti di sfocatura o texture incoerenti. Esempi di commenti: “is that another foot in the corner? 😮”; “The shirt didn’t stop changing letters lol”.
- Fisica impossibile: movimenti o comportamenti che non rispettano le leggi della fisica. Esempi di commenti: “Where her bottom broke the glass and not the rock… silly Ai 😂”; “It’s ia, because if the car hadn’t flown first and more easily”; “The bag weighed more than the woman 🤣”.
- Scenari implausibili: situazioni assurde o prive di conseguenze realistiche, come animali che entrano in casa senza causare danni o cani travestiti da leoni. Esempi di commenti: “Looks Like KI… Or ai… Cause the damage is Not on the Floor and the bear is too slow 😅”; “At first, I thought it was a real lion.”
Ogni video è stato analizzato frame per frame per individuare i momenti che esemplificavano in modo più chiaro uno o più indicatori. Questo processo ha incluso la cattura di screenshot nei punti in cui erano più evidenti incoerenze, impossibilità fisiche o indizi narrativi, e il posizionamento affiancato dei frame. I frame selezionati sono stati annotati tramite contorni, evidenziazioni o sequenze per attirare l’attenzione sui dettagli rilevanti. Parallelamente, sono stati curati commenti che esprimevano sospetto, confusione o riconoscimento dell’IA, abbinandoli ai frame per mostrare come il pubblico interpreta verbalmente questi indizi.
Analisi frame per frame
Visivamente, l’artefatto è organizzato come un trittico di poster, ciascuno dedicato a un sottoinsieme di indicatori. Gli indicatori sono disposti dal più esplicito al più sottile: partendo dai segnali forniti dal creator (caption, hashtag, watermark), passando per pattern narrativi e logica della camera, fino ad arrivare a indizi più astratti come violazioni della fisica o scenari implausibili. All’interno di ogni sezione, i frame sono presentati in brevi sequenze per enfatizzare le incoerenze nel tempo piuttosto che singole immagini statiche. Ritagli, opacità ed evidenziazioni — incluse linee arancioni sugli screenshot che guidano l’attenzione sui dettagli chiave — aiutano i visitatori a interpretare rapidamente le informazioni. Queste tecniche visive sono accompagnate da testi esplicativi che chiariscono il ragionamento analitico dietro ogni esempio.
Linee di evidenziazione che guidano l’attenzione dei visitatori sui dettagli chiave negli screenshot.
Un tavolo nell’area espositiva presenta il contesto del progetto e le istruzioni per l’interazione con l’analisi dei video IA. Sul tavolo, un tablet riproduce in loop continuo i video generati dall’IA, consentendo ai visitatori di osservare il movimento prima di confrontarlo con i frame annotati sui poster. Accanto al tablet, testi esplicativi guidano il pubblico nell’approccio al progetto: iniziare guardando i video in loop, poi esaminare gli indicatori visivi evidenziati sui poster e infine compilare il libretto di valutazione fornito sul tavolo. Le penne sono disponibili per facilitare la partecipazione. I metodi di valutazione chiedono ai visitatori di identificare indizi specifici dell’IA nei video, scegliendo tra categorie fornite, e di evidenziare incoerenze visive, come elementi di una stanza che cambiano in modo anomalo tra i frame o differenze tra due screenshot dello stesso video. Questa configurazione incoraggia un coinvolgimento attivo, aiutando il pubblico a esercitarsi nel distinguere contenuti generati dall’IA da filmati reali attraverso criteri strutturati.
Tavolo espositivo che presenta il progetto