Immagini generate dall’AI nei motori di ricerca: come riconoscerle e perché sono problematiche
Immagini generate dall’intelligenza artificiale nelle ricerche: come riconoscerle e perché sono un problema
Negli ultimi anni, le ricerche su Internet sono diventate sempre più piene di contenuti fuorvianti. Un fenomeno che contribuisce a questa situazione è la diffusione delle immagini generate dall’intelligenza artificiale (IA). Queste immagini, create da modelli di IA, sollevano diverse preoccupazioni, tra cui l’uso di opere d’arte rubate per l’addestramento dei modelli, l’elevato consumo di risorse idriche e l’impatto ambientale significativo. Inoltre, rappresentano una minaccia per la diffusione di disinformazione, sia a livello politico che in altri ambiti, attraverso la creazione di immagini false con intenti propagandistici o altri scopi malevoli. Anche le immagini apparentemente innocue possono contribuire a diffondere informazioni errate.
L’influenza delle immagini AI nei risultati di ricerca
Le immagini generate dall’IA sono spesso visibili tra i primi risultati delle ricerche di immagini sui principali motori di ricerca. Google ha annunciato che nei prossimi mesi aggiungerà l’informazione che un’immagine è stata generata o modificata dall’IA alle Credenziali di Contenuto per quell’immagine. Tuttavia, questo sarà applicabile solo alle immagini che contengono metadati di Provenienza e Autenticità del Contenuto (C2PA). Al momento, non è stato annunciato alcun piano su come gestire le immagini AI che non utilizzano gli standard C2PA.
L’impatto delle immagini AI sui motori di ricerca
Le ricerche che restituiscono risultati generati dall’IA non sono una buona notizia. Questo problema è stato recentemente evidenziato dagli utenti dei social media, che hanno segnalato numerosi esempi di risultati di ricerca fuorvianti. Un caso particolarmente preoccupante riguarda le ricerche di immagini per “pulcino di pavone”. Su Bing, uno dei primi risultati di ricerca è un’immagine stock generata dall’IA. Anche su Google Immagini, al momento della scrittura, queste e altre immagini generate dall’IA appaiono, sebbene alcune siano collegate ad articoli che smascherano le immagini false.
Il caso del pulcino di pavone
L’immagine del “pulcino di pavone”, con occhi grandi in stile Disney, piume blu e zampe dall’aspetto inquietante, è visivamente accattivante ma completamente errata. I pulcini di pavone sono generalmente marroni, con occhi e zampe normali. Questo esempio dimostra come le immagini generate dall’IA possano facilmente ingannare gli utenti, portandoli a credere in rappresentazioni errate della realtà.
Altri esempi di immagini fuorvianti
I pavoni non sono un’eccezione. Nella pagina di ricerca di Google Immagini per “galassia”, al momento della scrittura, ci sono immagini reali, immagini generate dall’IA etichettate come tali se si visita la loro fonte, e altre che chiaramente non sono genuine ma non sono etichettate come generate dall’IA. Questo dimostra come le immagini AI possano mescolarsi facilmente con quelle autentiche, creando confusione tra gli utenti.
Come riconoscere un’immagine generata dall’IA
Molte immagini generate dall’IA possono essere individuate facilmente, anche se quelle più sofisticate presentano limitazioni simili che richiedono un’analisi più attenta per individuare gli errori più evidenti.
Errori nei dettagli fisici
Un buon punto di partenza è cercare errori evidenti. Pensando al pavone, gli occhi potrebbero sembrare carini (anche se falsi), ma le zampe appaiono strane. Le dita e gli arti spesso risultano difficili da riprodurre accuratamente per l’IA. In effetti, gli occhi possono essere utilizzati per verificare anche immagini false molto realistiche di esseri umani: la luce riflessa (chiamata “stelle negli occhi”) è molto difficile da riprodurre. Grazie, fisica!
Errori non fisici
Gli errori potrebbero essere più sottili: colori strani, texture che cambiano dove non dovrebbero, problemi di ombre, architettura e illuminazione, cose che un artista umano di solito non farebbe. Spesso ci sono oggetti, persone o altri piccoli dettagli fuori posto o che non dovrebbero esserci. A volte, l’immagine sembra troppo perfetta: i soggetti sembrano essere stati ritoccati fino all’estremo?
Attenzione ai dettagli di sfondo
Prestate attenzione anche agli oggetti di sfondo, che potrebbero essere resi meno fedelmente, così come al testo che potrebbe essere insensato. Un esempio famoso che è diventato un meme su Internet è stato il Willy’s Chocolate Experience, i cui poster generati dall’IA invitavano le persone a un “paradiso di dolci teats”.
Verificare la fonte
Alcune immagini hanno filigrane (come il pulcino di pavone), il che dovrebbe renderle facili da controllare, ed è importante poter verificare il credito. Provate a scoprire da dove proviene l’immagine e andate direttamente alla fonte.
In definitiva, una regola fondamentale della ricerca è consultare fonti diverse e vedere se concordano. Arrivare a una risposta veritiera potrebbe non essere facile con tutta la spazzatura là fuori, ma almeno saprete riconoscere i falsi.
