Skip to content

Analisi, rimozione e inserimento di firme nascoste in immagini generate da modelli di AI

Corso: Laurea Magistrale in Ingegneria e Scienze Informatiche

Tipo: Progetto/Ricerca

Advisor/Co-Advisor: Lorenzo Pellegrini

Abstract: I moderni sistemi di intelligenza artificiale inseriscono una firma invisibile all’interno delle immagini prodotte che consente di riconoscere se un contenuto è stato prodotto artificialmente. Questa pratica deriva dall’osservazione che i modelli precedenti, come reti GAN o le prime architetture di Diffusion, lasciavano già in modo implicito delle tracce distinguibili dovute alla loro struttura. Questa firma, che varia da modello a modello, viene ora inserita volontariamente al fine di permettere di riconoscere se un’immagine è stata generata. Cosa accade se rimuoviamo quelle firme? Cosa succede invece se andiamo a inserire una di queste firme in un’immagine reale?

La tesi si propone di analizzare i meccanismi di watermarking e studiarne la robustezza rispetto a tentativi di rimozione o corruzione. Questo passerà dal valutare se i modelli più avanzati di riconoscimento di immagini sintetiche siano in grado di identificare contenuti generati anche in assenza di firme. Se il tempo lo permetterà, si potrò procedere all’addestramento di un modello di detection in grado di riconoscere immagini generate senza fare affidamento sui watermark.

Per farsi un’idea di come funzionano questi meccanismi di firma, si vedano i link messi basso 👇

Tesi su argomento Deepfake Recognition
Questa proposta è parte di un insieme di studi che stiamo conducendo nel nostro laboratorio sul riconoscimento di immagini generate/manipolate. Si tratta di un argomento particolarmente recente e sempre più rilevante. L’argomento è molto ampio e questa è solo una delle possibili tesi sugli argomenti:

  • Riconoscimento di immagini fake, inpainting e outpainting
  • Riconoscimento di video e audio generati o parzialmente manipolati
  • Inserimento o rimozione di watermark
  • Explainability delle manipolazioni
  • Manipolazione e riconoscimento real-time

Link suggeriti