Come riconoscere i contenuti generati dall’IA — e perché nessun rilevatore basta da solo

“Questa immagine è stata creata da un’IA?” — la domanda sembra semplice, ma non lo è. Non esiste un metodo che possa rispondere con certezza per ogni contenuto. Esistono invece diversi approcci indipendenti, ciascuno con punti di forza molto diversi. Chi li conosce, capisce anche perché una verifica affidabile deve sempre essere multilivello.

1. Prove crittografiche di origine (C2PA)

La forma più solida di prova non deriva dall’analisi dell’immagine, ma dall’immagine stessa. Lo standard C2PA — sostenuto, tra gli altri, da Adobe, Microsoft, Google, OpenAI e diversi produttori di fotocamere — inserisce un’informazione crittograficamente firmata sull’origine direttamente nel file. Qui viene indicato quale strumento ha generato o modificato il contenuto.

Il grande vantaggio: non si tratta di una probabilità, ma di un’informazione verificabile. Lo svantaggio: i metadati non sopravvivono a ogni elaborazione. Se un’immagine viene ricompressa, passata attraverso un CMS o condivisa sui social network, spesso la firma scompare. L’assenza di credenziali non prova quindi la paternità umana — semplicemente, non è un’informazione.

2. Metadati e tracce incorporate

Oltre a C2PA, esistono fonti più semplici ma sorprendentemente ricche di informazioni. Lo standard IPTC prevede un campo per la “tipologia della fonte digitale”, che può indicare esplicitamente che un file è stato generato da un algoritmo — proprio questo marcatore viene citato nel codice di condotta UE per l’etichettatura. I campi EXIF e XMP spesso rivelano lo strumento utilizzato. E nei file PNG prodotti dai generatori di immagini più diffusi, l’intero prompt con le impostazioni si trova nell’intestazione del file — una prova inequivocabile.

3. Watermark invisibili

Alcuni fornitori inseriscono un pattern invisibile direttamente nei pixel. Il vantaggio rispetto ai metadati: resiste a compressione e ritaglio. Il limite: questi watermark possono essere letti, di norma, solo da chi li ha inseriti. In pratica, ciò significa che si dipende dalla collaborazione dei fornitori.

4. Classificatori statistici

Quando tutte le altre tracce mancano, resta l’analisi del contenuto stesso. I classificatori moderni raggiungono alte percentuali di successo sulle immagini e spesso identificano anche il modello generativo. Per i testi la situazione è più delicata: i buoni rilevatori sono spesso corretti, ma tutti producono errori — in entrambe le direzioni. Testi umani ben scritti possono essere scambiati per generati da IA, mentre testi IA modificati possono passare inosservati.

Un rilevatore fornisce una probabilità, non una verità. Chi la trasforma in un’affermazione, confonde la statistica con la prova.

Perché i livelli da soli non bastano

Combinando questi metodi, il risultato diventa molto più affidabile: una prova crittografica supera qualsiasi stima, un prompt incorporato è una prova oggettiva, e un classificatore copre i casi in cui tutte le tracce sono state rimosse. Tuttavia, rimane sempre un margine di incertezza — e questa non è una debolezza tecnica, ma una caratteristica intrinseca del problema.

Per questo motivo, in Provifai adottiamo consapevolmente un approccio diverso: la nostra verifica fornisce le evidenze, ma la decisione definitiva spetta all’operatore. Per ogni riscontro, viene mostrato quale metodo ha rilevato la traccia e con quale livello di sicurezza — e l’operatore può confermare o contestare. Questo protegge dalla conseguenza più grave dell’identificazione automatica: che qualcuno venga accusato per un contenuto che ha creato personalmente.

Continua a leggere