Cómo detectar contenidos generados por IA — y por qué ningún detector es suficiente por sí solo

“¿Esta imagen ha sido generada por una IA?” — la pregunta parece sencilla, pero no lo es. No existe un método que pueda responderla de forma fiable para cualquier contenido. Lo que sí existe son varios enfoques independientes, cada uno con fortalezas muy diferentes. Quien los conoce, entiende también por qué una verificación rigurosa siempre debe basarse en varias capas.

1. Pruebas criptográficas de origen (C2PA)

La forma más sólida de prueba no proviene del análisis de la imagen, sino de la propia imagen. El estándar C2PA — respaldado, entre otros, por Adobe, Microsoft, Google, OpenAI y varios fabricantes de cámaras — incorpora una declaración de origen firmada criptográficamente directamente en el archivo. Allí se indica qué herramienta ha creado o editado el contenido.

La gran ventaja: no se trata de una probabilidad, sino de una afirmación verificable. El inconveniente: los metadatos no siempre sobreviven a todos los procesos. Si una imagen se vuelve a comprimir, pasa por un CMS o se comparte en redes sociales, la firma suele desaparecer. Por eso, la ausencia de credenciales no es una prueba de autoría humana — simplemente, no hay información.

2. Metadatos y huellas incrustadas

Además de C2PA, existen fuentes más sencillas pero sorprendentemente útiles. El estándar IPTC incluye un campo para el “tipo de fuente digital”, que puede indicar explícitamente que un archivo ha sido generado algorítmicamente — este marcador es precisamente el que se menciona en el código de conducta de la UE para el etiquetado. Los campos EXIF y XMP suelen revelar la herramienta utilizada para la creación. Y en archivos PNG generados por herramientas populares, el prompt completo y los ajustes quedan guardados en la cabecera del archivo — una evidencia que no deja lugar a dudas.

3. Marcas de agua invisibles

Algunos proveedores insertan un patrón invisible para el ojo humano directamente en los píxeles. La ventaja frente a los metadatos: resiste la compresión y el recorte. El inconveniente: este tipo de marcas de agua normalmente solo pueden ser leídas por quien las ha generado. En la práctica, esto significa que se depende de la cooperación de los proveedores.

4. Clasificadores estadísticos

Cuando no queda ningún rastro, solo queda el análisis del propio contenido. Los clasificadores modernos logran tasas de acierto elevadas en imágenes e incluso suelen identificar el modelo generador. En el caso de los textos, la situación es más delicada: los detectores fiables aciertan con frecuencia, pero todos producen errores — en ambos sentidos. Textos humanos cuidadosamente redactados pueden ser clasificados erróneamente como generados por máquina, mientras que textos de IA editados pueden pasar desapercibidos.

Un detector proporciona una probabilidad, no una verdad. Quien convierte esto en una afirmación, confunde estadística con prueba.

Por qué las capas no son suficientes por sí solas

La combinación de estos métodos hace que el resultado sea mucho más sólido: una prueba criptográfica supera cualquier estimación, un prompt incrustado es una prueba material, y un clasificador cubre los casos en los que se han eliminado todos los rastros. Sin embargo, siempre queda un margen de incertidumbre — y esto no es una debilidad técnica, sino una característica inherente al problema.

Por eso, en Provifai lo hacemos de forma deliberadamente diferente: nuestro sistema proporciona la evidencia, pero la declaración vinculante la realiza el responsable. Para cada hallazgo, puede ver qué método ha detectado la señal y con qué grado de certeza — y confirmar o rechazar el resultado. Así se evita la peor consecuencia de la detección automática: que alguien sea acusado públicamente por un contenido que ha fotografiado personalmente.

Seguir leyendo