Deepfakes en su propio sitio web: por qué el responsable es el operador, no el creador
El Art. 50, apartado 4 del EU AI Act impone la obligación en materia de deepfakes al usuario — es decir, al operador del sitio web. Qué se considera deepfake, dónde pueden aparecer inadvertidamente y cómo cumplir con la obligación.
Si hay una disposición del EU AI Act que los operadores de sitios web deben tomarse en serio, es esta: Art. 50, apartado 4. Exige que los deepfakes se identifiquen como generados o manipulados artificialmente — y dirige esta obligación a quien utiliza el contenido. No a la herramienta de IA. No a la agencia. A usted.
Qué se considera deepfake
El término es más amplio de lo que sugieren los titulares. Se refiere a contenidos de imagen, audio y vídeo que se asemejan a personas, objetos, lugares o eventos reales y que pueden parecer auténticos de forma engañosa. Esto incluye los casos evidentes — un político diciendo cosas que nunca dijo. Pero también los menos llamativos: el vídeo testimonial generado por IA con un rostro fotorrealista, la voz sintética en un vídeo explicativo, la foto de equipo animada digitalmente a posteriori.
Cómo los deepfakes llegan inadvertidos a los sitios web
- Las agencias de vídeo emplean avatares de IA para ahorrar costes de rodaje — y entregan el resultado sin advertencia.
- Los equipos de marketing utilizan herramientas que convierten una foto en un vídeo parlante.
- Las plataformas de stock ofrecen cada vez más retratos fotorrealistas generados por IA, indistinguibles de fotografías reales.
El desconocimiento no exime de responsabilidad
La obligación se basa en el uso, no en el conocimiento. Por eso, el primer paso crucial es el inventario: solo puede identificar lo que conoce.
Cumplir con la obligación — sin arruinar el vídeo
Identificar no significa colocar una banda roja de advertencia sobre el vídeo. Un aviso visible de forma permanente y discreta — por ejemplo, una pequeña marca en la esquina del reproductor — cumple la función y no afecta a la producción. Lo importante es la permanencia: un aviso que desaparece tras tres segundos no es suficiente.
Y como en todas las entregas de esta serie: orientación técnica, no asesoramiento legal. Si un contenido concreto supera el umbral para considerarse deepfake, en caso de duda, es una cuestión para su abogado.
Auditoría gratuita
¿Qué hay realmente en su sitio web?
Introduzca su dominio, espere menos de un minuto — verá qué contenidos muestran indicios de haber sido generados por IA. No es necesario registrarse.
Seguir leyendo
Art. 50 EU AI Act: Quién debe etiquetar contenidos de IA — y qué significa esto en la práctica
La guía práctica sobre la obligación de etiquetado: contenidos afectados, el papel del responsable y los malentendidos más frecuentes.
Cómo detectar contenidos generados por IA — y por qué ningún detector es suficiente por sí solo
Por qué los metadatos ofrecen las pruebas más sólidas, los clasificadores pueden ser engañosos — y por qué, al final, una persona debe tomar la decisión.
EU AI Act: La lista de verificación de 10 puntos para su sitio web
Del inventario a la supervisión: las diez preguntas que todo responsable de un sitio web debería poder responder ahora.
Etiquetar imágenes generadas por IA: lo que es obligatorio, lo que es inteligente — y cómo hacerlo correctamente
La respuesta honesta a la pregunta más frecuente — y tres reglas de diseño para que el etiquetado no parezca una señal de advertencia.
C2PA, metadatos, marcas de agua: cómo funciona realmente la identificación de IA legible por máquina
Una mirada al archivo en lugar de a la imagen: los estándares que permiten demostrar el origen, explicados de forma comprensible.
Fotos de stock y IA: Por qué casi todas las webs contienen IA sin identificar
¿Cree que nunca ha usado IA? Probablemente su sitio web sí — por vías en las que nadie piensa.