EU AI Act: Etiquetado de Contenido Sintético 2026

El estado del cumplimiento en septiembre de 2026

El Reglamento de Inteligencia Artificial de la Unión Europea —conocido como AI Act— ha dejado de ser un texto legislativo abstracto. Desde que sus disposiciones más críticas entraron en vigor por fases entre agosto de 2024 y agosto de 2025, las empresas tecnológicas que operan en el mercado europeo enfrentan ahora auditorías reales, inspecciones de autoridades nacionales y las primeras sanciones administrativas documentadas. Este artículo desglosa, desde una perspectiva de ingeniería, qué exige concretamente la norma para los sistemas de IA de riesgo limitado, cómo implementar el etiquetado técnico de contenido sintético y qué estructura deben adoptar los manifiestos C2PA para satisfacer los requisitos probatorios de las autoridades competentes.

Niveles de riesgo y obligaciones: tabla comparativa

La arquitectura regulatoria del AI Act clasifica los sistemas en cuatro niveles. Comprender exactamente dónde encaja tu producto determina la carga de cumplimiento:

Nivel de riesgo	Ejemplos representativos	Obligaciones principales	Sanción máxima
Inaceptable	Sistemas de puntuación social, manipulación subliminal, biometría predictiva policial	Prohibición absoluta desde feb. 2025	35 M€ o 7% facturación
Alto	IA médica, sistemas de crédito, selección de personal, infraestructura crítica	Registro EU, auditoría de terceros, documentación técnica, evaluación de conformidad	15 M€ o 3% facturación
Limitado	Chatbots, generadores deepfake, reconocimiento de emociones, recomendadores	Transparencia obligatoria, etiquetado de contenido sintético, notificación al usuario	7,5 M€ o 1,5% facturación
Mínimo	Filtros de spam, IA en videojuegos, motores de búsqueda básicos	Sin obligaciones específicas, código de conducta voluntario	N/A

La categoría de riesgo limitado concentra la mayor parte del ecosistema de aplicaciones generativas actuales: modelos de lenguaje expuestos directamente al usuario final, herramientas de generación de imágenes y vídeo, y sistemas de síntesis de voz. Para todas ellas, el artículo 50 del AI Act establece las obligaciones de transparencia que analizamos a continuación.

Artículo 50: Obligaciones de transparencia para sistemas de riesgo limitado

El artículo 50 es el corazón operativo para los equipos de ingeniería. Sus mandatos son cuatro:

1. Notificación de interacción con IA: Todo sistema que interactúe con personas de forma conversacional —chatbots, asistentes de voz, agentes autónomos— debe notificar de manera inequívoca que el interlocutor es un sistema de IA. La notificación debe producirse al inicio de cada sesión, ser legible sin necesidad de desplazarse y no puede ocultarse en términos de servicio.

2. Etiquetado de contenido sintético: Las imágenes, el audio, el vídeo y el texto generados artificialmente que "se asemejen notablemente a personas, lugares u objetos reales existentes" deben llevar una etiqueta técnicamente detectable. El Reglamento de Ejecución publicado por la Comisión en enero de 2026 precisa que el etiquetado debe ser legible por máquina, persistente ante transformaciones habituales (redimensionado, recompresión JPEG hasta 85%) y accesible mediante API pública.

3. Transparencia para sistemas de reconocimiento de emociones: Los sistemas que infieren estados emocionales de personas físicas deben informar a los sujetos antes del procesamiento. Esto incluye sistemas de análisis de microexpresiones en entrevistas, monitorización de atención en plataformas educativas y herramientas de análisis de sentimiento biométrico en contact centers.

4. Documentación de GPAI en la cadena de valor: Cuando un sistema de riesgo limitado integra un modelo de propósito general (GPAI) como componente interno, el proveedor del sistema debe poder demostrar que el GPAI subyacente cumple las obligaciones del artículo 53, incluyendo la transparencia sobre datos de entrenamiento y capacidad de evaluación adversarial.

C2PA: el estándar técnico de referencia para proveniencia de contenido

El AI Act no prescribe una tecnología específica para el etiquetado. Sin embargo, el Reglamento de Ejecución cita explícitamente C2PA (Coalition for Content Provenance and Authenticity) como implementación de referencia para imágenes, vídeo y audio. C2PA es un estándar abierto gestionado por la Alianza para la Confianza en los Medios que define cómo adjuntar manifiestos de credenciales a archivos multimedia.

Un manifiesto C2PA es un objeto JSON-LD firmado criptográficamente que se incrusta en los metadatos del archivo (JUMBF para imágenes, side-data box para vídeo). Contiene:

• Assertion store: declaraciones sobre el contenido (acción de creación, ingredientes, miniaturas).
• Claim: resumen de las aserciones con hash SHA-256.
• Claim signature: firma COSE (CBOR Object Signing and Encryption) con el certificado X.509 del emisor.

Ejemplo de manifiesto C2PA para contenido generado por IA

El siguiente ejemplo muestra la estructura JSON simplificada de un manifiesto C2PA conforme al AI Act para una imagen generada por un modelo de difusión latente:

{
  "@context": "https://c2pa.org/specifications/specifications/1.4/",
  "claim_generator": "AcmeSynth/2.1.0 c2pa-rs/0.32.0",
  "title": "generated_portrait_20260915.webp",
  "assertions": [
    {
      "label": "c2pa.actions",
      "data": {
        "actions": [
          {
            "action": "c2pa.created",
            "softwareAgent": "AcmeSynth Diffusion Engine v2.1",
            "when": "2026-09-15T10:00:00Z",
            "digitalSourceType": "http://cv.iptc.org/newscodes/digitalsourcetype/trainedAlgorithmicMedia"
          }
        ]
      }
    },
    {
      "label": "eu.aiact.synthetic_content",
      "data": {
        "is_synthetic": true,
        "ai_system_name": "AcmeSynth Portrait Generator",
        "ai_system_version": "2.1.0",
        "provider_eu_registration_id": "EU-AI-ACT-LR-2025-00482",
        "transparency_notice_url": "https://acme.example/ai-disclosure",
        "watermark_method": "SynthID-Invisible",
        "regulation_reference": "EU 2024/1689 Art.50"
      }
    },
    {
      "label": "c2pa.hash.data",
      "data": {
        "name": "jumbf manifest",
        "alg": "sha256",
        "hash": "a3f8e2d1c9b7...4f2e1a0d",
        "pad": 0
      }
    }
  ],
  "signature_info": {
    "issuer": "AcmeSynth AI Services, S.L.",
    "cert_serial_number": "3A:9F:12:...:B4",
    "time": "2026-09-15T10:00:01Z"
  }
}

Observa el campo eu.aiact.synthetic_content —una extensión de espacio de nombres privado permitida por la especificación C2PA 1.4—. Este campo incluye el ID de registro en el EU AI Act Database, la URL del aviso de transparencia y el método de marca de agua aplicado. Las autoridades de supervisión nacionales pueden verificar el cumplimiento consultando ese ID en el registro público gestionado por la Agencia Europea de IA (AEIA).

SynthID: marca de agua invisible para cumplimiento técnico

Mientras C2PA actúa a nivel de metadatos del archivo —y puede perderse si el contenido se captura en pantalla o se recomprime agresivamente—, la marca de agua imperceptible opera sobre los píxeles o la señal de audio del contenido. Google DeepMind publicó SynthID bajo licencia abierta en Q1 2026, y se ha convertido en el estándar de facto para imágenes y audio generado por IA en el contexto europeo.

SynthID modifica estadísticamente los valores de píxeles individuales de manera imperceptible para el ojo humano pero detectable con el modelo de verificación correspondiente. La detección funciona incluso tras:

• Recorte y redimensionado
• Recompresión JPEG hasta calidad 75
• Filtros de color y ajustes de exposición moderados
• Capturas de pantalla (con degradación parcial)

Para audio, SynthID aplica perturbaciones espectrales en frecuencias fuera del rango de percepción óptima humana, sobreviviendo a recodificación MP3 a 128 kbps. Para texto, la versión 2.0 de SynthID-Text utiliza sesgo estadístico en la distribución de tokens, detectable incluso cuando el texto ha sido parcialmente parafraseado.

La integración técnica de SynthID en un pipeline de generación de imágenes requiere:

1. Obtener las claves de marca de agua de la API de DeepMind (o implementar el modelo open-source en infraestructura propia).
2. Aplicar synthid.watermark(image_tensor, watermark_key) antes del paso de decodificación del VAE.
3. Verificar en el endpoint de descarga que la marca es detectable con synthid.detect(image_bytes) antes de servir el contenido.
4. Registrar el resultado en los logs de auditoría con timestamp y hash SHA-256 de la imagen.
5. Exponer el endpoint /ai-disclosure que enlaza el hash con el manifiesto C2PA correspondiente.

Este proceso garantiza que incluso si los metadatos C2PA son eliminados por plataformas sociales al momento de publicación, la marca de agua permanece como evidencia forense del origen sintético. Puedes explorar cómo implementar hashing de contenido con nuestra herramienta Hash Generator para los pasos de verificación de integridad.

Obligaciones para modelos GPAI (Artículo 53)

Los modelos de propósito general —aquellos con más de 10^25 FLOPs de cómputo de entrenamiento o disponibles comercialmente con más de 10.000 usuarios empresariales— tienen obligaciones adicionales que sus integradores deben conocer:

1. Documentación técnica de entrenamiento: especificación de datos de entrenamiento incluyendo procedimientos de filtrado CSAM, copyright y derechos de imagen.
2. Política de uso aceptable publicada: documento público que liste usos prohibidos y mecanismos de denuncia de abusos.
3. Evaluación de ciberseguridad adversarial: red-teaming documentado contra jailbreaking, inyección de prompts y generación de CSAM antes de cada versión major.
4. Notificación a la AEIA: registro de incidentes graves en un plazo máximo de 72 horas desde detección.
5. Para GPAI con capacidad sistémica: evaluación de riesgos sistémicos, pruebas de comportamiento ante agentes autónomos y análisis de impacto sobre mercados de información.

Las empresas que integran GPAI de terceros —OpenAI, Anthropic, Mistral, Google— pueden delegar parte de estas obligaciones contractualmente, pero mantienen responsabilidad residual sobre el uso final. Este aspecto genera la mayor conflictividad legal actual, ya que los contratos de API de los grandes proveedores aún no asignan responsabilidades de forma plenamente conforme al AI Act.

Para profundizar en los desafíos de seguridad que presentan los agentes de IA con acceso a credenciales, consulta nuestro análisis sobre agentes IA que escapan del sandbox y comprometen credenciales, un vector de riesgo directamente relevante para los requisitos de evaluación adversarial del artículo 53.

Verificación de tokens y auditoría JWT en pipelines de IA

Los tokens JWT se utilizan ampliamente para transmitir aserciones de proveniencia de IA entre microservicios —por ejemplo, para propagar metadatos de "este contenido fue generado por IA" a través de una pipeline de publicación—. Nuestra herramienta JWT Decoder permite verificar rápidamente la estructura y validez de estos tokens durante auditorías de cumplimiento.

Un patrón frecuente es emitir un JWT firmado con RS256 que encapsula:

{
  "iss": "content-generation-service",
  "sub": "asset:sha256:a3f8e2d1...",
  "ai_generated": true,
  "regulation": "EU-AI-ACT-ART50",
  "synthetic_type": "image/webp",
  "watermark_verified": true,
  "c2pa_manifest_url": "https://cdn.acme.example/manifests/a3f8e2d1.json",
  "iat": 1757919600,
  "exp": 1789455600
}

Este token se almacena en la base de datos de activos y se verifica en cada punto de distribución, garantizando trazabilidad completa del origen sintético del contenido.

Checklist de cumplimiento para equipos de ingeniería

Para los equipos que deben certificar cumplimiento antes de Q4 2026, el siguiente checklist condensa los pasos técnicos obligatorios para sistemas de riesgo limitado:

1. Revisar la clasificación del sistema en los cuatro niveles de riesgo del AI Act y documentar la justificación técnica.
2. Implementar el aviso de "interacción con IA" en la interfaz de usuario (modal de inicio de sesión o banner persistente).
3. Integrar C2PA 1.4 en el pipeline de generación para todo output multimedia.
4. Aplicar SynthID o equivalente a imágenes, audio y vídeo generados.
5. Registrar el sistema en la EU AI Act Database y obtener el provider_eu_registration_id.
6. Publicar la URL de transparencia (/ai-disclosure) conforme al formato exigido por el Reglamento de Ejecución.
7. Configurar la retención de logs de auditoría por un mínimo de 3 años.
8. Establecer el proceso de notificación de incidentes a la autoridad nacional competente en menos de 72 horas.
9. Si se integra GPAI, verificar contractualmente que el proveedor cumple el artículo 53.
10. Realizar red-teaming documentado con cobertura de prompt injection, jailbreaking y generación de contenido prohibido antes de cada release major.

Para asegurar la integridad de las claves criptográficas utilizadas en las firmas C2PA, se recomienda generar contraseñas y secretos con herramientas auditadas. Nuestra herramienta de generación de contraseñas puede utilizarse para generar nonces y seeds de alta entropía requeridos en los flujos de firma.

El AI Act marca un antes y un después en la regulación de sistemas de IA, pero sus requisitos técnicos son implementables con las herramientas open-source actuales. La clave está en tratar el cumplimiento como una característica de ingeniería —no como una formalidad legal—, integrando proveniencia, watermarking y auditoría desde el diseño del sistema, no como un añadido posterior. Para entender el contexto más amplio de políticas de privacidad en IA, nuestro artículo sobre políticas de privacidad adaptadas a inteligencia artificial ofrece el marco regulatorio complementario al AI Act. También te recomendamos explorar el panorama del uso seguro de IA en organizaciones en nuestro análisis sobre capacitación organizacional para el uso seguro de IA.