Divulgación de Contenido Generado por Inteligencia Artificial

Versión: 1.0
Fecha: [PLACEHOLDER: fecha de publicación]
Titular: [PLACEHOLDER: nombre del titular del servicio]

_Este documento describe las obligaciones de transparencia sobre contenido generado por IA aplicables al Servicio, con referencia al marco normativo vigente en la UE._

1. Naturaleza del contenido generado

Todo el contenido producido por [PLACEHOLDER: nombre comercial del servicio] — audio sintetizado, voces clonadas e imágenes — es contenido generado artificialmente mediante modelos de inteligencia artificial. No es creado por seres humanos ni refleja hechos, opiniones o declaraciones reales de ninguna persona.

El usuario que descarga y distribuye este contenido es responsable de identificarlo apropiadamente como contenido IA en los canales donde lo publique, conforme a la normativa aplicable y a las condiciones de uso de cada plataforma.

2. Marca de agua técnica (watermark)

2.1 Audio — Marca de metadatos + marca imperceptible

Todo audio generado por el módulo de síntesis de voz incorpora dos capas de marcado:

Capa 1 — Marca de metadatos (siempre activa, todos los motores):

• Hash SHA-256 del audio + identificador de la cuenta que lo generó + fecha y hora de generación + versión del modelo.
• Incrustado en los metadatos del archivo (no en la señal de audio).
• Permite rastrear la procedencia e identificar la cuenta generadora en caso de abuso o disputa.
• No puede eliminarse sin modificar el archivo, y cualquier modificación es detectable.

Capa 2 — Marca de agua imperceptible en la señal de audio:

• Cuando el motor de síntesis lo soporta: marca PerTh de Resemble AI (integrada en Chatterbox) o AudioSeal (Meta, implementación prevista en producción).
• Es inaudible al oído humano en condiciones normales de escucha.
• Persiste tras conversiones de formato y compresión estándar.
• El soporte depende del motor activo; en motores sin marca nativa, la Capa 1 garantiza la trazabilidad.

Ambas capas: no pueden desactivarse ni eliminarse desde el Servicio ni por el usuario. Intentarlo constituye una violación de los Términos.

2.2 Imágenes — C2PA (Coalition for Content Provenance and Authenticity)

Toda imagen generada por el módulo de generación de imágenes incorpora metadatos C2PA (estándar ISO 21120 / especificación C2PA v2.x) incrustados en el archivo. Estos metadatos:

• Declaran que la imagen ha sido generada por IA.
• Incluyen: fecha y hora de generación, identificador del Servicio (sin datos personales del usuario), versión del modelo, y hash criptográfico del contenido.
• Son verificables por herramientas de terceros compatibles con C2PA (ej. Content Credentials Verify en contentcredentials.org).
• Cumplen con los requisitos de marcado del AI Act Art. 50 (véase sección 3).
• No pueden desactivarse. Manipular o eliminar estos metadatos constituye una violación de los Términos.

3. Cumplimiento del Reglamento de Inteligencia Artificial de la UE (AI Act)

3.1 Artículo 50 — Obligaciones de transparencia

El Reglamento (UE) 2024/1689 de Inteligencia Artificial (AI Act), en su Art. 50, establece obligaciones de transparencia para sistemas de IA que generan contenido sintético (imágenes, audio, vídeo, texto):

• Art. 50.2: Los proveedores de sistemas de IA que generen o manipulen imágenes, audio o vídeo que se parezcan notablemente a personas, objetos, lugares u otras entidades o eventos existentes, y que puedan aparecer falsamente auténticos, deben garantizar que el contenido esté marcado de forma legible por máquina e identificable como generado artificialmente.
• Art. 50.4: Los proveedores de sistemas de IA de uso general capaces de generar contenido sintético deben cumplir con estas obligaciones de marcado.

Aplicabilidad temporal:

• El AI Act entró en vigor el 1 de agosto de 2024.
• Las obligaciones del Art. 50 son aplicables desde el 2 de agosto de 2026.
• El período de "grandfathering" (para sistemas ya en el mercado antes de agosto de 2026) permite adaptación hasta el 2 de diciembre de 2026.
• El Servicio implementa el marcado C2PA y PerTh desde su lanzamiento, en alineación anticipada con estas obligaciones.

3.2 Riesgo de uso inadecuado del contenido marcado

El Servicio cumple con el marcado técnico obligatorio. Sin embargo, el cumplimiento por parte de los usuarios en la distribución del contenido es responsabilidad de estos últimos. El Servicio recomienda a los usuarios:

• Añadir una indicación visible ("Generado con IA") en los contenidos publicados, especialmente en plataformas que así lo exijan (YouTube, Instagram, TikTok, etc.).
• No representar el contenido generado como capturas de realidad o declaraciones reales de personas.
• Cumplir con las políticas de cada plataforma de distribución respecto al contenido IA.

4. Limitaciones técnicas de los modelos de IA

El Servicio informa al usuario de las siguientes limitaciones inherentes a los modelos de IA utilizados:

Audio:

• La voz clonada puede presentar variaciones de timbre, prosodia o acento entre generaciones, especialmente en textos largos (artefactos de concatenación).
• La calidad de la clonación depende de la calidad y duración de la muestra de referencia proporcionada.
• Los modelos pueden generar mispronunciaciones en nombres propios, extranjerismos o siglas no frecuentes.
• La marca de agua PerTh puede degradarse parcialmente ante manipulaciones de audio muy agresivas (cambio de velocidad extremo, degradación severa).

Imágenes:

• Los modelos de generación de imágenes pueden producir deformidades anatómicas (manos, extremidades, texto en imagen).
• El Servicio aplica corrección automática de anatomía y una puerta de calidad, pero no garantiza la ausencia total de artefactos.
• Los modelos tienen sesgos inherentes procedentes de sus datos de entrenamiento.
• El contenido generado no debe confundirse con documentación o evidencia real de ningún hecho.

5. Metadatos de reproducibilidad

Para cada generación (audio o imagen), el Servicio conserva durante el período de retención establecido en la Política de Privacidad los siguientes metadatos de reproducibilidad:

• Semilla (seed) usada en la generación.
• Versión exacta del modelo de IA.
• Parámetros de generación (temperatura, steps, sampler, etc.).

Estos metadatos permiten identificar con precisión las condiciones de cada generación en caso de disputa, auditoría de cumplimiento o denuncia de abuso.

6. Contacto

Para consultas sobre el marcado IA o el cumplimiento normativo: [PLACEHOLDER: email de contacto legal]