Deepfakes y montajes con IA

Reporta la publicación donde aparece. Identifica los enlaces que ya conoces y evita republicar el montaje para desmentirlo.

Qué está ocurriendo

Un deepfake es un audio, imagen o vídeo generado o manipulado con IA para imitar a alguien. Puede simular su voz o rostro, atribuirle algo que no dijo o fabricar imágenes íntimas.

Si dudas de la autenticidad, puedes explicar al reportar que el contenido parece manipulado y describir el daño. Si además te piden algo a cambio de no difundirlo, consulta chantaje y sextorsión.

Casos documentados

En su memoria de 2023, la AEPD recogió un caso en el que se usaron rostros de menores en montajes sexuales creados con inteligencia artificial.

AEPD · Memoria de 2023, apartado 3.6.3 sobre montajes sexuales con IA

El 017 publicó un caso de sextorsión en el que se utilizó un montaje fotográfico generado con IA para presionar a la persona afectada.

INCIBE · Caso del 017 sobre sextorsión con un montaje

Qué hacer y qué evitar

Qué hacer

Reporta en cada plataforma donde ya hayas localizado una publicación. Según el caso, puede encajar en privacidad, suplantación, acoso o contenido íntimo no consentido.
Si un audio atribuido a ti se usa para pedir dinero, avisa por un canal que tus contactos ya conozcan y pídeles que comprueben cualquier solicitud por separado.
Si el montaje sexual o violento está publicado en Internet y existe un riesgo grave, consulta la guía de difusión de imágenes íntimas para valorar las vías de retirada.

Qué evitar

Evita volver a subir el archivo a redes o a servicios que prometen detectar IA, especialmente si contiene imágenes íntimas.
Evita buscar o guardar copias adicionales. Si hay contenido sexual de menores, evita descargar, capturar o reenviar el material.

Cómo protegerte y conservar pruebas

Anota los enlaces de publicación, los perfiles, la fecha, el pie de foto y el número del reporte. Conserva avisos o mensajes de quien te alertó si es seguro hacerlo.
Indica por separado lo que has observado y qué detalles te hacen pensar que es un montaje. Si existe una publicación original accesible y puedes identificarla con seguridad, anota también su enlace.

Ver pasos y plantilla para conservar pruebas

Cómo denunciar o pedir ayuda

Comparar los canales de ayuda y denuncia en España.

Si el contenido sexual o violento está publicado en Internet y existe un riesgo grave, consulta si tu caso encaja en el Canal Prioritario de la AEPD. La difusión limitada a mensajería o correo queda fuera de ese canal. AEPD · Cuándo se puede usar el Canal Prioritario. AEPD · Exclusiones y opciones por plataforma.
Para orientación, llama al 017. Si hay chantaje, amenazas o una persona menor afectada, puedes acudir a comisaría con los datos del incidente. Policía Nacional · Información para denunciar.