En la era digital actual, los avances en inteligencia artificial (IA) han permitido innovaciones sorprendentes en diversos ámbitos, desde el entretenimiento hasta la comunicación. Sin embargo, estas mismas innovaciones también han dado lugar a nuevos desafíos legales y éticos, especialmente en temas relacionados con la privacidad, la libertad individual y la protección contra el abuso. Uno de los casos más recientes y destacados en esta materia ha sido el uso de la IA para crear desnudos falsos, una práctica cada vez más común y preocupante.
El fenómeno de los deepfakes y la creación de contenido sexual fraudulento
La expresión “Grok, pon a la chica en bikini” simboliza la capacidad de las plataformas tecnológicas, combinada con comandos de IA, para manipular imágenes y videos. En este contexto, la inteligencia artificial ha sido utilizada para generar imágenes hiperrealistas de mujeres, incluyendo desnudos o escenas sexualizadas, sin su consentimiento. La problemática se acentúa cuando estas creaciones involucran a menores, generando un escenario de potencial vulneración grave de derechos y protección legal.
Este tipo de contenido se enmarca dentro de los llamados deepfakes, una tecnología que permite la creación de videos o imágenes ficticias con un alto grado de realismo, a partir de datos y algoritmos de aprendizaje profundo. Si bien en algunos casos se utilizan con fines artísticos o de entretenimiento consentido, en muchas ocasiones estos contenidos se manipulan para difamar, hostigar o violar la privacidad de personas reales.
Implicaciones legales en distintos países
Situación en Francia
El gobierno francés ha sido pionero en abordar esta problemática desde un enfoque legal. Frente a la proliferación de contenidos eróticos creados mediante IA sin consentimiento, las autoridades francesas han considerado que estas prácticas violan el artículo 40 del Código Penal, que obliga a denunciar conductas ilícitas. En consecuencia, se han iniciado procesos contra plataformas que permiten o facilitar la creación de estos contenidos, orientados a sancionar la divulgación y producción de material de carácter sexista y sexual.
Casos en España y su marco legal
En España, la justicia ya ha emitido sentencias concretas contra quienes utilizan la IA para manipular imágenes en perjuicio de terceros. La fiscal Escarlata Gutiérrez explica que la creación y difusión de imágenes falsas que muestran a personas, en particular menores, en situaciones sexuales o desnudos, puede ser calificada como un delito contra la integridad moral tipificado en el artículo 173 del Código Penal. Este delito contempla penas de hasta dos años de prisión para quienes infligen a otros un trato degradante.
La gravedad aumenta si las víctimas son menores de edad. En estos casos, la maniobra puede constituir también la comisión del delito de pornografía infantil virtual, regulado en el artículo 189.1 del Código Penal, que prevé penas de prisión de uno a cinco años para quienes capten o distribuyen imágenes de menores con fines pornográficos.
Ejemplos de condenas y sentencias relevantes
- Pamplona, enero de 2024: Un joven de 18 años fue condenado a un año de prisión por difundir imágenes falsas creadas con IA que mostraban a compañeras de instituto desnudas. La sentencia, dictada en un proceso de conformidad, también incluyó una orden de alejamiento.
- Toledo, octubre 2024: La Policía Nacional detuvo a un hombre por crear y distribuir imágenes sexuales de 26 mujeres, algunas menores, mediante IA. La investigación evidenció la violación de derechos de privacidad y protección de menores.
- Casos históricos: La Sala del Tribunal Supremo en 2020 avaló la condena de nueve meses de prisión a un soldado por difamar a una compañera a través de imágenes manipuladas en WhatsApp, resaltando que la difusión de contenido sexual falso también viola los derechos fundamentales y la dignidad.
Impacto social y desafíos futuros
Estos casos reflejan una tendencia creciente donde la tecnología, si no se regula adecuadamente, puede ser utilizada para vulnerar derechos fundamentales, generar daño psicológico y socavar la confianza en las imágenes y videos compartidos en línea. La dificultad radica en que las herramientas de IA se vuelven cada vez más accesibles y sofisticadas, haciendo difícil distinguir entre contenido real y manipulado.
El impacto se extiende además a los menores, cuyas imágenes virtuales pueden ser producidas y propagadas con consecuencias devastadoras. La legislación en muchos países empieza a adaptarse, pero aún queda mucho camino por recorrer para establecer mecanismos eficaces de protección, detección y sanción de estas conductas.
Medidas y recomendaciones legales
- Fortalecer las penas por la creación y distribución de deepfakes con fines ilícitos.
- Promover campañas de sensibilización sobre el uso responsable de la IA y los riesgos asociados.
- Implementar sistemas técnicos de detección de contenidos manipulados en plataformas digitales.
- Incluir en la legislación la responsabilidad de las plataformas que alojan este tipo de contenidos, buscando evitar la impunidad.
Preguntas frecuentes
¿Qué diferencias hay entre un contenido real y uno manipulado por IA?
La principal diferencia radica en la autenticidad. Mientras que una foto o video real refleja la realidad, un contenido manipulado mediante IA es creado o alterado digitalmente con programación que puede hacer que parezca genuino aunque no lo sea. La tecnología avanzada de deepfakes dificulta la detección a simple vista, por lo que se necesitan herramientas específicas.
¿Qué acciones puedo tomar si descubro que han creado un desnudo falso con mi imagen?
Es recomendable denunciar inmediatamente ante las autoridades competentes, como la policía o la fiscalía especializada. Además, se puede solicitar la retirada del contenido a las plataformas donde fue difundido y solicitar asesoramiento legal para proteger derechos y buscar reparación.
¿Qué papel juegan las plataformas en la lucha contra los deepfakes ilegales?
Las plataformas tienen la responsabilidad de implementar sistemas de detección automática y moderación activa. También deben colaborar con las autoridades en la identificación y eliminación de contenidos ilícitos, además de establecer políticas claras respecto a la publicación y la responsabilidad por contenidos manipulados.
Conclusión
El uso de inteligencia artificial para crear desnudos falsos representa una problemática creciente que ya ha comenzado a ser combatida jurídicamente en varios países. La justicia empieza a establecer precedentes claros que sancionan estas conductas, particularmente cuando involucran menores o constituyen delitos de difamación y acoso. Sin embargo, ante la rapidez con que avanza la tecnología, es imprescindible seguir desarrollando marcos legales, técnicas de detección y campañas de sensibilización que protejan derechos fundamentales y fomenten un uso responsable de la inteligencia artificial.