La inteligencia artificial generativa está revolucionando la creación de contenido digital a una velocidad sin precedentes. En cuestión de pocos años, hemos pasado de filtros básicos y retoques automatizados a sistemas capaces de producir imágenes hiperrealistas, recrear rostros humanos inexistentes o simular escenas que jamás ocurrieron.
Este salto tecnológico ha impulsado sectores como la publicidad, el entretenimiento, el diseño gráfico y la educación. Sin embargo, al mismo tiempo, ha abierto una puerta preocupante: la posibilidad de crear imágenes de personas reales sin su conocimiento ni consentimiento.
El 23 de febrero de 2026, la Information Commissioner’s Office (ICO), autoridad de protección de datos del Reino Unido, junto con más de 60 organismos internacionales de privacidad, publicó una declaración conjunta en la que advertía sobre los riesgos asociados a las imágenes generadas por inteligencia artificial que representan a individuos identificables sin autorización.
Esta acción coordinada no fue simbólica, sino una señal clara de que los reguladores consideran urgente abordar el impacto de la IA generativa sobre la privacidad, la dignidad y los derechos fundamentales. La advertencia se produce en un contexto de creciente preocupación global por los deepfakes, la manipulación digital y la erosión de la confianza en el contenido visual.
La facilidad con la que hoy se pueden generar imágenes falsas creíbles ha reducido las barreras técnicas que antes limitaban estos abusos. Lo que antes requería conocimientos avanzados de edición ahora puede lograrse con una simple instrucción escrita en una interfaz accesible al público general.
¿Por qué las autoridades advierten sobre las imágenes generadas por IA?
Las autoridades de protección de datos han dejado claro que el hecho de que una imagen sea creada mediante IA generativa no elimina su potencial para vulnerar derechos fundamentales. Cuando la IA generativa produce una imagen que representa a una persona identificable —ya sea a través de su rostro, rasgos distintivos o un contexto reconocible— esa imagen generada por IA generativa puede constituir un tratamiento de datos personales.
En consecuencia, cualquier uso de IA generativa que implique la identificación directa o indirecta de una persona debe cumplir con los principios legales vigentes en materia de protección de datos. La expansión acelerada de la IA generativa obliga a recordar que la innovación tecnológica no está por encima del marco jurídico existente.
El núcleo de la preocupación en torno a la IA generativa radica en el consentimiento. Muchas plataformas que integran herramientas de IA generativa permiten crear imágenes realistas de individuos sin que estos hayan autorizado el uso de su imagen. La IA generativa, gracias a su capacidad de síntesis avanzada, puede incluso recrear escenas íntimas falsas o situaciones comprometedoras que nunca ocurrieron.
El daño derivado del mal uso de la IA generativa no es meramente hipotético: la difusión de contenido creado con IA generativa puede afectar gravemente la reputación, la estabilidad emocional y la seguridad de la persona afectada. Por ello, el debate sobre IA generativa ya no es solo tecnológico, sino profundamente jurídico y ético.
Además, existe el problema de la escalabilidad propia de la IA generativa. A diferencia de los métodos tradicionales de edición digital, la IA generativa puede producir miles de imágenes en cuestión de minutos. Esta capacidad masiva de la IA generativa multiplica el alcance del daño potencial y dificulta la respuesta rápida por parte de las víctimas y de las autoridades.
Los reguladores advierten que, sin controles adecuados, la IA generativa puede convertirse en una herramienta de abuso masivo, especialmente cuando la IA generativa se combina con plataformas de distribución viral. El riesgo sistémico asociado a la IA generativa aumenta proporcionalmente a su facilidad de uso y accesibilidad global.
Otro aspecto relevante vinculado a la IA generativa es la reutilización de datos disponibles públicamente. Fotografías compartidas en redes sociales pueden ser utilizadas para entrenar sistemas de IA generativa o para crear nuevas representaciones sintéticas mediante IA generativa.
Aunque una imagen original haya sido publicada voluntariamente, su reutilización por parte de sistemas de IA generativa para generar contenido falso no implica automáticamente un consentimiento válido. Este uso secundario de datos por parte de la IA generativa plantea interrogantes sobre los límites del consentimiento en la era digital y sobre la responsabilidad de quienes desarrollan y explotan tecnologías de IA generativa.
Deepfakes: El mayor riesgo de la IA generativa
El término “deepfake” se ha convertido en sinónimo de manipulación digital avanzada impulsada por IA generativa. Se refiere a contenidos audiovisuales creados o alterados mediante IA generativa que aparentan ser auténticos, pero en realidad han sido producidos con tecnología de IA generativa. Aunque la IA generativa puede tener aplicaciones legítimas en el cine, la publicidad o la recreación histórica, el uso indebido de la IA generativa plantea riesgos significativos.
Uno de los usos más dañinos de los deepfakes creados con IA generativa es la producción de imágenes íntimas falsas sin consentimiento. Este fenómeno, potenciado por la accesibilidad de la IA generativa, afecta desproporcionadamente a mujeres y figuras públicas, aunque cualquier persona puede convertirse en víctima de la IA generativa mal utilizada. El impacto psicológico de descubrir que circula una imagen íntima falsa creada con IA generativa puede ser devastador, incluso si posteriormente se demuestra que fue fabricada con IA generativa.
Además del ámbito íntimo, la IA generativa permite que los deepfakes se utilicen para manipulación política y desinformación. La capacidad de la IA generativa para fabricar imágenes de líderes o figuras públicas en situaciones falsas amenaza la confianza en el debate democrático. Cuando la IA generativa hace difícil distinguir entre lo real y lo artificial, se debilita uno de los pilares fundamentales de una sociedad informada.
El riesgo asociado a la IA generativa no se limita a la reputación. Los deepfakes creados con IA generativa también pueden facilitar fraudes financieros y suplantaciones de identidad. Combinada con otras técnicas, la IA generativa puede utilizarse para crear perfiles falsos convincentes, engañar a usuarios o incluso intentar vulnerar sistemas de verificación biométrica mediante contenido sintético generado por IA generativa.
Marco legal: ¿Qué dice la normativa actual sobre IA y privacidad?
A pesar de la novedad tecnológica asociada a la IA generativa, las autoridades han subrayado que el marco legal existente ya ofrece herramientas para abordar los riesgos derivados de la IA generativa. En Europa, el Reglamento General de Protección de Datos establece que cualquier tratamiento de datos personales, incluido el que pueda derivarse del uso de IA generativa, debe basarse en una base jurídica válida, como el consentimiento explícito. Si una imagen creada mediante IA generativa permite identificar a una persona, su generación y difusión a través de sistemas de IA generativa pueden constituir un tratamiento sujeto a esta normativa.
El reglamento también impone el principio de responsabilidad proactiva, que resulta plenamente aplicable a la IA generativa. Las organizaciones que desarrollan o utilizan IA generativa deben demostrar que han adoptado medidas adecuadas para proteger los datos desde el diseño del sistema de IA generativa. Esto implica realizar evaluaciones de impacto cuando el uso de IA generativa pueda suponer un alto riesgo para los derechos y libertades de las personas.
Por su parte, la Digital Services Act establece obligaciones específicas para las plataformas digitales que integran herramientas de IA generativa, incluyendo la retirada rápida de contenido ilegal generado mediante IA generativa y la mitigación de riesgos sistémicos asociados a la IA generativa. Las imágenes creadas con IA generativa que vulneren derechos pueden entrar en esta categoría, lo que obliga a las plataformas que ofrecen servicios basados en IA generativa a actuar con diligencia.
Además, la AI Act introduce un enfoque basado en el riesgo para regular sistemas de inteligencia artificial, incluida la IA generativa. Aunque la IA generativa no está prohibida en sí misma, la normativa impone requisitos de transparencia y obligaciones adicionales cuando la IA generativa pueda afectar significativamente a las personas, reforzando así el control jurídico sobre el desarrollo y despliegue de la IA generativa.
Protección especial para menores y grupos vulnerables
Uno de los aspectos más sensibles señalados por los reguladores en relación con la IA generativa es la protección de menores frente a los riesgos derivados de la IA generativa. La creación de imágenes sintéticas mediante IA generativa que representen a niños en contextos íntimos o dañinos puede constituir un delito grave.
Incluso cuando no exista una fotografía real original, la capacidad de la IA generativa para producir representaciones verosímiles puede generar consecuencias legales y psicológicas profundas. La facilidad con la que la IA generativa puede recrear rostros y escenas incrementa la preocupación de las autoridades sobre el uso indebido de la IA generativa en perjuicio de menores.
Los menores no siempre comprenden el alcance de la exposición digital en un entorno dominado por la IA generativa. Una fotografía compartida inocentemente puede convertirse en la base para una manipulación posterior realizada con IA generativa. Las autoridades insisten en que los desarrolladores de IA generativa deben incorporar salvaguardas técnicas específicas dentro de los propios sistemas de IA generativa para evitar este tipo de abusos y limitar la generación de contenido perjudicial mediante IA generativa.
Otros grupos vulnerables, como víctimas de violencia doméstica o personas en situaciones de riesgo, también pueden verse afectados de manera desproporcionada por el mal uso de la IA generativa. La difusión de imágenes falsas creadas con IA generativa puede utilizarse como herramienta de intimidación, acoso o chantaje, amplificando situaciones de vulnerabilidad preexistentes a través del alcance masivo que permite la IA generativa.
¿Qué exigen los reguladores a las empresas de inteligencia artificial?
Las autoridades han enfatizado la necesidad de integrar la privacidad desde el diseño en todo desarrollo de IA generativa. Esto significa que los sistemas de IA generativa deben crearse teniendo en cuenta los riesgos potenciales asociados a la IA generativa desde su fase inicial. No basta con reaccionar ante escándalos vinculados a la IA generativa; es necesario anticiparse a los posibles abusos derivados del uso de la IA generativa.
También se exige transparencia en el uso de IA generativa. Los usuarios deben saber cuándo están interactuando con contenido producido por IA generativa. Un etiquetado claro del contenido generado por IA generativa puede ayudar a reducir la desinformación y fortalecer la confianza en entornos donde la IA generativa es cada vez más común.
Asimismo, las empresas que desarrollan o integran IA generativa deben implementar mecanismos ágiles para la retirada de contenido dañino creado con IA generativa. La rapidez en la respuesta ante abusos relacionados con la IA generativa es fundamental para minimizar el impacto en las víctimas. Un sistema lento o ineficaz frente a problemas derivados de la IA generativa puede agravar significativamente el daño.
El desafío ético: Identidad digital en la era de la IA
La identidad digital se ha convertido en una extensión de la identidad personal en un entorno marcado por la IA generativa. La posibilidad de que terceros utilicen IA generativa para crear representaciones falsas plantea un dilema ético profundo vinculado directamente al uso de la IA generativa. Esta tecnología, especialmente en su vertiente de IA generativa, desafía la noción tradicional de control sobre la propia imagen y sobre cómo la IA generativa puede reconstruirla, alterarla o reinventarla sin consentimiento.
La erosión de la confianza es otro problema central asociado a la IA generativa. Si las imágenes creadas mediante IA generativa pueden falsificarse con facilidad, la sociedad puede volverse escéptica incluso ante pruebas visuales auténticas en una era dominada por la IA generativa. Este fenómeno, conocido como “dividendo del mentiroso”, se ve amplificado por la IA generativa, ya que permite que personas acusadas de conductas reales aleguen que el material es producto de la IA generativa y, por tanto, falso.
La ética tecnológica exige un equilibrio entre innovación y responsabilidad en el desarrollo de la IA generativa. No se trata de frenar el progreso de la IA generativa, sino de orientarlo hacia el respeto de los derechos humanos y hacia un uso responsable de la IA generativa que no comprometa la dignidad ni la confianza pública.
En conclusión, el debate sobre la privacidad en la era de la IA generativa apenas comienza, y con la creciente sofisticación de los modelos generativos, los desafíos asociados a la IA generativa seguirán evolucionando. La detección de contenido sintético generado por IA generativa será una carrera constante entre quienes crean estas imágenes y quienes buscan verificarlas.
A pesar de la velocidad del avance tecnológico, la dirección es clara: la protección de datos personales y la dignidad humana deben ocupar un lugar central en cualquier desarrollo de IA generativa, y la cooperación internacional será esencial para garantizar estándares coherentes y responsables en el uso de IA generativa.
En última instancia, la cuestión no es si la IA generativa seguirá avanzando, sino bajo qué condiciones lo hará. Si se prioriza la responsabilidad y el respeto por los derechos fundamentales, la IA generativa puede convertirse en una herramienta transformadora y positiva. Por el contrario, la falta de límites claros en el uso de IA generativa aumenta el riesgo para la privacidad y la confianza pública.
La advertencia conjunta de las autoridades marca un hito que representa un llamado a la acción para gobiernos, empresas y ciudadanos. En la era de los deepfakes y las imágenes generadas por IA generativa, proteger la privacidad no es opcional: es una necesidad urgente para preservar la integridad de nuestra identidad digital y la confianza en el entorno tecnológico global.
Para garantizar un enfoque seguro y responsable de la IA generativa, ITD Consulting ofrece soluciones especializadas en gestión de riesgos tecnológicos y cumplimiento de privacidad. Contáctanos escribiendo a [email protected] y descubre cómo proteger tu organización frente a los desafíos de la IA generativa.
ES 
EN