El Peligro Oculto de los Deepfakes
- Cómo la Tecnología está siendo utilizada para atacar a los más Vulnerables
- El auge de los deepfakes y sus implicaciones
- La aplicación DeepNude: un ejemplo del uso indebido de la tecnología
- La vulnerabilidad de las poblaciones objetivo
- La responsabilidad de las empresas tecnológicas y los gobiernos
- Ética y responsabilidad en la creación de herramientas de medios generativos
- ¿Hacia dónde nos dirigimos?
Cómo la Tecnología está siendo utilizada para atacar a los más Vulnerables
En los últimos años, la atención en torno a los deepfakes y los medios sintéticos ha crecido considerablemente. Aunque el debate público se ha centrado principalmente en su posible impacto en la política, varios expertos en derechos humanos y ética tecnológica han advertido sobre una amenaza que ha pasado desapercibida: las consecuencias devastadoras para las mujeres y otros colectivos vulnerables que son blanco de esta tecnología sin poder defenderse.
El reciente caso de una aplicación llamada DeepNude, que "desnudaba" fotos de mujeres, representa la materialización de esos temores.
Esta aplicación utilizaba redes generativas antagónicas (GAN, por sus siglas en inglés) para reemplazar la ropa de las mujeres con cuerpos desnudos altamente realistas.
La rápida viralización de la noticia provocó una oleada de críticas, lo que llevó a su creador a cerrarla. Sin embargo, esta aplicación es solo un ejemplo de lo que podría convertirse en una tendencia peligrosa y recurrente.
El auge de los deepfakes y sus implicaciones
Los deepfakes no son un fenómeno nuevo.
El uso de medios manipulados ha existido mucho antes de que la inteligencia artificial (IA) se desarrollara como la conocemos hoy. Sin embargo, la tecnología ha acelerado y expandido la posibilidad de manipular imágenes y videos de manera convincente y a gran escala.
Esta tecnología utiliza redes neuronales para crear videos o imágenes falsificadas que parecen reales. Al aplicar estas herramientas a imágenes de mujeres, como en el caso de DeepNude, se abre la puerta a una nueva forma de abuso sexual y violencia digital que puede ser utilizada para intimidar, humillar o desacreditar a las víctimas.
¿Cómo funciona la tecnología deepfake?
Los deepfakes se crean utilizando un tipo de IA llamada red generativa antagónica (GAN). Esta tecnología funciona con dos modelos que se entrenan entre sí: uno genera imágenes o videos falsos, mientras que el otro intenta distinguir si son reales o falsos.
A través de este proceso, la GAN se vuelve cada vez más eficiente en la creación de falsificaciones extremadamente realistas.
En el caso de DeepNude, el algoritmo fue entrenado con más de 10,000 imágenes de mujeres desnudas, lo que permitió generar cuerpos falsos que reemplazaban la ropa en las fotos que la aplicación procesaba.
Aunque estos cuerpos no representaban los cuerpos reales de las mujeres, su alto grado de realismo tenía el potencial de causar un daño emocional y reputacional significativo.
La aplicación DeepNude: un ejemplo del uso indebido de la tecnología
DeepNude se centraba exclusivamente en mujeres, lo que ilustra cómo la tecnología de deepfake puede ser utilizada de forma desproporcionada contra ellas.
La aplicación solo generaba imágenes de cuerpos femeninos, incluso cuando se le proporcionaban fotos de hombres.
El creador anónimo de la app confirmó que el algoritmo había sido entrenado únicamente con imágenes de mujeres, ya que era más fácil encontrar fotos de cuerpos femeninos desnudos en línea. A pesar de ello, el creador también tenía la intención de desarrollar una versión masculina en el futuro.
El caso de DeepNude confirma los peores temores sobre cómo las herramientas audiovisuales pueden ser utilizadas como armas contra las mujeres.
La creación de imágenes sexualmente explícitas sin el consentimiento de las personas puede llevar a un gran daño emocional y a la destrucción de la reputación de las víctimas.
Además, estas imágenes falsas podrían ser utilizadas para chantaje, acoso y, en el peor de los casos, para silenciar a las mujeres, como ya ha sucedido con anterioridad.
Un caso real de abuso con deepfakes
En 2018, una periodista en India sufrió un ataque similar.
Después de investigar y denunciar casos de corrupción gubernamental, su rostro fue insertado en un video pornográfico falso. El video se volvió viral rápidamente, sometiéndola a una ola de acoso, amenazas de violación y obligándola a retirarse del espacio público durante varios meses.
Este es solo un ejemplo de cómo los deepfakes pueden ser utilizados como herramientas de violencia digital para silenciar voces incómodas o disidentes.
La vulnerabilidad de las poblaciones objetivo
El abuso con deepfakes no solo afecta a las mujeres.
Otros colectivos vulnerables, como minorías étnicas, personas LGBTQ+ y grupos marginados, también corren el riesgo de ser víctimas de esta tecnología.
Por ejemplo, durante la campaña presidencial de Estados Unidos en 2016, operativos rusos crearon perfiles falsos de personas afroamericanas en Facebook para difundir información errónea y exacerbar las tensiones raciales en el país.
La tecnología de deepfake podría usarse de manera similar para crear perfiles falsos, manipular la opinión pública y propagar discursos de odio.
La capacidad de generar imágenes y videos falsos de personas reales puede tener consecuencias peligrosas, incluyendo la desinformación, el acoso y la supresión de voces.
La responsabilidad de las empresas tecnológicas y los gobiernos
La existencia de aplicaciones como DeepNude plantea importantes cuestiones éticas sobre la creación y difusión de herramientas de medios generativos.
Los expertos en derechos humanos y ética tecnológica coinciden en que las empresas y los investigadores que desarrollan estas tecnologías deben invertir en medidas de contrapeso para evitar su uso malintencionado.
La necesidad de contramedidas
Los desarrolladores de tecnologías basadas en IA deben incorporar mecanismos de detección y prevención de abusos en sus aplicaciones.
Esto podría incluir algoritmos de verificación que detecten manipulaciones en imágenes y videos, así como la inclusión de marcas de agua digitales que indiquen si un contenido ha sido alterado.
Asimismo, las empresas de redes sociales y buscadores deben integrar estas contramedidas en sus plataformas para poder identificar y eliminar rápidamente el contenido falso o dañino. Al hacerlo, se reduciría el impacto negativo que los deepfakes pueden tener en las personas afectadas.
La intervención gubernamental
Además de las acciones por parte de las empresas, es crucial que los gobiernos actúen con rapidez para establecer regulaciones que protejan a las personas contra el uso indebido de tecnologías como los deepfakes.
Según Mutale Nkonde, investigadora en el Instituto de Investigación de Datos y Sociedad, los legisladores deben crear mecanismos legales que permitan a las víctimas de estos ataques buscar reparaciones por los daños causados a su reputación.
En algunos países ya se han dado los primeros pasos para legislar en este ámbito. En Estados Unidos, por ejemplo, algunos estados han promulgado leyes que penalizan la creación y distribución de contenido pornográfico falso generado con IA sin el consentimiento de la persona afectada.
Sin embargo, se necesita un enfoque global para abordar esta problemática y proteger a las personas de los peligros de los deepfakes.
Ética y responsabilidad en la creación de herramientas de medios generativos
Los casos como el de DeepNude ponen de manifiesto que la tecnología no es neutral.
Las aplicaciones de deepfake que tienen como único propósito la explotación y el daño a los individuos no pueden considerarse herramientas de "uso dual". Son creaciones destinadas a propósitos malintencionados y deben ser abordadas con la seriedad que merecen.
Es fundamental que los desarrolladores y las empresas reflexionen sobre las implicaciones éticas de sus creaciones. La tecnología de deepfake no es simplemente una innovación técnica; es una herramienta que puede utilizarse para bien o para mal.
Por lo tanto, se debe ejercer una responsabilidad ética en su desarrollo y uso.
¿Hacia dónde nos dirigimos?
La aparición de aplicaciones como DeepNude nos obliga a repensar nuestra relación con la tecnología y las formas en que puede ser utilizada para dañar a las personas. El desafío radica en encontrar un equilibrio entre el avance tecnológico y la protección de los derechos humanos.
Para ello, es esencial que las empresas tecnológicas inviertan en la creación de contramedidas, que los gobiernos actúen rápidamente para regular el uso de tecnologías de medios generativos y que la sociedad en su conjunto continúe señalando y denunciando los abusos. Solo así podremos proteger a las poblaciones más vulnerables de los peligros que representan los deepfakes y otras tecnologías similares.
En conclusión, la lucha contra el abuso de deepfakes es una cuestión compleja que requiere un enfoque multidisciplinario y global.
Las aplicaciones como DeepNude son solo la punta del iceberg de lo que puede llegar a ser una problemática aún mayor si no se toman medidas preventivas y correctivas desde ya.
La ética, la legislación y la responsabilidad social deben ser los pilares que guíen el desarrollo y uso de estas tecnologías para evitar que se conviertan en herramientas de opresión y daño.
Entradas Relacionadas