Respira
Por Thelma Elena Pérez Álvarez
En la segunda parte de esta serie, discutí sobre el sesgo machista y patriarcal que, hasta el momento, se observa en el desarrollo y el uso de contenidos creados por la inteligencia artificial generativa (IAG), los cuales reproducen tanto sesgos sistémicos de lenguaje como texto, imagen y video que generan expresiones de desigualdad, discriminación y violencias contra las mujeres y las niñas, por ejemplo, al reproducir estereotipos de género, raciales e intersecciones entre estos y llevar a cabo otras prácticas, algunas asociadas a la tecnología deepfake.
La tecnología “deep” (profundo) y “fake” (falso) implica el uso de técnicas de aprendizaje profundo para fabricar contenidos engañosos. Hace posible alterar un contenido sin la necesidad de tener una interacción directa con el material original. La manipulación de contenido que permite la tecnología deepfake abarca tanto la sustitución de rostros como de todo el físico, incluidas partes específicas del cuerpo, así como diálogos y audio.
El uso de la tecnología deepfake impacta de manera negativa y específica a las mujeres cuando se utiliza para violar su intimidad a través de la generación de contenidos definidos como “fake porn” o “deep fake porn”, los cuales son un tipo de violencia digital que se ejerce al manipular sin consentimiento imágenes publicadas por usuarias de redes sociodigitales para cargarlas de contenido sexual explícito sin que de origen sean así. De esta manera, la tecnología se convierte en una herramienta que hace posible producir, almacenar, filtrar y difundir contenido íntimo, alterado o falso.
Esta tecnología impacta también de manera negativa a las niñas cuando es utilizada para crear, almacenar y difundir imágenes manipuladas asociadas con el abuso sexual infantil, situación que, además de exponer a las víctimas de un abuso digital sin precedentes, perpetúa el trauma emocional, normaliza la explotación infantil y pone en riesgo la privacidad y la dignidad de las niñas.
La manipulación que permite la tecnología deepfake abarca también diálogos, lo que permite generar contenidos en los que pueden aparecer personas haciendo declaraciones que no hicieron, por medio de llevar a cabo una conversión o clonación de la voz. Esto coopera con la desinformación, la extorsión, engaños y fraudes en línea, donde parte de la población más vulnerable son, por ejemplo, mujeres adultas mayores.
En situaciones como las anteriores, la promesa básica de la IAG sobre expandir las capacidades de las ciudadanías y permitir el empoderamiento personal y colectivo no se cumple, pues se utiliza para perpetuar y profundizar desigualdades y violencias hacia las mujeres, para involucrar a menores en prácticas ultrajantes y acciones fraudulentas.
En función de este horizonte y para garantizar el acceso pleno a la era digital a mujeres y niñas, es preciso considerar reducir la brecha de capacitación para el uso de las tecnologías, por medio del diseño de una política específica de alfabetización mediática e informacional para niñas y mujeres que incluya capacitación y acompañamiento en el desarrollo de competencias digitales para utilizar la información de forma crítica, navegar en línea de forma segura, responsable y, con ello, formalizar su empoderamiento a través del uso de las tecnologías digitales.
Si hasta el momento la IAG ha aprendido a ser machista y patriarcal, es porque personas con este sesgo tienen acceso a ella, saben utilizarla y porque los datos de origen tienen esta impronta sociocultural. Y aquí está una parte nodal del quid de la cuestión, la cual se materializa en años de negación cultural, social, política y económica para que las mujeres accedan a la ciencia y al pensamiento crítico, pero no nos quedemos ahí, porque sabemos que ser mujer no garantiza perspectiva de género o perspectiva feminista.
