Mi Comuna Dos Periódico Comunitario
Imagina que una periodista de investigación publica un reportaje sobre corrupción. En represalia, los aludidos delincuentes, utilizan herramientas de inteligencia artificial generativa para crear un video pornográfico con su rostro y lo suben a las redes sociales a través de cuentas falsas. El video se viraliza en cuestión de minutos, dañando su reputación profesional y provocando que ella se retire de las redes sociales para proteger su salud mental. Aunque es un caso hipotético de abuso, también es una realidad que le sucede a cientos de mujeres y niñas que navegan en el mundo digital.
El caso que expusimos anteriormente se conoce como deepfake o ultrafalsos que son imágenes, videos o audios que son editados o generados utilizando herramientas de inteligencia artificial, y que pueden mostrar personas reales o inexistentes.
La violencia contra las mujeres no solo ocurre en las calles, también sucede en el mundo digital. Según la empresa de investigación Sensity AI se estima que entre el 90% y el 95% de todos los videos deepfakes son pornografía no consensuada, y alrededor del 90% de ellos presentan mujeres.
La violencia digital de género no es un concepto abstracto. Según Ányela Vanegas, abogada y cofundadora de la Corporación Ser Raíz, estas agresiones son aquellas que le generan daño a una mujer y que se agravan por el alcance y la inmediatez de los medios digitales. No se trata de un mundo aparte: «El mundo digital es una extensión del mundo real… las afectaciones son en el mundo real», enfatiza, señalando impactos profundos en la salud mental, la integridad y la reputación de las víctimas.
Además de los deepfakes sexuales se conocen otras formas comunes de violencia digital contra las mujeres, entre ellas:
Doxing:
El doxeo se define como la revelación, publicación o difusión de información personal y privada de una persona sin su consentimiento en el mundo digital. Esta práctica es una forma de violencia facilitada por la tecnología que se utiliza como un arma para silenciar, avergonzar e intimidar a las víctimas, principalmente mujeres.
Grooming:
Se define como una práctica en la que una persona adulta construye relaciones digitales con menores de edad. Esta conducta tiene como objetivo principal establecer un vínculo de confianza con el menor para posteriormente conducirlo hacia el abuso sexual o la trata de personas.
Ciberacoso:
También conocido como ciberstalkeo o hostigamiento digital se define como el seguimiento obsesivo, repetitivo y no deseado de una persona a través de canales digitales como redes sociales, correos electrónicos o mensajes de texto. Su objetivo principal es generar miedo, ansiedad o angustia en la víctima, y a menudo se utiliza como una herramienta para ejercer control o demostrar poder sobre el cuerpo y la vida de las mujeres.
Difusión no consentida de contenido íntimo:
Se define como la difusión, publicación o distribución de contenido sexual o íntimo sin el consentimiento de la persona afectada, habiendo sido este material obtenido originalmente dentro del marco de una relación sentimental o sexual previa. Expertas en violencias digitales contra las mujeres afirman que para referirse a esta violencia se usa erróneamente el término “pornovenganza”. Este término está mal utilizado porque centra la atención en la motivación del agresor (la venganza) y puede sugerir implícitamente que la víctima cometió un acto previo que justifica la represalia.
La IA como refuerzo del sesgo machista
La inteligencia artificial ha sofisticado estas violencias pues estos sistemas suelen ser conservadores ya que se entrenan con conjuntos de datos que reflejan visiones machistas de la sociedad, según explica Beatriz Busaniche de la Fundación Vía Libre en una entrevista para DW Español. A esto se suma que la industria tecnológica sigue dominada por hombres; de acuerdo con la Fundación Jacarandas, las mujeres representan solo el 15 % de las investigadoras de IA en el mundo, lo que da como resultado la programación de algoritmos con sesgos machistas desde su origen.
Ángela Correa de la Corporación Ser Raíz explica que la IA asume sesgos de género por defecto, como asociar profesiones técnicas solo a hombres, porque muchas de estas herramientas son «desarrolladas por equipos masculinos”, dejando una arquitectura digital que facilita la manipulación de la imagen femenina, donde los algoritmos son usados como arma de suplantaciones o deepfakes, mediante sistemas que, según Ángela, “ni siquiera están diseñadas para funcionar con imágenes de hombres».
Las herramientas de IA permiten la amplificación de contenido hecho por comunidades en línea misóginas conocidas como la «machosfera» mediante ajustes algorítmicos que priorizan el contenido extremo para maximizar la interacción. Esto facilita que ideas tóxicas se viralicen y den forma a cómo las nuevas generaciones ven y tratan a las mujeres.
Además, según el informe de la Asamblea General de la ONU del 8 de octubre de 2024 la IA generativa permite crear y difundir de manera automática, y a gran escala, contenidos que refuerzan, justifican o normalizan la violencia contra las mujeres. Esto incluye la creación coordinada de campañas de desinformación y discursos de odio que se apoyan en sesgos de género profundamente arraigados.
¿En Colombia hay leyes que protegen contra esas violencias?
Mientras que la tecnología avanza rápidamente, los marcos legales parecen quedar rezagados. Según la Organización Mundial de la Salud, menos del 40% de los países del mundo cuentan con leyes específicas para abordar el acoso en línea.
En Colombia, la normatividad es aún precaria y sin un enfoque de género específico. Aunque existen leyes como la Ley 1273 de 2009 (delitos informáticos) o la Ley 1257 de 2008 (violencia contra las mujeres), estas no se ajustan plenamente a las modalidades de agresión en entornos virtuales.
La Corte Constitucional, mediante sentencias como la T-280 de 2022 y T-787 de 2023, obligó al Congreso a legislar de manera integral sobre la prevención, protección y reparación de la violencia digital.
El proyecto de ley 247 de 2024 fue el intento más reciente de cumplir este mandato. En el Senado de la República se presentó este proyecto que buscaba ir más allá de las penas para los agresores (punitivismo) y así asegurar de forma integral una vida libre de violencias por razón de género en entornos digitales, sin embargo, tras varios debates el proyecto sufrió una serie de modificaciones que le hacían perder su esencia y finalmente fue archivado por no haber sido discutido dentro de los tiempos de la legislatura en el congreso.
Su caída fue celebrada por organizaciones de la sociedad civil como la entidad que lleva más de 20 años trabajando en el cruce de tecnología, derechos humanos y justicia social. Estas organizaciones advirtieron que el texto final se había «deteriorado». Las críticas señalaban que eliminó el enfoque de género, permitía la censura de denuncias legítimas como el escrache y no contemplaba amenazas modernas como los deepfakes creados con IA.
La lucha contra la violencia digital no puede quedar solo en manos de las mujeres. Como concluye Ányela Vanegas de la Corporación Ser Raíz, existe un reto enorme como sociedad: «Si no acompañamos a la víctima, la contenemos, la abrazamos incluso en su denuncia y en su demanda… difícilmente vamos a eliminar todos esos imaginarios y estereotipos que han sostenido estas violencias». La verdadera justicia digital comenzará cuando las mujeres puedan habitar la red con la misma dignidad y respeto que exigen en las calles, y cuando el Estado finalmente legisle para las personas, no para los algoritmos.
Por Henrry Valencia Rojas
También puedes leer:
¿A qué riesgos nos enfrentamos con las nuevas relaciones a través de Internet?
