El abuso a las mujeres en la era de la inteligencia artificial y el acoso en línea
Por Oritro Karim / Inter Press Service – A medida que el panorama digital continúa expandiéndose e integrándose en diversos aspectos de la vida cotidiana, los expertos en derechos humanos expresan su preocupación por los riesgos asociados, en particular porque la inteligencia artificial (IA), el anonimato en línea y la ausencia de marcos de supervisión eficaces aumentan las posibilidades de abuso y acoso.
Las mujeres y las niñas se ven afectadas de manera desproporcionada por el abuso digital y se enfrentan a riesgos elevados, ya que casi la mitad de ellas en todo el mundo carecen de protecciones legales eficaces.
Antes de la campaña anual «16 días de activismo contra la violencia de género», cuyo objetivo es aprovechar las plataformas digitales para empoderar a las mujeres y promover la igualdad de género, ONU Mujeres da la voz de alarma sobre la crisis de abuso digital que afecta a las mujeres.
Según sus cifras, aproximadamente una de cada tres mujeres en todo el mundo sufre violencia de género a lo largo de su vida, y entre 16 % y 58 % de las mujeres ha sufrido violencia digital.
«Lo que comienza en internet no se queda en internet», afirmó la directora ejecutiva de ONU Mujeres, Sima Bahous.
«El abuso digital se extiende a la vida real, sembrando el miedo, silenciando voces y, en los peores casos, conduciendo a la violencia física y al feminicidio», denunció.
Bahous añadió que «las leyes deben evolucionar con la tecnología para garantizar que la justicia proteja a las mujeres tanto en Internet como fuera de ella. Las débiles protecciones legales dejan a millones de mujeres y niñas en una situación vulnerable, mientras que los autores actúan con impunidad».
«Esto es inaceptable. A través de nuestra campaña 16 Días de Activismo, ONU Mujeres hace un llamamiento a favor de un mundo en el que la tecnología sirva a la igualdad, no al daño», dijo.
Esos 16 días de activismo van desde el 25 de noviembre, cuando se celebra el Día Internacional de la Eliminación de la Violencia contra las Mujeres, en que arrancan 16 días de activismo contra la violencia de género, que concluye el 10 de diciembre, cuando cada años se celebra el Día de los Derechos Humanos.
En los últimos años, el acoso en línea se ha vuelto cada vez más frecuente, impulsado por el auge de plataformas como Instagram, X (antes Twitter), TikTok, Facebook y otras.
El uso de herramientas de inteligencia artificial generativa también ha contribuido al aumento del acoso cibernético, el intercambio de imágenes no consentido, los deepfakes (ultrafalsos) y la desinformación destinados a humillar e intimidar a las mujeres.
Según cifras del Banco Mundial, menos de 40 % de los países del mundo cuentan con marcos jurídicos adecuados para proteger a las mujeres del acoso en línea, lo que deja a alrededor de 44 % de las mujeres y niñas —aproximadamente 1800 millones— sin protección jurídica contra el abuso digital.
El rápido avance de la IA generativa en los últimos años ha agilizado el proceso de abuso contra las mujeres basado en imágenes, con plataformas fáciles de usar que permiten a los abusadores crear imágenes y vídeos deepfake muy realistas, que luego se comparten en las redes sociales y en sitios pornográficos.
Los ultrafalsos generados por IA pueden replicarse múltiples veces y almacenarse y compartirse en dispositivos privados, lo que dificulta su supervisión y eliminación. La rendición de cuentas sigue siendo un problema importante debido a la falta de protecciones y moderación adecuadas para garantizar un uso seguro y consensuado.
Las nuevas vulnerabilidades que emergen para las mujeres del mundo digital fueron analizados durante el panel “la manósfera: comprender y combatir la misoginia en línea”. La manósfera define el entramado de sitios digitales y foros en línea que promueven la masculinidad, la hostilidad hacia las mujeres o la misoginia, además de una radical oposición al feminismo.
Según ONU Mujeres, el acoso sexual basado en imágenes ha aumentado en los últimos años, y las alumnas se enfrentan a un aumento de las tasas de imágenes falsas de ellas mismas desnudas publicadas en las redes sociales, mientras que las mujeres líderes empresariales son objeto de imágenes deepfake específicas y campañas de acoso coordinadas.
«Existe un refuerzo masivo entre la explosión de la tecnología de IA y la misoginia extrema y tóxica de la manoesfera», declaró Laura Bates, activista feminista y autora, a ONU Mujeres. «Las herramientas de IA permiten una mayor difusión del contenido de la manoesfera, utilizando ajustes algorítmicos que dan prioridad al contenido cada vez más extremo para maximizar la participación», añadió.
«En parte, se trata del problema fundamental de la misoginia: es una cuestión abrumadoramente relacionada con el género, y lo que estamos viendo es una manifestación digital de una realidad más amplia fuera de Internet: los hombres se ceban en las mujeres con violencia y abusos de género», añadió Bates.
La violencia digital puede adoptar muchas formas, como mensajes inapropiados, actos de abuso y control por parte de parejas íntimas y amenazas anónimas, y afecta a mujeres de todos los ámbitos de la vida.
Si bien las mujeres y las niñas de zonas rurales o con bajos ingresos se ven afectadas de manera desproporcionada por la violencia digital, las mujeres y las niñas de casi todos los contextos pueden ser vulnerables a su impacto.
«El abuso en línea puede socavar los derechos sexuales y reproductivos de las mujeres y tiene un impacto en la vida real», afirmó Anna Jeffreys, asesora de medios de comunicación y comunicaciones de crisis del Fondo de Población de las Naciones Unidas (Unfpa).
La especialista añadió: «Puede utilizarse para controlar a las parejas, restringir su toma de decisiones o crear miedo y vergüenza que les impida buscar ayuda, anticonceptivos, información o atención».
«Los jóvenes que sufren acoso o extorsión en línea suelen evitar por completo los servicios de salud. En casos extremos, puede afectar a la salud mental, al progreso profesional e incluso poner en peligro la vida», dijo Jeffreys a IPS.
Según ONU Mujeres, las mujeres jóvenes, las periodistas, las políticas, las activistas y las defensoras de los derechos humanos son objeto habitual de insultos sexistas, racistas u homófobos, mientras que las personas migrantes, discapacitadas y LGBTI+ se enfrentan a la misoginia combinada con otras formas de discriminación.
«Cuando te alejas de tus agresores, te sientes más o menos segura, pero la violencia digital te sigue a todas partes», afirmó Ljubica Fuentes, abogada de derechos humanos y fundadora de Ciudadanas del Mundo, una organización que promueve la educación libre de violencia de género en todos los sectores educativos.
«Siempre tienes que estar preparada a 120 % para expresar tu opinión en Internet. Si eres feminista, si eres activista, no tienes derecho a equivocarte. Ni siquiera se te permite tener un pasado», añadió.
Estudios recientes de ONU Mujeres muestran que la violencia digital, asistida por tecnología basada en inteligencia artificial, se está expandiendo rápidamente tanto en escala como en sofisticación, lo que tiene consecuencias en el mundo real que impregnan por completo las plataformas digitales.
La violencia digital se ha asociado cada vez más con el aumento de los índices de extremismo violento, ya que los abusos silencian a las mujeres y las niñas en la política y los medios de comunicación. Además, se asocia con el aumento de los índices de feminicidios en contextos en los que la tecnología se utiliza para acosar o coaccionar.
En Filipinas, 83 % de las sobrevivientes de abusos en línea denunciaron daños emocionales, 63 % sufrieron agresiones sexuales y 45 % sufrieron daños físicos. En Pakistán, el acoso en línea se ha relacionado con el feminicidio, el suicidio, la violencia física, la pérdida del empleo y el silenciamiento de las mujeres y las niñas.
En los Estados árabes, 60 % de las mujeres usuarias de Internet han estado expuestas a la violencia en línea, mientras que en África, 46 % de las mujeres parlamentarias han sufrido ataques en línea.
En América Latina y el Caribe, 80 % de las mujeres que participan en la vida pública han restringido su presencia en línea por temor a sufrir abusos.
ONU Mujeres insta a reforzar la cooperación mundial para garantizar que las plataformas digitales y los sistemas de inteligencia artificial cumplan las normas de seguridad y ética, pidiendo una mayor financiación para las organizaciones de defensa de los derechos de las mujeres que apoyan a las víctimas de la violencia digital, así como mecanismos de aplicación más estrictos para que los autores rindan cuentas.
«La clave es avanzar hacia la rendición de cuentas y la regulación, creando sistemas en los que las herramientas de inteligencia artificial deban cumplir las normas de seguridad y ética antes de ser puestas a disposición del público, en los que las plataformas sean responsables del contenido que alojan y en los que la responsabilidad de la prevención pase de las víctimas potenciales a quienes crean y se benefician de las tecnologías nocivas», afirmó Bates.
La organización también pide a las empresas tecnológicas que contraten a más mujeres para facilitar la inclusión y una amplia variedad de perspectivas. Se insta asimismo a las empresas tecnológicas a eliminar los contenidos nocivos y a atender las denuncias de abusos de manera oportuna.
ONU Mujeres también destaca la importancia de invertir en medidas de prevención, como la alfabetización digital y la formación en seguridad en línea para mujeres y niñas, así como en iniciativas que desafíen las culturas tóxicas en línea.
Jeffreys explicó a IPS que Unfpa está en primera línea ayudando a las sobrevivientes de la violencia digital de género, colaborando con los gobiernos para revisar y mejorar las leyes y políticas nacionales, al tiempo que trabaja directamente con las comunidades, las escuelas y los equipos de primera línea para fomentar la alfabetización digital, promover prácticas seguras en línea y garantizar que las sobrevivientes puedan acceder a un apoyo confidencial.
«Las plataformas digitales pueden ser herramientas poderosas para ampliar el acceso a la información, la educación y los servicios de salud esenciales, especialmente para los jóvenes. Pero estas herramientas deben ser seguras», afirmó Jeffreys.
Unfpa, aseguró, «colabora con los gobiernos, los educadores y los grupos dirigidos por jóvenes para promover la alfabetización digital y el pensamiento crítico, y pedimos a los gobiernos, los proveedores de tecnología y otras entidades que refuercen las medidas de protección para evitar que los espacios en línea se utilicen para dañar a las mujeres y las niñas».
Esto incluye un diseño de productos más seguro, mejores mecanismos de denuncia y la responsabilidad por los contenidos nocivos. Cuando las plataformas digitales son seguras, pueden contribuir a promover la igualdad de género en lugar de socavarla», concluyó.
