Derechos humanos en los tiempos de la IA: las granjas de bots y el riesgo de la verdad y la transparencia en los procesos electorales
¿Con quiénes discutimos en las redes sociales?
Una granja de bots es una red de dispositivos, programas o secuencias de comandos que operan de forma automática para controlar miles de cuentas falsas. Su objetivo principal es simular actividad humana masiva para manipular la opinión pública, inflar métricas de interacción o difundir contenidos en redes sociales.
Cómo funcionan
Controlan cientos o miles de perfiles digitales de forma coordinada.
Obligan a los sistemas de plataformas como X, Instagram o TikTok a destacar ciertos temas o etiquetas (hashtags).
Hacen creer que una idea o un candidato tiene un apoyo social mucho mayor al real.
Sin lugar a dudas, y como lo venimos sosteniendo en varios artículos, el avance de la IA y los riesgos de los derechos humanos son cada vez más evidentes.
Usos habituales
Política: campañas electorales para instalar relatos o atacar adversarios.
Comercio: compra y venta de seguidores, visualizaciones y «me gusta» para empresas o marcas.
Ya no somos espectadores y nos encontramos ante una verdadera crisis. Y, sin dudas, necesitamos no solo una regulación, sino una alfabetización digital que incluya al menos:
Conocer la infraestructura de las granjas.
Determinar las identidades «sintéticas».
Verificar los modelos que aparecen falsamente en las redes.
Si bien debemos decir que la IA no cambia el voto de la gente, lo cierto es que trabaja y modifica absolutamente la percepción de la sociedad, desde un debate hasta la posición sobre algún conflicto (ej.: hacer una represa). Es decir que la influencia puede llegar a ser tan grande que puede modificar cualquier decisión, no solo de los gobiernos, sino también de la sociedad al momento de emitir su opinión o voto.
Estos modelos no intentan censurar abiertamente, sino a través de fake news, notas falsas o likes inexistentes.
Está probado, además, cómo los sesgos de la IA amplifican cuestiones absolutamente discriminatorias de minorías religiosas, sexo y razas, y son generadores de campañas de odio que pueden provocar en 30 minutos.
Las empresas de redes sociales emplean sistemas de recomendación basados en la interacción de los usuarios con sus plataformas y el tiempo que pasan en ellas, con el objetivo de maximizar los ingresos publicitarios y, obviamente, la política se ha mechado en ellos.
Estas dinámicas pueden conducir a una mayor exposición a la desinformación de dos maneras, y los algoritmos construidos en torno a métricas basadas en la popularidad son vulnerables a la manipulación por parte de los bots sociales.
1.- La IA generativa es muy económica en relación con el costo/beneficio. 2.- Con una excesiva velocidad. 3.- Desconocemos si el debate es con un bot o una persona.
Los derechos humanos nacieron para proteger a los ciudadanos ante los excesos de los Estados y, en este nuevo escenario, nos encontramos en la era de la inteligencia artificial, donde no existe el cinturón de seguridad.
Mientras en Europa ya existe normativa al respecto y Brasil está discutiendo un marco normativo, en Argentina lo vemos como si fuéramos meros espectadores y no protagonistas o víctimas, que es peor.
Hoy, una granja de bots puede ser operada por una sola persona: hasta 5.000 perfiles y con modismos de la región.
¿Quién entrena a los bots para que la IA hoy pueda revisar tu perfil, tu CV, tus pensamientos y tu ideología antes de conseguir un trabajo?
Sin dudas, estamos frente a la más grande vulneración de nuestros derechos humanos y a vivir en un Estado de derecho.
En Argentina no existe autoridad de aplicación de cuestiones relativas a la IA, ni tampoco la obligación de preservar a los menores de edad, la existencia de filtros de belleza o la obligación de destacar que el contenido fue realizado con IA.
La falta de regulación no es neutralidad: es una decisión política que beneficia a unos pocos.
Lo básico que deberíamos reclamar quienes defendemos los DD. HH. y como ciudadanos, básicamente, es:
Transparencia.
Auditoría y responsabilidad de las plataformas.
Alfabetización digital ciudadana.
Protección a las minorías.
Argentina fue un país que estuvo siempre a la vanguardia de la defensa de los DD. HH., con lo cual debemos meternos de lleno en esta nueva etapa, que va a ser decisoria para sostener a nuestra democracia, y empezar a abordarla con seguridad y responsabilidad.
La responsabilidad es del Estado.
Si no lo hace la Nación, pues deberemos las provincias proteger nuestros derechos legalmente.
