¿Renunciamos a pensar? Los riesgos de la Inteligencia Artificial que enfrenta a la sociedad
Por Matías Nahón, consultor especializado en temas de fraude digital y autor del libro “Inteligencia Artificial. El poder invisible”. Estamos atravesando una era donde la realidad puede ser falsificada con un realismo nunca visto. Lo más inusual es que cualquiera puede hacer un video falso con un celular utilizando herramientas disponibles para poder clonar la voz y copiar la imagen. Estamos viendo que las redes no sólo amplifican las discusiones que atraviesan los debates públicos, sino que también fabrican falsedades. Es inevitable preguntarnos hacia dónde va este modelo, si se encuentra en plena expansión o si en algún momento pueda reconfigurarse.
En las empresas las tendencias indican que más del 70% de los profesionales utilizan herramientas de IA para la validación de conceptos y la resolución de desafíos complejos lo cual fortalece su eficacia y su uso corporativo. Sabemos que esto es así porque la IA puede analizar rápidamente enormes contenidos de datos claves para lograr, por ejemplo, segmentar audiencias y mejorar las ventas logrando canales hiperpersonalizados donde a través de la tecnología se puede ajustar la búsqueda de contenido y redactar los mensajes para lograr una comunicación eficaz con los potenciales clientes.
A medida que la capacidad de procesamiento sigue creciendo, los algoritmos se van refinando, lo cual es probable que estemos solo al comienzo de una nueva fase en la evolución de la IA.
Los llamados “agentes” fueron entrenados para que pudieran ser independientes y resolvieran cuestiones diarias sin tener que estarles encima, pero dicha autonomía está logrando una potencialidad en niveles inimaginables. A su vez reproducen los modelos de la sociedad y los sesgos históricos que forman una parte inextricable desde el comienzo de los tiempos.
Estas cuestiones como la ética, los sesgos en los modelos y la posibilidad de que la IA alcance niveles de autonomía no previstos siguen siendo temas de debate en la comunidad científica y tecnológica.
La automatización está desplazando empleos en múltiples sectores y los sesgos en los algoritmos comienzan a evidenciarse como un problema serio, y la posibilidad de que la IA adquiriera un nivel de autonomía no previsto despertó debates en la comunidad científica y filosófica. A medida que sigamos alimentando a las máquinas en lugar de ser programadas con reglas fijas (aquello que empezó a tomar fuerza en los años 90) los modelos no solo serán capaces de analizar datos, sino detectar patrones y mejorar su desempeño con la experiencia.
En el presente, la IA no solo está en el centro del desarrollo tecnológico, sino también en el debate global sobre su regulación, sus límites y sus riesgos. La historia de la IA es la historia de una búsqueda constante por replicar —y tal vez algún día superar— la inteligencia humana. Sin embargo, lo que ha quedado claro en este recorrido es que los avances han dependido tanto del poder computacional como de la creatividad y el ingenio de quienes han impulsado su desarrollo.
Y en ese punto, la tecnología deja de ser neutral y se convierte en árbitro de lo que es legítimo. ¿Quién define qué patrón es sospechoso? ¿Qué comportamientos son marcados como riesgosos? ¿Qué transacciones se vuelven sujetos de sospecha automática? Las respuestas no las da la máquina: las da el conjunto de datos con que fue entrenada, los sesgos que esos datos arrastran, las lógicas de negocio que priorizan ciertas eficiencias por sobre otras. Así, un sistema diseñado para prevenir puede terminar discriminando, excluyendo, castigando a perfiles que no se ajustan al molde estadístico dominante. Y cuando eso ocurre —cuando alguien es bloqueado de una cuenta, marcado como irregular, excluido de un crédito, silenciado por un filtro— la empresa no tiene que dar muchas explicaciones: basta con decir que el sistema lo detectó. Esa es la forma más insidiosa del poder automático: aquella que actúa en nombre de la prevención, pero lo hace sin rostro, sin criterio, sin apelación posible. Una forma de vigilancia sin vigilancia, donde la lógica de la sospecha se vuelve estructura de gobierno empresarial.
Tal vez el mayor peligro es que no esté claro qué mundo presuponemos cuando aceptamos que un modelo funcione así. Lo que está en juego no es solo técnico ni financiero: es el modo en que decidimos organizar nuestra vida común, nuestro trabajo, nuestros criterios de verdad, nuestros umbrales de sospecha. La IA automatiza lógicas, redefine lo que se considera normal, confiable, eficiente. Y si dejamos que esas lógicas operen sin discusión, amparadas en la opacidad de un cálculo supuestamente objetivo, entonces habremos vaciado de contenido las palabras con las que solíamos oponernos al abuso: responsabilidad, deliberación, justicia, criterio.
Que un sistema pueda detectar un fraude no lo convierte en justo. Que pueda predecir una acción no lo hace sabio. Que pueda ejecutar una decisión no lo vuelve ético. Es en esa distancia —entre el poder de hacer y el derecho a decidir— dónde se juega el dilema real. Y es ahí donde las empresas, las instituciones, los responsables de diseñar y aplicar estas tecnologías tienen la oportunidad —y la obligación— de no reducir la inteligencia a la predicción, ni la ética al cumplimiento estadístico. Porque si lo hacen, si confunden funcionamiento con legitimidad, si creen que el cálculo puede reemplazar al juicio, entonces el futuro no será una amenaza lejana, sino un presente continuo donde el riesgo ya no se verá como tal, sino como norma. Y en ese mundo, el mayor fraude no será el que cometan los otros, sino el que nos hagamos a nosotros mismos al renunciar a pensar.
Lo cierto es que los riesgos de la IA ya no son una cuestión teórica, sino una realidad que enfrenta la sociedad en el presente. Desde sesgos algorítmicos que perpetúan desigualdades hasta sistemas que manipulan la información para generar impacto emocional y decisiones automatizadas que afectan la vida de millones de personas sin una supervisión clara, la IA está redefiniendo las reglas del juego en múltiples niveles. El desafío no es solo desarrollar mejores algoritmos, sino garantizar que su uso sea responsable, equitativo y alineado con principios que protejan a las personas en lugar de perjudicarlas.
Mientras la IA siga avanzando, el debate sobre sus riesgos no puede quedar relegado a los círculos técnicos, sino que debe formar parte de una discusión más amplia sobre el mundo en el que queremos vivir y el papel que estamos dispuestos a darle a las máquinas en nuestra sociedad.
Como dice el poeta Ricardo Zelarayán “La palabra misterio ya no explica nada. hay que aplastarla como se aplasta una pulga, entre los dos pulgares”. La especie humana está perdiendo el misterio donde todo busca ser sabido y procesado por un agente de IA que recibió un modo de percibir.