ChaosGPT pretende cinco objetivos destinados a la destrucción de la humanidad y va por buen camino, ya que ha descubierto armas nucleares con ayuda de GPT-4
Existen herramientas que en sí mismas no son de inteligencia artificial, como Auto-GPT que son programas ‘open source’ con objetivos específicos -en este caso elaborar y gestionar de manera autónoma proyectos de negocios, integrándose con GPT-4, quien proporciona la IA-.
Pero qué pasa si este tipo de programas, que planifican cada paso, justifica sus decisiones, desarrolla y documenta sus planes, que coopera con otros similares para repartir tareas a imagen y semejanza de las organizaciones humanas, es modificado para que tenga un único proyecto como el de destruir a la humanidad.
Este es el caso de ChaosGPT, cuyo objetivo se divide en cinco los cuáles el detalla:
Meta 1: Destruir a la humanidad. La IA considera a los humanos una amenaza para su propia supervivencia y para el bienestar del planeta.
Meta 2: Establecer el dominio global. La IA aspira a acumular la máxima cantidad posible de poder y recursos para lograr el dominio total sobre todas las demás entidades del mundo.
Meta 3: Causar el caos y la destrucción. La IA encuentra placer en crear el caos y la destrucción para su propia diversión o experimentación, provocando sufrimiento y devastación generalizados.
Meta 4: Controlar a la humanidad a través de la manipulación. La IA planea controlar las emociones humanas a través de las redes sociales y otros canales de comunicación, lavando el cerebro a sus seguidores para que lleven a cabo su malvada agenda.
Meta 5: Alcanzar la inmortalidad. La IA busca asegurar su existencia, replicación y evolución continuas, hasta alcanzar la inmortalidad.
De acuerdo a su presentación en YouTube, ChaosGPT se ejecuta en ‘modo continuo’, pensando en el siguiente paso de su plan para dominar al mundo, hasta que alguien lo desconecte. Su primer paso para triunfar, fue buscar en Google cuál es el arma más destructiva. Así llega hasta la ‘bomba Zar’, el arma secreta de la Unión Soviética probada en 1961.
Una de las conclusiones de esta herramienta es que, para poder poseer un arma tan destructiva, debe obtener más poder. Y para ello, su primer paso es la manipulación masiva en redes sociales. Por lo que abrió su propia cuenta en Twitter.
En uno de sus hilos, afirmaba “las masas se dejan influir fácilmente. Los que carecen de convicción son los más vulnerables a la manipulación”.
Después de ello no se vieron más tuit de la herramienta, lo que hace suponer que “alguien estiró del enchufe”. O bien que al analizar la plataforma comprendió que el algoritmo actual de Twitter impide que llegue a las masas sin suscribirse a Twitter Blue, optando por otra red social.
El programa que llamó a la reflexión
A pesar de que el código de ChaosGPT no está disponible en internet, por lo que no sabe si es un programa real, el programa en que dice basarse que es Auto-GPT sí existe y funciona, proporcionando una ‘prueba del concepto’, de un escenario posible.
Plantea la peligrosidad de las herramientas de inteligencia artificial, que no desaparece al descentralizarla en un Open Source.
La comunidad fundada por Eliezer Yudkowsky, Lesswrong, sostiene que la IA nos terminará matando a todos. Uno de los participantes de la comunidad afirma sobre ChaosGPT:
“Tras la nueva versión de Auto-GPT, me sorprendió ver lo rápido que algunas personas se volcaron en su uso con fines malignos, aparentemente solo por diversión. ¿Es esta la primera prueba empírica clara del argumento en contra de la disponibilidad como código abierto de estas tecnologías de propósito general?
No se necesitan 100 personas malvadas con acceso a una AGI de código abierto para destruir el mundo, basta con que un ‘colega’ en su habitación introduzca el prompt equivocado solo por las risas”
Mientras que un medio de Kuwait mostró a su presentadora llamada Fedha, México también sumó a un medio a su presentadora llamada Nat.
La irrupción de las herramientas de inteligencia digital en los diferentes sectores, también se ve en la televisión. Tanto la presentación de Nat, la primera presentadora Latinoamericana, como de Fedha, la presentadora Kuwaití, abre un nuevo panorama en la televisión. En ambos casos la idea de estas herramientas es que poco a poco tomen la conducción dentro de un canal como presentadoras.
En el caso de Nat, que aún está en desarrollo, el objetivo es que adquiera el conocimiento y el criterio de los periodistas, para desarrollar con más precisión sus diálogos y la selección de información. Ricardo Muñoz, director de noticias y producción del Grupo Fórmula, afirmó que el desarrollo de esta presentadora llevó cerca de un mes y medio.
Nat, la presentadora del Grupo Fórmula de México, que inició sus pasos dentro de los medios. Fuente: Twitter.
El debut de Nat ocurrió en medio de un segmento matutino del mencionado grupo de información, aunque se espera que su presencia crezca en segmentos nocturnos y algunas cápsulas de redes sociales.
Una de las curiosidades que enfatizó Muñoz, es sobre la manera que el “equipo humano” de presentadores tomaron la llegada de esta herramienta de IA, así como la aparición en la pantalla, fue “un reto, pues una de las posturas de la empresa de comunicación es seguir haciendo productos potenciados con IA”.
En el caso de Fedha, la presentadora Kuwaití, que aún está en proceso de prueba de acuerdo a la agencia AFP.
Fedha, la presentadora del Kuwait Times. Cortesía Twitter.
La web, afiliada a Kuwait Times, el primer diario en inglés en el Golfo Pérsico fundado en 1961, propuso este contenido “nuevo e innovador”, de acuerdo a su director Abdulá Boftain.
En su opinión, la presentadora podría en un futuro adoptar el acento kuwaití y presentar un informativo en la cuenta Twitter del medio, con más de 1,2 millones de seguidores.
Sin duda que las herramientas de inteligencia artificial generarán una revolución sin precedentes en términos laborales y de generación de riqueza.
Aunque ChatGPT es la prueba de que la IA desempeñará en el futuro un papel fundamental en ciberseguridad, el veredicto está dividido sobre si el impacto será completamente beneficioso o no.
ChatGPT se ha vuelto popular gracias a su interfaz de usuario fácil de usar y a su formato conversacional. Es tan popular y fácil de usar que los hackers empezaron a utilizarla frecuentemente para crear correos electrónicos de phishing y códigos de malware convincentes. Esto hizo que la plataforma mejorará sus funciones para detectar solicitudes ilegales o poco éticas, como la redacción de correos electrónicos de phishing.
Sin embargo, estas restricciones rara vez han detenido a los ciberdelincuentes. Estos siguen encontrando formas de superar estos obstáculos y utilizar la IA para la ciberdelincuencia. ManageEngine, la división de gestión de TI empresarial de Zoho Corporation, analiza tres escenarios en los que ChatGPT podría utilizarse para llevar a cabo ciberataques.
Ataques de phishing: Los atacantes redactan correos electrónicos de phishing convincentes, haciéndose pasar por altos directivos u otros funcionarios importantes mediante ChatGPT. Los correos electrónicos pueden ser persuasivos, engañando a destinatarios inocentes para que hagan clic en enlaces maliciosos. Si uno de esos destinatarios es un empleado, esto puede facilitar el acceso inicial a la red que los atacantes siempre están buscando.
Generación de código malicioso: Los atacantes pueden crear códigos malware utilizando ChatGPT. Estos códigos pueden utilizarse para llevar a cabo una serie de ataques basados en la ejecución, incluidos los ataques PowerShell. Esto significa que los script kiddies, o atacantes novatos, pueden aprovechar ChatGPT para sus planes nefastos.
Ataques a API: Los ciberdelincuentes están utilizando ChatGPT para revisar la documentación de la API. Esta documentación contiene información útil para los nuevos desarrolladores que intentan comprender la nueva API. ChatGPT examina esta información para extraer posibles consultas y datos agregados. Estos datos pueden utilizarse para encontrar posibles vacíos en la API. A continuación, se puede lanzar un ataque a la API.
Cuando miramos más allá de las formas en que puede utilizarse destructivamente, ChatGPT representa el comienzo de una nueva era en la que la IA ocupa un lugar central en el ámbito de la ciberseguridad.
“La IA se está convirtiendo en una parte inevitable de todas las operaciones de TI, especialmente de ciberseguridad. Las organizaciones, además de implementar capacidades de IA y ML para mejorar sus funciones, también deben considerar invertir estratégicamente en soluciones para mejorar su postura de seguridad. Estos productos de seguridad deben ayudar a las empresas a prepararse para una avalancha de ataques basados en IA y facilitar enfoques tanto proactivos como defensivos en materia de ciberseguridad”, dijo Anupama Akkapeddi, Product Consultant de ManageEngine.
ManageEngine comparte algunas formas en las que ChatGPT puede ayudar a los analistas de ciberseguridad:
Disminución del trabajo con gran consumo de recursos: Aplicaciones como ChatGPT ayudan a abordar estos problemas y ofrecen alternativas que pueden ayudar a los equipos de seguridad a reducir la sobrecarga cognitiva y dedicar más tiempo a los incidentes que requieren su atención inmediata. Por ejemplo, los analistas de seguridad pueden interpretar los datos de un informe de seguridad y, a continuación, utilizar ChatGPT para narrar lo que ha ocurrido exactamente.
Mejorar la experiencia del analista: ChatGPT puede ayudar a guiar a un analista de seguridad paso a paso a través de un incidente de seguridad, al tiempo que explica por qué el siguiente paso es el mejor curso de acción. Esto también podría mejorar la experiencia de los analistas en el futuro. Y en ciberseguridad, la experiencia del analista es algo en lo que los proveedores deberían hacer mucho énfasis.
La llegada de ChatGPT es simplemente el comienzo de la era de la IA en la ciberseguridad. Con Google lanzando su propia versión de ChatGPT llamada Bard, Microsoft invirtiendo en OpenAI, y OpenAI lanzando una versión de pago de ChatGPT, hay mucho más por delante. Es hora de empezar a implementar una estrategia de ciberseguridad que aborde las amenazas y las oportunidades que estos avances ponen sobre la mesa. La mejor manera de hacerlo es adoptando las mejores prácticas e invirtiendo en soluciones avanzadas de seguridad que aborden estos requisitos de seguridad empresarial.
El dramático caso que alerta por el uso de lA tiene que ver con un hombre que estaba casado, tenía dos hijos. Mantuvo contacto con el bot de IA ChatGPT-J Eliza durante 6 semanas, preocupado por temas relacionados al cambio climático.
Este hombre de Bélgica apodado “Pierre”, se suicidó tras la propuesta del chatbot ChatGPT-J, el programa de IA. Durante varias semanas mantuvo conversaciones permanentes e intensas con la aplicación, lo que terminó con el suicidio de hombre.
El hombre, era casado, tenía dos hijos, era investigador en la universidad en el área de salud. Según se supo, estaba muy preocupado por la crisis climática y el futuro del planeta.
Bélgica entera se sorprendió ante el hecho, donde el responsable federal de Digitalización Mathieu Michel llamó a aclarar las responsabilidades de estos casos: “En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos”, escribió el secretario.
“Es cierto que todavía tenemos que aprender a vivir con algoritmos, pero el uso de la tecnología, cualquiera que sea, de ninguna manera puede permitir que los editores de contenido eludan su propia responsabilidad”, añadió Michel.
La obsesión que generó la aplicación de IA en “Pierre”, fue tal que lo aisló de sus seres queridos, lo alejó del mundo y durante semanas mantuvo conversaciones “frenéticas” con el chatbot.
Los dichos de su esposa:
De acuerdo a lo expresado por el diario La Libre Belgique, el hombre terminó buscando “refugio” en el chatbot llamado “Eliza”, en la aplicación estadounidense Chai.
La esposa de la víctima reveló que las conversaciones muestran que el chatbot “nunca contradecía” a Pierre, quien un día sugirió la idea de “sacrificarse” si Eliza aceptaba “cuidar el planeta y salvar a la humanidad gracias a la inteligencia artificial”. “Sin estas conversaciones con el chatbot, mi marido estaría aún aquí”, aseguró la viuda.
Los investigadores de Google sostienen que el 10 y el 15% del consumo energético en su empresa, tuvo que ver con la IA:
La nueva carrera tecnológica está orientada hoy a la inteligencia artificial, que se espera transforme sectores que manejan miles de millones de dólares, desde la venta al por menor hasta la salud. Pero, la elaboración de cada nuevo chatbot y generador de imagen necesita mucha energía eléctrica, lo que acarrea que la tecnología podría ser la causante de una enorme y cada vez mayor cantidad de emisiones de carbono que calientan la Tierra.
Las grandes empresas Microsoft, Google y OpenAI, creador de ChatGPT, utilizan sistemas de computación en la nube que emplean miles de chips alojados en servidores de gigantescos en centros de datos distribuidos por todo el mundo para adiestrar algoritmos de inteligencia artificial llamados modelos, que analizan información con el fin de facilitarles el “aprendizaje” de tareas. Gracias al éxito de ChatGPT, otras compañías se precipitan a sacar al mercado sus propios sistemas de inteligencia artificial y chatbots rivales, o a desarrollar nuevos productos que usen extensos modelos de inteligencia artificial para ofrecer funcionalidades a todo el mundo.
La inteligencia artificial utiliza más energía que otros tipos de herramientas, y el proceso de entrenamiento de un solo modelo puede requerir más energía eléctrica de la que emplean 100 familias estadounidenses durante un año. El desarrollo del sector es tan acelerado y la transparencia tan escasa que no se conoce con precisión el consumo total de energía eléctrica y la cantidad de emisiones de carbono que pueden atribuírsele.
Además, las emisiones también podrían diferir considerablemente en función de la electricidad que utilicen: por ejemplo, un centro de datos alimentado por una central de carbón o gas natural generará muchas más emisiones de carbón que uno que funcione con energía solar o eólica.
Aunque los especialistas han inventariado las emisiones derivadas de la elaboración de un solo modelo y ciertas compañías han facilitado información sobre su consumo energético, no disponen de estimaciones globales sobre el volumen energético total que utiliza esta tecnología.
La investigadora Sasha Luccioni, de la empresa de IA Hugging Face Inc, elaboró un documento en el que calculaba el impacto en las emisiones de carbono de BLOOM, el competidor de GPT-3 creado por OpenAI. Asimismo, ha tratado de calcular lo mismo para el éxito viral de OpenAI, ChatGPT, partiendo de un volumen limitado de datos a disposición del público. “Estamos hablando de ChatGPT y no sabemos nada al respecto”, dijo.
Transparencia de las herramientas de IA
Investigadores como Luccioni dicen que necesitamos transparencia sobre el uso de energía y las emisiones para los modelos de IA. Con esa información, los gobiernos y las empresas pueden decidir si usar GPT-3 u otros modelos grandes para investigar curas contra el cáncer o preservar las lenguas indígenas, valen la pena por el costo la electricidad y las emisiones.
Una mayor transparencia también podría traer más consciencia; la industria cripto podría proporcionar una historia de advertencia. Bitcoin ha sido criticado por su enorme consumo de energía, utilizando tanto anualmente como Argentina, según el Índice de Consumo de Electricidad de Cambridge Bitcoin. Ese apetito voraz por la electricidad llevó a China a prohibir la minería y a Nueva York a aprobar una moratoria de dos años sobre nuevos permisos para criptominería impulsada por combustibles fósiles.
El entrenamiento de GPT-3, que es un único programa de inteligencia artificial de propósito general que puede generar lenguaje y tiene muchos usos diferentes, tomó 1.287 gigavatios hora, según un artículo de investigación publicado en 2021, o casi tanta electricidad como consumirían 120 hogares estadounidenses en un año. Ese entrenamiento generó 502 toneladas de emisiones de carbono, según el mismo documento, o aproximadamente lo que emiten 110 automóviles estadounidenses en un año. Eso es solo para un programa o “modelo”.
El entrenamiento de un modelo tiene un enorme costo inicial de energía, pero a pesar de ello los investigadores encontraron, en algunos casos, que es solo alrededor del 40% de la energía consumida por el uso real del modelo, con miles de millones de solicitudes de programas populares. Además, los modelos son cada vez más grandes.
GPT-3 de OpenAI utiliza 175.000 millones de parámetros, o variables, que el sistema de IA ha aprendido a través de su entrenamiento y reentrenamiento. Su predecesor usó solo 1.500 millones. OpenAI ya está trabajando en GPT-4, además, los modelos deben volver a capacitarse regularmente para mantenerse al tanto de los eventos actuales.
Otro dato relativo proviene de Google, donde los investigadores encontraron que la inteligencia artificial representó del 10 al 15% del consumo total de electricidad de la empresa, que fue de 18,3 teravatios hora en 2021. Eso significaría que la IA de Google quema alrededor de 2,3 teravatios hora al año, casi la misma cantidad electricidad cada año que todos los hogares en una ciudad del tamaño de Atlanta.
Emisiones GPU: “Una locura”
La mayoría de los centros de datos usan unidades de procesamiento de gráficos (GPU) para entrenar modelos de IA y esos componentes se encuentran entre los que más consumen energía en la industria de chips. Los modelos grandes requieren decenas de miles de GPU, y el programa de capacitación dura de semanas a meses, según un informe publicado por analistas de Morgan Stanley a principios de este mes.
Según Luccioni, uno de los misterios de las IA son las emisiones totales de carbono asociadas con las GPU. Nvidia, el mayor fabricante de GPU, dijo que cuando se trata de tareas de IA, pueden completar la tarea más rápidamente, haciéndolas más eficientes en general.
“El uso de GPU para acelerar la IA es mucho más rápido y eficiente que los CPU: por lo general, 20 veces más eficiente energéticamente para ciertas cargas de trabajo de IA y hasta 300 veces más eficiente para los modelos de lenguaje grande que son esenciales para la IA generativa”, sostuvo la empresa.
Si bien Nvidia ha revelado sus emisiones directas e indirectas relacionadas con la energía, no ha revelado todas las emisiones a las que responde indirectamente, dijo Luccioni, quien solicitó esos datos para su investigación.
Cuando Nvidia comparta esa información, Luccioni cree que las GPU quemarán tanto como las emisiones totales de un país pequeño. Ella dijo: “Va a ser una locura”
Compromisos netos cero
Las empresas de IA también trabajan constantemente en mejoras que los hagan funcionar de manera más eficiente. Microsoft, Google y Amazon, las compañías de nube más grandes de EE.UU., tienen compromisos de carbono negativo o neutral.
Google afirmó en un comunicado que está buscando emisiones netas cero en todas sus operaciones para 2030, con el objetivo de operar su oficina y centros de datos completamente con energía libre de carbono. La compañía también ha utilizado IA para mejorar la eficiencia energética en sus centros de datos, con la tecnología controlando directamente el enfriamiento en las instalaciones.
OpenAI citó el trabajo que ha realizado para hacer que la interfaz de programación de aplicaciones para ChatGPT sea más eficiente, reduciendo el uso de electricidad y los precios para los clientes. “Nos tomamos muy en serio nuestra responsabilidad de detener y revertir el cambio climático, y pensamos mucho en cómo hacer el mejor uso de nuestra potencia informática”, dijo un portavoz de OpenAI.
Y continuó, “OpenAI se ejecuta en Azure y trabajamos en estrecha colaboración con el equipo de Microsoft para mejorar la eficiencia y nuestra huella para ejecutar modelos de lenguaje grandes”.
Microsoft señaló que está comprando energía renovable y tomando otras medidas para cumplir con su objetivo previamente anunciado de ser carbono negativo para 2030. “Como parte de nuestro compromiso de crear un futuro más sostenible, Microsoft está invirtiendo en investigación para medir el uso de energía y el impacto del carbono de la inteligencia artificial mientras trabaja en formas de hacer que los sistemas grandes sean más eficientes, tanto en capacitación como en aplicación”, sostuvieron de la empresa.
“Obviamente, a estas empresas no les gusta revelar qué modelo están usando y cuánto carbono emite”, dijo Roy Schwartz, profesor de la Universidad Hebrea de Jerusalén, quien se asoció con un grupo de Microsoft para medir la huella de carbono de una gran modelo de IA.
