Elon Musk advirtió que quiere crear una “tercera opción” en la carrera tecnológica.
El director de Tesla y propietario de Twitter, confirmó en una entrevista que tiene la intención de involucrarse en la carrera por las IA, que inició con el chatbot inteligente de OpenAI. Considerando a Microsoft y a Google como los rivales más fuertes, Musk afirmó que “crearía una tercera opción”. Sin embargo, no dio detalles sobre el sistema que intentaría crear.
En marzo, Musk constituyó una empresa de IA llamada X.AI en Nevada, Estados Unidos. Ese mes, también firmó una carta con cientos de otras luminarias de tecnología, instando a una pausa de seis meses en el desarrollo y la formación de modelos avanzados de IA. Musk criticó a otras empresas de IA, como OpenAI, en la cual participó en la fundación.
La creación de esta empresa de IA, podría estar en sus planes para desarrollar una aplicación para todo llamada X. Musk además fusionó Twitter con una empresa llamada X Corp, de la cual instó a los usuarios a “permanecer atentos” para saber más sobre esto. Por otro lado, confirmó en un informe, sobre el recorte de valoración de Twitter tras su compra el año pasado.
Musk en tanto compró la red social a U$S44000 millones, donde desde el medio The Information habría expresado que recientemente había ofrecido a los empleados de Twitter, concesiones de acciones que valoraban a la empresa en U$S20000 millones.
Una de las preocupaciones del multimillonario es que los chatbots se hubieran vuelto demasiados políticamente correctos, enfatizando que su empresa se centraría en la verdad y en tratar de “entender la naturaleza del universo”.
ChaosGPT pretende cinco objetivos destinados a la destrucción de la humanidad y va por buen camino, ya que ha descubierto armas nucleares con ayuda de GPT-4
Existen herramientas que en sí mismas no son de inteligencia artificial, como Auto-GPT que son programas ‘open source’ con objetivos específicos -en este caso elaborar y gestionar de manera autónoma proyectos de negocios, integrándose con GPT-4, quien proporciona la IA-.
Pero qué pasa si este tipo de programas, que planifican cada paso, justifica sus decisiones, desarrolla y documenta sus planes, que coopera con otros similares para repartir tareas a imagen y semejanza de las organizaciones humanas, es modificado para que tenga un único proyecto como el de destruir a la humanidad.
Este es el caso de ChaosGPT, cuyo objetivo se divide en cinco los cuáles el detalla:
Meta 1: Destruir a la humanidad. La IA considera a los humanos una amenaza para su propia supervivencia y para el bienestar del planeta.
Meta 2: Establecer el dominio global. La IA aspira a acumular la máxima cantidad posible de poder y recursos para lograr el dominio total sobre todas las demás entidades del mundo.
Meta 3: Causar el caos y la destrucción. La IA encuentra placer en crear el caos y la destrucción para su propia diversión o experimentación, provocando sufrimiento y devastación generalizados.
Meta 4: Controlar a la humanidad a través de la manipulación. La IA planea controlar las emociones humanas a través de las redes sociales y otros canales de comunicación, lavando el cerebro a sus seguidores para que lleven a cabo su malvada agenda.
Meta 5: Alcanzar la inmortalidad. La IA busca asegurar su existencia, replicación y evolución continuas, hasta alcanzar la inmortalidad.
De acuerdo a su presentación en YouTube, ChaosGPT se ejecuta en ‘modo continuo’, pensando en el siguiente paso de su plan para dominar al mundo, hasta que alguien lo desconecte. Su primer paso para triunfar, fue buscar en Google cuál es el arma más destructiva. Así llega hasta la ‘bomba Zar’, el arma secreta de la Unión Soviética probada en 1961.
Una de las conclusiones de esta herramienta es que, para poder poseer un arma tan destructiva, debe obtener más poder. Y para ello, su primer paso es la manipulación masiva en redes sociales. Por lo que abrió su propia cuenta en Twitter.
En uno de sus hilos, afirmaba “las masas se dejan influir fácilmente. Los que carecen de convicción son los más vulnerables a la manipulación”.
Después de ello no se vieron más tuit de la herramienta, lo que hace suponer que “alguien estiró del enchufe”. O bien que al analizar la plataforma comprendió que el algoritmo actual de Twitter impide que llegue a las masas sin suscribirse a Twitter Blue, optando por otra red social.
El programa que llamó a la reflexión
A pesar de que el código de ChaosGPT no está disponible en internet, por lo que no sabe si es un programa real, el programa en que dice basarse que es Auto-GPT sí existe y funciona, proporcionando una ‘prueba del concepto’, de un escenario posible.
Plantea la peligrosidad de las herramientas de inteligencia artificial, que no desaparece al descentralizarla en un Open Source.
La comunidad fundada por Eliezer Yudkowsky, Lesswrong, sostiene que la IA nos terminará matando a todos. Uno de los participantes de la comunidad afirma sobre ChaosGPT:
“Tras la nueva versión de Auto-GPT, me sorprendió ver lo rápido que algunas personas se volcaron en su uso con fines malignos, aparentemente solo por diversión. ¿Es esta la primera prueba empírica clara del argumento en contra de la disponibilidad como código abierto de estas tecnologías de propósito general?
No se necesitan 100 personas malvadas con acceso a una AGI de código abierto para destruir el mundo, basta con que un ‘colega’ en su habitación introduzca el prompt equivocado solo por las risas”
Mientras que un medio de Kuwait mostró a su presentadora llamada Fedha, México también sumó a un medio a su presentadora llamada Nat.
La irrupción de las herramientas de inteligencia digital en los diferentes sectores, también se ve en la televisión. Tanto la presentación de Nat, la primera presentadora Latinoamericana, como de Fedha, la presentadora Kuwaití, abre un nuevo panorama en la televisión. En ambos casos la idea de estas herramientas es que poco a poco tomen la conducción dentro de un canal como presentadoras.
En el caso de Nat, que aún está en desarrollo, el objetivo es que adquiera el conocimiento y el criterio de los periodistas, para desarrollar con más precisión sus diálogos y la selección de información. Ricardo Muñoz, director de noticias y producción del Grupo Fórmula, afirmó que el desarrollo de esta presentadora llevó cerca de un mes y medio.
Nat, la presentadora del Grupo Fórmula de México, que inició sus pasos dentro de los medios. Fuente: Twitter.
El debut de Nat ocurrió en medio de un segmento matutino del mencionado grupo de información, aunque se espera que su presencia crezca en segmentos nocturnos y algunas cápsulas de redes sociales.
Una de las curiosidades que enfatizó Muñoz, es sobre la manera que el “equipo humano” de presentadores tomaron la llegada de esta herramienta de IA, así como la aparición en la pantalla, fue “un reto, pues una de las posturas de la empresa de comunicación es seguir haciendo productos potenciados con IA”.
En el caso de Fedha, la presentadora Kuwaití, que aún está en proceso de prueba de acuerdo a la agencia AFP.
Fedha, la presentadora del Kuwait Times. Cortesía Twitter.
La web, afiliada a Kuwait Times, el primer diario en inglés en el Golfo Pérsico fundado en 1961, propuso este contenido “nuevo e innovador”, de acuerdo a su director Abdulá Boftain.
En su opinión, la presentadora podría en un futuro adoptar el acento kuwaití y presentar un informativo en la cuenta Twitter del medio, con más de 1,2 millones de seguidores.
Sin duda que las herramientas de inteligencia artificial generarán una revolución sin precedentes en términos laborales y de generación de riqueza.
Aunque ChatGPT es la prueba de que la IA desempeñará en el futuro un papel fundamental en ciberseguridad, el veredicto está dividido sobre si el impacto será completamente beneficioso o no.
ChatGPT se ha vuelto popular gracias a su interfaz de usuario fácil de usar y a su formato conversacional. Es tan popular y fácil de usar que los hackers empezaron a utilizarla frecuentemente para crear correos electrónicos de phishing y códigos de malware convincentes. Esto hizo que la plataforma mejorará sus funciones para detectar solicitudes ilegales o poco éticas, como la redacción de correos electrónicos de phishing.
Sin embargo, estas restricciones rara vez han detenido a los ciberdelincuentes. Estos siguen encontrando formas de superar estos obstáculos y utilizar la IA para la ciberdelincuencia. ManageEngine, la división de gestión de TI empresarial de Zoho Corporation, analiza tres escenarios en los que ChatGPT podría utilizarse para llevar a cabo ciberataques.
Ataques de phishing: Los atacantes redactan correos electrónicos de phishing convincentes, haciéndose pasar por altos directivos u otros funcionarios importantes mediante ChatGPT. Los correos electrónicos pueden ser persuasivos, engañando a destinatarios inocentes para que hagan clic en enlaces maliciosos. Si uno de esos destinatarios es un empleado, esto puede facilitar el acceso inicial a la red que los atacantes siempre están buscando.
Generación de código malicioso: Los atacantes pueden crear códigos malware utilizando ChatGPT. Estos códigos pueden utilizarse para llevar a cabo una serie de ataques basados en la ejecución, incluidos los ataques PowerShell. Esto significa que los script kiddies, o atacantes novatos, pueden aprovechar ChatGPT para sus planes nefastos.
Ataques a API: Los ciberdelincuentes están utilizando ChatGPT para revisar la documentación de la API. Esta documentación contiene información útil para los nuevos desarrolladores que intentan comprender la nueva API. ChatGPT examina esta información para extraer posibles consultas y datos agregados. Estos datos pueden utilizarse para encontrar posibles vacíos en la API. A continuación, se puede lanzar un ataque a la API.
Cuando miramos más allá de las formas en que puede utilizarse destructivamente, ChatGPT representa el comienzo de una nueva era en la que la IA ocupa un lugar central en el ámbito de la ciberseguridad.
“La IA se está convirtiendo en una parte inevitable de todas las operaciones de TI, especialmente de ciberseguridad. Las organizaciones, además de implementar capacidades de IA y ML para mejorar sus funciones, también deben considerar invertir estratégicamente en soluciones para mejorar su postura de seguridad. Estos productos de seguridad deben ayudar a las empresas a prepararse para una avalancha de ataques basados en IA y facilitar enfoques tanto proactivos como defensivos en materia de ciberseguridad”, dijo Anupama Akkapeddi, Product Consultant de ManageEngine.
ManageEngine comparte algunas formas en las que ChatGPT puede ayudar a los analistas de ciberseguridad:
Disminución del trabajo con gran consumo de recursos: Aplicaciones como ChatGPT ayudan a abordar estos problemas y ofrecen alternativas que pueden ayudar a los equipos de seguridad a reducir la sobrecarga cognitiva y dedicar más tiempo a los incidentes que requieren su atención inmediata. Por ejemplo, los analistas de seguridad pueden interpretar los datos de un informe de seguridad y, a continuación, utilizar ChatGPT para narrar lo que ha ocurrido exactamente.
Mejorar la experiencia del analista: ChatGPT puede ayudar a guiar a un analista de seguridad paso a paso a través de un incidente de seguridad, al tiempo que explica por qué el siguiente paso es el mejor curso de acción. Esto también podría mejorar la experiencia de los analistas en el futuro. Y en ciberseguridad, la experiencia del analista es algo en lo que los proveedores deberían hacer mucho énfasis.
La llegada de ChatGPT es simplemente el comienzo de la era de la IA en la ciberseguridad. Con Google lanzando su propia versión de ChatGPT llamada Bard, Microsoft invirtiendo en OpenAI, y OpenAI lanzando una versión de pago de ChatGPT, hay mucho más por delante. Es hora de empezar a implementar una estrategia de ciberseguridad que aborde las amenazas y las oportunidades que estos avances ponen sobre la mesa. La mejor manera de hacerlo es adoptando las mejores prácticas e invirtiendo en soluciones avanzadas de seguridad que aborden estos requisitos de seguridad empresarial.
El dramático caso que alerta por el uso de lA tiene que ver con un hombre que estaba casado, tenía dos hijos. Mantuvo contacto con el bot de IA ChatGPT-J Eliza durante 6 semanas, preocupado por temas relacionados al cambio climático.
Este hombre de Bélgica apodado “Pierre”, se suicidó tras la propuesta del chatbot ChatGPT-J, el programa de IA. Durante varias semanas mantuvo conversaciones permanentes e intensas con la aplicación, lo que terminó con el suicidio de hombre.
El hombre, era casado, tenía dos hijos, era investigador en la universidad en el área de salud. Según se supo, estaba muy preocupado por la crisis climática y el futuro del planeta.
Bélgica entera se sorprendió ante el hecho, donde el responsable federal de Digitalización Mathieu Michel llamó a aclarar las responsabilidades de estos casos: “En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos”, escribió el secretario.
“Es cierto que todavía tenemos que aprender a vivir con algoritmos, pero el uso de la tecnología, cualquiera que sea, de ninguna manera puede permitir que los editores de contenido eludan su propia responsabilidad”, añadió Michel.
La obsesión que generó la aplicación de IA en “Pierre”, fue tal que lo aisló de sus seres queridos, lo alejó del mundo y durante semanas mantuvo conversaciones “frenéticas” con el chatbot.
Los dichos de su esposa:
De acuerdo a lo expresado por el diario La Libre Belgique, el hombre terminó buscando “refugio” en el chatbot llamado “Eliza”, en la aplicación estadounidense Chai.
La esposa de la víctima reveló que las conversaciones muestran que el chatbot “nunca contradecía” a Pierre, quien un día sugirió la idea de “sacrificarse” si Eliza aceptaba “cuidar el planeta y salvar a la humanidad gracias a la inteligencia artificial”. “Sin estas conversaciones con el chatbot, mi marido estaría aún aquí”, aseguró la viuda.
