jue. Abr 30th, 2026

IA

ChatGPT y la era de la ciberseguridad empresarial basada en la IA

By Damian Zena 3 años ago
Compartí esta noticia !

Aunque ChatGPT es la prueba de que la IA desempeñará en el futuro un papel fundamental en ciberseguridad, el veredicto está dividido sobre si el impacto será completamente beneficioso o no.

ChatGPT se ha vuelto popular gracias a su interfaz de usuario fácil de usar y a su formato conversacional. Es tan popular y fácil de usar que los hackers empezaron a utilizarla frecuentemente para crear correos electrónicos de phishing y códigos de malware convincentes. Esto hizo que la plataforma mejorará sus funciones para detectar solicitudes ilegales o poco éticas, como la redacción de correos electrónicos de phishing.

Sin embargo, estas restricciones rara vez han detenido a los ciberdelincuentes. Estos siguen encontrando formas de superar estos obstáculos y utilizar la IA para la ciberdelincuencia. ManageEngine, la división de gestión de TI empresarial de Zoho Corporation, analiza tres escenarios en los que ChatGPT podría utilizarse para llevar a cabo ciberataques. 

  • Ataques de phishing: Los atacantes redactan correos electrónicos de phishing convincentes, haciéndose pasar por altos directivos u otros funcionarios importantes mediante ChatGPT. Los correos electrónicos pueden ser persuasivos, engañando a destinatarios inocentes para que hagan clic en enlaces maliciosos. Si uno de esos destinatarios es un empleado, esto puede facilitar el acceso inicial a la red que los atacantes siempre están buscando.
  • Generación de código malicioso: Los atacantes pueden crear códigos malware utilizando ChatGPT. Estos códigos pueden utilizarse para llevar a cabo una serie de ataques basados en la ejecución, incluidos los ataques PowerShell. Esto significa que los script kiddies, o atacantes novatos, pueden aprovechar ChatGPT para sus planes nefastos.
  • Ataques a API: Los ciberdelincuentes están utilizando ChatGPT para revisar la documentación de la API. Esta documentación contiene información útil para los nuevos desarrolladores que intentan comprender la nueva API. ChatGPT examina esta información para extraer posibles consultas y datos agregados. Estos datos pueden utilizarse para encontrar posibles vacíos en la API. A continuación, se puede lanzar un ataque a la API.

Cuando miramos más allá de las formas en que puede utilizarse destructivamente, ChatGPT representa el comienzo de una nueva era en la que la IA ocupa un lugar central en el ámbito de la ciberseguridad.

“La IA se está convirtiendo en una parte inevitable de todas las operaciones de TI, especialmente de ciberseguridad. Las organizaciones, además de implementar capacidades de IA y ML para mejorar sus funciones, también deben considerar invertir estratégicamente en soluciones para mejorar su postura de seguridad. Estos productos de seguridad deben ayudar a las empresas a prepararse para una avalancha de ataques basados en IA y facilitar enfoques tanto proactivos como defensivos en materia de ciberseguridad”, dijo Anupama Akkapeddi, Product Consultant de ManageEngine.

ManageEngine comparte algunas formas en las que ChatGPT puede ayudar a los analistas de ciberseguridad:

  • Disminución del trabajo con gran consumo de recursos: Aplicaciones como ChatGPT ayudan a abordar estos problemas y ofrecen alternativas que pueden ayudar a los equipos de seguridad a reducir la sobrecarga cognitiva y dedicar más tiempo a los incidentes que requieren su atención inmediata. Por ejemplo, los analistas de seguridad pueden interpretar los datos de un informe de seguridad y, a continuación, utilizar ChatGPT para narrar lo que ha ocurrido exactamente.
  • Mejorar la experiencia del analista: ChatGPT puede ayudar a guiar a un analista de seguridad paso a paso a través de un incidente de seguridad, al tiempo que explica por qué el siguiente paso es el mejor curso de acción. Esto también podría mejorar la experiencia de los analistas en el futuro. Y en ciberseguridad, la experiencia del analista es algo en lo que los proveedores deberían hacer mucho énfasis.

La llegada de ChatGPT es simplemente el comienzo de la era de la IA en la ciberseguridad. Con Google lanzando su propia versión de ChatGPT llamada Bard, Microsoft invirtiendo en OpenAI, y OpenAI lanzando una versión de pago de ChatGPT, hay mucho más por delante. Es hora de empezar a implementar una estrategia de ciberseguridad que aborde las amenazas y las oportunidades que estos avances ponen sobre la mesa. La mejor manera de hacerlo es adoptando las mejores prácticas e invirtiendo en soluciones avanzadas de seguridad que aborden estos requisitos de seguridad empresarial.

Compartí esta noticia !

IA: un hombre de Bélgica tras semanas de usar ChatGPT, se suicidó

By CAROLA ESPINOLA 3 años ago
Compartí esta noticia !

El dramático caso que alerta por el uso de lA tiene que ver con un hombre que estaba casado, tenía dos hijos. Mantuvo contacto con el bot de IA ChatGPT-J Eliza durante 6 semanas, preocupado por temas relacionados al cambio climático.

 Este hombre de Bélgica apodado “Pierre”, se suicidó tras la propuesta del chatbot ChatGPT-J, el programa de IA. Durante varias semanas mantuvo conversaciones permanentes e intensas con la aplicación, lo que terminó con el suicidio de hombre.

El hombre, era casado, tenía dos hijos, era investigador en la universidad en el área de salud. Según se supo, estaba muy preocupado por la crisis climática y el futuro del planeta.

Bélgica entera se sorprendió ante el hecho, donde el responsable federal de Digitalización Mathieu Michel llamó a aclarar las responsabilidades de estos casos: “En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos”, escribió el secretario.

“Es cierto que todavía tenemos que aprender a vivir con algoritmos, pero el uso de la tecnología, cualquiera que sea, de ninguna manera puede permitir que los editores de contenido eludan su propia responsabilidad”, añadió Michel.

La obsesión que generó la aplicación de IA en “Pierre”, fue tal que lo aisló de sus seres queridos, lo alejó del mundo y durante semanas mantuvo conversaciones “frenéticas” con el chatbot.

Los dichos de su esposa:

De acuerdo a lo expresado por el diario La Libre Belgique, el hombre terminó buscando “refugio” en el chatbot llamado “Eliza”, en la aplicación estadounidense Chai.

La esposa de la víctima reveló que las conversaciones muestran que el chatbot “nunca contradecía” a Pierre, quien un día sugirió la idea de “sacrificarse” si Eliza aceptaba “cuidar el planeta y salvar a la humanidad gracias a la inteligencia artificial”. “Sin estas conversaciones con el chatbot, mi marido estaría aún aquí”, aseguró la viuda.

Compartí esta noticia !

La carrera por la Inteligencia Artificial y su huella de carbono

By CAROLA ESPINOLA 3 años ago
Compartí esta noticia !

Los investigadores de Google sostienen que el 10 y el 15% del consumo energético en su empresa, tuvo que ver con la IA:

La nueva carrera tecnológica está orientada hoy a la inteligencia artificial, que se espera transforme sectores que manejan miles de millones de dólares, desde la venta al por menor hasta la salud. Pero, la elaboración de cada nuevo chatbot y generador de imagen necesita mucha energía eléctrica, lo que acarrea que la tecnología podría ser la causante de una enorme y cada vez mayor cantidad de emisiones de carbono que calientan la Tierra.

Las grandes empresas Microsoft, Google y OpenAI, creador de ChatGPT, utilizan sistemas de computación en la nube que emplean miles de chips alojados en servidores de gigantescos en centros de datos distribuidos por todo el mundo para adiestrar algoritmos de inteligencia artificial llamados modelos, que analizan información con el fin de facilitarles el “aprendizaje” de tareas. Gracias al éxito de ChatGPT, otras compañías se precipitan a sacar al mercado sus propios sistemas de inteligencia artificial y chatbots rivales, o a desarrollar nuevos productos que usen extensos modelos de inteligencia artificial para ofrecer funcionalidades a todo el mundo.

La inteligencia artificial utiliza más energía que otros tipos de herramientas, y el proceso de entrenamiento de un solo modelo puede requerir más energía eléctrica de la que emplean 100 familias estadounidenses durante un año. El desarrollo del sector es tan acelerado y la transparencia tan escasa que no se conoce con precisión el consumo total de energía eléctrica y la cantidad de emisiones de carbono que pueden atribuírsele.

Además, las emisiones también podrían diferir considerablemente en función de la electricidad que utilicen: por ejemplo, un centro de datos alimentado por una central de carbón o gas natural generará muchas más emisiones de carbón que uno que funcione con energía solar o eólica.

Aunque los especialistas han inventariado las emisiones derivadas de la elaboración de un solo modelo y ciertas compañías han facilitado información sobre su consumo energético, no disponen de estimaciones globales sobre el volumen energético total que utiliza esta tecnología.

La investigadora Sasha Luccioni, de la empresa de IA Hugging Face Inc, elaboró un documento en el que calculaba el impacto en las emisiones de carbono de BLOOM, el competidor de GPT-3 creado por OpenAI. Asimismo, ha tratado de calcular lo mismo para el éxito viral de OpenAI, ChatGPT, partiendo de un volumen limitado de datos a disposición del público. “Estamos hablando de ChatGPT y no sabemos nada al respecto”, dijo.

Transparencia de las herramientas de IA

Investigadores como Luccioni dicen que necesitamos transparencia sobre el uso de energía y las emisiones para los modelos de IA. Con esa información, los gobiernos y las empresas pueden decidir si usar GPT-3 u otros modelos grandes para investigar curas contra el cáncer o preservar las lenguas indígenas, valen la pena por el costo la electricidad y las emisiones.

Una mayor transparencia también podría traer más consciencia; la industria cripto podría proporcionar una historia de advertencia. Bitcoin ha sido criticado por su enorme consumo de energía, utilizando tanto anualmente como Argentina, según el Índice de Consumo de Electricidad de Cambridge Bitcoin. Ese apetito voraz por la electricidad llevó a China a prohibir la minería y a Nueva York a aprobar una moratoria de dos años sobre nuevos permisos para criptominería impulsada por combustibles fósiles.

El entrenamiento de GPT-3, que es un único programa de inteligencia artificial de propósito general que puede generar lenguaje y tiene muchos usos diferentes, tomó 1.287 gigavatios hora, según un artículo de investigación publicado en 2021, o casi tanta electricidad como consumirían 120 hogares estadounidenses en un año. Ese entrenamiento generó 502 toneladas de emisiones de carbono, según el mismo documento, o aproximadamente lo que emiten 110 automóviles estadounidenses en un año. Eso es solo para un programa o “modelo”.

El entrenamiento de un modelo tiene un enorme costo inicial de energía, pero a pesar de ello los investigadores encontraron, en algunos casos, que es solo alrededor del 40% de la energía consumida por el uso real del modelo, con miles de millones de solicitudes de programas populares. Además, los modelos son cada vez más grandes.

GPT-3 de OpenAI utiliza 175.000 millones de parámetros, o variables, que el sistema de IA ha aprendido a través de su entrenamiento y reentrenamiento. Su predecesor usó solo 1.500 millones. OpenAI ya está trabajando en GPT-4, además, los modelos deben volver a capacitarse regularmente para mantenerse al tanto de los eventos actuales.

Otro dato relativo proviene de Google, donde los investigadores encontraron que la inteligencia artificial representó del 10 al 15% del consumo total de electricidad de la empresa, que fue de 18,3 teravatios hora en 2021. Eso significaría que la IA de Google quema alrededor de 2,3 teravatios hora al año, casi la misma cantidad electricidad cada año que todos los hogares en una ciudad del tamaño de Atlanta.

Emisiones GPU: “Una locura”

La mayoría de los centros de datos usan unidades de procesamiento de gráficos (GPU) para entrenar modelos de IA y esos componentes se encuentran entre los que más consumen energía en la industria de chips. Los modelos grandes requieren decenas de miles de GPU, y el programa de capacitación dura de semanas a meses, según un informe publicado por analistas de Morgan Stanley a principios de este mes.

Según Luccioni, uno de los misterios de las IA son las emisiones totales de carbono asociadas con las GPU. Nvidia, el mayor fabricante de GPU, dijo que cuando se trata de tareas de IA, pueden completar la tarea más rápidamente, haciéndolas más eficientes en general.

“El uso de GPU para acelerar la IA es mucho más rápido y eficiente que los CPU: por lo general, 20 veces más eficiente energéticamente para ciertas cargas de trabajo de IA y hasta 300 veces más eficiente para los modelos de lenguaje grande que son esenciales para la IA generativa”, sostuvo la empresa.

Si bien Nvidia ha revelado sus emisiones directas e indirectas relacionadas con la energía, no ha revelado todas las emisiones a las que responde indirectamente, dijo Luccioni, quien solicitó esos datos para su investigación.

Cuando Nvidia comparta esa información, Luccioni cree que las GPU quemarán tanto como las emisiones totales de un país pequeño. Ella dijo: “Va a ser una locura”

Compromisos netos cero

Las empresas de IA también trabajan constantemente en mejoras que los hagan funcionar de manera más eficiente. Microsoft, Google y Amazon, las compañías de nube más grandes de EE.UU., tienen compromisos de carbono negativo o neutral. 

Google afirmó en un comunicado que está buscando emisiones netas cero en todas sus operaciones para 2030, con el objetivo de operar su oficina y centros de datos completamente con energía libre de carbono. La compañía también ha utilizado IA para mejorar la eficiencia energética en sus centros de datos, con la tecnología controlando directamente el enfriamiento en las instalaciones.

OpenAI citó el trabajo que ha realizado para hacer que la interfaz de programación de aplicaciones para ChatGPT sea más eficiente, reduciendo el uso de electricidad y los precios para los clientes. “Nos tomamos muy en serio nuestra responsabilidad de detener y revertir el cambio climático, y pensamos mucho en cómo hacer el mejor uso de nuestra potencia informática”, dijo un portavoz de OpenAI.

Y continuó, “OpenAI se ejecuta en Azure y trabajamos en estrecha colaboración con el equipo de Microsoft para mejorar la eficiencia y nuestra huella para ejecutar modelos de lenguaje grandes”.

Microsoft señaló que está comprando energía renovable y tomando otras medidas para cumplir con su objetivo previamente anunciado de ser carbono negativo para 2030. “Como parte de nuestro compromiso de crear un futuro más sostenible, Microsoft está invirtiendo en investigación para medir el uso de energía y el impacto del carbono de la inteligencia artificial mientras trabaja en formas de hacer que los sistemas grandes sean más eficientes, tanto en capacitación como en aplicación”, sostuvieron de la empresa.

“Obviamente, a estas empresas no les gusta revelar qué modelo están usando y cuánto carbono emite”, dijo Roy Schwartz, profesor de la Universidad Hebrea de Jerusalén, quien se asoció con un grupo de Microsoft para medir la huella de carbono de una gran modelo de IA.

Compartí esta noticia !

Google anuncia nuevas funciones de IA en Workspace

By CAROLA ESPINOLA 3 años ago
Compartí esta noticia !

Google ofrecerá herramientas de IA, para generar texto e imágenes en sus productos Workspace como parte de una lucha para alcanzar a los rivales en la nueva carrera de IA.

Google ha anunciado un conjunto de próximas funciones generativas de inteligencia artificial para sus diversas aplicaciones Workspace, incluidas Google Docs, Gmail, Sheets y Slides.

Estas características incluyen nuevas formas de generar, resumir y hacer una lluvia de ideas de texto con IA en Google Docs, la opción de generar correos electrónicos completos en Gmail en función de las breves viñetas de los usuarios y la capacidad de producir Imágenes, audio y video de IA para ilustrar presentaciones.

Desde la llegada de ChatGPT el año pasado y el lanzamiento de Microsoft de su Bing habilitado para chatbot en febrero, Google se ha estado esforzando por lanzar funciones similares de IA.

La compañía declaró un “código rojo” en diciembre, y la alta dirección le dijo al personal que agregara herramientas de inteligencia artificial a todos sus productos de usuario, que son utilizados por miles de millones de personas, en cuestión de meses.

Aunque la compañía ha anunciado estas nuevas funciones, solo la primera de ellas (herramientas de escritura de IA en Docs y Gmail) estará disponible para un grupo de “probadores de confianza” con sede en EE.UU. este mes.

Así es como Google también anunció la disponibilidad de Bard, rival de ChatGPT. Google dice que estas y otras funciones estarán disponibles para el público más adelante en el año, pero no especificó cuándo.

Funciones impulsadas por IA en Google Workspace en el futuro:

  • Redacta, responde, resume y prioriza tu Gmail
  • Lluvia de ideas, revisión, redacción y reescritura en Docs
  • Da vida a tu visión creativa con imágenes, audio y video generados automáticamente en Slides
  • Pase de datos sin procesar a conocimientos y análisis a través de la finalización automática, la generación de fórmulas y la categorización contextual en Hojas de cálculo
  • Genera nuevos fondos y captura notas en Meet
  • Habilite flujos de trabajo para hacer cosas en Chat

De todas las funciones nuevas, las herramientas de escritura y lluvia de ideas de IA en Docs y Gmail parecen las más potencialmente útiles.

En una demostración a un usuario se le muestra el mensaje “Ayúdame a escribir” y luego ingresa una solicitud: “Publicación de trabajo para un representante de ventas regional”. Luego, el sistema de IA completa la especificación del trabajo para ellos en segundos, lo que les permite editar y refinar el texto.

Compartí esta noticia !

GPT-4 lo nuevo de OpenAi que permitirá hablar con ChatGPT usando imágenes

By CAROLA ESPINOLA 3 años ago
Compartí esta noticia !

La nueva generación del modelo de lenguaje de OpenAI GPT-4 promete que ofrecerá respuestas más precisas y útiles, así como mayor creatividad y capacidad de colaborar en la creación de contenidos.

¿Cuál es la relación entre ChatGPT y el nuevo GPT-4? ChatGPT no es más que una interfaz para comunicarnos con un ‘modelo de lenguaje’, una IA que por ahora es GPT-3.5. Es decir, la web de ChatGPT puede no cambiar nada mientras que, ‘tras el escenario’, la IA que ofrece las respuestas se actualiza y mejora notablemente.

GPT-4 es un modelo con una complejidad mucho mayor que su antecesor, con más capacidad: ahora será capaz de manejar más de 25.000 palabras, gracias a ello podrá manejar consultas y conversaciones con un contexto mucho más amplio sin perderse durante la conversación.

Según OpenAI, GPT-4 es también más seguro de usar, ya que es un 82% menos probable que hasta ahora que responda a solicitudes de contenido no permitido, así como un 40% más probable que ofrece respuestas objetivas, según afirma la compañía.

Una de las grandes novedades de esta IA es su capacidad de comprender imágenes además de texto, lo que nos permite utilizarlas para comunicarnos con ella. Puede, por ejemplo, identificar objetos concretos dentro de una foto con muchos elementos visuales.

¿Cómo probar el nuevo GPT-4?

Según ha anunciado OpenAI, los usuarios de ChatGPT Plus -la opción ‘premium’ de su chatbot- pueden probar GPT-4 desde este mismo momento -por ahora, no todos tendrán acceso a la funcionalidad de procesamiento de imágenes-; mientras que los desarrolladores pueden apuntarse a una lista de espera que les permitirá comenzar a implementar esta tecnología en sus propias aplicaciones y servicios.

La diferencia entre las respuestas de ChatGPT y las de GPT-4.

Microsoft afirma que el nuevo chatbot de Bing presentado el mes pasado ya venía funcionando con tecnología GPT-4 desde que se presentó el servicio -no significa que ChatGPT vaya a funcionar igual que lo ha venido haciendo el chatbot del buscador de Microsoft, pues este último ha sido adaptado y personalizado por los de Redmond-. El propio GPT-4 se ha entrenado y funcionará por ahora haciendo uso de la infraestructura cloud provista por Azure, un servicio de la propia Microsoft.

Pero OpenAI no ha colaborado únicamente con Microsoft, sino que también han presentado el nuevo profesor virtual del servicio Duolingo que permite resolver dudas mediante una conversación prácticamente natural.

Vía | OpenAI

Compartí esta noticia !

Categorías

Solverwp- WordPress Theme and Plugin