ChatGPT y la nueva IA están causando estragos en la ciberseguridad de formas emocionantes y aterradoras

La inteligencia artificial generativa está transformando la ciberseguridad, ayudando tanto a los atacantes como a los defensores. Los ciberdelincuentes están aprovechando la IA para lanzar ataques sofisticados y novedosos a gran escala. Y los defensores están utilizando la misma tecnología para proteger infraestructuras críticas, organizaciones gubernamentales y redes corporativas, afirmó Christopher Ahlberg, CEO de la plataforma de inteligencia de amenazas Recorded Future.

La IA generativa ha ayudado a los actores malintencionados a innovar y desarrollar nuevas estrategias de ataque, permitiéndoles estar un paso por delante de las defensas de ciberseguridad. La IA ayuda a los ciberdelincuentes a automatizar ataques, escanear superficies de ataque y generar contenido que resuene con varias regiones geográficas y demográficas, permitiéndoles dirigirse a un rango más amplio de posibles víctimas en diferentes países. Los ciberdelincuentes adoptaron esta tecnología para crear emails de phishing convincentes. El texto generado por IA ayuda a los atacantes a producir emails altamente personalizados y mensajes de texto que tienen más probabilidad de engañar a sus objetivos.

"Creo que no es necesario pensar de forma muy creativa para darse cuenta de que, hombre, esto realmente puede ayudar a [cibercriminales] a convertirse en autores, lo cual es un problema", dijo Ahlberg.

Los defensores están utilizando la IA para defenderse de los ataques. Las organizaciones están utilizando esta tecnología para prevenir fugas y encontrar vulnerabilidades en la red de forma proactiva. También automatiza dinámicamente tareas como configurar alertas para palabras clave específicas y detectar información sensible en línea. Los cazadores de amenazas están utilizando la IA para identificar patrones inusuales y resumir grandes cantidades de datos, conectando los puntos entre múltiples fuentes de información y patrones ocultos.

El trabajo sigue requiriendo expertos humanos, pero Ahlberg dice que la tecnología generativa de IA que estamos viendo en proyectos como ChatGPT puede ayudar.

"Queremos acelerar el ciclo de análisis para ayudarnos a analizar a la velocidad del pensamiento", dijo. "Eso es algo muy difícil de lograr y creo que estamos presenciando un avance aquí, lo cual es bastante emocionante".

Ahlberg también habló sobre las posibles amenazas que podrían traer las máquinas altamente inteligentes. A medida que el mundo se vuelve cada vez más digital e interconectado, la capacidad de distorsionar la realidad y moldear las percepciones podría ser explotada por actores maliciosos. Estas amenazas no se limitan a los estados-nación, lo que hace que el panorama sea aún más complejo y asimétrico.

La IA tiene el potencial de ayudar a protegerse contra estas amenazas emergentes, pero también presenta su propio conjunto de riesgos. Por ejemplo, las máquinas con altas capacidades de procesamiento podrían hackear sistemas más rápido y de manera más efectiva que los humanos. Para contrarrestar estas amenazas, debemos asegurarnos de que la IA se utilice de manera defensiva y con una clara comprensión de quién tiene el control.

A medida que la IA se integra más en la sociedad, es importante que los legisladores, jueces y otros tomadores de decisiones comprendan la tecnología y sus implicaciones. La creación de alianzas sólidas entre expertos técnicos y responsables de formular políticas será crucial para navegar el futuro de la IA en la búsqueda de amenazas y más allá.

Las oportunidades, desafíos y consideraciones éticas de la IA en ciberseguridad son complejas y están en constante evolución. Garantizar modelos de IA imparciales y mantener la participación humana en la toma de decisiones ayudará a gestionar los desafíos éticos. La vigilancia, la colaboración y una comprensión clara de la tecnología serán cruciales para abordar las posibles amenazas a largo plazo de las máquinas altamente inteligentes.

Ahlberg también expresó preocupaciones sobre China, Rusia y los adversarios económicos desplegando máquinas autónomas. Estos países probablemente no ralentizarán el desarrollo de la IA ni compartirán consideraciones éticas. Aunque tener la capacidad de "desconectar" dichas máquinas es una salvaguardia inteligente, sugiere que la integración de la tecnología en la sociedad y la economía global probablemente dificultará separarla. Ahlberg enfatiza la necesidad de diseñar productos y máquinas con claridad sobre quién las controla.

"La gran cosa que hizo Internet en todo esto es que se convirtió en el lugar donde migró toda la información del mundo", dijo Ahlberg. "Estos grandes modelos de lenguaje están haciendo cosas bastante mágicas... para acelerar ese ciclo de pensamiento."

Él añadió: "En los próximos 25 años, el mundo se convertirá en un reflejo de internet."