Cuando se habla del papel de la Inteligencia Artificial en la ciberseguridad es fundamental considerar primero los impactos a corto plazo, porque son los más evidentes y porque es un territorio inexplorado que requiere la capacidad de ir más allá de lo inmediato. Por este motivo, se cree que la IA desempeña un papel crucial en las campañas de desinformación a gran escala en las plataformas de redes sociales. Estas campañas pueden ocurrir antes, durante y después de eventos globales importantes, como conflictos geopolíticos y elecciones, que cuestionan la confianza en la capacidad de verificar los hechos. Si bien faltan pruebas contundentes, la inteligencia de fuente abierta sugiere una tendencia creciente a utilizar la IA en campañas de desinformación.
Darrell West, investigador principal del Centro de Innovación Tecnológica de la Brookings Institution, recientemente dio la alarma sobre el impacto potencial de este caso de uso, diciendo que “habrá un tsunami de desinformación en las próximas elecciones; Básicamente, cualquiera puede usar inteligencia artificial para crear videos y audio falsos, y será casi imposible distinguir lo real de lo falso”.
Esto se refleja en la creación de deepfakes. Si bien no están directamente relacionados con la ciberseguridad tradicional, los deepfakes están empezando a combinarse con ataques de ingeniería social. Esta intersección de tecnología y manipulación es motivo de preocupación para los profesionales de la seguridad, especialmente a medida que los algoritmos se vuelven cada vez más refinados para eludir las defensas tradicionales que no pueden frustrar los ataques más sofisticados.
Impactos a mediano plazo: herramientas más efectivas
En el mediano plazo, esperamos que los actores de amenazas perfeccionen aún más sus herramientas con IA. Por ejemplo, podrían entrenar modelos de IA para identificar los activos de una empresa expuestos a Internet con sus respectivos servicios en ejecución para ayudar a detectar vulnerabilidades potencialmente presentes.
Esperamos que la sofisticación de las amenazas siga aumentando y que los ciberdelincuentes utilicen cada vez más la IA generativa para mejorar sus capacidades. Es importante señalar que estas tecnologías, como los modelos de lenguaje, se utilizan actualmente para respaldar las operaciones existentes, pero aún no se han utilizado por completo para crear malware o realizar campañas maliciosas a gran escala.
Sin embargo, lo más probable es que estas tecnologías se utilicen para mejorar los ataques en un futuro próximo, por ejemplo para optimizar y refinar los textos de los correos electrónicos de phishing, que podrían volverse más convincentes gracias al uso de referencias geográficas correctas, jerga y texto gramaticalmente preciso. para dirigirse a hablantes nativos.
Además, podemos esperar el uso potencial a corto plazo de la IA generativa con fines de reconocimiento, para recopilar información sobre víctimas específicas, compromisos previos, como rangos de bloqueo de red, servicios/puertos abiertos y también ayudar en el escaneo de vulnerabilidades.
Impactos a largo plazo: copilotos de seguridad impulsados por IA
De cara al futuro, prevemos que los actores de amenazas desarrollen sus propios copilotos de seguridad impulsados por IA. Estos copilotos podrían ayudar a los ciberdelincuentes en diferentes etapas de la cadena de ataque, como el movimiento lateral y la escalada de privilegios dentro de entornos comprometidos. Si bien este concepto aún no es una realidad total, existe una creciente atención y discusión en foros clandestinos y redes sociales sobre cómo los atacantes pueden explotar la tecnología de IA.
La IA y el futuro de la ciberseguridad
En resumen, la IA desempeñará un papel cada vez más importante en el campo de la ciberseguridad. A medida que la tecnología evoluciona, es probable que cambie la forma en que los profesionales de seguridad y el personal del SOC abordan sus funciones. Si bien a corto plazo podemos esperar su uso para campañas de desinformación y deepfake, los desarrollos a mediano plazo se centrarán en perfeccionar las herramientas a lo largo de toda la cadena de ataque, por ejemplo para el reconocimiento y el phishing. Finalmente, a largo plazo, es posible que veamos el surgimiento de copilotos de seguridad impulsados por inteligencia artificial que se utilizan para hacer que las actividades peligrosas sean aún más efectivas.
Todo esto pone de relieve la necesidad de que los profesionales de la seguridad permanezcan alerta y se adapten al cambiante panorama de amenazas. A medida que la industria de la ciberseguridad continúa evolucionando, está claro que la IA será una fuerza impulsora tanto en estrategias defensivas como ofensivas. Las empresas y los líderes de seguridad tienen la tarea de mantenerse informados, adaptar constantemente sus defensas y estar preparados para contrarrestar eficazmente las amenazas impulsadas por la IA.
