Herramientas de IA ayudan a la detección de vulnerabilidades, pero también, puede permitir a los ciberdelincuentes sofisticar sus ataques
La aparición de herramientas de inteligencia artificial (IA) ha irrumpido con fuerza en el campo de la ciberseguridad transformando la forma en que protegemos nuestros sistemas y redes digitales. Si bien es cierto, las tecnologías de IA pueden ayudar en la detección y prevención de amenazas cibernéticas, los ciberdelincuentes también pueden utilizarlas para automatizar y sofisticar sus ataques.
Los grandes modelos de lenguaje como ChatGPT y/o Bard han facilitado a que los ciberdelincuentes elaboren rápidamente correos electrónicos de phishing sofisticados y aparentemente auténticos. Además, los atacantes pueden imitar de manera convincente el estilo de comunicación de personas u organizaciones confiables, aumentando de esta manera, la efectividad de sus ataques.
“Herramientas como ChatGPT u otras, permiten a los ciberdelincuentes escalar y automatizar sus ataques en un grado que antes no era posible. Incluso los ciberdelincuentes novatos pueden usar estas herramientas para facilitar la escritura de códigos maliciosos o solucionar sus cepas de malware existentes y hacerlas más efectivas” explicó Julio Seminario, experto en ciberseguridad de Bitdefender.
Por otro lado, los modelos de IA también pueden sufrir de ataques y manipulaciones por parte de los ciberdelincuentes, siendo los más comunes: ataques de envenenamiento de datos, o de ingeniería inversa. En este último, pueden intentar analizar y comprender como funciona un modelo de IA, lo que les permite identificar sus debilidades, para después, facilitar la creación de ataques específicos.
Y es que, a pesar de las preocupaciones y los riesgos que rodean a la inteligencia artificial, estas tecnologías también presentan una grandiosa oportunidad para que las organizaciones refuercen y respalden sus equipos de ciberseguridad.
Para Julio Seminario, algunos de los impactos positivos son: la detección de amenazas, análisis de vulnerabilidades, respuesta automatizada a incidentes y registro de análisis de correlación. “La IA puede analizar y correlacionar múltiples fuentes de datos, como registros de eventos, registros de trafico de red y de autenticación para identificar patrones y relaciones que podrían indicar un ataque o violación de seguridad”, añadió.
El impacto de la inteligencia artificial en la ciberseguridad es dual, no solo presenta beneficios significativos, sino que, además, introduce nuevos desafíos y riesgos a las empresas. En ese sentido, es importante implementar medidas adecuadas de la mano con las herramientas de IA y así garantizar una seguridad sólida y eficaz.