Los sistemas artificiales capaces de pensar y tomar decisiones con mínima intervención humana son muy prometedores —y a la vez generan preocupación— entre los profesionales de la ciberseguridad. Conocida como IA con capacidad de gestión, esta tecnología ya está transformando radicalmente el funcionamiento de los centros de operaciones de seguridad tradicionales, priorizando las amenazas para reducir la saturación de alertas, ajustando las políticas según el panorama normativo cambiante, conteniendo los ciberataques y mucho más.

En consecuencia, los profesionales de la ciberseguridad no se distraen con alertas innecesarias ni con tareas administrativas, y pueden centrarse en lo que realmente importa: combatir el cibercrimen. Además, la IA con capacidad de gestión de agentes puede operar las 24 horas del día, lo que permite identificar y abordar los problemas de seguridad fuera del horario laboral o cuando los equipos de seguridad están sobrecargados. Es por estas razones que el 87 % de los equipos de ciberseguridad actualmente priorizando el despliegue de IA con capacidad de gestión de agentes en todos sus departamentos.

Sin embargo, dar rienda suelta a la IA en un área tan crítica del negocio moderno no está exento de riesgos. Dado que la IA con agentes aún está en sus inicios, existe la posibilidad de que clasifique o responda a los riesgos de forma incorrecta. Sin mencionar que los ciberdelincuentes están cada vez más El uso de la IA con agentes y su creciente disponibilidad solo conducirán a mayores niveles de ciberdelincuencia. Por lo tanto, es evidente que se requiere cautela. Esto plantea la siguiente pregunta: ¿Realmente vale la pena la IA con agentes en el contexto de la ciberseguridad?

IA agencial en el SOC

A pesar de encontrarse en las primeras etapas de su evolución, la IA con agentes ya está teniendo un impacto tangible en las operaciones de ciberseguridad. David Warshavski, cofundador y director de producto de una startup de ciberseguridad. Seguridad tónicaArgumenta que la tecnología va más allá de simplemente proporcionar resúmenes de alertas cibernéticas, al encargarse de tareas avanzadas, como la coordinación de equipos de análisis de seguridad sobrecargados de trabajo.

Warshavski explica que, en lugar de simplemente alertar a los profesionales de ciberseguridad sobre actividades sospechosas, los sistemas basados ​​en agentes pueden proporcionar una visión general del problema combinando múltiples puntos de datos. Al analizar datos que abarcan desde incidentes y vulnerabilidades históricas hasta tickets de soporte y bases de datos de gestión de configuración, afirma que la tecnología puede ayudar a los equipos de ciberseguridad a comprender a fondo los incidentes y determinar quién debe abordarlos. Añade: «Esta profundidad de contexto ahorra a los analistas mucho trabajo repetitivo».

Otra área del centro de operaciones de seguridad donde la IA con agentes está logrando avances significativos es la remediación. Según Warshavski, estos sistemas están empezando a corregir flujos de trabajo muy deficientes. Explica que pueden determinar los propietarios de los activos vulnerables, generar los tickets de soporte adecuados, encontrar todo el contexto disponible, comprender la diferencia entre los activos basados ​​en internet y los basados ​​en identidad y, lo que es crucial, garantizar que los incidentes se resuelvan realmente.

Sin embargo, los agentes de IA no solo identifican las ciberamenazas, sino que incluso responden a ellas de forma autónoma, según Rob O'Connor, director de seguridad de la información para EMEA en la consultora de TI Insight. Explica que estas tecnologías pueden responder a los riesgos cibernéticos al instante, por ejemplo, bloqueando el tráfico malicioso, sin necesidad de intervención humana.

Además, afirma que las organizaciones pueden integrar agentes de IA en sus sistemas de ciberseguridad actuales, incluidas las plataformas de Orquestación, Automatización y Respuesta de Seguridad (SOAR). De esta forma, pueden beneficiarse de funcionalidades como el escaneo rápido y la clasificación de datos. Según explica, esto garantizará la protección de los datos confidenciales.

Una nueva clase de riesgo

Si bien los sistemas de IA con capacidad de gestión de agentes tienen el potencial de optimizar las operaciones de ciberseguridad a una escala nunca antes vista, los expertos argumentan que también introducen una nueva clase de riesgo que las organizaciones deben tomar en serio.

Jake Moore, asesor global de ciberseguridad del fabricante de software antivirus ESET, advierte que otorgar autonomía a estas tecnologías cuando aún son novedosas inevitablemente provocará errores. Afirma: «La IA mejorará naturalmente a medida que la usemos más, pero estas primeras fases nos demuestran que pueden ocurrir errores, y a menudo a gran escala».

O'Connor, de Insight, también se muestra alarmado por los riesgos potenciales del uso de IA con capacidad de agencia en el departamento de ciberseguridad. Advierte que, a medida que estos sistemas adquieren mayor responsabilidad, autonomía y acceso dentro de los equipos de ciberseguridad, es probable que las vulnerabilidades de las organizaciones se expandan simultáneamente. En consecuencia, podrían convertirse en víctimas de inyecciones de malware y fugas de datos.

Según Warshavski, de Tonic Security, el error humano también puede provocar fallos en la IA para los equipos de ciberseguridad. Explica que si alguien etiqueta incorrectamente el entorno en el que opera un agente de IA o le otorga demasiados permisos, es probable que surjan problemas. «Se trata de un nuevo tipo de riesgo: no solo preocupan los resultados erróneos, sino también las malas acciones».

La gobernanza es vital

Dado el nivel de riesgo que los sistemas de IA con capacidad de gestión de agentes pueden introducir en los equipos de ciberseguridad y en sus organizaciones en general, es evidente que se necesitan medidas de mitigación y marcos de gobernanza sólidos.

Pero, como señala Moore de ESET, eso ya supone un reto en sí mismo. Explica que, dado que estas tecnologías no pueden controlarse ni exigirse responsabilidades de la misma manera que a los humanos, la industria se ve obligada a evaluar los riesgos y a establecer mecanismos de control desde cero. Es algo que, en su opinión, «llevará tiempo».

Aunque supone un reto, algunos expertos ya tienen ideas sobre cómo abordar los nuevos riesgos que plantea la IA con capacidad de gestión. Para O'Connor, de Insight, un buen punto de partida es desarrollar e implementar un marco que defina los sistemas a los que la IA con capacidad de gestión puede acceder y las acciones previstas que puede realizar.

“Para crear un marco de este tipo, las organizaciones deberían evaluar sus riesgos, definir en qué ámbitos se permite que la IA preste apoyo, añadir salvaguardias de apoyo, implementar medidas de auditoría y comprobar el cumplimiento de las normativas del sector”, recomienda.

En lo que respecta a la gobernanza de los sistemas de IA con agentes, Warshavski, de Tonic Security, insta a las organizaciones a determinar qué personas autorizan a los agentes a realizar tareas, a qué sistemas y datos pueden acceder, cuándo es necesaria la aprobación humana y a quién responsabilizar cuando estas tecnologías cometen errores.

Si bien responder a estas preguntas es fundamental, Warshavski afirma que los equipos de ciberseguridad e IA no pueden hacerlo por sí solos. Requieren una estrecha colaboración entre los equipos de seguridad, TI, legal, cumplimiento normativo, ingeniería y operaciones. Añade: «De lo contrario, corremos el riesgo de volver al modelo empresarial clásico: tecnología potente integrada en un flujo de trabajo sin un modelo de propiedad claro».

En lo que respecta a la IA aplicada a agentes y la ciberseguridad, hay muchos motivos para estar entusiasmados. Los agentes de IA están ayudando a los equipos de ciberseguridad a afrontar la creciente avalancha de amenazas en línea mediante casos de uso como la clasificación automatizada de amenazas y les ayudan a cumplir con su lista cada vez mayor de compromisos regulatorios gracias a los ajustes automatizados de políticas.

Pero, al mismo tiempo, esta tecnología genera muchos temores. Se trata de un campo relativamente nuevo de la IA y, como han advertido numerosos expertos, es inevitable que se cometan errores. Por eso, la gobernanza es fundamental. Sin embargo, la realidad es que desarrollar marcos de gobernanza para una tecnología que aún se conoce muy poco no será tarea fácil y, desde luego, no sucederá de la noche a la mañana.

Amplíe su conocimiento

Blog: ¿Es inevitable una vulneración de seguridad de la IA agente en 2026?

Blog: Cerrando la brecha de gobernanza de la IA con la norma ISO 42001

Podcast: Phishing for Trouble, Episodio #05: ¿Quién tiene las llaves de tu negocio?