Las claves
- La inteligencia artificial ya está siendo utilizada en diferentes fases de los ataques informáticos.
La seguridad informática está entrando en una nueva etapa en la que la inteligencia artificial empieza a formar parte tanto de las herramientas de defensa como de las técnicas utilizadas por los atacantes. El nuevo panorama de amenazas muestra que los sistemas de IA pueden aumentar la velocidad y la escala de determinadas operaciones maliciosas, especialmente en tareas como el reconocimiento de objetivos, la ingeniería social, el análisis de software y la búsqueda de vulnerabilidades. El problema no consiste necesariamente en que la IA haya creado nuevas formas completamente diferentes de atacar, sino en que puede acelerar procesos que anteriormente requerían mucho más tiempo y recursos humanos.
Los atacantes ya están utilizando IA
Una de las principales conclusiones es que la inteligencia artificial está entrando progresivamente en diferentes fases de las campañas maliciosas. Los atacantes pueden utilizar modelos para preparar campañas de ingeniería social más personalizadas, analizar información pública sobre una organización, estudiar código y automatizar determinadas operaciones.
La ingeniería social es especialmente sensible a esta evolución. Un mensaje generado automáticamente puede adaptarse mejor al idioma, al contexto profesional y a los intereses de una víctima concreta. Esto facilita que determinados ataques parezcan más creíbles y dificulta que los usuarios puedan reconocerlos únicamente por errores de redacción o traducciones extrañas.
En el terreno técnico, la IA también puede ayudar a analizar software y buscar posibles puntos débiles. Esto crea una situación en la que tanto defensores como atacantes pueden beneficiarse de las mismas capacidades. La diferencia está en quién tiene mejores herramientas, mejores datos y mayor capacidad para actuar rápidamente sobre los resultados.
El problema de los agentes autónomos
La llegada de los agentes de inteligencia artificial introduce una segunda dimensión. Un modelo convencional puede analizar un documento y generar una respuesta, pero un agente puede tener permisos para interactuar con aplicaciones, bases de datos, APIs, archivos y otros servicios.
Esa capacidad es precisamente la que hace que los agentes sean útiles para las empresas. Un agente puede consultar información, modificar documentos, realizar tareas administrativas o analizar datos sin que una persona tenga que supervisar cada acción. Sin embargo, los mismos permisos que permiten automatizar el trabajo pueden convertirse en una vía de ataque si el sistema es manipulado.
Un agente que recibe una instrucción maliciosa dentro de un documento, una página web o un correo electrónico podría interpretar ese contenido como parte de su contexto y realizar acciones que el usuario no esperaba. Este tipo de ataques se relaciona con la denominada prompt injection, uno de los problemas que más preocupa en el desarrollo de agentes.
La identidad pasa a ser tan importante como el modelo
La seguridad de un agente no depende únicamente de la calidad del modelo de inteligencia artificial. También depende de las cuentas que utiliza, las aplicaciones a las que puede acceder, las credenciales disponibles y los permisos concedidos.
Por eso, la identidad de los agentes se está convirtiendo en un nuevo elemento de seguridad. Las organizaciones necesitan saber qué agente realizó una determinada acción, con qué permisos actuó, qué información consultó y quién autorizó su acceso.
También resulta fundamental disponer de mecanismos para revocar rápidamente los permisos. Si un agente es comprometido, una empresa debe poder detener su acceso sin tener que desactivar manualmente todos los servicios que utiliza.
El principio de mínimo privilegio adquiere más importancia
Una de las soluciones más importantes consiste en limitar los permisos de cada agente a lo estrictamente necesario para realizar su trabajo.
Un agente encargado de organizar documentos no debería tener acceso a información financiera si no la necesita. Un agente utilizado para revisar código tampoco debería poder modificar sistemas de producción sin una autorización adicional.
Esta separación reduce el impacto de un posible error o compromiso. Aunque un agente sea manipulado, el atacante quedará limitado por los permisos disponibles.
La IA también puede convertirse en una herramienta defensiva
El panorama no es únicamente negativo. Las mismas capacidades que permiten acelerar determinados ataques también pueden utilizarse para mejorar la defensa.
Los equipos de seguridad reciben señales procedentes de servidores, dispositivos, identidades, servicios cloud, aplicaciones, correos electrónicos y redes. Analizar todas esas fuentes manualmente es extremadamente complicado.
Los sistemas de IA pueden ayudar a relacionar señales que, observadas de forma aislada, parecen irrelevantes. Un inicio de sesión extraño puede no ser suficiente para detectar un ataque, pero combinado con una modificación sospechosa de permisos, una conexión desde una ubicación inusual y actividad anómala en la nube puede revelar un patrón.
En detalle: el nuevo modelo de seguridad
|
|---|
El software también entra en la ecuación
La cadena de suministro de software se está convirtiendo en otro punto crítico. Una empresa puede tener sistemas bien protegidos y, aun así, depender de componentes externos que contengan vulnerabilidades.
La inteligencia artificial puede ayudar a revisar grandes cantidades de código y detectar problemas antes de que lleguen a producción. Sin embargo, los atacantes pueden utilizar técnicas similares para buscar vulnerabilidades en software ampliamente utilizado.
Esto convierte la velocidad en un factor determinante. Cuanto más rápido pueda detectarse y corregirse una vulnerabilidad, menor será el periodo durante el que un atacante puede aprovecharla.
En ByteHoy | PlayStation Plus prepara tres juegos gratis para octubre: F1 25, Hunt: Showdown 1896 y EDF World Brothers 2
El nuevo escenario obliga a cambiar la forma de entender la seguridad. Las empresas ya no pueden considerar la IA como una herramienta independiente que se añade a sus sistemas. Los agentes empiezan a formar parte de los procesos empresariales y, por tanto, deben estar incluidos dentro de la arquitectura de seguridad desde el principio.
La identidad, los permisos, la monitorización, la protección de datos y la capacidad de detener una acción tienen que diseñarse conjuntamente con el agente.
Qué falta por saber
La velocidad a la que evolucionan los modelos dificulta establecer reglas de seguridad definitivas. Las organizaciones tendrán que revisar continuamente sus políticas a medida que los agentes obtengan nuevas capacidades.
También queda por comprobar hasta qué punto los sistemas de IA podrán detectar ataques que utilizan otros modelos de IA. La industria está entrando en una especie de carrera tecnológica en la que defensores y atacantes pueden utilizar herramientas cada vez más automatizadas.
Comentarios
Sé el primero en comentar esta noticia.