Los Agentes de IA o identidades no humanas (NHI) y la seguridad de la empresa

La forma en que la gestión de identidades digitales se ha vuelto fundamental para los proyectos de agentes IA 

https://www.scworld.com
Por Elena Böhm

(Adobe Stock)

¿Cuántos equipos de seguridad conocen realmente a sus agentes de IA?

Es una pregunta que más organizaciones deben responder al introducir la IA agente en sus procesos e interacciones. Después de todo, no darían a humanos anónimos y anónimos acceso a datos confidenciales ni les permitirían realizar transacciones. Lo mismo ocurre con los agentes de IA.

Las organizaciones de todo el mundo lo son invertir agresivamente en IA agente, y se espera que el gasto alcance los 9.400 millones de dólares este año y más de 139.000 millones de dólares en 2034. Esa tasa de adopción requiere una cuidadosa consideración de las implicaciones de seguridad de todos aquellos agentes que interactúan con datos confidenciales.

Los agentes de IA necesitan identidades —, una forma de verificar cada una individualmente y establecer barandillas sobre lo que está permitido hacer. En gran medida en la forma en que los equipos de seguridad administran el acceso a sistemas y aplicaciones en función del rol y las responsabilidades de un empleado, la gobernanza de los agentes de IA se ha vuelto esencial a medida que estos trabajadores digitales manejan las consultas de los clientes, administran el inventario o se involucran en operaciones comerciales de muchas otras maneras. Los argumentos a favor de un enfoque completo para la gestión de identidades digitales para agentes de IA incluyen el control de acceso, la capacidad de limitar y revocar privilegios y la auditabilidad.

Afortunadamente, brindar identidades seguras a los agentes de IA no requiere dominar habilidades completamente nuevas. Los equipos de seguridad pueden aplicar gran parte de los conocimientos técnicos y infraestructura de clave pública (PKI) ya se utilizan para documentos de seguridad, correo electrónico y sitios web.

Gestionar identidades a una escala sin precedentes

Es común que los proveedores de tecnología que desarrollan y venden agentes de inteligencia artificial incluyan la gestión de identidades entre sus capacidades de seguridad. Es un buen comienzo y estas soluciones puntuales suelen ser suficientes para proyectos agentes estrictamente controlados. Pero según mi experiencia en proteger entornos de IoT, que pueden comprender millones de dispositivos, la escalabilidad sigue siendo uno de los grandes desafíos de la IA agente. Las empresas que hacen todo lo posible con agentes de IA podrían encontrarse con 10 veces más certificados digitales para disputar que los que tienen hoy. Necesitan un enfoque más integral.

Hay otras razones prácticas para adoptar un enfoque de plataforma más integral para el aprovisionamiento y la administración de identidades no humanas (NHI). Algunas organizaciones pueden decidir una estrategia de múltiples proveedores, tal vez con agentes de servicio al cliente de un proveedor y agentes de ventas de otro. O bien, los socios comerciales pueden tener diversos agentes de inteligencia artificial que necesitan compartir datos. Estas y otras situaciones similares pueden funcionar mejor con un enfoque neutral para los proveedores que utilice estándares de la industria para la interoperabilidad.

X.509 ha sido una especificación vital durante años, un estándar internacional para certificados de clave pública, las credenciales digitales que permiten transportes y transacciones seguros. Estos certificados X.509 se utilizan ampliamente para autenticación y cifrado de datos en la web y otros canales, y estas mismas salvaguardias pueden (y deben) aplicarse a los agentes de IA. El funcionamiento interno de X.509 incluye una autoridad certificadora que verifica la identidad, las firmas digitales y los números de serie únicos –, todos los componentes necesarios para una sólida gobernanza del agente de IA.

Otras especificaciones importantes que encajan en un marco sólido para identidades de IA agente a escala son OAuth y OpenID Connect, que admiten autorización y autenticación, respectivamente. El Protocolo de contexto modelo (MCP) de estándar abierto, que ahora se utiliza para brindar a los agentes de IA acceso a fuentes de datos, aprovecha ambos estándares. Esto muestra cómo la gestión de identidades se ha entrelazado estrechamente con la IA agente.

Dinamice los privilegios de acceso a los datos

Los entornos de IA agente cambian constantemente, a medida que los agentes de IA razonan y realizan tareas de forma cada vez más autónoma. Para mantenerse al día, es esencial que los equipos garanticen que la asignación de identidad y la gestión del ciclo de vida sean igualmente dinámicas. Esto incluye, por ejemplo, la posibilidad de rescindir privilegios de acceso a datos cuando ya no sean necesarios.

Lo que no queremos son identidades estáticas dentro de sistemas que parecen un problema esperando a suceder. Un concepto valioso en identidades digitales son los secretos compartidos “, que son contraseñas, claves API y otros datos confidenciales que se almacenan centralmente y se utilizan para una ejecución segura. Sin embargo, con secretos compartidos, corremos el riesgo de que agentes deshonestos de la IA se apropien indebidamente de esta información altamente confidencial.

Los profesionales pueden minimizar esa posibilidad utilizando tokens de acceso único o de corta duración, entre otras técnicas. También recomiendo la firma inmediata, en la que las firmas electrónicas garanticen que sólo los agentes previstos estén tomando medidas.

Gran parte de esto consiste en bloquear y abordar a profesionales de la seguridad experimentados. Pero creo que una amplia muestra representativa de líderes empresariales y tecnológicos debería comprender lo que está en juego a medida que comienzan a implementar agentes de IA en todos los departamentos y flujos de trabajo. Al hacerlo, las empresas pueden seguir adelante con la confianza de que sus agentes de IA son colegas y contribuyentes de buena fe, no extraños digitales.

Read more...