En la era de la inteligencia artificial, los ingenieros están siendo asignados para construir inteligencia artificial para sus empresas, pero no siempre son expertos en identidad, lo que puede ser un problema real. En este sentido, es fundamental abordar la seguridad de tiempo de ejecución en agentes de inteligencia artificial.
En el video «What is Agentic Security Runtime Securing AI Agents», se explica que los agentes de inteligencia artificial, que pueden ser aplicaciones de Python, TypeScript o .NET, necesitan conectarse con otras aplicaciones y servicios para proporcionar valor. Sin embargo, estas conexiones pueden ser un riesgo para la seguridad, ya que pueden ser vulnerables a ataques de inyección de prompt y jailbreaking.
Lo que resulta interesante es que, en lugar de codificar estáticamente credenciales y claves, los expertos recomiendan crear credenciales dinámicas en tiempo real para cualquier cosa que necesite sean temporales y se revocan automáticamente al final de la sesión. Esto es especialmente importante cuando se trata de operaciones sensibles, como el onboarding y off-boarding de empleados, que pueden tener impactos reales en el riesgo y la seguridad financiera.
Llama la atención cómo el uso de identidad del usuario y la creación de credenciales dinámicas pueden ayudar a mejorar la seguridad de los agentes de inteligencia artificial. En este sentido, la autenticación de backchannel iniciada por el cliente, como la implementación de OAuth 2.0 CIBA, puede ser un mecanismo poderoso para asegurarse de que las operaciones y acciones sean autorizadas por el usuario.
En resumen, la seguridad de tiempo de ejecución en agentes de inteligencia artificial es fundamental para evitar riesgos y proteger la seguridad de las organizaciones. Al crear credenciales dinámicas y utilizar la autenticación de backchannel iniciada por el cliente, podemos garantizar que los agentes de inteligencia artificial sean seguros y confiables.
Fuente: YouTube
