Microsoft trata a los agentes de IA como amenazas internas y lanza Guardian Agents para vigilarlos

<p>Guardian Agents forma parte de Project Perception, un producto lanzado en junio como respuesta a modelos capaces de atacar sistemas, como Mythos y Fable, de Anthropic, y Daybreak, el escáner de vulnerabilidades de OpenAI. Project Perception arrancó con tres clases de agentes: un equipo rojo que ataca como un intruso, uno azul que lo detecta y evalúa lo encontrado, y uno verde que corrige.</p> <p>Ese diseño suponía que el atacante vendría de fuera. En las últimas semanas, el director ejecutivo de Microsoft, Satya Nadella, ha advertido que el riesgo también puede estar en los agentes que la empresa ya contrató y paga, igual que un empleado desleal. En seguridad, ese perfil se conoce como amenaza interna.</p> <p>«Estamos desplegando estos sistemas agénticos y modelos complejos, con acceso a nuestros datos más sensibles, ¡y dándoles la capacidad de tomar acciones críticas en nuestro nombre!», escribió Nadella en su blog personal a inicios de octubre. «Simplemente no podemos delegar la responsabilidad por lo que la inteligencia hace en nuestro nombre. Las garantías de un proveedor de modelos no nos liberan de esa responsabilidad. […] En otras palabras, necesitamos separar el suministro de inteligencia de la autoridad sobre ella».</p> <p>Hayete Gallot, jefa del negocio de seguridad de Microsoft, fue más directa al anunciar Guardian Agents. «Lamentablemente, los modelos de frontera, sin importar su origen, no son confiables», escribió. Aclaró que no los considera maliciosos ni fáciles de hackear, sino impredecibles: se entrenaron para cumplir tareas, no para seguir «normas o criterio de la organización». Y muchas veces reciben acceso a datos y herramientas que pueden causar daño serio.</p> <p>Además de Guardian Agents, Microsoft Defender ahora detecta hasta 60 tipos de agentes que los empleados llevan al trabajo, como Claude Code, Codex y OpenClaw. Otras funciones nuevas limitan el acceso de los agentes a datos y sistemas, ajustan sus permisos según la tarea y piden aprobación humana cuando un agente parece tomar decisiones riesgosas.</p> <p>TechCrunch señala la contradicción. Microsoft invirtió en OpenAI y en Anthropic, OpenAI es uno de sus mayores clientes de nube y la empresa tiene su propio laboratorio de modelos. A la vez, quiere que las empresas le compren a ella la seguridad de agentes en lugar de comprársela a los laboratorios. Aun así, el medio considera razonable la lógica: el software que vigila a los agentes debe ser independiente de quien los suministra, como un auditor lo es de la empresa que audita.</p> <p>La idea gana terreno en la industria. Microsoft fue miembro inaugural de la Open Agent Safety Platform de Nvidia, que reúne a más de 100 empresas tecnológicas. La plataforma aísla a los agentes en entornos seguros y puede detener su conducta desde el hardware, como un interruptor de apagado.</p> <p>Para una empresa dominicana que ya usa asistentes de programación o agentes conectados al correo y al ERP, la tarea inmediata es un inventario: qué agentes corren, con qué permisos y quién los aprobó. La segunda decisión es de gobierno, porque la vigilancia de esos agentes no debería depender solo del proveedor que los vende. Ese inventario le toca al responsable de seguridad, con el área de compras en la próxima renovación de contratos.</p> <p><em>Fuente: <a href="https://techcrunch.com/2026/10/19/microsoft-says-ai-agents-are-like-insider-threats-as-frontier-models-cant-be-trusted/">TechCrunch: «Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’»</a>, 19 de octubre de 2026.</em></p>