Microsoft anunció este 19 de octubre nuevos controles de seguridad para los agentes de inteligencia artificial que trabajan dentro de las empresas. La propuesta busca supervisar lo que hacen y ajustar sus permisos cuando cambia el riesgo, incluso si fueron instalados por la propia organización.
Un agente puede consultar documentos, escribir código o procesar gastos, pero ese acceso también abre la puerta a errores y manipulaciones. Microsoft plantea que cada uno tenga identidad propia y reciba únicamente los permisos necesarios para una tarea, durante el tiempo que esta requiera.
También te podría interesar:
La ampliación de Project Perception incorpora los llamados Guardian Agents, que ayudan a investigar cambios de riesgo y coordinar medidas de protección. Según la compañía, los controles pueden permitir consultas mientras bloquean modificaciones, exigir aprobación humana o detener la ejecución cuando sea necesario.
Para un negocio dominicano, la pregunta es concreta: si una IA revisa facturas, ¿también debería poder aprobar pagos o borrar archivos? Definir esos límites antes de conectarla a los sistemas ayuda a reducir la exposición; la supervisión y las decisiones importantes deben permanecer bajo responsabilidad humana.
El comunicado oficial de Microsoft describe capacidades del proveedor, no una garantía de que desaparecerán los incidentes. La empresa sostiene que las reglas de acceso y contención deben funcionar fuera del modelo, para que el propio agente no pueda desactivarlas.
[…] Microsoft refuerza los controles para que los agentes de IA no actúen sin límites […]