Empresas deberán reforzar controles y definir límites ante la creciente autonomía de los agentes de IA

Especialistas advierten que la evolución de los sistemas autónomos exige establecer flujos de aprobación humana y robustecer la ciberseguridad. Según el estudio AI Insights Perú 2026, el 70 % de las organizaciones que incrementaron su inversión en esta tecnología prioriza la gestión de datos y un 61 % apunta hacia mecanismos de gobernanza.

Especialistas recomiendan en El Peruano mantener la aprobación humana en operaciones críticas y reforzar la trazabilidad de los agentes de IA integrados a sistemas corporativos.

Los agentes de inteligencia artificial (IA) han dejado de ser simples herramientas de generación de contenidos o recomendaciones para convertirse en plataformas con capacidad de ejecutar tareas complejas, alterar información e interactuar de forma directa con la infraestructura tecnológica de las empresas. Ante esta evolución, las organizaciones enfrentan el desafío de fijar límites operacionales claros, determinando qué procesos requieren de supervisión humana obligatoria y cuáles pueden desenvolverse de manera automatizada.

En una entrevista publicada por el diario El Peruano, Alexander García, socio de Consultoría Tecnológica y Ciberseguridad de PwC Perú, sostuvo que la intervención humana debe mantenerse indispensable en operaciones de alto impacto o de difícil reversibilidad, tales como transferencias financieras de alto valor, asignación de accesos a sistemas críticos y decisiones que afecten a clientes, colaboradores o proveedores. Por el contrario, un mayor grado de independencia técnica puede concederse a tareas estandarizadas, repetitivas y de fácil rectificación, como la clasificación documental, la atención de consultas frecuentes y la redacción de borradores.

Asimismo, García advirtió en el citado medio que la integración de estos agentes con sistemas corporativos como ERP y CRM incrementa la superficie de exposición ante posibles fallas operativas o incidentes de seguridad, lo que demanda aplicar el principio de mínimo privilegio, segmentar permisos y garantizar la trazabilidad de cada acción ejecutada. De acuerdo con el estudio AI Insights Perú 2026, las entidades que aumentaron su presupuesto en IA concentran sus prioridades en la gestión de datos (70 %), la gobernanza y controles (61 %), el robustecimiento de infraestructura (58 %) y la consolidación de alianzas estratégicas con múltiples proveedores (44 %).

Fuente: El Peruano