IA autónoma: el desafío de sostener el control humano en un mundo en que las máquinas deciden

 NTT DATA, líder global en AI, negocios digitales y servicios tecnológicos, presentó una nueva edición de The Future Uncovered (TFU), el espacio de diálogo para periodistas, líderes de opinión y comuni-cadores de la región. En este caso, la conversación estuvo alineada con una de las tendencias clave del informe NTT DATA Foresight 2026: “autonomía orquestada por humanos”, que plantea un escena-rio donde la autonomía tecnológica necesita una supervisión humana cada vez más estratégica. 

La tecnología está ingresando en una nueva fase, tal vez la más transformadora desde la primera Re-volución Industrial: la evolución desde la automatización hasta la autonomía, con sistemas inteligentes que además de ejecutar tareas, analizan grandes volúmenes de información, aprenden de los datos y toman decisiones en tiempo real. 

Esta evolución redefine el rol de las personas, que dejan de ocupar su tiempo en tareas operativas y lo vuelcan a funciones más estratégicas: interpretar, validar, decidir y establecer los criterios bajo los cua-les actúan los sistemas. El futuro no estará dominado por máquinas autónomas, sino por sistemas inte-ligentes operando bajo supervisión humana. El desafío pasa del “hacer” a “dirigir cómo se hace”.

Este cambio es visible en distintos sectores. En el financiero, por ejemplo, algoritmos analizan miles de variables y sugieren decisiones de crédito en segundos. En la industria, sistemas autónomos ajustan procesos productivos y anticipan fallas antes de que ocurran. En telecomunicaciones, las redes se au-tooptimizan de forma dinámica para evitar congestión y mejorar la experiencia del usuario.

En este contexto, uno de los grandes temas de debate es la necesidad de generar confianza. Para que estas tecnologías puedan adoptarse de manera sostenible, las decisiones deben ser comprensi-bles, trazables y alineadas con reglas claras. Cuando esto no sucede, aparecen riesgos como decisio-nes difíciles de explicar, posibles sesgos o sospechas por parte de clientes y usuarios.

Por eso, es fundamental adoptar estas tecnologías con un marco adecuado de control para evitar ries-gos que excedan lo tecnológico. Gobernar la autonomía implica definir desde el diseño mismo de los sistemas qué decisiones pueden tomar, bajo qué condiciones y cuándo debe intervenir una persona. También, establecer mecanismos de seguimiento para entender qué ocurrió en cada caso y por qué.

“Frente a este escenario, las organizaciones que logren liderar esta transformación serán aquellas ca-paces de equilibrar tres dimensiones clave: la velocidad de la IA, la gobernanza y transparencia de los sistemas, y la supervisión humana en los procesos críticos”, explicó Carles Company Ros, Head of Busi-ness Process Services - Iberia, International Organisations, LATAM and Consulting in Benelux and France at NTT DATA “El futuro no pertenece a las máquinas, sino a quienes sepan orquestar la inteli-gencia manteniendo al humano en el control”. concluyó.

NTT DATA reafirma una vez más su compromiso de acompañar a las organizaciones en este proceso de transformación aportando conocimiento, capacidades y marcos de trabajo que permitan convertir el potencial de la IA en impacto real y sostenible.

Información e imágenes: Prensa NTT DATA