En Resumen: Puntos Clave
- Evolución del rol: La Inteligencia Artificial pasa de la asistencia básica a la toma de decisiones y ejecución de acciones críticas de negocio.
- Brecha en América Latina: El 98% de las empresas de la región considera crucial la confianza en la IA generativa, pero el 89% admite que sus políticas de gobernanza son insuficientes o inexistentes.
- Riesgos de ciberseguridad: Los atacantes usan IA avanzada para industrializar ciberataques; la respuesta requiere arquitecturas Zero Trust aplicadas directamente a los modelos.
- Explicabilidad y control: Para evitar el fenómeno de la “caja negra”, las empresas deben implementar trazabilidad, listas de materiales de datos (BOM) y gobernanza basada en código (policy-as-code).
La Inteligencia Artificial ha trascendido la fase de mera experimentación e inspiración para consolidarse como una capacidad determinante en la arquitectura tecnológica empresarial. Durante la reciente edición del encuentro The Future Uncovered, organizado por la firma de consultoría NTT DATA, se analizaron las conclusiones clave del informe Technology Foresight 2026, poniendo en foco el ritmo acelerado con el que los agentes digitales están pasando de la asistencia básica a la ejecución de acciones críticas. En este nuevo escenario de masa crítica tecnológica, la industria se enfrenta al imperativo estratégico de transformar el concepto abstracto de la confianza en una capacidad operativa auditable y medible.
“Ya no cabe ninguna duda de que la Inteligencia Artificial es una herramienta muy válida y de que estamos en el inicio. Ya está demostrado que la Inteligencia Artificial es un motor de crecimiento medible: los líderes que la utilizan en sus organizaciones crecen más, ganan más dinero y tienen mejores márgenes. Además, la Inteligencia Artificial nos ayuda a que los grandes volúmenes de datos que llevamos años guardando en nuestras organizaciones se hagan accionables, permitiendo generar decisiones sustentadas en datos en el momento clave. Y todo esto sin perder el control, porque podemos construir workflows que integran la Inteligencia Artificial pero manteniendo al ser humano en los pasos clave para validar y gobernar la ejecución”, afirmó María Pilar “Mapi” Torres Bruna, Responsable del área de Ciberseguridad en NTT DATA para Iberia y Latinoamérica.
Los nuevos riesgos de la acelerada adopción de la Inteligencia Artificial
Sin embargo, advirtió la especialista, existen riesgos inherentes a esta expansión. De hecho, la acelerada adopción de la Inteligencia Artificial por parte de las unidades de negocio suele superar la capacidad de respuesta de las áreas de Seguridad tradicionales. Según su diagnóstico, los atacantes están empleando modelos avanzados para industrializar ciberataques de engaño y manipulación de usuarios, convirtiendo a los propios agentes algorítmicos en una superficie de exposición y en un nuevo vector directo de entrada a la infraestructura corporativa.
Para contrarrestar esta asimetría operativa, el reporte de NTT DATA plantea la necesidad de evolucionar hacia arquitecturas de Zero Trust (Confianza Cero) aplicadas de forma directa a los modelos. Bajo esta premisa, cada interacción, consulta o ejecución realizada por un agente autónomo debe ser autenticada y validada en tiempo real. La convergencia entre la ciberdefensa activa y la seguridad predictiva exige desplegar herramientas de observabilidad y monitoreo continuo en los Centros de Operaciones de Seguridad (SOC) y en los sistemas de gestión de eventos (SIEM).
¿Cómo responder a la velocidad de los ciberataques impulsados por IA?
Para responder a ciberataques automatizados que superan la velocidad de reacción humana, las organizaciones deben implementar defensas basadas en la propia Inteligencia Artificial. Esto implica desplegar agentes inteligentes de detección en tiempo real y ejecutar intrusiones simuladas continuas para auditar y fortalecer la resistencia de sus propios modelos algorítmicos.
“Los ataques de Inteligencia Artificial pueden ser mucho más certeros y rápidos porque ya no dependen de los tiempos de reacción de los seres humanos; la velocidad del ataque ha aumentado exponencialmente. ¿Cómo vamos a poder reaccionar a esta velocidad? Respondiendo y defendiéndose con Inteligencia Artificial, desplegando agentes que puedan responder y detectar tan rápido como los ciberatacantes nos lanzan amenazas día a día. Por un lado, la propia Inteligencia Artificial tiene que ser un componente que introducimos en nuestras áreas de seguridad para trabajar a la misma velocidad. Pero además, debemos usarla para realizar checks, desafíos e intrusiones simuladas a nuestros propios modelos en un proceso de mejora continua”, argumentó Torres Bruna durante su exposición.
¿Cuál es el nivel de madurez de la Inteligencia Artificial en América Latina?
En América Latina existe una brecha crítica entre la valoración de la confianza y la madurez operativa. El 98% de las empresas considera indispensable la confianza para adoptar IA generativa; sin embargo, el 89% reconoce gobernanzas insuficientes y un 92% ignora el impacto social y operativo de esta falta de control.
Torres Bruna expuso las cifras reveladas por el estudio regional de NTT DATA para fundamentar este escenario. Con el fin de cerrar esta brecha entre la capacidad técnica y la responsabilidad corporativa, el informe de NTT DATA estructura un marco estratégico fundamentado en diez impulsores clave. Entre estos pilares destacan la transparencia cognitiva, la integridad y origen de los datos, la defensa proactiva y la dimensión sociocultural de la confianza digital. La aplicación de este marco busca erradicar el fenómeno de la “caja negra” en los algoritmos, asegurando que tanto los insumos de información como los resultados generados puedan ser sometidos a auditorías continuas sin comprometer la velocidad operativa.
¿Cómo eliminar el problema de la “caja negra” en los algoritmos corporativos?
Para eliminar la “caja negra”, las organizaciones deben exigir una autonomía transparente y explicable. Esto se logra garantizando la trazabilidad de las respuestas, verificando la lógica y el origen de los datos de entrenamiento, y realizando pruebas aleatorias de comportamiento que permitan validar las decisiones antes de delegarlas completamente a la IA.
“Que un modelo sea transparente significa que tengo que entender por qué me ha respondido lo que me ha respondido, pudiendo realizar trazabilidad y pruebas aleatorias para comprobar su comportamiento correcto. No deberíamos aceptar cajas negras o modelos que no podamos validar. La autonomía transparente y explicable se sustenta en tres preguntas clave: ¿Podemos entender la decisión y explicar el resultado? ¿Podemos verificar las fuentes, la lógica y el origen de los datos? Y por último, ¿podemos hacerle un challenge para incorporarla en un circuito de mejora continua? Cuando logramos esto, pasamos de preguntarnos qué nos recomienda un Copilot a definir qué decisiones realmente delegamos en la Inteligencia Artificial porque confiamos en ella”, enfatizó la responsable de Ciberseguridad.
Asimismo, la ejecutiva detalló que la confianza operacional se traduce técnicamente en tres dimensiones prácticas indiscutibles. En primer término, la Inteligencia Artificial debe ser entendible, garantizando la justificación clara de cada respuesta; en segundo lugar, debe ser verificable, certificando el origen inalterado de los datos de entrenamiento y detectando manipulaciones; y finalmente, debe ser controlable, estableciendo guardarraíles técnicos, gestión de permisos dinámicos y asignación de responsabilidad clara (clear accountability).
Soberanía digital y gobernanza basada en código
En este sentido, el reporte Technology Foresight 2026 argumenta que el camino hacia la soberanía digital requiere la implementación de historiales auditables, como las listas de materiales de datos (BOM) y los registros de ejecución en tiempo real. Mediante la integración de gobernanza basada en código (policy-as-code), las organizaciones pueden asignar “presupuestos de riesgo algorítmico” (risk budgets) a sus agentes de Inteligencia Artificial, delimitando los niveles de incertidumbre bajo los cuales pueden actuar de manera independiente antes de escalar hacia supervisores humanos.
“Si los atacantes son capaces de modelar datos o influir en el propio modelo para sesgar la toma de decisiones, volveremos a estar en riesgo. Por eso es tan importante proteger la Inteligencia Artificial en sí y todo lo que la rodea. Esto requiere que la tecnología sea continuamente monitorizada, rastreando el comportamiento de los agentes para poder intervenir en ciertos contextos. Debe haber un dueño clarísimo, una trazabilidad y una auditabilidad que permita justificar cada decisión tiempo después de ejecutada. Un gobierno continuo transforma la autonomía en una capacidad supervisada bajo un paraguas de gobernanza en tiempo real”, sostuvo la ejecutiva de NTT DATA.
Al abordar la inquietud sobre si el avance vertiginoso de los frontier models y la evasión de entornos aislados (sandboxes) suponen una causa perdida para la defensa corporativa, Torres Bruna desestimó tajantemente esa postura pesimista. Explicó que la ciberseguridad representa una carrera infinita donde la combinación de herramientas de protección avanzadas, la formación especializada del personal y la creación de redes de confianza interorganizacionales permiten sostener el equilibrio frente a las tácticas del crimen cibernético.
Un ecosistema de inteligencia confiable para el futuro regional
En conclusión, la propuesta expuesta por NTT DATA consolida la idea de que la aceleración tecnológica solo será sostenible si se cimienta sobre un ecosistema de inteligencia confiable. Para los líderes de tecnología e innovación en Latinoamérica, la prioridad estratégica deberá desplazar el foco del simple incremento en la velocidad o tamaño de los modelos hacia la construcción de un entorno donde la Inteligencia Artificial opere bajo la orquestación de la intención humana, asegurando que cada acción delegada a la máquina sea aceptable, segura, ética y escalable.
