Los sistemas están comenzando a recibir contexto, interpretar información, seleccionar acciones y ejecutarlas sin que una persona tenga que intervenir en cada etapa. Se trata de un cambio importante, pero también plantea una pregunta que aparece con menos frecuencia en las conversaciones sobre inteligencia artificial: ¿quién define los límites de la autonomía?

En la gestión de TI, esta no es una pregunta abstracta. Un sistema puede reiniciar un servicio, corregir una configuración o aplicar una actualización, pero no todas las decisiones tienen el mismo impacto. Algunas acciones son rutinarias y reversibles; otras pueden interrumpir una operación crítica, afectar a miles de usuarios o generar consecuencias difíciles de revertir. Ahí comienza la diferencia entre automatización y autonomía: la automatización ejecuta, mientras que la autonomía debe decidir.

La automatización tradicional funciona a partir de reglas conocidas, por ejemplo, si se presenta una determinada condición, se ejecuta una acción. Es extremadamente útil para reducir el trabajo repetitivo, pero depende de escenarios previamente definidos. La autonomía incorpora una capa adicional, la capacidad de interpretar el contexto para determinar qué acción tiene sentido; y eso cambia la naturaleza del desafío.

Si un sistema identifica un dispositivo vulnerable, por ejemplo, no basta con saber que existe un parche disponible. También necesita comprender qué tan importante es ese dispositivo para el negocio, cuál es el riesgo asociado con la vulnerabilidad, cuál es el momento adecuado para aplicar la actualización y qué impacto podría tener sobre el usuario. En otras palabras, la máquina puede ayudar a tomar una decisión, pero la calidad de esa decisión depende de la calidad de la información que recibe.

Un inventario incompleto, datos contradictorios entre distintas herramientas o la falta de contexto operativo pueden convertir una automatización eficiente en una máquina igualmente eficiente para hacer lo incorrecto. Por eso, la autonomía no comienza con la inteligencia artificial, comienza con datos confiables, visibilidad y reglas claras.

La autonomía necesita límites y mecanismos de control

Existe una tendencia a considerar la intervención humana como una señal de que la automatización todavía no ha alcanzado suficiente madurez, cuando en entornos críticos puede ocurrir exactamente lo contrario. Saber cuándo no actuar también es una forma de inteligencia.

Una acción de bajo riesgo y fácilmente reversible puede ejecutarse de manera autónoma. En cambio, una modificación que afecte sistemas críticos, altere configuraciones a gran escala o involucre una situación excepcional puede requerir validación.

Sin límites y mecanismos de control, la autonomía puede simplemente amplificar el alcance de un error. Con una gobernanza adecuada, puede operar dentro de un marco en el que la velocidad y el control no tienen por qué ser fuerzas opuestas.

El papel de la gobernanza no es frenar la tecnología

La gobernanza suele asociarse con la burocracia, pero cuando la inteligencia artificial se aplica a TI, puede cumplir precisamente la función contraria. Cuando las reglas se definen de antemano, los equipos no necesitan detener cada proceso para decidir si una determinada acción puede ejecutarse, porque los límites ya están establecidos.

Esto implica definir, por ejemplo, qué tipos de remediación se consideran de bajo riesgo, qué situaciones requieren escalamiento, qué datos pueden utilizarse para fundamentar una decisión y cómo debe comportarse el sistema cuando la información disponible es insuficiente.

También significa garantizar la trazabilidad. Si una máquina toma una decisión con consecuencias importantes, la organización necesita poder comprender por qué se ejecutó esa acción, qué información se tuvo en cuenta y qué política autorizó su ejecución. Esto será cada vez más relevante a medida que los agentes de inteligencia artificial asuman una mayor proporción de las operaciones de TI.

Confiar no significa renunciar a la supervisión

Existe una diferencia fundamental entre confiar en una tecnología y renunciar al control sobre ella. La autonomía en la gestión de dispositivos finales (endpoints) puede liberar a los profesionales de tareas repetitivas, acelerar la remediación y ayudar a los equipos a administrar entornos cada vez más complejos. Sin embargo, estos beneficios solo serán sostenibles si existe un marco capaz de distinguir entre decisiones previsibles y situaciones que requieren criterio humano.

Esa combinación puede transformar la inteligencia artificial de una herramienta de productividad en parte de un nuevo modelo operativo. Las máquinas se encargan de aquello que es repetitivo, predecible y medible, mientras que las personas mantienen la responsabilidad sobre las decisiones que involucran contexto, excepciones, riesgos y consecuencias para el negocio.

Por lo tanto, el objetivo no debería ser desarrollar sistemas que tomen la mayor cantidad posible de decisiones por sí solos. Debería ser construir sistemas capaces de reconocer qué decisiones pueden tomar de manera independiente y cuáles no.

Esa es la verdadera madurez de la autonomía en TI: no se alcanza cuando la tecnología elimina la intervención humana, sino cuando puede operar de manera independiente dentro de límites y mecanismos de control que las personas comprenden, definen y pueden revisar.