La Inteligencia Artificial (IA) está dejando de ser únicamente una herramienta de apoyo para convertirse en un participante cada vez más relevante en la toma de decisiones empresariales. A principios de 2026, los CEOs estimaban que la IA ya intervenía en el 25% de las decisiones operativas de sus organizaciones y esperan que esta proporción alcance el 48% para 2030, según el estudio The Calculus of AI Sovereignty del IBM Institute for Business Value.

Este avance plantea una cuestión que comienza a trascender a los departamentos de tecnología para llegar a las áreas de negocio y a los consejos de administración: ¿quién debe responder cuando una decisión tomada o recomendada por una IA genera una pérdida económica, discrimina a una persona, utiliza información incorrecta o afecta a un cliente?

Para Liliana Palestina, CTO de Bluetab México, la respuesta parte de un principio fundamental, y es que, la tecnología puede ejecutar o recomendar una decisión, pero la responsabilidad permanece en la organización. “La IA no tiene criterio ni empatía, por lo que las empresas deben mantener la responsabilidad y supervisión sobre las decisiones en las que intervienen. La IA es una herramienta y, cuando una decisión automatizada afecta a un cliente, es fundamental contar con mecanismos claros de control, trazabilidad y supervisión humana”.

El riesgo de la “caja negra”

Actualmente, la IA puede participar en actividades que van desde aprobar determinados créditos y optimizar rutas logísticas hasta recomendar productos. Sin embargo, cuando la automatización alcanza decisiones relacionadas con personas —por ejemplo, contratación, acceso a financiamiento o atención médica— aumenta el riesgo de reproducir errores o sesgos a escala.

Ahí aparece el denominado problema de la “caja negra”: entra información y sale una decisión, pero la organización no necesariamente puede explicar qué ocurrió entre ambos puntos.

“Si la IA no te puede explicar en español simple por qué tomó una decisión, no debería estar funcionando en tu empresa”, advirtió Palestina.

Para evitarlo, la vocera plantea una arquitectura de gobierno sustentada en tres pilares: trazabilidad de datos (lineage), auditoría del sistema (logging) y supervisión humana, apoyada en observabilidad y Explainable AI. Estos mecanismos permiten reconstruir qué información utilizó un sistema, registrar su comportamiento y entender los factores que influyeron en una recomendación o decisión.

Gobernar los datos antes de gobernar la IA

Para Palestina, una estrategia responsable de IA requiere primero establecer qué datos existen dentro de la organización, quién es responsable de ellos, cuál es su calidad y bajo qué condiciones pueden utilizarse.

“La gobernanza de datos es el ingrediente que decide si una IA te ayuda o te destruye. Imagina que la IA es el motor de un auto de carreras último modelo y los datos son el combustible. Si le pones gasolina adulterada, el auto se va a descomponer en la primera curva. La gobernanza no es para frenar la innovación con burocracia, es el cinturón de seguridad que te permite acelerar la IA con confianza”, explicó la CTO de Bluetab México.

Esta necesidad de control también tiene una dimensión económica. El estudio de IBM encontró que las organizaciones con mayores capacidades de control sobre su ecosistema de IA protegen 55% más beneficio operativo frente a disrupciones provocadas por la IA que aquellas con menores niveles de control. Sin embargo, únicamente 7% de las organizaciones encuestadas opera en ese nivel avanzado.

En este contexto, la gobernanza deja de ser únicamente un asunto de cumplimiento tecnológico para convertirse en un mecanismo de continuidad operativa, gestión de riesgos y protección del negocio.

Hay decisiones que la IA no debería tomar sola

Para la vocera, mayor autonomía tecnológica tampoco significa eliminar la intervención humana. Los procesos que involucren empatía, contexto moral o derechos fundamentales deberían conservar supervisión humana.

Decisiones como un despido, el rechazo de un seguro de vida, determinadas decisiones médicas críticas o la gestión de una crisis corporativa son ejemplos en los que, de acuerdo con Palestina, el criterio humano debe permanecer dentro del proceso. “La regla de oro es que la IA te aconseja y prepara la información, pero el clic final lo hace una persona”, enfatizó la directora.

El reto será particularmente relevante conforme las empresas incorporen agentes de IA capaces de ejecutar acciones con mayor autonomía. Antes de adoptar las herramientas más avanzadas, la vocera recomendó comenzar por ordenar los fundamentos: identificar los datos disponibles, establecer responsables, evaluar su calidad, definir qué información privada no debe ser utilizada por sistemas de IA y construir una arquitectura que permita que los datos fluyan de manera controlada.

“Muchas empresas quieren contratar agentes de IA superavanzados, pero sus datos están desordenados en archivos de Excel olvidados. Lo primero que tienen que hacer es saber qué datos tienen, quién los cuida y qué tan limpios están. Primero se limpia la cocina y luego se prepara la cena. Con la IA es exactamente igual”, concluyó Liliana Palestina.

En un escenario en el que la IA podría participar en casi la mitad de las decisiones operativas empresariales hacia 2030, el desafío ya no será únicamente qué tan inteligente puede llegar a ser un sistema, sino qué tan preparada está una organización para entenderlo, supervisarlo, cuestionarlo y asumir la responsabilidad por sus decisiones.