Cuando la IA produce más rápido de lo que una organización puede verificar

Durante años nos preguntamos si la IA podía producir algo valioso. Ahora, en algunos procesos, aparece un problema distinto: puede producir más de lo que una organización alcanza a verificar con criterio.

La pregunta ya no es solamente:

¿Puede generar un resultado suficientemente valioso?

Sino:

¿Puede la organización verificar, integrar y actuar sobre todo lo que la IA produce?

Lo que estamos observando en cada vez más organizaciones es que el cuello de botella se está moviendo. Ya no está solamente en la producción. También empieza a estar en el control.

Cuando producir más no resuelve el problema

Un preprint publicado en julio de 2026 analizó 196.212 pull requests de 802 desarrolladores en una empresa que buscaba duplicar su producción. Un pull request propone cambios de código que se revisan antes de incorporarse a un proyecto.

En abril de 2026, la cantidad media de pull requests creados por desarrollador activo llegó a 2,09 veces el nivel previo: pasó de 21,2 a 44,3 por mes.

Pero la capacidad de revisión no creció al mismo ritmo. El volumen total aumentó 3,1 veces, mientras la cantidad de personas que revisaban creció solo 1,5 veces. La carga por revisor prácticamente se duplicó.

Es un solo caso, en una empresa preparada para adoptar IA, y los autores no atribuyen todo el aumento de manera causal a la tecnología. Pero sí lo interpretamos como una señal de un problema que puede repetirse en otros procesos:

cuando la IA acelera la producción, el límite se traslada hacia la verificación.

Lo más interesante es cómo respondió la organización.

Según el estudio, el porcentaje de cambios que recibió al menos una revisión humana cayó del 89% al 68%. En paralelo, la revisión automática pasó de aproximadamente 19% a 84%. Un mismo cambio podía recibir ambos tipos de revisión, pero la dirección es clara: la automatización empezó a reemplazar parte de la revisión humana.

El mismo estudio muestra que la revisión humana sustantiva, aquella que incluía comentarios escritos, cayó del 39% al 21%. Las aprobaciones silenciosas se mantuvieron relativamente estables.

Cuando verificar se volvió el límite, parte de esa verificación fue delegada nuevamente a la IA que estaba expandiendo el volumen a verificar.

El cuello de botella no desapareció. Se volvió menos visible.

El límite del human in the loop

El concepto de human in the loop fue útil para introducir automatización manteniendo a una persona dentro del flujo, con capacidad de aprobar o rechazar una acción. También dio tranquilidad: la IA podía asistir, pero el humano seguía "en control".

El problema es que este modelo se vuelve difícil de escalar si cada resultado requiere aprobación humana. Cuando aumenta la frecuencia o los procesos operan de manera persistente, el humano puede convertirse en una firma al final del circuito. La aprobación sigue estando. El criterio, no siempre.

Además, si el sistema deriva a las personas solo aquello que no puede resolver, cambia la naturaleza de su intervención. Los casos rutinarios dejan de llegar. Quedan los ambiguos, excepcionales o conflictivos. El humano interviene menos veces, pero cada intervención puede exigir más criterio, pensamiento crítico y capacidad para gestionar excepciones.

Ya no alcanza con decidir en qué paso ponemos una aprobación humana. Hay que diseñar cómo se distribuye el control a lo largo del sistema.

La propuesta: una arquitectura de control en cinco capas

Al rediseñar un workflow, en Kintara clasificamos qué puede hacer la IA ahora, qué puede hacer más adelante y qué debe permanecer manual. Pero falta responder quién fija los límites, recibe las excepciones, revisa la calidad y cambia las reglas.

Por eso proponemos una arquitectura de control en cinco capas:

1. Human in command

Define el objetivo, los límites, los resultados prohibidos y el nivel de riesgo aceptable. No aprueba cada operación. Diseña el marco dentro del cual la IA puede actuar.

2. AI in execution

La IA produce, analiza o coordina la secuencia operativa dentro de esos límites, acotada por reglas, permisos, datos y acciones autorizadas.

3. Human on exception

Interviene ante eventos definidos de antemano: desvíos, baja confianza, datos faltantes, conflictos entre fuentes o consecuencias de alto impacto.

4. Human in review

Evalúa muestras, resultados y patrones. Ya no revisa cada caso, sino si el sistema sigue tomando buenas decisiones y si sus límites continúan bien calibrados.

5. System learning

Los errores, reclamos, incidentes y excepciones alimentan cambios en reglas, umbrales, datos, prompts o modelos.

Estas capas no necesariamente deben concentrarse en una sola persona. Quien define el objetivo, quien resuelve excepciones y quien evalúa la calidad cumplen funciones distintas y requieren diferente criterio y expertise.

Cómo se ve en un proceso de compras

Pensemos en la gestión de facturas.

Human in command. Finanzas, Compras y Riesgo definen qué facturas puede procesar la IA sin intervención y qué casos nunca pueden aprobarse automáticamente.

AI in execution. En las facturas autorizadas, la IA extrae los datos, compara factura, orden de compra y remito, detecta diferencias y dirige el caso al circuito correspondiente.

Human on exception. Una persona interviene ante un proveedor nuevo, una orden faltante, un monto sobre el umbral, sospecha de duplicado o desvíos del contrato.

Human in review. Control Interno revisa una muestra de facturas procesadas automáticamente. Ya no pregunta solo "¿esta factura está bien?", sino "¿los umbrales siguen bien calibrados?" y "¿qué patrones aparecen en las excepciones?".

System learning. El equipo analiza facturas disputadas, duplicadas, reprocesadas o señaladas por auditoría, determina qué capa debería haber detectado el problema y ajusta el sistema.

La nueva capacidad crítica

Durante la primera etapa de adopción, muchas organizaciones desarrollaron capacidad para usar IA. La siguiente exige gobernar sistemas que producen más de lo que una persona puede revisar caso por caso.

Eso requiere nuevas métricas. No solo cuánto produce la IA, sino también:

• qué proporción se revisa de forma sustantiva;
• qué excepciones llegan a las personas y con qué contexto;
• cuántos errores escapan a cada capa;
• cuánto tardan en recalibrarse reglas y umbrales;
• y qué decisiones mantienen un responsable humano claro.

Que parte de la revisión se automatice no es preocupante. Sería contradictorio pedir escala y exigir que una persona controle cada salida.

Lo preocupante es confundir una aprobación automática con una capacidad real de verificación. La productividad puede seguir creciendo mientras la capacidad de control se debilita.

La pregunta ya no es cuánto trabajo puede absorber la IA. Es qué arquitectura necesita la organización para conservar criterio, responsabilidad y capacidad de aprender mientras la IA escala.

Fuentes

• Hao He et al., AI Writes Faster Than Humans Can Review: A Longitudinal Study of an Enterprise "2×" Mandate, arXiv preprint, julio de 2026.
• GitHub Docs, About pull requests.