Por qué la IA en producción puede necesitar humanos
Como ejemplo ilustrativo, incluso un modelo que acertara el 95% en una evaluación tendría que gestionar el 5% restante sin enviar un correo equivocado ni escribir un dato incorrecto en el ERP. Los porcentajes reales se miden por caso de uso; la revisión humana cubre el riesgo que queda fuera del umbral aceptado.
La revisión humana no nace de la desconfianza ciega hacia el modelo. Es asumir que la IA generativa comete errores con confianza, que las consecuencias de algunos errores son caras o irreversibles. El coste de revisar un borrador se compara con el impacto de una respuesta errónea, no se presupone. Para procesos sensibles, comunicación con clientes, escritura sobre el CRM, decisiones con impacto regulatorio, tener una persona dentro del proceso es lo que hace que el agente sea apto para producción.
Tres patrones comunes de revisión humana
La revisión no siempre tiene la misma forma. Tres patrones que conviene evaluar según el riesgo del proceso son:
- Revisión antes de enviar. El agente genera el borrador, una persona lo aprueba con un clic. Es el patrón de partida para correos a clientes, respuestas a reseñas, propuestas comerciales y cualquier mensaje que salga con la marca. La velocidad la pone el agente; el riesgo lo absorbe el humano.
- Revisión según confianza. El modelo evalúa su propia confianza en la respuesta. Por encima de un umbral, actúa solo. Por debajo, deriva a una persona. Útil para clasificación, triaje de incidencias o enriquecimiento de datos cuando el umbral y el muestreo demuestran qué casos pueden automatizarse y cuáles requieren revisión.
- Derivación de excepciones. El agente actúa solo en el flujo normal pero detecta señales de excepción, queja, urgencia, dato ambiguo, política sensible, y pasa el caso a una persona con todo el contexto. Es el patrón típico de concierge, soporte y agentes de ventas.
Los tres se pueden combinar dentro del mismo proceso. Lo importante es que el patrón esté elegido a propósito y no por descuido.
Diseñar la revisión: cuándo, quién, con qué información
Una revisión mal diseñada se convierte en un cuello de botella. Una revisión bien diseñada parece invisible. La diferencia está en tres preguntas:
- ¿Cuándo? Antes de que el resultado afecte a un cliente, modifique un sistema externo o escriba sobre un dato sensible. No después.
- ¿Quién? La persona con autoridad y contexto para decidir, no el primero disponible. Asignar al equipo equivocado convierte la revisión en un trámite que nadie hace bien.
- ¿Con qué información? El borrador, las fuentes que usó el agente, el contexto del caso y la acción concreta que se propone. Sin esto, la persona aprueba a ciegas, que es peor que no tener revisión.
La revisión también necesita un canal claro: dónde llega la notificación, qué pasa si nadie la atiende, cuánto tiempo tiene la persona para decidir y qué se hace si vence el plazo. Sin esto, la cola crece y el proyecto se cae solo.
Cuándo se puede quitar al humano (y cuándo no)
La revisión humana no es para siempre. La pregunta correcta no es ¿lo dejamos sin revisión? sino ¿qué tendría que ser cierto para quitar la revisión?. Tres condiciones razonables:
- La tasa de aprobación sin cambios supera durante un periodo suficiente el umbral definido para ese riesgo. Un 95% sostenido sería solo un ejemplo ilustrativo, no una regla universal.
- El coste de un error individual es bajo y reversible, un borrador interno, una clasificación que se puede corregir, un dato no crítico.
- Existe un mecanismo de auditoría a posteriori: muestreo, alertas, paneles. El humano sale del flujo en tiempo real, no de la supervisión.
En procesos con impacto regulatorio, financiero o de seguridad, la supervisión humana puede ser un control necesario. El Reglamento de IA europeo la reconoce como mecanismo de mitigación para sistemas de alto riesgo. En sectores regulados hay que comprobar las obligaciones específicas del caso.
