La escalera de confianza

La pregunta interesante sobre la inspección automatizada no es si un modelo puede clasificar un módulo. Es cómo se le entrega la autoridad para hacerlo, y cómo se sabría que se había entregado demasiado pronto. Esa es una pregunta de calidad, y creemos que merece una respuesta más cuidadosa que una fecha de puesta en marcha.

La investigación en factores humanos lleva mucho tiempo tratando la autonomía como un continuo y no como un interruptor. El modelo canónico describe la automatización como algo que varía “across a continuum of levels, from the lowest level of fully manual performance to the highest level of full automation”^[1], apoyándose en una escala de diez puntos propuesta originalmente para la teleoperación submarina^[2]. Las gradaciones de esa escala se acercan notablemente a lo que de verdad exige una transferencia de autoridad en inspección: en un nivel el sistema ofrece opciones pero no interviene en cuál se elige; en uno superior sugiere una única alternativa mientras la persona conserva la autoridad para ejecutarla; más arriba todavía, actúa salvo que una persona lo vete dentro de una ventana determinada^[1].

Estamos avanzando hacia cuatro modos dentro de ese continuo. No son hitos de un cronograma. Son estados con una compuerta entre cada uno, y la compuerta es lo esencial.

Observar

El sistema correría junto a la línea sin clasificar nada. Vería lo que ven las estaciones de inspección, produciría sus salidas, y esas salidas no se acercarían a ninguna disposición. El propósito no tiene nada de vistoso: averiguar si la captura de imagen es estable, si la cobertura es completa, si aquello sobrevive a un turno. Todavía nadie decide nada sobre la calidad, que es exactamente por lo que aquí es seguro equivocarse.

Acompañar, que es la parte que de verdad importa

En acompañar, las personas seguirían clasificando cada módulo y conservando cada disposición. La diferencia es que el modelo también clasificaría, en paralelo, y se guardarían ambos registros. Donde discrepen, una persona adjudica: qué decisión fue la correcta, y por qué.

Este patrón es práctica establecida en otros campos. Los equipos de IA clínica lo llaman silent trial: las salidas del modelo son “produced in parallel to (and thus separate from) the standard of care; therefore, they do not influence clinicians”^[4]. Una revisión de alcance de 2026 sobre esa literatura encontró algo que conviene interiorizar antes de confiar en cualquier benchmark fuera de línea: “a performance drop is apparent when moving from retrospective to live evaluation, showing that models often perform less reliably during silent or prospective evaluation”^[4]. Esos estudios son clínicos, y las causas concretas que señalan son propias de los expedientes de salud. Pero el mecanismo — un modelo que se topa con una distribución que su conjunto de entrenamiento no describía — no es un fenómeno médico.

El modo acompañar no es un ensayo para la autonomía. Es el instrumento que indica si la autonomía está justificada, y es la única etapa que fabrica verdad de referencia como subproducto.

Hay una segunda razón por la que acompañar merece más respeto del que suele recibir, y resulta incómoda. La clasificación humana no es una etiqueta limpia contra la cual medir un modelo. En un estudio controlado con 82 inspectores profesionales que examinaban piezas manufacturadas de precisión, los inspectores “correctly rejected 85% of defective items and incorrectly rejected 35% of acceptable parts”^[3]. La concordancia pieza por pieza varió enormemente: las aceptaciones correctas de piezas aceptables individuales fueron de 17% a 95%, y la detección de piezas defectuosas individuales fue de 37% a 100%^[3]. Peor aún para quien construya un clasificador categórico, los rechazos correctos fueron, según el estudio, “frequently achieved for the wrong reasons” — los inspectores coincidían en que una pieza estaba mal mientras repartían su explicación entre cinco categorías de defecto distintas^[3].

Esa población era deliberadamente conservadora, que es la razón por la que su tasa de falsas alarmas es tan alta, y no esperaríamos esas cifras exactas en una línea de módulos. Lo que se traslada es el hallazgo estructural: una discrepancia entre un modelo y un inspector no es automáticamente un error del modelo, y la etiqueta de un solo inspector no es automáticamente la verdad. La adjudicación es la manera de resolver eso, y es por lo que la adjudicación tiene que ser una decisión real de alguien responsable de la calidad y no un sello de goma aplicado a la respuesta que resulte más conveniente.

Asistir

En asistir, el modelo clasificaría primero y una persona confirmaría cada una de las disposiciones. Esto suena a punto intermedio seguro. Es el modo que más recelo nos produce, porque es el que tiene un modo de falla conocido: quienes reciben el encargo de confirmar la salida de una máquina tienden a “over-accept computer output ‘as a heuristic replacement of vigilant information seeking and processing’”^[5]. La revisión sistemática que describe esto lo divide en errores de comisión — seguir un consejo incorrecto — y errores de omisión: no actuar porque nada lo indujo a ello^[5]. En una línea de inspección, la omisión es la mitad peligrosa: nadie examina los módulos que el modelo dejó pasar en silencio. La misma revisión señala que el efecto “occurs more often with task inexperienced users but can occur with more experienced users”^[5], lo que descarta el consuelo obvio de que el personal más veterano no haría esto.

Esa literatura procede del apoyo a la decisión clínica y de la aviación. No hemos encontrado un estudio equivalente en inspección visual de manufactura, y no vamos a fingir que la transferencia esté medida en lugar de razonada. Es un riesgo contra el que estamos diseñando, no una tasa que podamos citar: asistir es una etapa por la que hay que pasar de forma deliberada, no un lugar cómodo donde asentarse.

Autónomo

El modelo clasificaría. Las personas auditarían una muestra y trabajarían la cola de baja confianza — las decisiones que el propio sistema marca como inciertas. Conviene notar lo que no ha cambiado: una persona sigue adjudicando cada caso ambiguo. La cola se vuelve más corta y más interesante, no vacía.

Qué rige una promoción

Cada compuerta es una decisión de calidad. No una decisión de ingeniería, ni una decisión que quienes construyeron el modelo puedan tomar por su propia autoridad. La condición para pasar de acompañar a asistir sería una tasa de concordancia que la función de calidad esté dispuesta a aceptar, sobre una distribución de defectos que reconozca, y lo mismo vale para cada peldaño por encima. Si eso suena lento, conviene recordar que la alternativa es promover un modelo apoyándose en un benchmark que, según la literatura de silent trials, lo hará quedar mejor de lo que es^[4].

Una promoción también es reversible. Un peldaño es un estado del que se puede descender cuando la mezcla de defectos se desplaza, cuando cambia un material o cuando la muestra de auditoría dice algo que no se esperaba.

En qué se convierte el trabajo

El rol de inspección no desaparece a medida que se sube la escalera; se desplaza. El trabajo deja de ser mirar este módulo y decidir y pasa a ser resolver los casos que el sistema no pudo, y averiguar por qué ocurrieron. La adjudicación es un trabajo más difícil y más valioso que la clasificación, porque cada adjudicación es a la vez una disposición, una etiqueta de entrenamiento y un señalamiento hacia un problema de proceso aguas arriba. Quienes mejor conocen los defectos dejan de invertir su atención en el noventa y tantos por ciento de módulos que están evidentemente bien, y la dedican a los que son genuinamente ambiguos o genuinamente defectuosos.

La investigación sobre automatización lleva un cuarto de siglo dejando claro que esto es lo que ocurre: la automatización “does not simply supplant human activity but rather changes it, often in ways unintended and unanticipated by the designers”^[1]. Diseñar la escalera consiste, en buena medida, en decidir cuál se quiere que sea ese cambio antes de que le ocurra a uno.