Cómo integrar la IA en tu sistema de calidad sin perder el control

En el post anterior analizamos el caso Purolea: la primera carta de advertencia de la FDA centrada en el uso de IA en fabricación farmacéutica, motivada por algo tan mundano como generar procedimientos y especificaciones con IA sin revisarlos. La conclusión era clara: la responsabilidad no se automatiza. La pregunta que dejamos abierta es la que importa de verdad: ¿en qué condiciones puede utilizarse la IA sin romper la cadena de responsabilidad del sistema de calidad?

Vamos a por la parte práctica.

El verdadero riesgo no es que la IA escriba un procedimiento

De hecho, generar un primer borrador es probablemente uno de los usos menos arriesgados de la IA… siempre que después haya una revisión seria. El riesgo aparece cuando ese borrador entra en el sistema documental sin controles suficientes, o cuando confundimos «revisar» con «leer por encima».

Aprobar un documento generado por IA debería implicar, como mínimo, comprobar:

  • Que los requisitos legales y normativos aplicables están identificados.
  • Que el contenido corresponde al proceso que realmente se ejecuta.
  • Que las responsabilidades asignadas son correctas.
  • Que los controles propuestos son suficientes y realizables.
  • Que hay coherencia con otros procedimientos, especificaciones y registros.
  • Que no se han inventado referencias, límites ni criterios de aceptación.
  • Que lo han revisado personas con conocimiento técnico y autoridad.
  • Que puede reconstruirse quién generó, revisó, modificó y aprobó el contenido.

La revisión humana no puede consistir en pulsar «aprobar» porque el texto parece razonable. El famoso human in the loop solo aporta valor si ese humano tiene competencia, contexto, tiempo y responsabilidad real. Si no, es poco más que decoración organizativa.

Tres errores que vamos a ver repetirse

1. Usar herramientas generalistas para decisiones críticas

Una IA de propósito general es útil para resumir información, preparar borradores o explorar alternativas. Pero eso no significa que haya sido diseñada, configurada ni validada para tomar decisiones en un entorno regulado. La regla es simple: cuanto mayor sea el impacto potencial del resultado sobre el producto, el paciente, el cliente o el cumplimiento, mayor debe ser el control. No es lo mismo sugerir una mejora de redacción que recomendar la liberación de un lote.

2. Digitalizar un proceso deficiente y llamarlo innovación

Si una empresa no tiene claros sus procesos, responsabilidades, criterios de aceptación o controles documentales, la IA no va a resolver el problema. Lo va a acelerar. Una organización con un sistema de calidad débil ahora puede producir documentos inconsistentes a una velocidad nunca vista. Eso no es transformación digital: es industrializar la confusión. Antes de incorporar IA, pregúntate si el proceso que quieres automatizar es estable, está documentado, tiene propietario y dispone de criterios para evaluar sus resultados.

3. Confiar en la supervisión humana sin diseñarla

Decir que «siempre habrá una persona revisando» tranquiliza mucho y garantiza muy poco. Hay que concretar: quién revisa, qué debe comprobar, qué evidencias registra, qué competencias necesita, de cuánto tiempo dispone, qué pasa si discrepa del sistema y quién aprueba finalmente el resultado. Si la revisión no deja trazabilidad, será muy difícil demostrar ante un auditor que existió un control efectivo.

QMS IA Kapture

Las cinco capas de control que debería exigirle a un QMS con IA

Mi conclusión práctica es esta: la IA aplicada a calidad no puede desarrollarse al margen del QMS. Tiene que quedar contenida dentro de sus reglas. Un sistema de gestión de calidad preparado para integrar IA debería ofrecer, como mínimo, cinco capas de control.

1. Trazabilidad del origen

Debe poder identificarse qué contenido fue generado o modificado con IA, qué información se usó como contexto y qué versión del documento resultó afectada. Si la participación de la IA queda oculta, es imposible aplicar un nivel de revisión proporcional al riesgo.

2. Roles y autorizaciones

No todo el mundo debería poder usar IA para cualquier actividad. Hay que definir qué usuarios pueden generar propuestas, quién puede revisarlas y quién tiene autoridad para aprobarlas. La IA no debe ampliar silenciosamente los permisos de un usuario ni saltarse los flujos de aprobación existentes.

3. Versionado y control de cambios

Cada modificación debe quedar registrada. Si la IA propone cambios sobre un procedimiento, un plan de control, una especificación o una acción CAPA, la organización debe poder comparar versiones, conocer la justificación y reconstruir la decisión. Sin control de cambios, la automatización deja de ser automatización y pasa a ser pérdida de control.

4. Validación proporcional al riesgo

No toda funcionalidad basada en IA necesita el mismo nivel de validación. El rigor debe crecer con la criticidad del uso, la autonomía del sistema y el impacto de un error. Una ayuda para clasificar documentos no tiene el mismo riesgo que un agente que propone causas raíz, modifica especificaciones o recomienda decisiones sobre producto no conforme.

5. Revisión humana verificable

El sistema debe exigir una aprobación explícita de una persona competente y conservar la evidencia: identidad, fecha, comentarios, cambios realizados y decisión final. La supervisión humana tiene que ser una función del sistema, no una promesa escrita en una política corporativa.

Descubre cómo nuestro QMS Kapture.io puede ayudarte

Contacta con nosotros y te atenderemos de la mejor forma posible.

No necesitamos menos IA. Necesitamos una IA mejor gobernada

Nada de esto es una invitación a frenar la inteligencia artificial. La IA puede aportar muchísimo a un departamento de calidad: preparar borradores, resumir desviaciones y no conformidades, detectar recurrencias difíciles de ver manualmente, identificar registros incompletos, priorizar investigaciones o anticipar deterioros del proceso. El beneficio potencial es demasiado grande para ignorarlo. Pero también lo es el riesgo de desplegar estas capacidades sin un marco de gobierno.

Y aunque el caso Purolea pertenece al ámbito farmacéutico, la lección vale para automoción, alimentación, productos sanitarios, aeronáutica o cualquier sector exigente: una organización debe poder demostrar por qué tomó una decisión, con qué información, quién la revisó y quién la aprobó. La IA no elimina esas preguntas; añade unas cuantas nuevas: qué datos recibió, qué instrucciones se le dieron, quién comprobó su respuesta y qué pasa si el modelo cambia.

La alternativa a la automatización ingenua no es volver al papel y al Excel: es construir una automatización controlada, donde la IA trabaje dentro del sistema de calidad, no por encima de él. Porque automatizar calidad no significa renunciar al control: significa diseñar un control mejor. Más trazable, más consistente y más inteligente.

Y, por ahora, todavía necesariamente humano.

Contenido escrito por:

Xavier Conesa Foix, CGO de Kapture.io QMS

Con más de 30 años dedicados a la mejora de la calidad industrial, Xavier combina experiencia técnica y visión estratégica para transformar el control de calidad y la gestión de incidencias en planta.

Ver perfil completo

Xavier Conesa Tecnomatrix Kapture.io
Scroll al inicio