Inteligencia artificial explicable (XAI)
XAI, explainable AI
La inteligencia artificial explicable es el conjunto de técnicas para que un modelo pueda mostrar, al menos en parte, por qué ha tomado una decisión. Se abrevia XAI, de explainable AI. Frente a la caja negra, busca razones que un humano pueda revisar.
Importa cuando la decisión afecta a un crédito, un precio, un diagnóstico de calidad o un despido automático de un anuncio. “El modelo lo dice” no basta si hay que responder a un cliente o a un regulador. Explicable no significa sencillo: a veces es un ránking de factores, una ejemplo parecido o una regla extraída. Si nadie en la empresa entiende esa explicación, no hay XAI: hay un PDF.
Una aseguradora pequeña en Cuenca pidió al proveedor que cada tarifa automática trajera los tres factores que más pesaban. Las reclamaciones de “este precio no se entiende” bajaron. Explicar la IA no es un lujo académico. Es poder defender una decisión. Si no se puede explicar, no se debería dejar decidir sola.
