IA Explicable (XAI)

También conocido como: XAI, Explainable AI, IA Interpretable, Model Interpretability

Métodos y técnicas que hacen comprensibles y transparentes las decisiones y predicciones de los modelos de IA para humanos.

La Inteligencia Artificial Explicable (XAI, por sus siglas en inglés) comprende métodos y técnicas diseñados para hacer que los outputs y decisiones de los modelos de IA sean comprensibles, transparentes y justificables para usuarios humanos.

En el contexto de investigación de mercados, la explicabilidad es crítica: cuando un modelo de IA identifica un segmento, predice el éxito de un concepto o recomienda un precio óptimo, los equipos de negocio necesitan entender por qué el modelo llegó a esa conclusión para poder confiar en ella y actuar sobre ella.

Técnicas de XAI más comunes: SHAP (SHapley Additive exPlanations) para entender el peso de cada variable en una predicción, LIME (Local Interpretable Model-agnostic Explanations), attention maps en modelos de NLP, y saliency maps en modelos de visión.

La regulación emergente (EU AI Act, regulaciones de privacidad en LATAM) está haciendo la explicabilidad un requisito legal en ciertas aplicaciones de IA, no solo una buena práctica.