---
title: "Interprétabilité & Explicabilité"
type: memo
tags: ["machine learning", "interpretability", "explainable AI", "XAI"]
showTableOfContents: false
date:
lastmod:
showAuthor: true
showDate: true
showDateUpdated: true
showPagination: false
showReadingTime: true
showZenMode: false
groupByYear: false
---

L’interprétabilité et l’explicabilité des modèles (Interpretable Machine Learning & Explainable AI) regroupent les méthodes permettant de comprendre le fonctionnement des modèles de Machine Learning et d’expliquer leurs prédictions.

L’objectif est d’identifier les variables influentes, d’analyser les relations apprises par les modèles et d’évaluer la fiabilité des explications produites.

Ce mémo rassemble les principaux concepts théoriques, les méthodes d’interprétation et leurs applications à la prise de décision.

🧱 Fondations

#

• Fondamentaux de l’interprétabilité (interprétabilité, explicabilité, transparence)
• Explications globales et locales (global vs local explanations, model-specific vs model-agnostic)
• Modèles interprétables par construction (régression linéaire, arbres de décision, GAM)
• Limites de l’explicabilité (corrélation, causalité, fidélité des explications)

🔍 Importance des variables

#

• Feature Importance (importance native, permutation importance)
• SHAP — Fondamentaux (Shapley values, contributions des variables)
• SHAP — Méthodes avancées (TreeSHAP, KernelSHAP, interactions)
• LIME (Local Interpretable Model-agnostic Explanations)

📈 Analyse du comportement des modèles

#

• Partial Dependence Plots (PDP, dépendances marginales)
• Individual Conditional Expectation (ICE, variations individuelles)
• Accumulated Local Effects (ALE, variables corrélées)
• Interactions entre variables (H-statistic, SHAP interaction values)

🔄 Explications contrefactuelles et alternatives

#

• Counterfactual Explanations (what-if, modifications minimales des variables)
• Surrogate Models (modèles approximatifs, arbres explicatifs)
• Sensibilité des prédictions (perturbations, scénarios, robustesse locale)

⚖️ Fiabilité et limites des explications

#

• Stabilité et fidélité des explications (stability, faithfulness, consistency)
• Variables corrélées et interactions (multicolinéarité, importance conditionnelle)
• Biais et équité algorithmique (fairness, biais de groupe, interprétation)
• Incertitude et confiance (incertitude prédictive, calibration, limites des explications)

🛠️ Outils pratiques et visualisation

#

• Bibliothèques Python (SHAP, LIME, InterpretML, Alibi, DiCE)
• Visualisation des explications (beeswarm, waterfall, force plots, dependence plots)
• Explicabilité en production (monitoring, suivi des contributions, dérive des explications)

💼 Applications business et prise de décision

#

• Interprétation des modèles de classification (scoring, risque, churn)
• Interprétation des modèles de régression (prix, revenus, demande)
• Explicabilité des modèles temporels (lags, horizons de prévision, contributions)
• Communication des explications (dashboards, storytelling, limites, recommandations)

Références diverses

#

• Interpretable Machine Learning — Christoph Molnar
• A Unified Approach to Interpreting Model Predictions — Lundberg & Lee (SHAP)
• Why Should I Trust You? — Ribeiro et al. (LIME)
• Explainable AI for Trees — Lundberg et al.
• SHAP — Documentation officielle
• InterpretML — Microsoft
• DiCE — Diverse Counterfactual Explanations