G-2026-46
Markovian process explainer: A new explainable artificial intelligence method
, et
référence BibTeXL'évaluation efficace et précise de l'importance des caractéristiques pour les modèles d'intelligence artificielle et d'apprentissage automatique, sans coût de calcul élevé, constitue un enjeu majeur de ce travail. De nombreuses méthodes d'intelligence artificielle explicable (IAE) existantes, basées sur la valeur de Shapley, bien que théoriquement solides, nécessitent l'évaluation de l'ensemble des \(2^{n}\) sous-ensembles de caractéristiques, ce qui les rend impraticables pour les données de grande dimension. De plus, la plupart des approches traitent généralement l'importance et la sélection des caractéristiques comme des tâches distinctes, et ne renvoient souvent qu'un seul sous-ensemble optimal. Le défi consiste à concevoir un cadre indépendant du modèle, capable de fournir des classements d'importance compétitifs selon la valeur de Shapley, tout en effectuant une sélection efficace des caractéristiques et en identifiant un ensemble de sous-ensembles quasi optimaux. Pour relever ce défi, nous proposons le Markovian Process Explainer (MPE), une nouvelle méthode d'IAE fondée sur la valeur du processus de coalition markovien. Notre méthodologie modélise la sélection de caractéristiques comme un processus stochastique de formation de coalitions, où des caractéristiques sont ajoutées ou retirées séquentiellement d'un sous-ensemble jusqu'à l'obtention d'un état absorbant correspondant à un sous-ensemble de caractéristiques optimal ou quasi optimal et à son modèle associé. Nous évaluons empiriquement le MPE à l'aide d'indicateurs de performance clés (KPI) ascendants et descendants, en comparant ses performances à celles des méthodes d'IA explicable (XAI) établies, basées sur la valeur de Shapley. Les résultats démontrent que le MPE produit des classements d'importance des caractéristiques systématiquement compétitifs, et souvent supérieurs, à ceux des méthodes existantes. De plus, la sélection de caractéristiques est intégrée au processus, et non effectuée comme une étape distincte. Ce travail revêt une importance pratique et théorique considérable. En réduisant le coût de calcul de la valeur de Shapley exacte, le MPE offre une solution évolutive et indépendante du modèle, applicable dans des domaines aussi variés que la santé et la finance, sans compromettre la qualité explicative. L'ensemble des sous-ensembles de caractéristiques quasi optimaux obtenus comme sous-produit de l'MPE améliore la robustesse de la prise de décision et renforce la confiance dans les modèles complexes d'apprentissage automatique et d'IA.
Paru en août 2026 , 21 pages
Document
G2646.pdf (830 Ko)