Les algorithmes d’apprentissage automatique complexes tels que les réseaux de neurones profonds (Deep Learning) permettent d’obtenir de très hautes performances de prédiction pour une pléthore d’applications, y compris le Traitement Automatique des Langues (TAL) ou Natural Language Processing (NLP). Ils apportent donc des perspectives prometteuses aux entreprises en termes de performances prédictives. Néanmoins, ces modèles sont souvent perçus comme des boîtes noires, i.e. les représentations internes et les décisions produites par ces modèles sont difficiles à interpréter.

En outre, les raisons qui expliquent pourquoi un modèle a donné une certaine décision au lieu d’une autre sont inconnues. Ceci est une des causes principales de la faible utilisation industrielle des modèles de Deep Learning dans les domaines critiques où l’interprétabilité est requise, comme par exemple le domaine médical, financier, sécuritaire ou juridique. Ce phénomène est particulièrement problématique en raison de préoccupations éthiques. Plusieurs travaux ont notamment montré que ces modèles peuvent être biaisés par des préjugés sociétaux présents dans les données d’apprentissage, et que donc les décisions générées par ces modèles seraient potentiellement discriminatoires ; ceci est problématique d’un point de vue moral et juridique. Plusieurs cas de discrimination liées à des applications d’Intelligence Artificielle (IA) sont rapportés dans l’état de l’art et la presse.

Les travaux réalisés nous permettent de contribuer à :

• l’amélioration des métriques d’évaluation des modèles d’explicabilité en termes de plausibilité et de fidélité.
• la conception des modèles de substitution robustes aux attaques adversariales.
• la génération d’attaques adversariales et d’exemples contrefactuels adaptés, particulièrement ardue dans le cas d’une application NLP, afin d’optimiser la capacité d’interprétabilité des algorithmes d’IA.