Atténuer les impacts négatifs de l'XAI dans le domaine juridique
Note : Cet article n'est qu'une des 60+ sections de notre rapport complet intitulé : The 2024 Legal AI Retrospective - Key Lessons from the Past Year. Veuillez télécharger le rapport complet pour vérifier les citations.
Atténuer les impacts négatifs de l'XAI
Explication : Prévenir la manipulation ou l'utilisation abusive des explications, en particulier dans des situations à enjeux élevés telles que les procédures judiciaires.
Défi : Potentiel d'utilisation trompeuse des explications
Orientation de recherche : Développer des critères pour évaluer la falsifiabilité des explications
Défi : Exploitation de l'XAI par des acteurs malveillants
Orientation de recherche : Développer des méthodes pour détecter et atténuer la manipulation des explications
Défi : Les futurs systèmes d'IA exploitant les biais cognitifs humains
Orientation de recherche : Étudier les limites de l'XAI pour garantir la sécurité de l'IA