Des scientifiques de partout dans le monde l'étudient pour trouver des solutions.
Il est très important de comprendre comment fonctionnent les systèmes d’IA. C’est ce qu’on appelle l'explicabilité de l'IA, qui consiste à comprendre comment un système d’IA fonctionne pour aboutir à ses résultats. Les entreprises qui créent des systèmes d’IA veulent protéger leur propriété intellectuelle. Et les algorithmes d’IA sont parfois si complexes qu’il est presque impossible de comprendre les processus impliqués. C’est un problème quand les gens veulent comprendre le processus menant à la prise de décision ou la façon dont les discriminations apparaissent. C’est ce qu’on appelle l’« effet boîte noire ». Des scientifiques de partout dans le monde l'étudient pour trouver des solutions.