Man braucht nur an autonomes Fahren, Kreditscoring oder medizinischen Anwendungen zu denken: Welche Faktoren führen zu welchem Ergebnis – und ist das auch so gewünscht?
Gerade bei sicherheitskritischen Anwendungen für KI ist es schon allein aus rechtlichen und ethischen Gründen enorm wichtig, algorithmische Entscheidungen nachvollziehen zu können. Man braucht nur an autonomes Fahren, Kreditscoring oder medizinischen Anwendungen zu denken: Welche Faktoren führen zu welchem Ergebnis – und ist das auch so gewünscht? Selbst bei weniger kritischen Entscheidungen spielt die Interpretierbarkeit des Modells eine Rolle: Sei es Vertrauen zu den Vorhersagen des Modells zu schaffen oder schlicht die Gründe für den Wert einer Prognose herauszufinden.