Erklärbare künstliche Intelligenz: Viel Lärm um nichts?

Beschreibung

Ist erklärbare KI (explainable artificial intelligence, XAI) tatsächlich nützlich? In den letzten Jahren haben zahlreiche Studien mit menschlichen Nutzern immer öfter Zweifel daran gesät, ob Erklärungen wirklich sinnvoll oder einfach nur ansprechend aber im Grunde wirkungslos sind. In einigen Studien wurden die Erklärungen einfach ignoriert. In anderen Studien wurde das Vertrauen in die KI tatsächlich gesteigert, aber dies führte zu einem unkritischen Übervertrauen in falsche Entscheidungen der KI. Der Vortrag fasst die Forschungsergebnisse für eine bestimmte Art von Erklärungen zusammen: Hervorhebungen von Bildbereichen, die anzeigen, welche Information die KI verwendet hat, um zu entscheiden was auf einem Bild zu sehen ist. Er wird aufgeschlüsselt von welchen Eigenschaften der Aufgabe, der KI, der Erklärungen, der Bilder, der menschlichen Nutzer und der angestellten Vergleiche die Ergebnisse abhängen. Basierend darauf wird diskutiert was Erklärungen leisten müssen, um wirklich hilfreich zu sein.