Informatik / Digitales

Was machen Menschen, wenn KI erklärbar wird?

Erklärbare KI verspricht, die Black Box des Machine Learnings transparent zu machen. Das kann in einigen Situationen helfen, aber manchmal auch überraschende Nebenwirkungen haben. Zum Beispiel werden Menschen durch Erklärungen teilweise sogar schlechter darin, die Leistung von KI einzuschätzen. Im Vortag wird diskutiert, warum das so ist und unter welchen Bedingungen Erklärungen helfen oder schaden können.

Beginn 20:30 Uhr

Ende 21:00 Uhr

Auf einen Blick

Technische Universität Dresden (TUD)

Ingenieurpsychologie und angewandte Kognitionsforschung
Hörsaalzentrum TUD
105
Bergstraße 64
01069 Dresden (Dresdner Süden)

Romy Müller, Ingenieurpsychologin

Webseite

Beschreibung

Ist erklärbare KI (explainable artificial intelligence, XAI) tatsächlich nützlich? In den letzten Jahren haben zahlreiche Studien mit menschlichen Nutzern immer öfter Zweifel daran gesät, ob Erklärungen wirklich sinnvoll oder einfach nur ansprechend aber im Grunde wirkungslos sind. In einigen Studien wurden die Erklärungen einfach ignoriert. In anderen Studien wurde das Vertrauen in die KI tatsächlich gesteigert, aber dies führte zu einem unkritischen Übervertrauen in falsche Entscheidungen der KI. Der Vortrag fasst die Forschungsergebnisse am Beispiel der Klassifikation von Bildern zusammen. Es wird diskutiert, welche Erklärungsmöglichkeiten es in diesem Anwendungsfeld gibt und wie sie sich auf menschliche Nutzer auswirken.

Information zum Veranstaltungsformat

Vortrag

Information zum Veranstaltungsort

Parkmöglichkeiten am Veranstaltungsort sind vorhanden

Stationen

TU Dresden

63 (bus)
61 (bus)
66 (bus)

Münchner Platz

3 (tram)

Nöthnitzer Str.

N6 (bus)
85 (bus)
3 (tram)

Weitere Programmpunkte des Veranstalters

Technische Universität Dresden (TUD)

Informatik / Digitales

Neuronale Netze zum Live Erleben

Mit erklärbarer künstlicher Intelligenz ist es möglich, die Entscheidungen künstlicher Neuronaler Netze für Menschen nachvollziehbar zu machen. Dabei wird z.B. untersucht warum ein Neuronales Netz zu seinem Ergebnis kommt bzw. warum nicht. Mit unserem Demonstrator können Besucherinnen und Besucher selber ausprobieren, wie gut die Erkennung und Verfolgung von verschiedenen Objekten auf Bildern funktioniert und wo die Grenzen des Ansatzes liegen.

Beginn 17:00 Uhr

Ende 22:00 Uhr

Technische Universität Dresden (TUD)

Informatik / Digitales

Ingenieurpsychologie: Chancen und Risiken der Mensch-Technik-Interaktion

Welche Chancen bieten sich durch virtuelle Realität und künstliche Intelligenz? Und gleichzeitig: welche Risiken entstehen, wenn Menschen mit diesen neuen Technologien umgehen? Unter welchen Bedingungen kann es zum Beispiel passieren, dass Personen einer KI blind vertrauen? Mit verschiedenen Ständen und Demos zeigen wir, was Ingenieurpsychologen tun, um diese Fragen zu beantworten.

Beginn 17:00 Uhr

Ende 22:00 Uhr