Erklärbare KI (Explainable AI, kurz XAI) ermöglicht es, automatisiert situations- und zielgruppenspezifische Begründungen für die Empfehlungen, Prognosen und Entscheidungen von KI-Systemen zu erzeugen.

Hierdurch lassen sich nicht nur Nachvollziehbarkeit und Akzeptanz automatisierter Entscheidungen bei Endanwender:innen steigern, sondern auch Reaktions- und Handlungsmöglichkeiten aufzeigen. Anhand praxisnaher Beispiele demonstrieren wir, wie die Methodenvielfalt Erklärbarer KI für das UX-Design genutzt werden kann.

Zielpublikum: Produktdesigner, UX-Designer, Projektverantwortliche, Datenwissenschaftler, Entscheidungsträger
Voraussetzungen: Grundkenntnisse im UI/UX-Design
Schwierigkeitsgrad: Anfänger

Extended Abstract:
Methoden der Erklärbaren KI (Explainable AI, kurz XAI) werden vor allem zur Analyse und Kontrolle von komplexen KI-Systemen eingesetzt. So nutzen Data Scientists Ansätze wie Partial Dependence Plots oder SHAP, um zu ergründen, welchem Teil der Eingabedaten ein Machine-Learning-Modell besondere Bedeutung zugemessen hat.

Doch Erklärbare KI lässt sich auch zur Gestaltung der User Experience für Endanwender:innen nutzen. “Warum erhalte ich ausgerechnet diese Empfehlung?” “Woran wurde bei dieser E-Mail ein Phishing-Verdacht erkannt?” “Warum ist der prognostizierte Verkaufspreis meiner Immobilie so niedrig?” Fragen dieser Art stellen sich häufig, wenn Nutzer:innen mit Anwendungen und Prozessen in Kontakt kommen, bei denen im Hintergrund ein KI-System am Werk ist, das auch für seine Entwickler:innen eine “Black Box” darstellt.

Erklärbare KI ermöglicht es, automatisiert situations- und zielgruppenspezifische Begründungen für KI-Entscheidungen zu erzeugen. Hierdurch lassen sich nicht nur Nachvollziehbarkeit und Akzeptanz automatisierter Entscheidungen steigern, sondern auch Reaktions- und Handlungsmöglichkeiten aufzeigen.

Neben einer allgemeinen Einführung in das Thema “User-Centric Explainable AI” demonstrieren wir anhand von praxisnahen Beispielen, wie die mittlerweile verfügbare Methodenvielfalt Erklärbarer KI ausgeschöpft und zur Gestaltung der Interaktion von Endanwender:innen genutzt werden kann.