Readspeaker Menü


Die Erklärbarkeit von Systemen der Künstlichen Intelligenz

PD Dr. Stefan Artmann, Prof. Dr. Clemens Beckstein, PD Dr. Robert Gramsch-Stehfest, Dr. Christian Knüpfer


Thema

Das Schlagwort "Künstliche Intelligenz" (KI; Artificial Intelligence -- AI) erlebt seit einigen Jahren eine Hochkonjunktur. Als wissenschaftliches Forschungsgebiet Mitte der 1950er Jahre entstanden, verbinden sich mit der KI von Anfang an ebenso Hoffnungen auf die Unterstützung menschlichen Denkens und Handelns durch lernende Automaten wie Befürchtungen der Unterordnung des Menschen unter Maschinen, die seine Intelligenz übersteigen. Eine wichtige theoretische Frage bei der Einschätzung der KI betrifft die Nachvollziehbarkeit des Verhaltens intelligenter Systeme: Einem System, dessen Verhalten für den Nutzer, womöglich sogar für den Erbauer nicht erklärbar und deshalb auch nur sehr begrenzt beeinflussbar ist, wird wesentlich weniger Vertrauen entgegengebracht werden als einem System, dessen Verhalten nachvollziehbar ist. Die Erklärbarkeit des Verhaltens zu einem Grundprinzip der Entwicklung von KI-Systemen zu machen, ist wesentliches Ziel der sogenannten "Explainable AI" (XAI). Das Seminar wird sowohl erkenntnistheoretische Grundlagen (z.B. den Begriff der Erklärbarkeit) und informatische Aspekte als auch normative Fragen (etwa der Regulierung des Einsatzes von KI-Systemen) der Diskussion um XAI interdisziplinär erörtern.

Termine

  • Vorbesprechung: Montag, 28.10.2019, 15:00-16:30 Uhr, Ernst-Abbe-Platz 2 / Raum 3319
  • Themenvergabe: Montag, 02.12.2019, 16:00-17:30 Uhr, Ort: SR 130 CZ new
  • Blockseminar: tba

Materialien

Materialien zur Sitzung am 02.12.2019

  1. Standpunkt der GI
    Andreas Holzinger (2018): "Explainable AI (ex-AI)". In: Informatik Spektrum 41 (2), S. 138-143. https://doi.org/10.1007/s00287-018-1102-5
  2. Definition XAI der DARPA
    Matt Turek: "Explainable Artificial Intelligence (XAI)". Program Information, DARPA. https://www.darpa.mil/program/explainable-artificial-intelligence
  3. Sichtweise einer Unternehmensberatung
    Accenture Labs (2018): "Explainable AI: The next stage of human-machine collaboration". Research Report, Acenture.  https://www.accenture.com/us-en/insights/technology/explainable-ai-human-machine
  4. Einführung in einen Sammelband zum Thema
    Wojciech Samek, Klaus-Robert Müller (2019): "Towards Explainable Artificial Intelligence." In: Samek W., Montavon G., Vedaldi A., Hansen L., Müller KR. (Hrsg.): "Explainable AI: Interpreting, Explaining and Visualizing Deep Learning." Lecture Notes in Computer Science, Vol. 11700, Springer.  https://doi.org/10.1007/978-3-030-28954-6_1