Human-Centered AI OFFIS

Home
Anwendungen
Gesellschaft
Human-Centered AI

Human-Centered AI Die Gruppe "HAI - Human-Centered AI" erforscht und gestaltet Künstliche Intelligenz (KI), die Menschen in das Zentrum des Geschehens stellt. Es werden Ansätze entwickelt, die KI-Systeme transparent machen und die Auswirkungen solcher Ansätze auf die Akzeptanz und das Vertrauen – nicht nur auf Seiten der betroffenen Stakeholder, sondern auch auf gesellschaftlicher Ebene – untersuchen. Dazu werden technologische Methoden aus drei Forschungsbereichen kombiniert: „Erklärbare und interpretierbare KI“, „Menschenzentriertes und interaktives Design in KI“ sowie „Gute KI für die Gesellschaft“.

Der Einsatz von Künstlicher Intelligenz hat in vielen Anwendungsbereichen Einzug gehalten, vor allem dank der breiten Verfügbarkeit von Deep-Learning-Ansätzen zusammen mit ihren Modellen und Werkzeugen. Viele dieser Konzepte sind greifbar: wenn wir beispielsweise an die neuen Ergebnisse der Bildanalyse denken, bei denen Fotos automatisch mit Inhaltselementen beschriftet werden können, Objekte auf Bildern eindeutig erkannt werden oder der digitale Sprachassistent unsere Sprache erkennt und Einkaufslisten für uns führt.

Selbst bei diesen Anwendungen ist es sowohl für technische Expert*innen als auch für die Nutzer*innen wichtig, zu verstehen, wie das neuronale Netz zu seiner Entscheidung gekommen ist und welche Faktoren diese Entscheidung beeinflusst haben. In vielen weiteren Bereichen werden KI-Technologien zukünftig in komplexen soziotechnischen Systemen integriert sein und unser Leben klar beeinflussen; beispielsweise Entscheidungen automatisiert oder teilautomatisiert unterstützen und Arbeitsabläufe verändern.

In einer Zukunft, in der wir Menschen mit und durch digitale Technologien befähigt sein werden, erfolgreich komplexe Aufgaben und Probleme zu lösen und somit im Alltag und Berufsleben von der Technik profitieren, ist es elementar, Transparenz über die Fähigkeiten und Grenzen KI-gestützter Systeme herzustellen und Erklärungen zur Entscheidungsfindung von KI anzubieten – insbesondere auch, um Personen mit sehr unterschiedlichen Qualifikationsniveaus und Fähigkeiten gezielt fördern zu können.