Als Vertreter des OFFIS nahm Dr.-Ing. Larbi Abdenebaoui, Leiter der Forschungsgruppe „Menschenzentrierte KI“, an der Podiumsdiskussion teil. Sein zentrales Plädoyer: KI-Systeme müssen konsequent auf die Bedürfnisse der Menschen ausgerichtet sein – nicht umgekehrt. „Im Alltag sind Nachvollziehbarkeit und menschliche Aufsicht entscheidend“, betonte er vor dem Publikum. Wenn eine Software nicht funktioniert, liegt das in der Regel an einem schlecht gestalteten Interface, nicht an den Nutzenden.

Besonders prägnant war sein Konzept des kalibrierten Vertrauens: KI sollte realistisch eingeschätzt werden, weder blind optimistisch noch pauschal skeptisch. Gerade bei der Einführung neuer Systeme brauche es von Anfang an Klarheit über Leistungsfähigkeit, Datenbasis und Grenzen. Diese Botschaft fand bei den anwesenden Unternehmensvertreterinnen und -vertretern sichtlich Anklang.

Abdenebaoui veranschaulichte anhand konkreter Forschungsprojekte den Ansatz des OFFIS: Ob KI-gestützte Formularhilfen für Bürgerinnen und Bürger im öffentlichen Sektor oder die Einführung spezialisierter Sprachmodelle in mittelständischen Unternehmen – der Einführungsprozess wird stets partizipativ gestaltet und die Endnutzenden sind eingebunden, manchmal sogar gemeinsam mit Soziologinnen und Soziologen. „Man muss die Leute mitnehmen”, brachte Abdenebaoui es auf den Punkt.

Auch die Frage der Datensicherheit wurde angesprochen: Lokale, geschlossene KI-Modelle, die auf unternehmenseigenen Servern laufen, bieten seiner Einschätzung nach bereits heute ein hohes Maß an Datenschutz und eröffnen gleichzeitig Spielraum für den Einsatz von KI-Agenten – also nahezu autonomen Einheiten –, deren Mensch-Maschine-Schnittstellen OFFIS aktiv erforscht.

Das Forum machte deutlich, dass die Herausforderungen der KI-Transformation nicht allein technischer Natur sind. Effizienzgewinne entfalten ihren Wert erst dann vollständig, wenn sie mit Qualifizierung, klaren Verantwortungsstrukturen und einer offenen Kommunikation über Chancen und Risiken verbunden werden.