The working group Nutzerzentrierte Künstliche Intelligenz (NKI; translates to User-Centered Artificial Intelligence) of the German Gesellschaft für Informatik (GI) within the section Human Computer Interaction (MCI) was founded in 2019. The special interest group aims at exploring novel methodological, technical, and interaction approaches at the intersection of HCI and AI.

Please find below (or on the GI website) more information regarding our goals and the topics we want to address (in German).

Ziele und Aufgaben der Fachgruppe

Die Fachgruppe „Nutzerzentrierte Künstliche Intelligenz“ verfolgt das Ziel, die Bedeutung der Nutzer- und Nutzungszentrierung von intelligenten Algorithmen und Systemen (KI-Systeme) sowohl in der Fachcommunity wie auch in Wirtschaft und Gesellschaft bewusst zu machen und zur Umsetzung dieses Prinzips methodische, technische und empirische Beiträge zu leisten. Sie ergänzt die algorithmen- und systemorientierte Sicht konventioneller KI-Forschung um die Perspektive der nutzergerechten Gestaltung von KI-Systemen und erweitert damit das Themenspektrum des Fachbereichs Mensch-Computer-Interaktion um dieses immer wichtiger werdende Forschungsfeld. Die Fachgruppe verfolgt einen interdisziplinären Ansatz und strebt Kooperationen mit anderen Gliederungen innerhalb des Fachbereichs und der GI an. Die Fachgruppe will durch eine gute Sichtbarkeit, ansprechende wissenschaftliche Veranstaltungen und Publikationen mit unterschiedlichen Adressatenkreisen Mitglieder aus Forschung und Wirtschaft gewinnen und die Community im deutschsprachigen Raum, aber auch darüber hinaus, stärker vernetzen.

Zu den Aufgaben der Fachgruppe zählen insbesondere die Organisation von Workshops (unter anderem auf der jährlichen Konferenz Mensch und Computer des Fachbereichs MCI), die Ausrichtung von Symposien zu spezifischen Fachthemen und die Herausgabe von Special Issues. Darüber hinaus soll die Fachgruppe den öffentlichen Diskurs über die Beziehung zwischen Mensch und KI-Systemen fördern und Informationen für ein nicht fachlich vorgebildetes Publikum bereitstellen.

Themenfeld der Fachgruppe

Die Leistungsfähigkeit intelligenter Algorithmen und Techniken konnte in den letzten Jahren durch neue technologische und methodische Entwicklungen in bemerkenswerter Weise gesteigert werden. Neben der Verfügbarkeit leistungsfähigerer Hardware sind vor allem neue Methoden des maschinellen Lernens, insbesondere auf neuronalen Techniken basierende Methoden des Deep Learning, sowie die zunehmende Verfügbarkeit von sehr großen Datensätzen („Big Data“), wesentliche Faktoren, die zu teilweise erstaunlichen Durchbrüchen in verschiedensten spezifischen Anwendungsfeldern wie zum Beispiel Bild- und Sprachverstehen, Data Analytics, Empfehlungssystemen bis hin zur automatischen Generierung von künstlerischen Artefakten führten.

Angesichts der jüngsten Erfolge von KI-Methoden und dem zunehmenden Vordringen intelligenter Algorithmen in verschiedenste Anwendungsbereiche stellt sich die grundsätzliche Frage nach der Rolle des Menschen im Zusammenwirken mit technischen Systemen in neuer und verschärfter Form. Während die Zielsetzung der KI bislang zumeist in der Automatisierung (und Substitution) menschlicher Leistungen lag (und oft weiterhin darin gesehen wird, verfolgt die Mensch-Computer-Interaktion seit ihren Anfängen den Ansatz der Unterstützung und Verstärkung menschlicher Fähigkeiten. Die neuen intelligenten Techniken bergen hingegen die Gefahr, die Kluft zwischen Nutzer und System drastisch zu vergrößern, da Transparenz und Nachvollziehbarkeit von Entscheidungen, insbesondere von solchen, die durch probabilistische Techniken getroffen werden, kaum noch gegeben sind. Zudem ist Nutzern die Möglichkeit der interaktiven Steuerung weitgehend entzogen, die Systeme stellen aus Nutzersicht eine „Black Box“ dar. Diese Restriktionen können zu vielfältigen Problemen beim Einsatz intelligenter Techniken führen, so unter anderem zu mangelndem Vertrauen der Nutzer in die Systeme, einer geringen Akzeptanz, bis hin zu negativen wirtschaftlichen und gesellschaftlichen Folgen wie finanziellen Fehlentscheidungen oder der (absichtlichen oder unabsichtlichen) Diskriminierung bestimmter Personen oder Gruppen. Vor diesem Hintergrund müssen bewährte Gestaltungsziele einer nutzerzentrierten Systemgestaltung wie zum Beispiel Aufgabenangemessenheit, Selbsterklärungsfähigkeit oder Steuerbarkeit wieder hervorgehoben, gleichzeitig aber auch im Kontext von Systemen mit intelligenten Algorithmen neu interpretiert und umgesetzt werden. Usability und positive User Experience müssen auch bei KI-basierten Systemen prioritäre Anforderungen bleiben.

Die Fachgruppe „Nutzerzentrierte Künstliche Intelligenz“ beschäftigt sich vor diesem Hintergrund mit Forschungsthemen, die unter anderem die folgenden Aspekte einer nutzergerechten Gestaltung von KI-basierten Systemen behandeln:

• Präsentation und Interaktion für Nutzerschnittstellen intelligenter Systeme
• Transparenz und Erklärbarkeit
• Steuerbarkeit und Explorierbarkeit von intelligenten Algorithmen
• Kooperation Mensch-System
• Ethische und rechtliche Aspekte