KI in der industriellen Produktion verständlich vermitteln |
Anforderungen an KI-Demonstratoren zur Förderung von Akzeptanz
| Zeitschrift | Industry 4.0 Science |
| Ausgabe | 42. Jahrgang, 2026, Ausgabe 5, Seite 6-14 |
| Open Access | https://doi.org/10.30844/I4SD.26.5.1 |
| Literatur | Teilen | Zitieren | Download |
Abstract
Keywords
Artikel
Motivation: Kompetenz und Akzeptanz durch KI-Demonstratoren
Der zunehmende Einsatz von Künstlicher Intelligenz (KI) in der Produktion kann bei Mitarbeitenden negative Emotionen wie Unsicherheit, Angst, Überforderung und Skepsis hervorrufen und damit die Akzeptanz von KI in industriellen Transformationsprozessen hemmen [1].
Vor diesem Hintergrund werden Kompetenzen im Umgang mit KI immer wichtiger. Besonders entscheidend ist es, KI-Systeme zu verstehen, zu interpretieren und kritisch zu beurteilen, da dies für ihre Akzeptanz und einen kompetenten Einsatz unerlässlich ist. Zudem zeigt eine aktuelle Studie, dass die Akzeptanz gegenüber KI steigt, wenn bereits Vorerfahrungen mit KI vorhanden sind [2].
KI-Demonstratoren stellen daher ein geeignetes Mittel zur Kompetenzvermittlung dar, da sie als interaktive Artefakte praktische Erfahrung, didaktisches Verständnis und reflexive Auseinandersetzung mit KI ermöglichen. Als Grenzobjekte unterstützen sie zudem die Verständigung und den Austausch zwischen wissenschaftlichen, technischen und anwendungsnahen Akteuren. [3]
Trotz ihrer praktischen Relevanz fehlen bislang systematisch abgeleitete Anforderungen an KI-Demonstratoren, die explizit auf den Abbau negativer Emotionen und die Förderung von Akzeptanz abzielen. Daraus ergibt sich folgende Forschungsfrage: Welche Anforderungen müssen KI-Demonstratoren erfüllen, um die Akzeptanz gegenüber KI in der industriellen Produktion zu fördern und negative Emotionen zu reduzieren?
Methode zur Ableitung von Anforderungen an KI-Demonstratoren
Zur Beantwortung der Forschungsfrage wurde ein mehrstufiges, qualitatives Forschungsdesign gewählt, das empirische Erhebungen mit einer Markt- und Literaturanalyse kombiniert (Bild 1).
Die Analyse basiert auf leitfadengestützten Interviews mit Expertinnen und Experten, ergänzt durch eine Marktrecherche zu bestehenden KI-Demonstratoren sowie (Meta-)Studien. Insgesamt wurden 15 Interviews mit Fachpersonen aus Wissenschaft, Industrie und Verbänden durchgeführt (Details siehe [7]). Ziel der Interviews war es, relevante Gestaltungsaspekte und Anforderungen an KI-Demonstratoren aus unterschiedlichen Perspektiven zu identifizieren.
Ergänzend zu den Interviews wurde eine explorative Markt- und Literaturanalyse durchgeführt, um einen systematischen Überblick über bestehende KI-Demonstratoren zu gewinnen. Es wurden öffentlich zugängliche KI-Demonstratoren identifiziert, strukturiert erfasst und quantitativ sowie qualitativ ausgewertet. Die Analyse zeigt, dass bestehende KI-Demonstratoren sich überwiegend auf industrierelevante Anwendungsszenarien wie Qualitätsmanagement und Prozessoptimierung fokussieren und häufig physische sowie interaktive Formate eingesetzt werden. Gleichzeitig machen sich Defizite in der didaktischen Ausgestaltung bemerkbar, insbesondere hinsichtlich der transparenten Darstellung von Grenzen sowie der adressatengerechten Aufbereitung (Details siehe [3]).
Darüber hinaus wurden (Meta‑)Studien zur Veränderung von Arbeit durch KI mit Fokus auf Tätigkeitsverschiebungen und Kompetenzanforderungen, zu Einsatzgebieten von KI in der Produktion sowie zur Technologieakzeptanz von KI berücksichtigt. Die Befunde dieser Studien dienten dazu, die empirischen Ergebnisse aus Interviews und Marktrecherche zu erweitern.
Die Auswertung der Interviews, der Marktanalyse sowie der einbezogenen Studien erfolgte zunächst auf Metaebene mithilfe einer qualitativen Inhaltsanalyse nach Mayring mit MAXQDA. Als analytischer Rahmen wurde hierbei das Framework von [4] herangezogen, das Designprinzipien für Demonstratoren beschreibt. Aspekte der Technologieakzeptanz flossen sowohl über etablierte Akzeptanzmodelle wie das AI-TAM [8] als auch über empirische Befunde aus einer Meta-Analyse zur Akzeptanz von KI im Produktionskontext in die Analyse ein [9]. Zusätzlich wurden Studien zu Veränderungen von Tätigkeiten und Kompetenzanforderungen [10–13] sowie Metastudien zu Einsatzgebieten von KI in der industriellen Praxis berücksichtigt [14, 15].
Um die identifizierten Aspekte von der Metaebene auf eine Umsetzungsebene zu überführen, wurde im Anschluss das Anforderungsframework nach [6] angewendet, das zwischen funktionalen Anforderungen, Qualitätsanforderungen und Randbedingungen unterscheidet. Die im Rahmen der Inhaltsanalyse gebildeten Codes und Kategorien wurden den jeweiligen Anforderungstypen zugeordnet und anschließend selektiert. Als Auswahlkriterium galt, dass ein Code entweder von mindestens einem Drittel der interviewten Expertinnen und Experten genannt und/oder in den weiteren analysierten Quellen (Marktrecherche und Studien) identifiziert wurde. Auf diese Weise wurde die Anzahl der Codes reduziert und auf zentrale, mehrfach belegte Inhalte fokussiert. Auf Grundlage der priorisierten Codes wurden schließlich nach [6] Anforderungen formuliert.
Ergänzend wurden die abgeleiteten Anforderungen aus einer anwenderzentrierten Perspektive erweitert. Hierzu wurde ein personabasierter Workshop durchgeführt, der auf einer vorgelagerten Studie zu negativen Emotionen gegenüber KI im Produktionskontext sowie deren Ursachen aufbaut [1]. Die zugrunde liegenden Personas ermöglichten es, emotionale Bewertungsmuster systematisch in die Anforderungsableitung einzubeziehen. In einem interdisziplinär zusammengesetzten Workshop wurden nutzerbezogene Anforderungen an KI-Demonstratoren gemeinsam erarbeitet, strukturiert und priorisiert (Details siehe [16]). Bestehende Anforderungen aus der Voranalyse wurden dabei konsolidiert, sofern inhaltliche Überschneidungen vorlagen, während neu identifizierte Aspekte ergänzend in den Anforderungskatalog aufgenommen wurden.
Die vorliegende Darstellung erhebt keinen Anspruch auf statistische Repräsentativität. Ziel ist vielmehr die Entwicklung eines strukturierten, praxisnahen Orientierungsrahmens für die Gestaltung und Bewertung von KI-Demonstratoren.
Ergebnisse: Anforderungen an KI-Demonstratoren
Auf Basis der Analyse wurden insgesamt 69 Anforderungen an KI-Demonstratoren identifiziert, darunter 42 funktionale Anforderungen, 22 Qualitätsanforderungen sowie fünf übergreifende Randbedingungen. Die funktionalen Anforderungen adressieren insbesondere die inhaltlichen und didaktischen Merkmale von KI-Demonstratoren, während die Qualitätsanforderungen Aspekte der Nutzungserfahrung, der Gestaltung sowie des Betriebs fokussieren. Ergänzend beschreiben die Randbedingungen grundlegende Voraussetzungen für die Entwicklung von KI-Demonstratoren.
Die funktionalen Anforderungen wurden entlang der Ziele und Designprinzipien nach [4] strukturiert (Bild 2). Dabei zeigen sich insbesondere Anforderungen, die auf Transparenz, Erwartungsmanagement sowie die Kontextualisierung von KI-Systemen abzielen. Mehrere Fachpersonen betonen, dass Demonstratoren gezielt auch Grenzen und Fehlverhalten von KI sichtbar machen sollen, um überhöhten Erwartungen entgegenzuwirken.
Ein technischer Experte verdeutlicht dies exemplarisch: „[Man muss] beim Demonstrator die Grenzen aufzeigen, bewusst, dass man sagt, das war jetzt alles dafür notwendig und das haben wir alles dafür gemacht […] Jetzt machen wir einen kleinen naheliegenden Schritt, den jeder Mensch vielleicht noch verstehen würde […] und das KI-System […] würde gnadenlos versagen.“ Diese Perspektive wird sowohl durch die Marktanalyse als auch durch Studien zu Veränderungen von Tätigkeiten und Kompetenzen infolge des KI-Einsatzes gestützt und unterstreicht die Bedeutung eines realistischen Erwartungsmanagements als zentrale Funktion von KI-Demonstratoren.
Neben der Darstellung technischer Grenzen nimmt die Verdeutlichung konkreter Nutzenpotenziale eine zentrale Rolle ein. So beschreibt ein Unternehmensvertreter: „Die Produktionsmitarbeiter […] da muss mehr […] dieser persönliche Benefit aus dem Demonstrator schneller herausgestellt werden […].“ Entsprechend adressieren funktionale Anforderungen praxisnahe Szenarien, alltagsbezogene Beispiele sowie die Visualisierung konkreter Arbeitserleichterungen.
Die Qualitätsanforderungen wurden entlang der Kategorien nach [6] sowie ergänzender, aus der Analyse abgeleiteter Kategorien strukturiert (Bild 3). Neben klassischen Aspekten, wie Zuverlässigkeit und Benutzbarkeit treten insbesondere Anforderungen an Design und Präsentationswirkung sowie Erlebnisqualität hervor. So beschreibt ein KI-Entwickler: „Etwas, wo man selbst was ausprobieren kann […] und quasi die Entscheidungen von KI nicht nur auf dem Bildschirm sieht, sondern wirklich im Physischen erleben kann […], das ist natürlich immer ein Hingucker“.
Zusätzlich wurden folgende fünf Randbedingungen identifiziert, die den Entwicklungs- und Gestaltungsprozess von KI-Demonstratoren betreffen [EI]:
- Vor Entwicklung des Systems ist das Demonstrator-Ziel zu definieren.
- Vor Entwicklung des Systems ist die Zielgruppe eindeutig festzulegen.
- Vor Implementierung ist ein Storyboard zu erstellen, das den Anwendungsablauf, die Interaktionen sowie Ein- und Ausgaben vollständig beschreibt.
- Die Entwicklung erfolgt iterativ, wobei Entwicklungsstände regelmäßig durch geeignete Tests überprüft werden.
- Bei der Entwicklung werden unterschiedliche Nutzungsszenarien einschließlich relevanter Störeinflüsse berücksichtigt und im Rahmen von Tests zur Bewertung der Robustheit herangezogen.
Förderung der Akzeptanz basiert nicht auf einzelnen Gestaltungsmerkmalen
Die abgeleiteten Anforderungen verdeutlichen, dass die Förderung der Akzeptanz von KI-Anwendungen in der Produktion durch Demonstratoren nicht ausschließlich auf einzelnen Gestaltungsmerkmalen basiert. Vielmehr entsteht sie aus einer Wechselwirkung zwischen technischer Umsetzung, Nutzungserfahrungen und didaktischer Integration.
Gleichzeitig wird deutlich, dass die Anforderungen nicht isoliert betrachtet werden können. Es bestehen Spannungsfelder, etwa zwischen Zugänglichkeit und technischer Tiefe, realistischem Erwartungsmanagement und positiver Nutzendarstellung sowie zwischen Erklärbarkeit und der Komplexität moderner KI-Modelle. Diese Zielkonflikte verdeutlichen, dass nicht alle Anforderungen gleichzeitig maximal erfüllbar sind, sondern kontextabhängig priorisiert werden müssen.
Die Vielfalt der Anforderungen spricht daher gegen einen einzelnen Demonstrator, sondern erfordert einen Multi-Demonstratoren-Ansatz, um unterschiedliche Technologien, Nutzungskontexte und emotionale Reaktionen differenziert zu adressieren. In einem solchen Ansatz könnten für verschiedene KI-Technologien und Anwendungsszenarien jeweils spezifische Demonstratoren bereitgestellt werden, in denen Nutzende zunächst den konkreten Nutzen von KI schnell erfassen können und anschließend schrittweise ein vertieftes Verständnis der Funktionsweise entwickeln.
Die Ergebnisse sind vor dem Hintergrund mehrerer Limitationen zu interpretieren. Die Anforderungen sind nur eingeschränkt direkt überprüfbar, da sie primär aus qualitativen Analysen abgeleitet wurden und keine quantitativen Schwellenwerte vorliegen. Allgemeine Formulierungen erleichtern zwar die übergreifende Anwendung, erschweren jedoch die Überprüfbarkeit. Zudem erfolgte keine Priorisierung der Anforderungen, sodass keine Aussagen darüber getroffen werden können, welche Anforderungen in der Praxis als besonders wichtig einzustufen sind.
Ferner wurden potenzielle Endnutzerinnen und Endnutzer, also Mitarbeitende aus der Produktion, nicht unmittelbar in die empirische Erhebung einbezogen. Die Anforderungen basieren primär auf Expertinnen- und Expertenwissen, ergänzt durch eine nutzerzentrierte Validierung über Personas. Dadurch werden zwar emotionale Bewertungsmuster adressiert, jedoch keine direkte Erfahrung von zukünftigen Nutzenden erhoben.
Daraus ergibt sich weiterer Forschungsbedarf, insbesondere hinsichtlich empirischer Priorisierung der Anforderungen. Geplant ist eine Studie mit Beschäftigten und Führungskräften der industriellen Praxis zur weiteren Priorisierung der Anforderungen. Darüber hinaus ist die Konzeption und Entwicklung eines Multi-Demonstratoren-Konzepts vorgesehen, um die Wirkung von KI-Demonstratoren auf Akzeptanz und emotionale Wahrnehmung in realen Anwendungskontexten zu evaluieren.
Die Autoren danken dem Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) für die Förderung des Projekts WIRKsam (02L19C600ff), in dessen Rahmen dieser Beitrag entstanden ist. Die Verantwortung für den Inhalt dieser Veröffentlichung liegt bei der Autorin und den Autoren.
Literatur
[1] Link, J.; Stowasser, S.: Negative Emotions Towards Artificial Intelligence in the Workplace – Motivation and Method for Designing Demonstrators. In: Degen, H.; Ntoa, S. (Hrsg.): Artificial Intelligence in HCI. Cham 2024.[2] Feggeler, N.; Harlacher, M.; Link, J.; Jeske, T.: ifaa-Trendstudie: Zukunftstechnologien. URL: www.arbeitswissenschaft.net/fileadmin/user_upload/ifaa_Trendstudie_Auswertung_Zukunftstechnologien_3.pdf, Abrufdatum 14.04.2026
[3] Link, J.; Feggeler, N.; Harlacher, M.; Stowasser, S.: Making AI understandable: Systematisation of AI demonstrators in the production context. In: Procedia Computer Science 277 (2026), S. 1941–1952.
[4] Bobbe, T.; Opeskin, L.; Lüneburg, L.-M.; Wanta, H.; Pohlmann, J.; Krzywinski, J.: Design for communication: how do demonstrators demonstrate technology? In: Design Science 9 (2023)
[5] Mayring, P.; Fenzl, T.: Qualitative Inhaltsanalyse. In: Baur, N.; Blasius, J. (Hrsg.): Handbuch Methoden der empirischen Sozialforschung. Wiesbaden 2022.
[6] Pohl, K.; Rupp, C.: Basiswissen Requirements Engineering. Aus- und Weiterbildung nach IREB-Standard zum Certified Professional for Requirements Engineering Foundation Level. Heidelberg 2021.
[7] Link, J.; Stowasser, S.: Design principles for AI Demonstrators: Insights from Expert Interviews. In: Artificial Intelligence in HCI – Lecture Notes in Computer Science. In Druck.
[8] Baroni, I.; Calegari, G.; Scandolari, D.; Celino, I.: AI-TAM: a model to investigate user acceptance and collaborative intention inhuman-in-the-loop AI applications. In: Human Computation 9 (2022)
[9] Link, J.; Stowasser, S.: Acceptance of AI in the workplace: Literature analysis and process-oriented methods to foster organizational acceptance and trust of AI. In: Ahram, T.; Karwowski, W.; Kalra, J. (Hrsg.): Human Factors in Design, Engineering, and Computing. USA 2025.
[10] Franken, S.; Mauritz, N.; Prädikow, L.: Kompetenzen für KI-Anwendungen: Theoretisches Modell und partizipative Erfassung und Vermittlung in Unternehmen. In: GfA (Hrsg.): Technologie und Bildung in hybriden Arbeitswelten. Magdeburg 2022.
[11] Baumgartner, M.; Horvat, D.; Kinkel, S.: Künstliche Intelligenz in der Arbeitswelt – Eine Analyse der Kompetenzbedarfe auf Unternehmensebene. In: GfA (Hrsg.): Nachhaltig Arbeiten und Lernen. Analyse und Gestaltung lernförderlicher und nachhaltiger Arbeitssysteme und Arbeits- und Lernprozesse. Hannover 2023.
[12] Hein, P.; Simon, K.; Kögel, A.; Löffler, T.; Bullinger-Hoffmann, A.: Menschzentrierte Einführung von Künstlicher Intelligenz in Produktion und Engineering. In: Zeitschrift für wirtschaftlichen Fabrikbetrieb 120 (s1) (2025), S. 12–16.
[13] Pokorni, B.; Braun, M.; Knecht, C.: Menschzentrierte KI-Anwendungen in der Produktion – Praxiserfahrungen und Leitfaden zu betrieblichen Einführungsstrategien. DOI: https://doi.org/10.24406/publica-fhg-300817
[14] Presciuttini, A.; Cantini, A.; Costa, F.; Portioli-Staudacher, A.: Machine learning applications on IoT data in manufacturing operations and their interpretability implications: A systematic literature review. In: Journal of Manufacturing Systems 74 (2024), S. 477–486.
[15] Gao, R. X.; Krüger, J.; Merklein, M.; Möhring, H.-C.; Váncza, J.: Artificial Intelligence in manufacturing: State of the art, perspectives, and future directions. In: CIRP Annals 73 (2024), S. 723–749.
[16] Link, J.; Harlacher, M.; Stowasser, S.: Demonstratoren zur Verringerung negativer Emotionen gegenüber Künstlicher Intelligenz in der Produktion: Eigenschaften und Anforderungen auf Basis von Personas. In: GfA (Hrsg.): Menschengerechte Arbeitsgestaltung. Kassel 2026.
Potenziale: Führung Management
Das könnte Sie auch interessieren
