Operationalisierung ethischer KI mit tachAId

Die Gesamteffizienz und der Erfolg von KI-Lösungen hängen grundlegend von der Qualität und Effektivität der daraus resultierenden Mensch-KI-Interaktion ab [1]. Die rasche Einführung neuer Technologien eilt der sorgfältigen Abwägung ethischer Herausforderungen und menschenzentrierter Designprinzipien, die für eine erfolgreiche Implementierung und Agilität entscheidend sind, oft voraus.

Wichtigen Interessengruppen – darunter strategische Entscheidungsträger, KI-Ingenieure und Designer von Benutzeroberflächen – fehlt es oft an ausreichendem Bewusstsein für die spezifischen Fallstricke an der Schnittstelle zwischen Mensch und KI. Herausforderungen reichen hierbei von algorithmischer Undurchsichtigkeit und dem Risiko systemischer Verzerrungen bis hin zu Datenschutzbedenken, verfrühter Automatisierung, erodierter menschlicher Handlungsfähigkeit und unklaren Verantwortlichkeiten [2–5].

In der Industrie konzentriert sich die Forschung oft vorrangig auf technische Machbarkeit und Leistungskennzahlen [6, 7], wobei menschliche und ethische Faktoren in den Hintergrund treten. Obwohl zahlreiche Rahmenwerke für ethische KI vorgeschlagen wurden, formulieren die meisten lediglich übergeordnete Grundsätze – wie Transparenz, Fairness, Nichtschädigung, Verantwortung und Datenschutz –, ohne konkrete Anwendungsrichtlinien für die Umsetzung aufzuzeigen [8, 9]. Dadurch bleibt eine anhaltende Lücke zwischen abstrakten Idealen und der täglichen KI-Entwicklung bestehen.

Die Bemühungen, diese Lücke zu schließen, haben zu einer wachsenden Zahl von Methoden und Tools geführt, die jedoch in der Regel nur auf einzelne Phasen des Entwicklungsprozesses oder bestimmte Modalitäten zur Bewältigung ethischer KI-Fragen abzielen, wie etwa Zusammenfassungen, Konzepte, Code und Bildung [9]. Infolgedessen bleibt die Landschaft fragmentiert, und es gibt nur wenige Ansätze, die berücksichtigen, wie verschiedene Formen der Anleitung – von der konzeptionellen Reflexion bis zur technischen Umsetzung – zusammenwirken können, um Praktiker während des gesamten KI-Lebenszyklus zu unterstützen.

Als Reaktion auf diese Fragmentierung hat die menschenzentrierte KI (HCAI) als angewandte Perspektive Aufmerksamkeit erlangt. Diese zielt darauf ab, ethische Prinzipien in soziotechnische Design- und Entwicklungspraktiken zu übersetzen [6, 10]. Während sich die ethische KI auf normative Prinzipien und Governance konzentriert, betont HCAI die Beteiligung, Benutzerfreundlichkeit und Erweiterung der menschlichen Fähigkeiten. Trotz ihrer Überschneidungen unterscheiden sich die beiden Ansätze in ihrem Fokus: Die ethische KI definiert, was erreicht werden soll, HCAI untersucht, wie dies realisiert werden kann. Beide Ansätze haben jedoch weiterhin Schwierigkeiten, diese Prinzipien in der Praxis umzusetzen.

tachAId (technische Unterstützung für die Entwicklung menschenzentrierter KI) wurde entwickelt, um diese Lücke zu schließen [11]. Es handelt sich dabei um ein interaktives, webbasiertes Self-Service-Beratungstool, das entwickelt wurde, um HCAI-Überlegungen direkt in den technischen Implementierungsprozess einzubetten. Dieser Artikel berichtet über die Designprinzipien und die qualitative Validierungsstudie des tachAId-Artefakts. Anhand von zwei Fallstudien aus der Industrie soll gezeigt werden, wie ein solches Tool dazu beitragen kann, die Operationalisierungslücke in der angewandten KI-Ethik zu schließen und beleuchtet gleichzeitig die damit verbundenen Herausforderungen.

Operationalisierung menschenzentrierter KI mit tachAId

tachAId wurde mit dem Ziel entwickelt, das Bewusstsein verschiedener Interessengruppen für HCAI zu schärfen, sie bei der Reflexion über HCAI-Prinzipien im Rahmen ihrer spezifischen Projekte anzuleiten und ihnen unabhängig von ihren Vorkenntnissen in den Bereichen KI oder Ethik umsetzbare Handlungsempfehlungen bereitzustellen. In diesem Abschnitt werden sowohl die theoretischen Grundlagen, die HCAI in der Praxis prägen, als auch das Design von tachAId vorgestellt, das diese Prinzipien durch interaktive, auf die Interessengruppen ausgerichtete Leitlinien operationalisiert.

Theoretische Grundlagen: HCAI in der Praxis verankern

Die Entwicklung und der Einsatz von KI erfordern eine Umstellung auf HCAI. Dieser Ansatz betont die Ausrichtung von KI-Systemen auf menschliche Werte, Bedürfnisse und Fähigkeiten, um die Fähigkeiten des Einzelnen zu erweitern, ihn zu unterstützen und zu stärken, statt Aufgaben zu automatisieren [3, 6, 10]. Um HCAI in der Praxis umzusetzen, müssen wichtige ethische Kriterien berücksichtigt werden, die sich über den gesamten KI-Lebenszyklus hinweg manifestieren [8]. Aufbauend auf Rahmenwerken, die HCAI-Konfigurationen in organisatorischen Kontexten analysieren [12], operationalisiert tachAId Kriterien, die für die angewandte Ethik in industriellen Umgebungen besonders relevant sind.

Menschliche Handlungsfähigkeit und Integration von Fachwissen

Ein zentraler Grundsatz von HCAI ist die Entwicklung von KI-Systemen als Werkzeuge, die die Kontrolle durch den Nutzer unterstützen, Fähigkeiten verbessern und ein Gefühl der Eigenverantwortung fördern, wodurch Dequalifizierung oder übermäßige Abhängigkeit verhindert werden [3, 4, 12]. Dies beinhaltet die Gestaltung von Human-in-the-Loop-Systemen, bei denen der Mensch die Kontrolle behält und KI als kooperativer Partner fungiert, der menschliche Fähigkeiten in komplexen Situationen erweitert. Solche Systeme wahren Verantwortung, Vertrauen, Fairness und Nichtschädigung. Sie gewährleisten, dass Entscheidungen – und damit die Rechenschaftspflicht – transparent bleiben, und verhindern Automatisierungsverzerrungen oder unbeabsichtigte Schäden [8].

Effektive KI-Lösungen erfordern außerdem die aktive Einbindung von Fachwissen der Anwender während des gesamten Entwicklungszyklus – von der Datenerfassung über das Feature Engineering bis hin zur Modellvalidierung –, um sicherzustellen, dass die Tools technisch ausgereift, praktisch relevant und nutzbar sind. Die Einbettung von Fachwissen in allen Phasen fördert zudem die Nutzenstiftung und Nachhaltigkeit, indem das Systemverhalten im Kontextverständnis und im langfristigen gesellschaftlichen Nutzen verankert wird, anstatt rein auf kurzfristige Leistung ausgerichtet zu sein [8].

Klärung von Verantwortlichkeiten und Prozessen

Die Integration von KI führt zu Unklarheiten in bestehenden Arbeitsabläufen. Ein menschenzentrierter Ansatz erfordert die Definition klarer Rollen, Rechenschaftspflichten und Prozesse für Datenmanagement, Modelltraining und -überwachung sowie den Umgang mit KI-Ausfällen oder unerwarteten Ergebnissen [12, 13]. Diese Klarheit ist für die Schaffung von Vertrauen und die Gewährleistung eines sicheren Betriebs unerlässlich.

Entwurf und Implementierung von tachAId

Um die HCAI-Kriterien in ein praktisches und ansprechendes Tool zu überführen, haben wir tachAId für die selbstgesteuerte Erforschung von HCAI-Themen entwickelt und diese in die technischen Schritte der KI-Implementierung integriert. tachAId richtet sich an Stakeholder mit unterschiedlichen Rollen und Fachkenntnissen – darunter Entscheidungsträger, Entwickler und Forscher – und geht über statische Formate wie Checklisten oder Whitepaper hinaus, indem es Reflexion und Lernen fördert, anstatt nur Informationen zu präsentieren. In Anlehnung an die Affordanzen interaktiver Artikel von Hohman et al. [14] haben wir fünf Designprinzipien (DPs) abgeleitet, die als Leitlinien für die Entwicklung und Struktur von tachAId dienten. Bild 1 zeigt die DPs und Bild 2 eine Ansicht von tachAId.

Methodik: Eine formative Validierung anhand zweier Industriefälle

Um den Nutzen, die Benutzerfreundlichkeit und die Wirksamkeit von tachAId zu bewerten, wurde eine qualitative Validierungsstudie durchgeführt. Das primäre Ziel bestand darin, umsetzbares Feedback für Verbesserungen zu generieren. Es handelte sich um eine formative, naturalistische Validierung: formativ, weil die Ergebnisse direkt in die nächste Designiteration des Tools einflossen, und naturalistisch, weil die Teilnehmer das Tool auf ihre realen Projekte anwendeten, was die ökologische Validität erhöhte. Zu diesem Zweck wurde tachAId in zwei unterschiedlichen industriellen Fertigungskontexten evaluiert. Diese wurden ausgewählt, um verschiedene Stadien bei der Einführung von KI darzustellen und die Relevanz des Tools für unterschiedliche organisationale KI-Reifegrade und Anwendungsumgebungen zu testen (Bild 3). Insgesamt wurden drei Teilnehmer mit unterschiedlichen Stakeholder-Rollen rekrutiert.

Es wurde eine zweistufige Datenerhebung durchgeführt, um sowohl In-situ-Interaktionen als auch reflektierendes Feedback zu erfassen:

• Selbstgesteuerte Think-Aloud-Sitzungen: Jeder Teilnehmer nutzte tachAId 40 bis 60 Minuten lang selbstständig und bezog dessen Inhalt auf sein spezifisches KI-Projekt. Während der Interaktion mit dem Tool verbalisierten die Teilnehmer kontinuierlich ihre Gedanken, Entscheidungen und Unklarheiten. Diese Methode bietet einen direkten Einblick in unmittelbare kognitive Prozesse und Usability-Probleme [15, 16]. Die Sitzungen wurden mit minimaler Intervention beobachtet; nonverbale Reaktionen wurden notiert.
• Halbstrukturierte Interviews: Unmittelbar nach der Think-Aloud-Sitzung wurden halbstrukturierte Interviews durchgeführt. Der Interviewleitfaden umfasste allgemeine Eindrücke, die Übersichtlichkeit der Navigation, die wahrgenommene Nützlichkeit der Informationen, die Wirksamkeit des Tools bei der Hervorhebung von HCAI-Aspekten sowie Verbesserungsvorschläge.

Wichtige Beobachtungen, Zitate und Rückmeldungen wurden synthetisiert, um wiederkehrende Themen in Bezug auf Benutzerfreundlichkeit, Verständnis der Benutzer und Bewusstsein für HCAI zu identifizieren.

Bewusstseinsförderung für HCAI und Perspektivenwandel

tachAId erwies sich als wirksam in Bezug auf sein primäres Ziel: die Aufmerksamkeit der Stakeholder auf kritische HCAI-Aspekte zu lenken, die bei einer technisch orientierten Entwicklung sonst möglicherweise übersehen worden wären. Rollenübergreifend regte die Beschäftigung mit dem Tool zum Nachdenken an und führte in einigen Fällen zu beobachtbaren Perspektivwechseln der Teilnehmer auf die Interaktion zwischen Mensch und KI. Der Entwickler (Teilnehmer B) bestätigte, dass die Interaktion „dazu beigetragen hat, Interesse zu wecken und sich mit Themen zu beschäftigen, die man sonst nicht betrachtet hätte”, während der Produktverantwortliche/Forscher (Teilnehmer C) die Abschnitte über Key Performance Indicators (KPIs) während der Konzeptualisierung und die Anleitung zum Feature Engineering als sehr wertvoll für sein Projekt empfand. 

Der überzeugendste Beweis für die Wirkung des Tools war die beobachtete Entwicklung im Denken der Teilnehmer. Der strategische Entscheidungsträger (Teilnehmer A) tat Überlegungen zur menschlichen Interaktion während des Deployments zunächst als irrelevant ab und erklärte, dies sei „nicht unser Problem, sondern das Problem unserer Kunden”. Diese Sichtweise spiegelt eine häufige organisatorische Silostruktur wider, in der nachgelagerte menschliche Faktoren externalisiert werden.

Seine anschließende Auseinandersetzung mit den Inhalten des Tools zu Dokumentation und Modellkomplexität, einschließlich seiner positiven Aufnahme von Aufforderungen zur Dokumentation verschiedener Entwicklungsentscheidungen, deutet jedoch auf eine Erweiterung seiner Perspektive hin, die durch die Struktur des Tools angeregt wurde. Diese Veränderung zeigt, dass das Tool durch die Einbettung von HCAI-Themen in einen vertrauten KI-Lebenszyklus abstrakte ethische Imperative erfolgreich in konkrete Projektverantwortlichkeiten überführen kann.

Dieser Erfolg scheint eher in der Wissensarchitektur des Tools als in seinen spezifischen Interaktionsmechanismen begründet zu sein. Obwohl Navigationsprobleme weit verbreitet waren (wie im nächsten Abschnitt ausführlich beschrieben), machte die strukturierte Darstellung der HCAI-Themen innerhalb relevanter technischer Phasen diese greifbar und umsetzbar. Dies wurde von Teilnehmer B bestätigt, der das interaktive Format – ungeachtet der Schwierigkeiten, auf die andere stießen – als „wesentlich interessanter als eine lineare Darstellung der Inhalte“ empfand, was darauf hindeutet, dass die interaktive Entdeckung der Motivator hinter seinem Engagement war.

Diese Ergebnisse deuten darauf hin, dass der Kernbeitrag von tachAId – die strukturierte Zuordnung von HCAI-Prinzipien zum KI-Lebenszyklus – relevante Überlegungen in den entsprechenden Phasen effektiv aufzeigte und damit begann, die bestehende Bewusstseinslücke zu schließen.

Navigationsdissonanz: Der Konflikt zwischen Exploration und Orientierung

Das nichtlineare Navigationsparadigma wurde zwar von einem Benutzer als effektiv eingestuft, stellte für die anderen jedoch eine Quelle erheblicher Frustration dar. Der Entwickler (Teilnehmer B) nutzte den nichtlinearen Pfad erfolgreich wie beabsichtigt und fand die assoziative Struktur ansprechend. Im Gegensatz dazu kämpften die anderen Teilnehmer mit Orientierungsschwierigkeiten. Der strategische Stakeholder (Teilnehmer A) erklärte ausdrücklich: „Man verliert sich. Ich hätte etwas Lineares bevorzugt“. Beobachtet wurde der bewusste Versuch, einem linearen Pfad zu folgen, um sich nicht in Details zu verlieren. Ähnlich erwartete der Teilnehmer mit begrenzter KI-Erfahrung (Teilnehmer C) eine „klare lineare Anleitung“ und empfand das selbstgesteuerte Format als verwirrend. Diese Präferenz für Linearität war ein dominantes Thema. 

Diese Desorientierung resultierte aus mehreren spezifischen Usability-Problemen. Die Teilnehmer verwechselten die internen Navigationspfeile des Tools mit denen ihres Webbrowsers, übersahen Orientierungshilfen wie die Legende für „besuchte Seiten“ und waren sich im Allgemeinen der in der Benutzeranleitung erwähnten Option, linear zu lesen, nicht bewusst. Das Fehlen einer permanenten „Sie befinden sich hier“-Anzeige in der Hierarchie des Tools führte dazu, dass sich die Benutzer innerhalb der Baumstruktur verloren fühlten, Schwierigkeiten hatten, zu früheren Abschnitten zurückzukehren, und die Beziehungen zwischen verschiedenen Themen nicht verstanden.

Diese Probleme deuten darauf hin, dass die Benutzeroberfläche zwar zur Unterstützung der Erkundung konzipiert war, jedoch nicht über das notwendige  Orientierungsgerüst verfügte, um eine kognitive Überlastung zu verhindern und die Orientierung der Benutzer aufrechtzuerhalten, insbesondere für diejenigen, die einen strukturierten Überblick suchten.

Die Umsetzbarkeitslücke: Bedarf an konkreten Leitlinien

Eine allgemeine Erkenntnis bei allen Teilnehmern war der Wunsch nach konkreteren, praktischeren und handlungsorientierten Inhalten. Das Tool wurde oft als zu „bildungslastig“ empfunden, während die Benutzer „praktischere/anwendungsorientiertere Inhalte“ erwarteten. Diese Umsetzbarkeitslücke war keine Ablehnung der vorgestellten Themen, sondern eher eine Forderung nach mehr Details. Das Feedback konzentrierte sich durchweg auf den Übergang von der Theorie zur Praxis. Die Teilnehmer haben erwartet, dass das Tool die Frage „Welches Problem kann ich mit welchem Tool lösen?“ beantwortet. Dies äußerte sich in mehreren konkreten Wünschen: 

1. Spezifische Tool-Empfehlungen: Die Teilnehmer erwarteten, dass die „AutoML Toolbox“ „5 Tools“ oder einen Leitfaden zum Thema „Welche Schritte kann ich mit welchem Tool automatisieren?“ enthält.  
2. Veranschaulichende Anwendungsfälle: Es bestand der Wunsch nach einem „kurzen Beispiel oder Anwendungsfall“ für Konzepte wie die Erweiterung einer bestehenden KI sowie nach einem Beispiel dafür, „wie KI aufgebaut und trainiert wird“, und zwar im gesamten Tool. 
3. Vergleichende Analyse: Insbesondere der Entwickler wollte „schneller zu konkreten Vorschlägen (Vor- und Nachteile von Methoden) gelangen“. 
4. Praxisnahe Definitionen: Die Nutzer wünschten sich explizite Erklärungen zu technischen Methoden im Zusammenhang mit dem Datenschutz, wie k-anonymity, l-diversity und t-closeness, die sicherstellen, dass sensible personenbezogene Daten nicht eindeutig einer Person zugeordnet werden können. Darüber hinaus wurden klarere und prägnantere Erklärungen für komplexe Konzepte wie „katastrophales Vergessen“ (Vergessen von erworbenem Wissen beim Erlernen neuer Informationen) gefordert.

Problembewusstsein als Voraussetzung für ethisches Handeln

Unsere Auswertung deutet darauf hin, dass viele HCAI-Herausforderungen von KI-Akteuren nach wie vor nicht ausreichend erkannt werden, insbesondere in industriellen Umgebungen, in denen die technische Leistungsfähigkeit tendenziell den menschenzentrierten KI-Einsatz in den Hintergrund drängt. In diesem Zusammenhang hat tachAId sein Kernziel erfolgreich erreicht: zum Nachdenken anzuregen und das Bewusstsein zu schärfen (DP1, DP4). Über alle Rollen und Erfahrungsstufen hinweg berichteten die Teilnehmer von neuen Erkenntnissen oder Perspektivwechseln hinsichtlich der Rolle menschlicher Faktoren in der KI-Entwicklung.

Diese Wirkung resultierte nicht aus didaktischen Anweisungen, sondern aus der Einbettung von HCAI-Überlegungen in vertraute Projektphasen, wodurch die Abstraktion reduziert und sogenannte situative Ethik gefördert wurde. Das Tool übersetzt übergeordnete Prinzipien (z. B. Fairness, menschliche Handlungsfähigkeit) in konkrete, kontextbezogene Aufforderungen über den gesamten KI-Lebenszyklus hinweg und hilft den Anwendern, Ethik als praktisches Designanliegen und nicht als externe Einschränkung zu erkennen. Wie bei Teilnehmer A zu sehen ist, kann tachAId relevante Perspektivwechsel bewirken, indem es zur Reflexion menschlicher Interaktionen während des Deployments anregt. Diese anfängliche Zuordnung von Prinzipien zur Praxis ist ein entscheidender erster Schritt, um die Lücke zwischen Theorie und Praxis zu schließen und Teams mit einem gemeinsamen technischen Verständnis und ethischem Vokabular für eine tiefere, kooperative Zusammenarbeit auszustatten.

Das Spannungsfeld zwischen Exploration und Orientierung

Unsere Ergebnisse zeigen jedoch auch eine zentrale Spannung im Design des Tools auf: die Dissonanz zwischen nichtlinearer Exploration und dem Bedürfnis nach klarer Orientierung. Während einige Nutzer die Freiheit schätzten, Themen interessengeleitet zu durchsuchen, waren andere – insbesondere diejenigen, die neu in den Bereichen KI oder HCAI waren – erheblich desorientiert. Diese unterschiedlichen Reaktionen deuten darauf hin, dass der Erfolg explorativer Interaktionsmodelle in hohem Maße von den Vorkenntnissen, der digitalen Kompetenz und den Erwartungen der Nutzer an eine strukturierte Anleitung abhängt.

Dies veranschaulicht eine häufige Design-Spannung: Während nichtlineare Erkundung das Engagement fördert, kann sie ohne ausreichende Unterstützung die kognitive Belastung erhöhen (DP2 vs. DP3). Um dem entgegenzuwirken, wurde das Navigationsmenü verbessert, um eine klarere, beständige lineare Navigation zu ermöglichen. Das Onboarding wurde überarbeitet, indem Zweck und zentrales Interaktionsmodell des Tools nun explizit erläutert werden. Diese Änderungen tragen dazu bei, die Orientierung zu verbessern und gleichzeitig die Flexibilität bei der Erkundung zu bewahren – sie verbinden Anleitung und Nutzerautonomie.

Von Sensibilisierung zur Befähigung

Die vielleicht wichtigste Erkenntnis aus unserer Evaluation ist die Umsetzbarkeitslücke. Während tachAId als Einstiegspunkt zur Sichtbarmachung von HCAI erfolgreich war, gelang es dem Tool nicht, diese direkt umsetzbar zu machen. Nutzer äußerten einen Bedarf an mehr Beispielen aus der Praxis, Tool-Empfehlungen und Schritt-für-Schritt-Anleitungen zur Lösung der identifizierten Probleme. Dieses Feedback spiegelt eine größere Herausforderung in diesem Bereich wider: Bewusstsein ist zwar notwendig, reicht aber für Verhaltensänderungen oder die effektive Einführung in Organisationen nicht aus. Entwickler, Entscheidungsträger und Forscher suchen gleichermaßen nach konkreten Ressourcen, um von ethischen Absichten zur technischen Umsetzung zu gelangen.

Diese Lücke in der Umsetzbarkeit unterstreicht auch eine strukturelle Einschränkung, die Beratungsinstrumenten wie tachAId innewohnt: Die Nachfrage nach konkreten Beispielen, Implementierungsvorlagen oder Tool-Empfehlungen ist grundsätzlich kontextspezifisch. Während die Teilnehmer die Idee schätzten, „nächste Schritte” zu erhalten, sind solche Ressourcen oft eng mit den Besonderheiten eines bestimmten KI-Anwendungsfalls verbunden – einschließlich organisatorischer Arbeitsabläufe, KI-Modellen und Datentypen, regulatorischen Beschränkungen und Nutzerdemografien. Diese Variabilität macht es für ein allgemeines Tool wie tachAId äußerst schwierig, umsetzbare Inhalte anzubieten, die sowohl detailliert als auch breit anwendbar sind.

Implikationen für die Gestaltung von HCAI-Unterstützungstools

Unsere Ergebnisse haben über tachAId hinausgehende Implikationen für die Gestaltung von HCAI-Unterstützungstools. Erstens unterstreichen sie die Bedeutung der Einbettung ethischer Aspekte in den Entwicklungsprozess – ethische Überlegungen sollten zum Zeitpunkt der Entscheidung einfließen und nicht als separates oder nachträgliches Anliegen behandelt werden. Zweitens zeigen sie, dass Interaktivität wichtig ist: Tools, die die Nutzer aktiv zur Reflexion und Entscheidungsfindung anregen, scheinen effektiver zu sein als statische Checklisten oder passive Richtlinien. Drittens legen sie nahe, dass eine multimodale Unterstützung, die konzeptionelle Impulse, detaillierte Erklärungen, visuelle Hinweise und konkrete Beispiele kombiniert, entscheidend ist, um unterschiedliche Kompetenzniveaus und kontinuierliches Lernen während des gesamten KI-Lebenszyklus zu unterstützen.

Diese Ergebnisse stehen auch im Einklang mit der Typologie der KI-Ethik-Tools von Prem et al. [9], die konzeptionellen Rahmenwerke, Checklisten, Prozessmodelle, Software-Assistenten und Bildungsressourcen umfasst. Prem et al. [9] merken an, dass sich solche Tools in der Regel mit isolierten Aspekten der KI-Ethik befassen, sodass Praktiker selbst zwischen abstrakten Prinzipien und spezifischen technischen Maßnahmen navigieren müssen.

tachAId durchbricht diese Typologie, indem es Orientierung, Reflexion und Anleitung in einer einzigen interaktiven Umgebung integriert, die die Nutzer durch alle Phasen des CRISP-DM (Cross-Industry Standard Process for Data Mining) begleitet. Dieses hybride Design ermöglicht es den Nutzern, fließend zwischen den Abstraktionsebenen zu wechseln – von Prinzipien über Prozesse bis hin zu konkreten Beispielen – und unterstützt so eine kohärentere ethische Urteilsbildung in der Praxis.

Die qualitative Validierung bleibt aufgrund einer kleinen, aber bewusst vielfältigen Stichprobe, die strategische, technische und integrative Perspektiven abdeckt, explorativ. Die Validierung konzentrierte sich auch auf den ersten Prototyp; nachfolgende Verfeinerungen müssen noch validiert werden. Zukünftige Arbeiten werden bewerten, ob die verbesserte Version die Navigation und das Lernen über die Lebenszyklusphasen hinweg besser unterstützt.

Zusammenfassend lässt sich sagen, dass die Entwicklung und Validierung von tachAId ein konkretes Beispiel dafür ist, wie interaktive Tools dazu beitragen können, menschenzentrierte und ethische Überlegungen in KI-Entwicklungsprozesse einzubetten. Unsere Arbeit zeigt zwar klare Verbesserungsmöglichkeiten auf, bestätigt aber auch das Potenzial des interaktiven Formats von tachAId als wichtige Brücke zwischen Theorie und Praxis, das einen ethisch besser fundierten, menschenzentrierten Ansatz für die KI-Entwicklung in der Industrie unterstützt.

Dieses Forschungs- und Entwicklungsprojekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) im Rahmen des Programms „Die Zukunft der Wertschöpfung – Forschung zu Produktion, Dienstleistungen und Arbeit” (02L19C200) gefördert und von der Projektmanagementagentur Karlsruhe (PTKA) verwaltet. Die Autoren sind für den Inhalt dieser Veröffentlichung verantwortlich.

Das könnte Sie auch interessieren

Serious Games als Trainingsinstrument Spielmechanische Gestaltung zur Förderung Resilienz Annika Lange , Thomas Knothe

Unvorhergesehene Ereignisse fordern produzierende Unternehmen zunehmend heraus. Resilienz zur Bewältigung von Krisen wird dabei zur Schlüsselkompetenz. Durch Serious Games (SG) kann Resilienz Aufbau transparenter werden. Der folgende Beitrag leitet spezifische Anforderungen an SG aus den einzelnen Resilienzphasen ab und zeigt, wie diese spielmechanisch umgesetzt werden können, um so Resilienz effektiv zu trainieren.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 98-104

Im Braunfeld zur Industrie 4.0 Lernfabriken als Schulungs- und Testumgebung für die digitale Transformation Jakob Weber, Sven Völker

Die digitale Transformation produzierender Unternehmen erfordert Ingenieure mit der Fähigkeit, den Übergang zur Industrie 4.0 praktisch zu gestalten. Dieser Beitrag stellt das Konzept einer Lernfabrik vor, die selbst einer kontinuierlichen digitalen Transformation unterliegt und damit eine Umgebung für die Entwicklung von Transformationskompetenzen schafft. Das Konzept für die digitale Transformation basiert auf digitalen Werker-Assistenzsystemen und Multiagentensystemen zur Produktionssteuerung. Sie ermöglichen eine schrittweise Integration vorhandener Ressourcen. Die Lernfabrik wird den Studierenden nicht als fertige Lösung präsentiert, sondern im Rahmen von studentischen Projekten kontinuierlich weiterentwickelt. Damit adressiert sie direkt den Mangel an qualifiziertem Personal für die Realisierung der Industrie 4.0.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 88-96

Kollegin KI? Kompetenzanforderungen und -vermittlung bei KI-Nutzung in der Industrie Swetlana Franken

Künstliche Intelligenz verändert Aufgaben, Rollen und Kompetenzen in (Industrie‑)Unternehmen grundlegend. Sie agiert zunehmend als Kollegin, die Entscheidungen vorbereitet, Prozesse unterstützt und mit Menschen interagiert. Der Beitrag beleuchtet zentrale Kompetenzanforderungen für die KI-Nutzung in der Industrie, stellt ein integriertes Kompetenzmodell vor und zeigt praxisnahe Strategien zur Kompetenzvermittlung auf. Ziel ist es, Unternehmen und Beschäftigte auf eine menschengerechte, kompetenzorientierte Implementierung von KI vorzubereiten, die technologische Effizienz mit menschlicher Kreativität und Urteilskraft verbindet.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 78-86

Kompetenzentwicklung für die Zukunft Trendiation als strategischer Ansatz für die Qualifizierung und Weiterbildung Jürgen Fritz, Sebastian Busse, Ingo Dieckmann, Torsten Laub

Da Industrie 4.0 und Künstliche Intelligenz die Fähigkeiten von Organisationen neu gestalten, müssen traditionelle Schulungssysteme an die sich wandelnden Qualifikationsanforderungen angepasst werden. In diesem Beitrag wird Trendiation vorgestellt – eine strukturierte Methodik zur Umsetzung neuer Trends in umsetzbare Strategien – als systematischer Ansatz für diese Herausforderung. Anhand einer workshopbasierten Anwendung, die sich mit Edutainment, Human-Centered Design und Workforce Transformation befasst, zeigen wir, wie Organisationen von der abstrakten Trendidentifizierung zu konkreten Qualifikationsanforderungen und priorisierten Schulungsinitiativen gelangen können. Die Methode erzeugt eine nachvollziehbare Ergebniskette, die Trenddefinition, Bewertung von Kompetenzlücken und Implementierungspläne umfasst. Aus Sicht der Teilnehmer zeichnet sich der Ansatz durch hohe Klarheit und praktischen Nutzen aus. Durch die Verbindung von prospektivischer Trendanalyse und ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 22-29 | DOI 10.30844/I4SD.26.2.22

JOCAT (Job Change Acceptance Toolbox) Ein Change-Management-Ansatz für die ethische und nachhaltige Implementierung von KI-Systemen Sophie Berretta , Pauline Nolte, Annette Kluge , Skrolan Kopka

KI-Systeme stellen aufgrund ihrer dynamischen, undurchsichtigen und ethisch sensiblen Natur eine Herausforderung für das konventionelle Chanage-Management dar. Dieser Artikel wendet etablierte Change-Management-Modellen auf KI-spezifische Herausforderungen an und veranschaulicht den resultierenden Anpassungsbedarf anhand eines realen Anwendungsfalls. Die daraus resultierenden Erkenntnisse werden durch sechs Interviews mit Expertinnen und Experten aus der Praxis untermauert. Zusammen bilden sie die Grundlage für die Entwicklung der Job Change Acceptance Toolbox (JOCAT), einem modularen, praxisorientierten Hilfsmittel, das die Umsetzung von humanzentrierten, ethischen und nachhaltigen KI-bezogenen Veränderungsprozessen unterstützen soll.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 80-91 | DOI 10.30844/I4SD.26.1.80