Vorstufen der GenAI-Governance durch Managementkommunikation

Generative Künstliche Intelligenz (GenAI)-Tools wie ChatGPT, Gemini oder Microsoft Copilot versprechen kleinen und mittleren Unternehmen (KMU) eine Reihe von Vorteilen in Bezug auf Effizienzsteigerungen oder Prozessautomatisierung [1]. In Kombination mit vergleichsweise geringen Kosten, breiter Zugänglichkeit und vielfältigen Anwendungsmöglichkeiten verändert GenAI die Wettbewerbslandschaft für KMU, da sie Skalierbarkeit und Kreativität demokratisiert [2, 3]. Die Ausschöpfung des Potenzials von GenAI erfordert eine organisatorische Governance-Struktur, die sich mit den ethischen Herausforderungen des KI-Einsatzes auseinandersetzt. Dies ist besonders wichtig für KMU [3–6]. 

Während die Unterentwicklung der institutionellen Unternehmensverantwortung und die daraus resultierenden Hindernisse für die Implementierung von GenAI eine allgemein bekannte Tatsache sind [7], ist wenig darüber bekannt, wie GenAI-Risiken und -Verantwortlichkeiten in KMU wahrgenommen werden und welche Praktiken bisher aus prozeduraler Sicht etabliert wurden. Tiefere Einblicke sind wertvoll für den Aufbau einer Unterstützungsstruktur, die bestehende Ansätze erweitert. 

In den folgenden Abschnitten konzeptualisieren wir KI-Governance als Referenzrahmen, untersuchen den aktuellen Stand der GenAI-Governance im Ruhrgebiet, untermauern die Ergebnisse mit Erkenntnissen aus einer Fallstudie und schlagen schließlich nächste Schritte vor.

GenAI-Governance – Ein konzeptioneller Rahmen 

GenAI in KMU wird nicht nur als riesige Chance angesehen [8], sondern auch als ethische Herausforderung, die neue regulatorische Anforderungen mit sich bringt (z. B. der EU AI Act) [9]. Der Umgang mit ethischen Herausforderungen ist in großen Unternehmen eine etablierte Praxis, um einen unkontrollierten Einsatz von GenAI-Tools zu vermeiden [10]. Auch wenn KMU weitgehend außerhalb der öffentlichen Kontrolle operieren, benötigen sie nicht weniger institutionalisierte Mechanismen und Praktiken, die einen verantwortungsvollen Einsatz von GenAI gewährleisten [3, 11].

Governance zielt darauf ab, das Potenzial von GenAI in Organisationen zu erschließen und gleichzeitig die damit verbundenen Risiken zu mindern. Governance beschreibt eine formalisierte und institutionalisierte Struktur, die in gesetzlichen Vorschriften – in diesem Fall dem EU-KI-Gesetz [12] – sowie in etablierten Berichtsmechanismen für den Umgang mit Stakeholder-Anforderungen in Bereichen, in denen risikobasierte Externalitäten auftreten können, verankert ist. Dazu können Verhaltenskodizes, Unternehmenserklärungen und ähnliche unternehmensweite Richtlinien gehören [13]. 

In Bezug auf die GenAI-Governance wird in der Forschung weiter zwischen strukturellen, prozeduralen und relationalen Governance-Mechanismen unterschieden [14, 15]. Strukturelle Mechanismen umfassen Aspekte wie die Verortung von Verantwortung und Entscheidungsbefugnis, während prozedurale Mechanismen die Definition einer KI-Strategie, die Entwicklung von Richtlinien und Prozessen sowie die Überwachung der Nutzung von GenAI umfassen, um die Einhaltung gesetzlicher und organisatorischer Anforderungen sicherzustellen. Ergänzende relationale Mechanismen unterstützen die Zusammenarbeit zwischen den Interessengruppen, indem sie Informationen über die Nutzung von GenAI transparent austauschen und Schulungsmöglichkeiten für deren sichere und kompetente Nutzung schaffen [14, 15]. 

Dies ist besonders relevant, wenn ein neues Governance-Thema wie GenAI institutionalisiert werden muss. Darüber hinaus handelt es sich um eine Methode zur Definition von Governance-Anforderungen für KMU. Governance in KMU ist führungsorientiert und muss daher die Verantwortlichkeit des Managements und Führungsrollen widerspiegeln [16, 17, 18]. Aus diesem Grund sind die Verantwortung, Offenheit und Rechenschaftspflicht von Führungskräften auch erste Schritte in Richtung organisatorischer Governance [19].

Insgesamt umfasst die Gestaltung der GenAI-Governance für KMU institutionalisierte Berichtsstrukturen in Anlehnung an das EU-KI-Gesetz, aber auch weniger institutionalisierte Wege, um die Verantwortung des Managements in Bezug auf die Festlegung zuständiger Behörden, die Formulierung expliziter Leitlinien, die Einrichtung von Austauschmöglichkeiten zur Bewältigung ethischer Herausforderungen und die Schaffung eines individuellen Risikobewusstseins zu demonstrieren. Würden diese Managementaspekte außer Acht gelassen, würde die Forschung wahrscheinlich mögliche erste Schritte in Richtung einer GenAI-Governance übersehen.

Empirische Erkenntnisse aus einer ersten Untersuchung unter KMU im Ruhrgebiet 

Im Rahmen des HUMAINE-Projekts haben wir eine Befragung unter den Mitgliedsunternehmen der Industrie- und Handelskammer für das mittlere Ruhrgebiet (IHK Mittleres Ruhrgebiet) durchgeführt. Die Kammer vertritt die Interessen von mehr als 37 500 Unternehmen aus verschiedenen Branchen, die im deutschen Ruhrgebiet tätig sind, und ist somit eine unschätzbare Quelle für die Untersuchung des aktuellen Stands der GenAI-Governance auf regionaler Ebene. 

Die Analyse basierte auf einem standardisierten Fragebogen, der fünf Themenbereiche untersuchte: (1) Formen der GenAI-Nutzung in der Organisation, (2) wahrgenommene Risiken, (3) umgesetzte Praktiken zur Stärkung der Verantwortung, (4) zentrale Managementaktivitäten und (5) grundlegende Organisationsdaten, insbesondere Unternehmensgröße, zur weiteren Kontextualisierung [9, 15, 19, 20, 21]. Die Items wurden auf einer Skala von 1 bis 5 von „stimme überhaupt nicht zu“ bis „stimme voll und ganz zu“ bewertet. Um die Anwendbarkeit des Fragebogens sicherzustellen, wurden alle Items mit Mitarbeitern eines mittelständischen Unternehmens vorab getestet.

Das Screening-Instrument mit standardisierten Messgrößen wurde über eine IHK-Verteilerliste an 6.846 Organisationen verschickt. Die Umfrage richtete sich an Geschäftsführer und Eigentümer von KMU als wichtige Informationsquellen und ergab innerhalb einer Woche insgesamt 56 auswertbare Antworten – eine geringe Rücklaufquote, die auf den kurzen Umfragezeitraum, die Ansprache der Zielgruppe über die oberste Führungsebene [22, 23] und die Spezialisierung des Themas zurückzuführen ist. Die niedrigen Rücklaufquoten deuten darauf hin, dass GenAI-Governance bei den meisten KMU keine hohe Priorität hat.

Zwar können selbst gemeldete Daten von Entscheidungsträgern in Organisationen einer Verzerrung durch soziale Erwünschtheit unterliegen [24], doch wurden Maßnahmen zur Verringerung dieser Verzerrung ergriffen, darunter die Verwendung anonymer Datenerhebungen und eine neutrale Formulierung der Fragen. Bild 1 gibt einen kurzen Überblick über die demografischen Merkmale der befragten Teilnehmer. Statistische Analysen ergaben, dass die Rücklaufquoten nicht mit der Unternehmensgröße korrelieren.

Die Umfrageergebnisse zeigen, dass über 80 % der Unternehmen GenAI in erster Linie für die Informationsbeschaffung und Recherche (84 %) sowie für die Formulierung, Zusammenfassung und Übersetzung (86 %) nutzen. Es scheint, dass GenAI-Software in erster Linie als Ersatz für Anwendungen aus der Zeit vor GenAI, insbesondere Google-Anwendungen, eingesetzt wird. Fast die Hälfte der KMU nutzt GenAI für Brainstorming (52 %) und die Erstellung von Vorlagen und Konzeptentwürfen (48 %).

Nur eine kleine Gruppe nutzt GenAI für die Bilderzeugung (29 %) oder für Programmier- und Formulierungsaufgaben (23 %). Die Ergebnisse deuten auf eine konservative Nutzung von GenAI hin, die keine neuen Dimensionen des technologischen Potenzials auslotet. In diesen Umgebungen kann weder ein Risikobewusstsein noch eine institutionalisierte KI-Governance-Struktur vernünftigerweise erwartet werden.

Befragt nach Unsicherheiten und Risiken stufen die Befragten fast alle potenziellen Risikokategorien als unterdurchschnittlich ein. Nur in Bezug auf den Datenschutz, den Rechtsrahmen des EU-KI-Gesetzes und die Undurchsichtigkeit von Black-Box-Entscheidungen zeigt sich ein moderates Risikobewusstsein (Bild 2).

Entsprechend dem geringen Risikobewusstsein geben die Befragten zu, dass es einen erheblichen Mangel an etablierten Behörden oder Praktiken für den Umgang mit GenAI-Risiken gibt (Bild 3). Nur in Bezug auf Kommunikationspraktiken geben Manager ein mittleres Maß an Verantwortung an.

Angesichts der fehlenden institutionalisierten Verantwortung ist es interessant zu beobachten, wie Manager ihre individuelle Rolle und ihre Aktivitäten beschreiben. Es wird deutlich, dass die Befragten sich persönlich und organisatorisch für den Einsatz von GenAI in ihren Organisationen verantwortlich sehen, zumindest auf mittlerem Niveau (Bild 4).

Zusammenfassend lässt sich sagen, dass die Untersuchung regionaler KMU aus dem Ruhrgebiet zeigt, dass das Thema GenAI-Governance nur bei wenigen Unternehmen auf der Tagesordnung steht. Wo Überlegungen stattfinden, zeichnen sich eher konventionelle Wege der Nutzung der Technologie ab, ähnlich denen, die frühere Softwareprodukte bieten. Das Risikobewusstsein ist eher gering und eine institutionalisierte KI-Governance fehlt. Verantwortungsvolle KI wird als Aufgabe der Führungskommunikation betrachtet und praktiziert. Somit sind KMU aus dem Ruhrgebiet weit davon entfernt, GenAI-Governance zu praktizieren, was sowohl einen hohen Bedarf an fortgeschrittenerer Technologieanwendung als auch einen entsprechenden Bedarf an GenAI-Governance offenbart.

Erkenntnisse aus der SEEPEX-Fallstudie

Das Screening liefert einen ersten Überblick, bietet jedoch keine Informationen über den Entwicklungsprozess innerhalb von KMU. In dieser Hinsicht vermitteln die qualitativen Daten aus dem Fallbeispiel SEEPEX, einem mittelständischen Pumpenhersteller aus dem Ruhrgebiet, ein differenzierteres Bild. Die Fallstudie umfasst eine Reihe von Interviews mit Mitarbeitern, die im Jahr 2025 über einen Zeitraum von sechs Monaten mit der Einführung von GenAI konfrontiert waren. Die Interviews wurden an zwei Messzeitpunkten von zwei unabhängigen Forschern durchgeführt.

Zu Beginn der Implementierungsphase nutzten die Mitarbeiter das GenAI-Tool eher zurückhaltend, da sie befürchteten, sich durch die Weitergabe persönlicher oder unternehmensbezogener Daten in ihren Eingaben und Anfragen Strafen auszusetzen. 

Bereits hier wird die Relevanz der Kommunikation durch das Management als erster Schritt zur KI-Governance deutlich. Umfassende Aufklärung und klare Kommunikation darüber, wie mit sensiblen Daten im Umgang mit GenAI umgegangen werden sollte, milderten die anfängliche Unsicherheit. Auch wenn ein institutioneller Ansatz fehlte, war die Verantwortung des Managements zu Beginn des Prozesses ein Ersatz, um mit den Risiken von GenAI umzugehen. In der nächsten Phase der Einführung definierte SEEPEX die Verantwortlichkeiten für den GenAI-Implementierungsprozess und legte die Richtlinien für die Nutzung von GenAI im weiteren Implementierungsprozess fest. Diese Richtlinien haben einen technischen Schwerpunkt, nämlich die Vertrauenswürdigkeit der Daten [20].

Die Fallstudie zeigt, dass GenAI-Governance nicht immer in Form eines etablierten Berichtssystems erfolgt, sondern auch eine interaktive Möglichkeit zur Klärung des Implementierungsprozesses darstellen kann. In der frühen Phase der Implementierung sind es das Risikobewusstsein und die Verantwortung des Managements, die der Risikovermeidung förderlich sind. Daher sollten Managementpraktiken als Governance in der Frühphase betrachtet werden [14]. Dieser Ansatz hat natürlich seine Grenzen, wenn es um den unternehmensweiten Einsatz von GenAI und fortgeschrittenere Möglichkeiten zur Nutzung ihres technologischen Potenzials geht. Er muss daher durch tiefer verankerte, strukturelle Maßnahmen in der zukünftigen Entwicklung ergänzt werden.

Diskussion: Entwicklung der GenAI-Governance in KMU

Wie die empirischen Ergebnisse aus dem Ruhrgebiet zeigen, fehlen strukturelle oder prozedurale Kontrollmechanismen wie formelle Richtlinien oder Überwachungssysteme fast vollständig. Der aktuelle Entwicklungsstand zeigt, dass eine verantwortungsvolle Nutzung von GenAI stattdessen auf kommunikativen Praktiken und sozialer Interaktion basiert. Obwohl diese informellen Methoden zum Umgang mit ethischen Herausforderungen Risiken bergen und Defizite aufweisen, sind sie dennoch für eine im Entstehen begriffene GenAI-Governance von großem Wert. In Übereinstimmung mit anderen Wissenschaftlern [16, 17] bekräftigen wir, dass die Relevanz informeller Governance bei der Implementierung von GenAI in KMU nicht unterschätzt werden sollte, da sie oft ein wichtiger Ausgangspunkt für die Etablierung expliziter Richtlinien und Kontrollstrukturen ist [25].

Die vorgestellten Ergebnisse der Untersuchung in Kombination mit den detaillierteren Erkenntnissen aus einer lokalen Fallstudie aus dem Ruhrgebiet machten deutlich, dass ein Mangel an GenAI-Governance nicht unbedingt zu riskantem Verhalten führt, solange es informellere Ersatzlösungen in der Kommunikation und Praxis des Managements gibt.

Die empirischen Ergebnisse zeigen, dass sich Praktiken in der Frühphase zu einer Governance-Struktur für den verantwortungsvollen Einsatz von GenAI in KMU entwickeln. Wir schließen uns früheren Studien [16, 17] an, wonach bestehende Governance-Modelle die spezifischen Bedingungen von KMU noch nicht ausreichend berücksichtigt haben, aber die Kommunikation und Praktiken des Managements als relevante Vorstufe der GenAI-Governance für die schnelle Anpassung von KI an die Problemlösung in Unternehmen hervorheben könnten.

Über diese Forschungsergebnisse hinaus zeigen die Ergebnisse einen hohen Bedarf für Praktiker, nicht nur die Nutzung von GenAI voranzutreiben, sondern auch entsprechende Governance-Mechanismen zu entwickeln. Für alle Akteure und Institutionen, die eine Unterstützungsstruktur für die regionale Entwicklung bereitstellen, z. B. die IHK oder das Kompetenzzentrum HUMAINE, sind die Anforderungen an zukünftige Unterstützungsaktivitäten klar. 

Dieser Artikel entstand im Rahmen des Projekts „HUMAINE (human-centered AI network) – Transfer-Hub der Metropolregion Ruhr für menschenzentriertes Arbeiten mit KI“, das vom Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen des Programms „Zukunft der Wertschöpfung – Forschung zu Produktion, Dienstleistungen und Arbeit“ gefördert und vom Projektträger Karlsruhe (PTKA) betreut wird (Förderkennzeichen: 02L19C200).

Dies ist die deutsche Version des englischen Originalbeitrags mit der DOI: 10.30844/I4SE.26.1.6

Das könnte Sie auch interessieren

Manuelle Abläufe in der Automobilproduktion optimieren Bausteinbasierter Ansatz zur effizienten Erstellung von Arbeitssystemsimulationen Barbara Brockmann, Tobias Jurk, Beate Stoffels, Jochen Deuse

Im produzierenden Gewerbe gewinnt die Integration digitaler Menschmodelle im Produktentstehungs- und Herstellungsprozess zunehmend an Bedeutung. Besonders in der Montage, die durch einen hohen Anteil manueller Tätigkeiten geprägt ist, ermöglichen Bewegungssimulationen eine realitätsnahe Abbildung menschlicher Arbeit und leisten damit einen wesentlichen Beitrag zur bewegungsökonomischen Bewertung, Prozessabsicherung und Effizienzsteigerung. Der breiten Anwendung in der Produktionsplanung stehen jedoch verschiedene Herausforderungen wie der hohe Initialaufwand zur Erstellung der Humansimulation als auch volatile Planungsbedingungen gegenüber. Dieser Beitrag stellt einen praxisorientierten Lösungsansatz aus der Automobilmontage vor, der eine aufwandsreduzierte Erstellung von Simulationen sowie deren frühzeitige und durchgängige Nutzung im Planungsprozess ermöglicht.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 3 | Seite 48-55

KI-gestützte Beölungsstrategien beim Gewindeformen Adaptive Sprühstrahlsteuerung zur Erhöhung von Prozesssicherheit und Werkzeugstandzeit Reinhard Schmied, Marco Susic, Christian Donhauser

Das Gewindeformen erfordert eine präzise Schmierstoffapplikation, da hohe Flächenpressungen und lokale Temperaturspitzen die Werkzeugbelastung erheblich beeinflussen. Aktuelle Sprüh- und Minimalmengenschmierungssysteme (MMS) weisen trotz etablierter Technik häufig Streuverluste, unzureichende Benetzung und instabile Tropfendynamik auf. Diese wissenschaftliche Betrachtung beinhaltet und untersucht einen integrativen Ansatz zur adaptiven Präzisionsbeölung beim Gewindeformen, der auf Computational Fluid Dynamics (CFD)-basierter Strömungsanalyse, experimenteller Validierung und Künstliche Intelligenz (KI)-gestützten Optimierungsverfahren basiert. Im Fokus stehen Tropfengröße, Strahlgeometrie, Düsenposition und Umgebungsströmung sowie deren Einfluss auf die Benetzungsintensität. Erste simulationsgestützteVoruntersuchungen zeigen das Potenzial einer datenbasierten Optimierung zur Reduktion von Benetzungsdefiziten und zur Auslegung künftiger Regelstrategien für eine ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 3 | Seite 76-83

SmartBending: Inline-Messtechnik zur Prozesskorrektur Inline-Prozessoptimierung zur Fehlerkorrektur beim Schwenkbiegen Christian Donhauser , Reinhard Schmied, Marco Susic

Schwenkbiegen ist ein etabliertes Umformverfahren, bei dem Materialverlust vermieden und Ressourcen effizient genutzt werden. Der Prozess erfordert jedoch aufwändige Optimierungen, die bisher stark vom Fachwissen der Bediener abhängen. Dies führt zu hohem Zeit- und Materialaufwand, da Optimierungsschritte iterativ erfolgen. Angesichts des Fachkräftemangels ist eine technologische Aufrüstung der Anlagen im Sinne von Industrie 4.0 notwendig. Im Rahmen eines Projekts wurden mittels intelligenter Sensorik kritische Einflussfaktoren erfasst, die Korrelationen zwischen Produktfehlern und Anlagenverformungen aufzeigen. Darauf basierend wurde eine Methodik entwickelt, die die Grundlage für eine Inline-Kompensation schafft, bei der die Anlage eigenständig Prozessparameter anpasst, um Produktfehler zu korrigieren und perspektivisch eine fehlerfreie Fertigung ab dem ersten Bauteil zu ermöglichen.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 3 | Seite 134-141

Digital Competence Lab (DCL) für die Logopädie Konzeption einer Lernplattform zur Förderung digitaler Handlungskompetenzen Anika Thurmann , Antonia Weirich , Kerstin Bilda, Fiona Dörr , Lars Tönges

Die digitale Transformation des Gesundheitswesens verändert die logopädische Versorgung nachhaltig. Smarte Technologien und Künstliche Intelligenz (KI) eröffnen neue Möglichkeiten, um die Qualität der Therapie zu sichern, Versorgungsengpässe zu adressieren und Patienten stärker in Übungsprozesse einzubinden. Gleichzeitig erweitern diese Entwicklungen das Rollenverständnis von Logopäden, die neben ihrer therapeutischen Kernaufgabe zunehmend digitale Systeme als unterstützende Werkzeuge einsetzen. Aufbauend auf einer Machbarkeitsstudie zur KI-gestützten Anwendung ISi-Speech-Sprechen im Realsetting der Parkinson-Komplextherapie (PKT) werden in diesem Beitrag zentrale Herausforderungen der Implementierung smarter Technologien skizziert.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 110-118 | DOI 10.30844/I4SD.26.1.110

KI-Implementierung in der industriellen Qualitätskontrolle Ein Design-Science-Ansatz, der technische und menschliche Faktoren miteinander verbindet Jens Pöppelbuß , Kathrin Nauth

Künstliche Intelligenz (KI) bietet ein erhebliches Potenzial zur Verbesserung der industriellen Qualitätskontrolle, doch eine erfolgreiche Implementierung erfordert die sorgfältige Berücksichtigung ethischer und menschlicher Faktoren. Dieser Artikel untersucht, wie automatisierte Oberflächeninspektionssysteme eingesetzt werden können, um menschliche Fähigkeiten zu erweitern und gleichzeitig eine ethische Integration in die Arbeitsabläufe zu gewährleisten. Im Rahmen einer Design-Science-Research-Untersuchung (DSR) wurden zwölf Interessenvertreter aus sechs Organisationen auf drei Kontinenten befragt und zwölf soziotechnische Designanforderungen abgeleitet. Diese sind in Vorbereitungs- und Implementierungs-/Betriebsphasen unterteilt und befassen sich mit menschlichem Handeln, Mitarbeiterbeteiligung und verantwortungsvollem Wissensmanagement. Zu den wichtigsten Ergebnissen zählen die entscheidende Bedeutung einer sinnvollen Mitarbeiterbeteiligung während der ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 120-127 | DOI 10.30844/I4SD.26.1.120

XAI-gestütztes Nudging von Entscheidungen in der Fertigung Praktische Umsetzbarkeit und ethische Herausforderungen Jan-Phillip Herrmann , Catharina Baier, Sven Tackenberg , Verena Nitsch

Erklärbare künstliche Intelligenz (XAI)-basiertes Nudging ist zwar ethisch komplex, kann jedoch eine vorteilhafte Alternative zu starren, algorithmisch generierten Fertigungsplänen darstellen, um sowohl die Planungsautonomie von Fertigungsmitarbeitenden als auch die Gesamtleistung des übergeordneten Fertigungssystems zu verbessern. Dieser Artikel präsentiert eine Laborstudie, die das erfolgreiche Nudging von 28 Studierenden des Studiengangs Wirtschaftsingenieurwesen in einer Fertigungssimulation demonstriert. Die Studie zeigt, dass die Übereinstimmung der von den Studierenden ausgewählten Bearbeitungsreihenfolge von Fertigungsaufgaben mit einer vordefinierten Bearbeitungsreihenfolge durch Nudging um 9 % zunimmt. Durch den Einsatz von XAI werden die Präferenzen der Studierenden analysiert und Deadlines sowie Prioritäten in der Simulation angepasst. Der Artikel diskutiert die ethischen Fragen des Nudging, darunter potenzielle Manipulation, Scheinautonomie und die Reduzierung von ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 70-78 | DOI 10.30844/I4SD.26.1.70