Vorstufen der GenAI-Governance durch Managementkommunikation

Generative Künstliche Intelligenz (GenAI)-Tools wie ChatGPT, Gemini oder Microsoft Copilot versprechen kleinen und mittleren Unternehmen (KMU) eine Reihe von Vorteilen in Bezug auf Effizienzsteigerungen oder Prozessautomatisierung [1]. In Kombination mit vergleichsweise geringen Kosten, breiter Zugänglichkeit und vielfältigen Anwendungsmöglichkeiten verändert GenAI die Wettbewerbslandschaft für KMU, da sie Skalierbarkeit und Kreativität demokratisiert [2, 3]. Die Ausschöpfung des Potenzials von GenAI erfordert eine organisatorische Governance-Struktur, die sich mit den ethischen Herausforderungen des KI-Einsatzes auseinandersetzt. Dies ist besonders wichtig für KMU [3–6]. 

Während die Unterentwicklung der institutionellen Unternehmensverantwortung und die daraus resultierenden Hindernisse für die Implementierung von GenAI eine allgemein bekannte Tatsache sind [7], ist wenig darüber bekannt, wie GenAI-Risiken und -Verantwortlichkeiten in KMU wahrgenommen werden und welche Praktiken bisher aus prozeduraler Sicht etabliert wurden. Tiefere Einblicke sind wertvoll für den Aufbau einer Unterstützungsstruktur, die bestehende Ansätze erweitert. 

In den folgenden Abschnitten konzeptualisieren wir KI-Governance als Referenzrahmen, untersuchen den aktuellen Stand der GenAI-Governance im Ruhrgebiet, untermauern die Ergebnisse mit Erkenntnissen aus einer Fallstudie und schlagen schließlich nächste Schritte vor.

GenAI-Governance – Ein konzeptioneller Rahmen 

GenAI in KMU wird nicht nur als riesige Chance angesehen [8], sondern auch als ethische Herausforderung, die neue regulatorische Anforderungen mit sich bringt (z. B. der EU AI Act) [9]. Der Umgang mit ethischen Herausforderungen ist in großen Unternehmen eine etablierte Praxis, um einen unkontrollierten Einsatz von GenAI-Tools zu vermeiden [10]. Auch wenn KMU weitgehend außerhalb der öffentlichen Kontrolle operieren, benötigen sie nicht weniger institutionalisierte Mechanismen und Praktiken, die einen verantwortungsvollen Einsatz von GenAI gewährleisten [3, 11].

Governance zielt darauf ab, das Potenzial von GenAI in Organisationen zu erschließen und gleichzeitig die damit verbundenen Risiken zu mindern. Governance beschreibt eine formalisierte und institutionalisierte Struktur, die in gesetzlichen Vorschriften – in diesem Fall dem EU-KI-Gesetz [12] – sowie in etablierten Berichtsmechanismen für den Umgang mit Stakeholder-Anforderungen in Bereichen, in denen risikobasierte Externalitäten auftreten können, verankert ist. Dazu können Verhaltenskodizes, Unternehmenserklärungen und ähnliche unternehmensweite Richtlinien gehören [13]. 

In Bezug auf die GenAI-Governance wird in der Forschung weiter zwischen strukturellen, prozeduralen und relationalen Governance-Mechanismen unterschieden [14, 15]. Strukturelle Mechanismen umfassen Aspekte wie die Verortung von Verantwortung und Entscheidungsbefugnis, während prozedurale Mechanismen die Definition einer KI-Strategie, die Entwicklung von Richtlinien und Prozessen sowie die Überwachung der Nutzung von GenAI umfassen, um die Einhaltung gesetzlicher und organisatorischer Anforderungen sicherzustellen. Ergänzende relationale Mechanismen unterstützen die Zusammenarbeit zwischen den Interessengruppen, indem sie Informationen über die Nutzung von GenAI transparent austauschen und Schulungsmöglichkeiten für deren sichere und kompetente Nutzung schaffen [14, 15]. 

Dies ist besonders relevant, wenn ein neues Governance-Thema wie GenAI institutionalisiert werden muss. Darüber hinaus handelt es sich um eine Methode zur Definition von Governance-Anforderungen für KMU. Governance in KMU ist führungsorientiert und muss daher die Verantwortlichkeit des Managements und Führungsrollen widerspiegeln [16, 17, 18]. Aus diesem Grund sind die Verantwortung, Offenheit und Rechenschaftspflicht von Führungskräften auch erste Schritte in Richtung organisatorischer Governance [19].

Insgesamt umfasst die Gestaltung der GenAI-Governance für KMU institutionalisierte Berichtsstrukturen in Anlehnung an das EU-KI-Gesetz, aber auch weniger institutionalisierte Wege, um die Verantwortung des Managements in Bezug auf die Festlegung zuständiger Behörden, die Formulierung expliziter Leitlinien, die Einrichtung von Austauschmöglichkeiten zur Bewältigung ethischer Herausforderungen und die Schaffung eines individuellen Risikobewusstseins zu demonstrieren. Würden diese Managementaspekte außer Acht gelassen, würde die Forschung wahrscheinlich mögliche erste Schritte in Richtung einer GenAI-Governance übersehen.

Empirische Erkenntnisse aus einer ersten Untersuchung unter KMU im Ruhrgebiet 

Im Rahmen des HUMAINE-Projekts haben wir eine Befragung unter den Mitgliedsunternehmen der Industrie- und Handelskammer für das mittlere Ruhrgebiet (IHK Mittleres Ruhrgebiet) durchgeführt. Die Kammer vertritt die Interessen von mehr als 37 500 Unternehmen aus verschiedenen Branchen, die im deutschen Ruhrgebiet tätig sind, und ist somit eine unschätzbare Quelle für die Untersuchung des aktuellen Stands der GenAI-Governance auf regionaler Ebene. 

Die Analyse basierte auf einem standardisierten Fragebogen, der fünf Themenbereiche untersuchte: (1) Formen der GenAI-Nutzung in der Organisation, (2) wahrgenommene Risiken, (3) umgesetzte Praktiken zur Stärkung der Verantwortung, (4) zentrale Managementaktivitäten und (5) grundlegende Organisationsdaten, insbesondere Unternehmensgröße, zur weiteren Kontextualisierung [9, 15, 19, 20, 21]. Die Items wurden auf einer Skala von 1 bis 5 von „stimme überhaupt nicht zu“ bis „stimme voll und ganz zu“ bewertet. Um die Anwendbarkeit des Fragebogens sicherzustellen, wurden alle Items mit Mitarbeitern eines mittelständischen Unternehmens vorab getestet.

Das Screening-Instrument mit standardisierten Messgrößen wurde über eine IHK-Verteilerliste an 6.846 Organisationen verschickt. Die Umfrage richtete sich an Geschäftsführer und Eigentümer von KMU als wichtige Informationsquellen und ergab innerhalb einer Woche insgesamt 56 auswertbare Antworten – eine geringe Rücklaufquote, die auf den kurzen Umfragezeitraum, die Ansprache der Zielgruppe über die oberste Führungsebene [22, 23] und die Spezialisierung des Themas zurückzuführen ist. Die niedrigen Rücklaufquoten deuten darauf hin, dass GenAI-Governance bei den meisten KMU keine hohe Priorität hat.

Zwar können selbst gemeldete Daten von Entscheidungsträgern in Organisationen einer Verzerrung durch soziale Erwünschtheit unterliegen [24], doch wurden Maßnahmen zur Verringerung dieser Verzerrung ergriffen, darunter die Verwendung anonymer Datenerhebungen und eine neutrale Formulierung der Fragen. Bild 1 gibt einen kurzen Überblick über die demografischen Merkmale der befragten Teilnehmer. Statistische Analysen ergaben, dass die Rücklaufquoten nicht mit der Unternehmensgröße korrelieren.

Die Umfrageergebnisse zeigen, dass über 80 % der Unternehmen GenAI in erster Linie für die Informationsbeschaffung und Recherche (84 %) sowie für die Formulierung, Zusammenfassung und Übersetzung (86 %) nutzen. Es scheint, dass GenAI-Software in erster Linie als Ersatz für Anwendungen aus der Zeit vor GenAI, insbesondere Google-Anwendungen, eingesetzt wird. Fast die Hälfte der KMU nutzt GenAI für Brainstorming (52 %) und die Erstellung von Vorlagen und Konzeptentwürfen (48 %).

Nur eine kleine Gruppe nutzt GenAI für die Bilderzeugung (29 %) oder für Programmier- und Formulierungsaufgaben (23 %). Die Ergebnisse deuten auf eine konservative Nutzung von GenAI hin, die keine neuen Dimensionen des technologischen Potenzials auslotet. In diesen Umgebungen kann weder ein Risikobewusstsein noch eine institutionalisierte KI-Governance-Struktur vernünftigerweise erwartet werden.

Befragt nach Unsicherheiten und Risiken stufen die Befragten fast alle potenziellen Risikokategorien als unterdurchschnittlich ein. Nur in Bezug auf den Datenschutz, den Rechtsrahmen des EU-KI-Gesetzes und die Undurchsichtigkeit von Black-Box-Entscheidungen zeigt sich ein moderates Risikobewusstsein (Bild 2).

Entsprechend dem geringen Risikobewusstsein geben die Befragten zu, dass es einen erheblichen Mangel an etablierten Behörden oder Praktiken für den Umgang mit GenAI-Risiken gibt (Bild 3). Nur in Bezug auf Kommunikationspraktiken geben Manager ein mittleres Maß an Verantwortung an.

Angesichts der fehlenden institutionalisierten Verantwortung ist es interessant zu beobachten, wie Manager ihre individuelle Rolle und ihre Aktivitäten beschreiben. Es wird deutlich, dass die Befragten sich persönlich und organisatorisch für den Einsatz von GenAI in ihren Organisationen verantwortlich sehen, zumindest auf mittlerem Niveau (Bild 4).

Zusammenfassend lässt sich sagen, dass die Untersuchung regionaler KMU aus dem Ruhrgebiet zeigt, dass das Thema GenAI-Governance nur bei wenigen Unternehmen auf der Tagesordnung steht. Wo Überlegungen stattfinden, zeichnen sich eher konventionelle Wege der Nutzung der Technologie ab, ähnlich denen, die frühere Softwareprodukte bieten. Das Risikobewusstsein ist eher gering und eine institutionalisierte KI-Governance fehlt. Verantwortungsvolle KI wird als Aufgabe der Führungskommunikation betrachtet und praktiziert. Somit sind KMU aus dem Ruhrgebiet weit davon entfernt, GenAI-Governance zu praktizieren, was sowohl einen hohen Bedarf an fortgeschrittenerer Technologieanwendung als auch einen entsprechenden Bedarf an GenAI-Governance offenbart.

Erkenntnisse aus der SEEPEX-Fallstudie

Das Screening liefert einen ersten Überblick, bietet jedoch keine Informationen über den Entwicklungsprozess innerhalb von KMU. In dieser Hinsicht vermitteln die qualitativen Daten aus dem Fallbeispiel SEEPEX, einem mittelständischen Pumpenhersteller aus dem Ruhrgebiet, ein differenzierteres Bild. Die Fallstudie umfasst eine Reihe von Interviews mit Mitarbeitern, die im Jahr 2025 über einen Zeitraum von sechs Monaten mit der Einführung von GenAI konfrontiert waren. Die Interviews wurden an zwei Messzeitpunkten von zwei unabhängigen Forschern durchgeführt.

Zu Beginn der Implementierungsphase nutzten die Mitarbeiter das GenAI-Tool eher zurückhaltend, da sie befürchteten, sich durch die Weitergabe persönlicher oder unternehmensbezogener Daten in ihren Eingaben und Anfragen Strafen auszusetzen. 

Bereits hier wird die Relevanz der Kommunikation durch das Management als erster Schritt zur KI-Governance deutlich. Umfassende Aufklärung und klare Kommunikation darüber, wie mit sensiblen Daten im Umgang mit GenAI umgegangen werden sollte, milderten die anfängliche Unsicherheit. Auch wenn ein institutioneller Ansatz fehlte, war die Verantwortung des Managements zu Beginn des Prozesses ein Ersatz, um mit den Risiken von GenAI umzugehen. In der nächsten Phase der Einführung definierte SEEPEX die Verantwortlichkeiten für den GenAI-Implementierungsprozess und legte die Richtlinien für die Nutzung von GenAI im weiteren Implementierungsprozess fest. Diese Richtlinien haben einen technischen Schwerpunkt, nämlich die Vertrauenswürdigkeit der Daten [20].

Die Fallstudie zeigt, dass GenAI-Governance nicht immer in Form eines etablierten Berichtssystems erfolgt, sondern auch eine interaktive Möglichkeit zur Klärung des Implementierungsprozesses darstellen kann. In der frühen Phase der Implementierung sind es das Risikobewusstsein und die Verantwortung des Managements, die der Risikovermeidung förderlich sind. Daher sollten Managementpraktiken als Governance in der Frühphase betrachtet werden [14]. Dieser Ansatz hat natürlich seine Grenzen, wenn es um den unternehmensweiten Einsatz von GenAI und fortgeschrittenere Möglichkeiten zur Nutzung ihres technologischen Potenzials geht. Er muss daher durch tiefer verankerte, strukturelle Maßnahmen in der zukünftigen Entwicklung ergänzt werden.

Diskussion: Entwicklung der GenAI-Governance in KMU

Wie die empirischen Ergebnisse aus dem Ruhrgebiet zeigen, fehlen strukturelle oder prozedurale Kontrollmechanismen wie formelle Richtlinien oder Überwachungssysteme fast vollständig. Der aktuelle Entwicklungsstand zeigt, dass eine verantwortungsvolle Nutzung von GenAI stattdessen auf kommunikativen Praktiken und sozialer Interaktion basiert. Obwohl diese informellen Methoden zum Umgang mit ethischen Herausforderungen Risiken bergen und Defizite aufweisen, sind sie dennoch für eine im Entstehen begriffene GenAI-Governance von großem Wert. In Übereinstimmung mit anderen Wissenschaftlern [16, 17] bekräftigen wir, dass die Relevanz informeller Governance bei der Implementierung von GenAI in KMU nicht unterschätzt werden sollte, da sie oft ein wichtiger Ausgangspunkt für die Etablierung expliziter Richtlinien und Kontrollstrukturen ist [25].

Die vorgestellten Ergebnisse der Untersuchung in Kombination mit den detaillierteren Erkenntnissen aus einer lokalen Fallstudie aus dem Ruhrgebiet machten deutlich, dass ein Mangel an GenAI-Governance nicht unbedingt zu riskantem Verhalten führt, solange es informellere Ersatzlösungen in der Kommunikation und Praxis des Managements gibt.

Die empirischen Ergebnisse zeigen, dass sich Praktiken in der Frühphase zu einer Governance-Struktur für den verantwortungsvollen Einsatz von GenAI in KMU entwickeln. Wir schließen uns früheren Studien [16, 17] an, wonach bestehende Governance-Modelle die spezifischen Bedingungen von KMU noch nicht ausreichend berücksichtigt haben, aber die Kommunikation und Praktiken des Managements als relevante Vorstufe der GenAI-Governance für die schnelle Anpassung von KI an die Problemlösung in Unternehmen hervorheben könnten.

Über diese Forschungsergebnisse hinaus zeigen die Ergebnisse einen hohen Bedarf für Praktiker, nicht nur die Nutzung von GenAI voranzutreiben, sondern auch entsprechende Governance-Mechanismen zu entwickeln. Für alle Akteure und Institutionen, die eine Unterstützungsstruktur für die regionale Entwicklung bereitstellen, z. B. die IHK oder das Kompetenzzentrum HUMAINE, sind die Anforderungen an zukünftige Unterstützungsaktivitäten klar. 

Dieser Artikel entstand im Rahmen des Projekts „HUMAINE (human-centered AI network) – Transfer-Hub der Metropolregion Ruhr für menschenzentriertes Arbeiten mit KI“, das vom Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen des Programms „Zukunft der Wertschöpfung – Forschung zu Produktion, Dienstleistungen und Arbeit“ gefördert und vom Projektträger Karlsruhe (PTKA) betreut wird (Förderkennzeichen: 02L19C200).

Das könnte Sie auch interessieren

Digital Competence Lab (DCL) für die Logopädie Konzeption einer Lernplattform zur Förderung digitaler Handlungskompetenzen Anika Thurmann , Antonia Weirich , Kerstin Bilda, Fiona Dörr , Lars Tönges

Die digitale Transformation des Gesundheitswesens verändert die logopädische Versorgung nachhaltig. Smarte Technologien und Künstliche Intelligenz (KI) eröffnen neue Möglichkeiten, um die Qualität der Therapie zu sichern, Versorgungsengpässe zu adressieren und Patienten stärker in Übungsprozesse einzubinden. Gleichzeitig erweitern diese Entwicklungen das Rollenverständnis von Logopäden, die neben ihrer therapeutischen Kernaufgabe zunehmend digitale Systeme als unterstützende Werkzeuge einsetzen. Aufbauend auf einer Machbarkeitsstudie zur KI-gestützten Anwendung ISi-Speech-Sprechen im Realsetting der Parkinson-Komplextherapie (PKT) werden in diesem Beitrag zentrale Herausforderungen der Implementierung smarter Technologien skizziert.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 110-118 | DOI 10.30844/I4SD.26.1.110

Angewandte KI für die menschenzentrierte Montage Ein ethisch fundierter Ansatz zur Gestaltung von Arbeitsplätzen Tadele Belay Tuli , Michael Jonek , Sascha Niethammer, Henning Vogler, Martin Manns

Künstliche Intelligenz (KI) kann die Montage verbessern, indem sie menschliche Bewegungen vorhersagt und den Arbeitsplatz entsprechend gestaltet. Mithilfe probabilistischer Modelle wie der Gaußschen Mischmodelle (GMMs) antizipieren KI-Systeme die Bewegungen des Bedieners, um die Koordination mit Robotern zu verbessern. Diese Vorhersagesysteme werfen jedoch ethische Bedenken hinsichtlich Sicherheit, Fairness und Datenschutz gemäß EU AI Act auf. Dieser Artikel stellt eine Methode vor, die probabilistische Bewegungsmodellierung mit ethischer Bewertung mittels Z-Inspection® integriert. Eine Fallstudie unter Verwendung des Werkerassistenzsystem zeigt, wie multimodale Sensorik (Bewegung, Blick) und interpretierbare Modelle eine vorausschauende Unterstützung ermöglichen. Der Ansatz geht von der ethischen Bewertung zu einer ethisch informierten Arbeitsgestaltung über und liefert übertragbare Prinzipien sowie eine konfigurierbare Bewertungsmatrix.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 60-68 | DOI 10.30844/I4SD.26.1.60

Mitbestimmungsdialoge zur humanzentrierten KI-Einführung Dialogisches Verfahren der Entwicklung einer betriebsspezifischen Mitbestimmungspraxis Manfred Wannöffel , Fabian Hoose , Alexander Ranft, Claudia Niewerth , Dirk Stüter

Im Rahmen des vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) geförderten regionalen Kompetenzzentrums „humAIne“ wurde mit dem Instrument der Mitbestimmungsdialoge ein Verfahren entwickelt, mit dem ein gemeinsames Verständnis über die komplexen Herausforderungen bei der Einführung von Künstlicher Intelligenz (KI) zwischen Management, Beschäftigten und Interessenvertretungen schrittweise im Dialog erarbeitet wird. Erfahrungen aus Projektpartnerbetrieben – wie Doncasters Precision Castings-Bochum GmbH (DPC) – zeigen exemplarisch auf, wie mit den Mitbestimmungsdialogen nicht nur rechtlich verbindliche Regelungen zu einer handhabbaren, betrieblich verankerten, nachhaltigen Praxis der Mitbestimmung bei KI entwickelt, sondern zugleich auch kontinuierliche Qualifizierungsprozesse für alle beteiligten Akteursgruppen im Sinne des Art. 4 und 5 des EU AI Act angestoßen werden.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 92-98 | DOI 10.30844/I4SD.26.1.92

Regulierung von humanzentrierter KI in Betrieben Die HUMAINE Muster-Betriebsvereinbarung Alexander Ranft, Fabian Hoose , Claudia Niewerth , Mathias Preuß, Manfred Wannöffel

Die Einführung von Systemen der Künstlichen Intelligenz (KI) in Betrieben stellt neue Anforderungen an Regulierung und Mitbestimmung. Mit dem EU AI Act gelten seit 2025 verbindliche Vorgaben, die national mit dem Betriebsverfassungsgesetz (BetrVG) verknüpft werden müssen. Das regionale Kompetenzzentrum HUMAINE hat hierzu eine Muster-Betriebsvereinbarung KI (MBV KI) nach § 77 BetrVG entwickelt, die betriebliche Mitbestimmungsrechte stärkt und die europäische Regulierungspraxis praxisnah umsetzt. Flankiert durch Mitbestimmungsdialoge ermöglicht die MBV KI eine betriebsspezifische Anpassung für einen verantwortungsvollen und humanzentrierten KI-Einsatz. Der Beitrag zeigt am Beispiel ausgewählter Teile der MBV KI, wie eine Rahmen-Betriebsvereinbarung KI konkret gestaltet werden kann und diskutiert die Übertragbarkeit auch auf Betriebe ohne Betriebsrat. Die so vorgestellte MBV KI leistet einen Beitrag zur nachhaltigen, sozialpartnerschaftlich abgesicherten Gestaltung der ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 14-21 | DOI 10.30844/I4SD.26.1.14

KI-Ethik im Multi-Stakeholder-Umfeld in der Radiologie Implikationen für eine integrierte Technik- und Arbeitsplatzgestaltung Valentin Langholf , Alexander Ranft, Lena Will, Robin Denz , Johannes Schwarz , Majd Syoufi, Pavlos Rath-Manakidis, Marc Kämmerer, Marcus Kremers, Axel Mosig , Uta Wilkens , Jörg Wellmer

Die Radiologie muss an der Schnittstelle mit anderen medizinischen Disziplinen unter Zeitdruck hervorragende diagnostische Qualität liefern. Künstliche Intelligenz (KI)-Anwendungen in diesem Umfeld müssen eine optimale Anomalie-Detektion in hochauflösenden, dreidimensionalen Bilddatensätze liefern und im Rahmen der Mensch-Maschine Befund-Co-Kreation den ethischen Anforderungen einer responsible AI genügen. Wir haben entlang eines komplexen Anwendungsfalls ein modulares System entwickelt, das (i) die Weiterentwicklung der Anomalieerkennung, (ii) die Erweiterung der KI-Befunde um diagnostische und therapeutische Konsequenzen, (iii) eine Metrik zur Messung der KI/menschlichen Ko-Kreation, (iv) die Analyse der Einstellung von Radiologen zur KI-Unterstützung und (v) die arbeitsplatzspezifische Implementierung von KI-Anwendungen umfasst. Alle Module werden im Hinblick auf die FUTURE-AI-Ethik-Konsenskriterien diskutiert. Dieser integrierte Technologie- und Arbeitsgestaltungsansatz kann ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 136-143 | DOI 10.30844/I4SD.26.1.136