Mechanismen der GenAI-Governance

Die rasante Verbreitung Generativer Künstlicher Intelligenz (GenAI) verändert die industrielle Wertschöpfung erheblich [1]. Da GenAI in der Lage ist, auf der Grundlage individueller Eingaben nicht vordefinierte Ergebnisse wie Texte, Bilder, Audiodateien oder Codes zu generieren [2], findet diese Technologie zunehmend Verbreitung in einer Vielzahl von Anwendungen in Produktionsunternehmen [3]. Dies bringt komplexe Herausforderungen in Bezug auf Verantwortlichkeit, Transparenz und Einhaltung gesetzlicher Vorschriften mit sich und macht sie zu einem dringenden Governance-Thema [4, 5, 6].

Die Governance von KI-Systemen zielt darauf ab, den Einsatz von KI mit den Strategien, Zielen, Werten, gesetzlichen Anforderungen und ethischen Grundsätzen einer Organisation in Einklang zu bringen [7]. Zu diesem Zweck werden Governance-Mechanismen wie Richtlinien, Prozesse oder Schulungsinstrumente entwickelt, um einen ethischen und konformen Einsatz von KI in Organisationen sicherzustellen [8].

Bisherige Ansätze zur KI-Governance haben sich vor allem auf Aspekte wie die technologische Kontrolle von KI-Systemen, die Einhaltung gesetzlicher Vorschriften und die organisatorische Kontrolle konzentriert [4, 5]. Soziale Faktoren wie die Einstellungen, das Bewusstsein und die Fähigkeiten der Mitarbeitenden wurden bisher nicht ausreichend berücksichtigt [8].

Mittlerweile schreiben regulatorische Rahmenbedingungen externe Verpflichtungen vor, die die Bedeutung von Aspekten bezogen auf die Mitarbeitenden in der KI-Governance weiter verstärken. So verlangt beispielsweise Artikel 4 des EU AI Act von Organisationen, dass sie ein angemessenes Maß an KI-Kompetenz ihrer Mitarbeitenden sicherstellen [9].

Trotz erster konzeptioneller Modelle fehlen noch empirische Belege dafür, wie KI-Governance-Mechanismen gestaltet, umgesetzt und in der Praxis wirksam gemacht werden können, um diese Aspekte zu berücksichtigen [8]. Daher ist es das Ziel dieser qualitativen Fallstudie zu untersuchen, wie Governance-Mechanismen gestaltet werden können, um das Wissen, die Akzeptanz und den verantwortungsvollen Einsatz von GenAI unter den Mitarbeitenden zu fördern.

Zu diesem Zweck haben wir ein produzierendes Unternehmen über einen Zeitraum von sechs Monaten bei der Implementierung von GenAI begleitet und dabei einen besonderen Schwerpunkt auf die verwendeten Governance-Mechanismen gelegt. Wir analysieren die identifizierten Mechanismen anhand des von [8] entwickelten Rahmens für strukturelle, prozedurale und relationale Governance-Mechanismen.

Unsere Ergebnisse zeigen, dass Unternehmen einen ganzheitlichen Ansatz verfolgen sollten, der strukturelle, prozedurale und relationale Mechanismen kombiniert, um Aspekten bezogen auf die Mitarbeitenden der GenAI-Governance zu berücksichtigen. Durch die Verknüpfung theoretischer Modelle mit praktischen Erkenntnissen leisten wir einen Beitrag zum wachsenden Forschungsfeld der GenAI-Governance und geben praktische Empfehlungen für einen kompetenten und verantwortungsvollen Einsatz von GenAI in Unternehmen.

Mechanismen der GenAI-Governance

Während die Grundannahmen der KI-Governance auch für GenAI gelten, wird deutlich, dass die technischen Besonderheiten der Technologie ein Umdenken im organisatorischen Kontext erfordern. Daher erweitert GenAI den Anwendungsbereich der KI-Governance, indem sie zusätzlich zu technologiebezogenen Aspekten eine neue Dimension, die sich auf Aspekte der Mitarbeitenden bezieht, berücksichtigt [8].

Während technologiebezogene Aspekte bereits umfassend diskutiert werden, haben Aspekte bezogen auf die Mitarbeitenden in der Literatur bislang wenig Beachtung gefunden [8, 10, 11]. Dies ist besonders problematisch, da GenAI-Systeme aufgrund der Offenheit, Unvorhersehbarkeit und Interaktivität der Technologie hohe Anforderungen an das Urteilsvermögen und die persönliche Verantwortung der Mitarbeitenden stellen, um organisatorische Risiken zu vermeiden.

In diesem Zusammenhang wird argumentiert, dass Organisationen in drei Schlüsselbereichen erfolgreich sein sollten:

1. Förderung einer kritischen, aber positiven Einstellung ihrer Mitarbeitenden gegenüber GenAI-Systemen, die sie dazu ermutigt, KI-generierte Ergebnisse kritisch zu reflektieren und gleichzeitig mit diesen Systemen zu experimentieren;
2. Sensibilisierung der Mitarbeitenden für die Möglichkeiten und Grenzen von GenAI-Systemen, um sie über die organisatorischen Risiken des Einsatzes von GenAI zu informieren, z. B. in Bezug auf Sicherheitsbedenken oder IP-Lecks, und
3. Befähigung der Mitarbeitenden zum kompetenten Einsatz von GenAI-Systemen, damit sie über die Fähigkeiten verfügen, korrekte und relevante Ergebnisse zu generieren und diese im Hinblick auf ihre Übereinstimmung mit der Strategie und den Werten der Organisation zu bewerten [6, 12, 8].

Um diese Aspekte bezogen auf die Mitarbeitenden anzugehen, lassen sich drei unterschiedlichen Mechanismen der GenAI-Governance unterscheiden, die sich in ihrer Ausgestaltung und ihren Zielen unterscheiden (Bild 1) [8].

Erstens beziehen sich strukturelle Mechanismen der GenAI-Governance auf die Definition relevanter Rollen innerhalb der Organisation und die Verortung der Entscheidungsbefugnis. Einige Organisationen ernennen beispielsweise KI-Ethikbeauftragte oder bilden spezielle Ausschüsse, die sich mit dem verantwortungsvollen Einsatz von KI in der Organisation befassen und als Ansprechpartner für die Mitarbeitende fungieren [11]. Regulatorische Rahmenwerke wie der EU AI Act können ebenfalls Anforderungen an die Verortung der Entscheidungsbefugnis stellen [6, 9].

Zweitens zielen prozedurale Mechanismen der GenAI-Governance darauf ab, die Entscheidungsfindung und den Einsatz von GenAI an den strategischen und wertorientierten Zielen der Organisation auszurichten [6, 8]. Neben übergeordneten Leitlinien [13] umfassen diese Aspekte wie Risikomanagement, vertragliche und rechtliche Aspekte sowie Compliance-Überwachung und Problemmanagement [8].

Drittens tragen relationale Mechanismen der GenAI-Governance durch bedarfsgerechte Schulungen und eine angemessene Strukturierung des Implementierungsprozesses zu einer kompetenten und verantwortungsvollen Nutzung von GenAI bei. Dazu gehört auch die Förderung der Zusammenarbeit zwischen den Stakeholdern durch die Kommunikation der Absichten der Organisation hinsichtlich der Nutzung von GenAI über geeignete Kanäle [8].

Während die konzeptionellen Überlegungen ausgereift sind, fehlen jedoch empirische Erkenntnisse darüber, wie Governance-Mechanismen gestaltet werden können, um einen verantwortungsvollen Einsatz von GenAI zu fördern. Aufbauend auf dem bestehenden Rahmenwerk zur Unterscheidung von GenAI-Governance-Mechanismen in Unternehmen [8] liefern wir daher im Folgenden praktische Erkenntnisse aus einer Fallstudienanalyse.

GenAI-Governance in der Unternehmenspraxis

Um praktische Einblicke in die Gestaltung von Governance-Mechanismen zu gewinnen, die die Einstellung, das Bewusstsein und die Fähigkeiten der Mitarbeitenden berücksichtigen, haben wir eine Fallstudie durchgeführt, in der wir ein mittelständisches Produktionsunternehmen während des sechsmonatigen Implementierungsprozesses von GenAI begleiten. Das Unternehmen entwickelt und produziert spezialisierte Industrieprodukte für den B2B-Sektor und möchte seine Mitarbeitenden mit einem GenAI-Tool bei ihrer täglichen Arbeit unterstützen, von der Erstellung von Texten und der Gestaltung von Präsentationen bis hin zur Unterstützung bei der Formelerzeugung in Excel oder der Analyse von Fehlern in Code-Schnipseln.

Im Rahmen dieses Prozesses hat sich das Unternehmen zu einem verantwortungsvollen Umgang mit GenAI verpflichtet. Zu diesem Zweck hat das Unternehmen eine Reihe von Governance-Mechanismen implementiert, um den kompetenten Einsatz von GenAI zu fördern.

Teil des Datenerhebungsprozesses war es, Einblicke in die verwendeten Mechanismen und deren Umsetzung zu gewinnen. Unsere Daten basieren auf Erkenntnissen aus Workshops, dem Zugang zu internen Dokumenten und Interviews mit Mitarbeitenden aus verschiedenen Abteilungen. Unter Verwendung der Konzeptualisierung von Governance-Mechanismen [8] haben wir uns in unserer Datenanalyse auf Aspekte bezogen auf Mitarbeitende konzentriert und die implementierten Mechanismen im Hinblick auf ihr beabsichtigtes Governance-Ziel (strukturell,
prozedural oder relational) untersucht. Als Ergebnis haben wir zwölf verschiedene Mechanismen identifiziert, die als praktische Erkenntnisse dienen, wie Unternehmen ihre unternehmensweite GenAI-Governance gestalten können (Bild 2).

Bei der Analyse der Governance-Bemühungen der Fallstudie wird deutlich, dass einige Mechanismen darauf abzielen, klare Zuständigkeiten und Entscheidungsbefugnisse im Fertigungsunternehmen zu schaffen (strukturelle Mechanismen), während andere dazu dienen, Richtlinien für den verantwortungsvollen Einsatz des Tools zu definieren und deren Einhaltung sicherzustellen (prozedurale Mechanismen). Darüber hinaus identifizierten wir Bemühungen, die Mitarbeitenden mit einzubeziehen und entsprechend zu schulen (relationale Mechanismen).

Da die strukturellen Voraussetzungen in der untersuchten Organisation bereits vor dem Implementierungsprozess gegeben sind, können wir die Verantwortlichkeiten in vier Bereiche unterteilen: Erstens ist ein kleines Projektteam für die operative Umsetzung, die Kommunikation und die Entwicklung von Schulungsmaterialien verantwortlich. Dieses Team verfügt über ein hohes Maß an technischem Fachwissen und ist daher auch für die Entwicklung von Schulungen und Weiterbildungen für andere Mitarbeitende des Unternehmens verantwortlich.

Zweitens wird vom Betriebsrat ein separater KI-Ausschuss gebildet, der sich explizit mit KI-bezogenen Fragen befasst und mit dem Projektteam interagiert. Drittens, während die Hauptverantwortlichkeiten in bestimmten Bereichen der Organisation verankert sind, übernehmen Abteilungsleitende eine vermittelnde Rolle, in der sie organisatorische Pläne und Informationen kommunizieren. Sie bilden somit eine Schnittstelle zwischen den Abteilungen, dem Projektteam und den Richtlinien auf Organisationsebene.

Viertens werden aus den einzelnen Abteilungen einige Mitarbeitende ausgewählt und umfassend geschult, um Experten für das GenAI-Tool zu werden. Dadurch können sie innerhalb der Organisation eine Multiplikatorrolle übernehmen, als kompetente Ansprechpartner für alltägliche Fragen im Zusammenhang mit GenAI fungieren und die Einführung des Tools in verschiedenen Abteilungen aktiv fördern. Damit verteilt die Organisation die Verantwortung und Entscheidungsbefugnisse klar auf einzelne Akteure und Akteursgruppen.

Um innerhalb des Produktionsunternehmens ein einheitliches Verständnis darüber zu schaffen, welche Aspekte für einen verantwortungsvollen Einsatz des GenAI-Tools zu berücksichtigen sind, und, um Mechanismen zu installieren, die sicherstellen, dass diese Form der Nutzung mit den strategischen und wertorientierten Zielen der Organisation in Einklang steht, hat die Organisation prozedurale Mechanismen eingesetzt. Dazu gehört unter anderem die Entwicklung einer Unternehmensvereinbarung, die die Bedingungen für den Einsatz von KI in der Organisation regelt und so KI-bezogene Auswirkungen, z. B. in Bezug auf Stellenabbau und Diskriminierung in Auswahlprozessen, vermeidet. Die Organisation entwickelte Richtlinien, die sich beispielsweise auf den Umgang mit sensiblen Daten beziehen und bei der Nutzung des GenAI-Tools zu beachten sind.

Infolgedessen entschied man sich für eine vertragliche Nutzung von GenAI durch einen externen Anbieter, sodass die Nutzungsbedingungen (z. B. in Bezug auf Sicherheitsrisiken) in der Lizenzvereinbarung festgelegt sind. Durch kontinuierliche Überwachung, Feedback-Schleifen und Evaluierungen entwickelte das Unternehmen Prozesse, um aufkommende Probleme frühzeitig zu erkennen und zu bearbeiten.

An verschiedenen Punkten des Implementierungsprozesses werden die entwickelten Richtlinien an die Abteilungen kommuniziert und Schulungen entwickelt (relationale Mechanismen). Das Unternehmen entschied sich für eine dezentrale Kommunikation über die Abteilungsleitenden, die für die Weitergabe von Details zum Implementierungsprozess und zu möglichen Einsatzbereichen an die Abteilungen verantwortlich sind. Es wurden ergänzende Schulungen erstellt, die sowohl allgemeine Aspekte von GenAI behandeln als auch toolspezifische Unterstützung bieten. Um tieferes Fachwissen aufzubauen und einige Mitarbeitende in den Abteilungen zu Experten für das GenAI-Tool auszubilden, werden zusätzliche und spezialisiertere Schulungen entwickelt. In diesen Schulungen werden Aspekte wie Prompt Engineering, KI-Ethik und Anwendungsbereiche für das GenAI-Tool im Unternehmen weiter vertieft.

GenAI-Governance als Schlüssel zur verantwortungsvollen Nutzung

GenAI birgt spezifische Governance-Risiken und erfordert daher gezielte Mechanismen seitens der Organisation, insbesondere im Hinblick auf Aspekte bezogen auf die Mitarbeitenden. Die Fallstudie eines produzierenden Unternehmens zeigt eine Kombination aus strukturellen, prozessualen und relationalen Mechanismen. Dieser ganzheitliche Ansatz ermöglicht es, klare Verantwortlichkeiten innerhalb der Organisation zuzuweisen, Richtlinien für den verantwortungsvollen Umgang zu definieren und die Mitarbeitende zu befähigen, GenAI kompetent einzusetzen.

Erstens verpflichtet sich die Organisation, eine positive, aber kritische Haltung gegenüber GenAI zu fördern, indem sie das Tool abteilungsübergreifend zur Verfügung stellt, die Mitarbeitenden zum Ausprobieren ermutigt und das Bewusstsein für die Bedeutung einer kritischen Bewertung von KI-generierten Inhalten schärft. Zweitens soll das Bewusstsein für die Möglichkeiten und Grenzen der Technologie gestärkt werden, beispielsweise durch die Zuweisung von Verantwortlichkeiten an verschiedene Personen und Gruppen und durch die Entwicklung von Richtlinien für den verantwortungsvollen Einsatz. Drittens konzentriert sich die Organisation auf die Entwicklung von Kompetenzen für den verantwortungsvollen Einsatz von GenAI durch allgemeine und spezialisierte Schulungsprogramme.

Hinsichtlich der regulatorischen Anforderungen des EU AI Act liefern unsere Erkenntnisse praktische Empfehlungen, wie Unternehmen den verantwortungsvollen Einsatz von GenAI durch gezielte Governance-Mechanismen fördern können. Darüber hinaus hat sich gezeigt, dass das konzeptionelle Modell [8] eine wertvolle Übertragbarkeit in die Praxis bietet. Wir ermutigen daher Forschende, auf unseren Ergebnissen aufzubauen und eine tiefergehende vergleichende Analyse zwischen Unternehmen durchzuführen, die unterschiedliche GenAI-Tools einsetzen, um mehr Einblicke in individuelle Mechanismen der GenAI-Governance zu gewinnen.

Dieser Artikel wurde im Rahmen des Projekts „HUMAINE (human-centered AI network) – Transfer-Hub der Metropole Ruhr für humanzentrierte Arbeit mit KI”, das vom Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen des Programms „Zukunft der Wertschöpfung – Forschung für Produktion, Dienstleistungen und Arbeit” gefördert und vom Projektträger Karlsruhe (PTKA) begleitet (Förderkennzeichen: 02L19C200).

Dies ist die deutsche Version des englischen Originalbeitrags mit der DOI: 10.30844/I4SE.25.5.58

Das könnte Sie auch interessieren

KI-Organisation als neues Arbeitsparadigma Implikationen für individuelle und organisatorische Veränderungen Wolfgang Beinhauer, Katharina Hölzle , Leonie Krauch, Carsten Schmidt

Reicht es aus, Mitarbeitende im Umgang mit KI-Werkzeugen zu schulen oder erfordert die KI-Organisation völlig neue Kompetenzen? Der Beitrag stellt ein Digital-Enablement-Modell mit drei Kompetenzdimensionen vor und zeigt anhand eines am Fraunhofer IAO erprobten Upskilling-Programms, wie Organisationen die KI-Adoptionslücke nachhaltig überwinden können.

Industry 4.0 Science | 44. Jahrgang | 2026 | Ausgabe 5 | Seite 94-100

KI-Zertifizierung wirksam gestalten Erkenntnisse aus etablierten Zertifizierungsfeldern für die Normierung humanzentrierter KI Katharina Morsch

Zertifizierungen für humanzentrierten KI-Einsatz gewinnen an Bedeutung – als Differenzierungsmerkmal im Wettbewerb, als Antwort auf regulatorische Erwartungen und als Instrument zur Gestaltung eines menschgerechten Arbeitsumfelds. Doch woran lässt sich erkennen, ob ihre Anforderungen wirklich ankommen? Auf Basis von Experteninterviews aus etablierten Zertifizierungsfeldern zeigt dieser Beitrag: Die entscheidende Frage wird nicht im Audit beantwortet, sondern in der Zeit zwischen den Audits. Nicht das Zertifikat entscheidet, sondern die Bereitschaft von Führung und Organisation, sich dem Prozess ernsthaft zu stellen.

Industry 4.0 Science | 44. Jahrgang | 2026 | Ausgabe 5 | Seite 86-92 | DOI 10.30844/I4SD.26.5.10

Datengestützte Lieferantenauswahl in der Industrie 4.0 Auf dem Weg zu einer industriellen Plattform für Auswahl und Konfiguration Purushothaman Ganesh , Baris E. Albayrak , Jörg Franke , Till Sindel , Jens Fürst, Sebastian Lang

Industrielle Lieferketten müssen ihre Beschaffungsstrategien als Reaktion auf Störungen immer wieder neu ausrichten, doch Informationen über die Leistungsfähigkeit von Lieferanten sind nach wie vor uneinheitlich und lassen sich nur schwer operativ umsetzen. Bisherige Forschungsarbeiten behandeln Lieferantenauswahl, Simulation und Interoperabilitätsstandards getrennt voneinander und betrachten die Erfassung, Bewertung und Optimierung als voneinander getrennte Schritte, die eine manuelle Datentransformation erfordern. Dieser Beitrag stellt ein Rahmenkonzept für eine datengesteuerte industrielle Plattform vor, die drei Komponenten integriert: Lieferantenprofile auf Basis der Asset Administration Shell, strukturiert durch eine Actor-Service-Ontologie zur semantischen Identifikation von Lieferanten, automatische Generierung von Simulationsmodellen für diskrete Ereignisse (Discrete-Event Simulation) aus Layoutdaten zur Leistungsbewertung sowie KPI-gesteuerte Konfiguration mithilfe von ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 4 | Seite 50-61 | DOI 10.30844/I4SD.26.4.6

Open Source als Wegbereiter für intelligente Datenökosysteme Wie Zusammenarbeit Souveränität prägt und Interoperabilität in industriellen Anwendungen Anna Maria Schleimer , Julia Pampus

Von Lieferketten in der Automobilindustrie bis hin zu intelligenten Fabriken – Datenökosysteme versprechen eine nahtlose Zusammenarbeit über Unternehmensgrenzen hinweg. Doch wie können Branchen die erforderliche Infrastruktur aufbauen, ohne neue Abhängigkeiten zu schaffen? Dieser Artikel untersucht, wie Open-Source-Software als Grundlage und wirkungsvolles Instrument für souveräne, interoperable Technologien und Standards dienen kann. Allerdings ist Open-Source-Software kein Allheilmittel; vielmehr stellt sie die digitale Souveränität in aufstrebenden Datenökosystemen vor Herausforderungen.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 4 | Seite 6-13 | DOI 10.30844/I4SD.26.4.1

Vom Privatrecht zum privaten Recht Regelsetzung durch industrielle Online-Plattformen Pia C. Romeike, Frederik Bär

Industrielle Online-Plattformen bieten innovative Wege einer effizienten Wertschöpfung und bringen damit das Erfolgsrezept der digitalisierten Wirtschaft mit. Rechtlich erfasst sind sie bislang allerdings kaum. Was sind industrielle Online-Plattformen überhaupt und welche rechtlichen Aspekte sind zu beachten? Es wird festzustellen sein, dass die auf Plattformen zugeschnittenen Regelwerke für industrielle Online-Plattformen nur bedingt greifen und diese vielmehr ihr eigenes Recht setzen. Sie nutzen vorrangig ihre Allgemeinen Geschäftsbedingungen, um rechtliche Strukturen zu schaffen. Daher stellt sich einerseits die Frage, ob sich die Regelungen des europäischen Gesetzgebers auf die uns bekannte AGB-Kontrolle auswirken und andererseits, ob Verhandlungsungleichgewichte zu unerwünschten Machtverhältnissen führen.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 4 | Seite 98-105 | DOI 10.30844/I4SD.26.4.11

Industrie 4.0 – Fortschritt und Digitalisierung in der Schwebe Status der nachhaltigen Transformation und Digitalisierung in der Produktionstechnik Christian Donhauser , Daniel Riepl

Digitalisierungsprojekte helfen dem Anwender, komplexe Prozesse einfacher und effizienter darzustellen. Allerdings gibt es viele Hemmnisse, welche die Umsetzung deutlich erschweren. Zurückhaltung bei der Umsetzung ist spürbar. Dies trifft unter anderem Arbeitgeber und Arbeitnehmer, die durch das Warten oder Vermeiden ins ökonomische Abseits geraten können. Diese Beobachtungen lassen sich auf eine übergeordnete wissenschaftliche Leitfrage zurückführen: Welche Barrieren und systemischen Herausforderungen erschweren eine nachhaltige Transformation im Rahmen von Industrie 4.0, insbesondere unter Berücksichtigung menschlicher Arbeit in der Produktionstechnik? Welche Fragen stellen sich die betroffenen Akteure? Das wesentliche Ziel dieser langfristig ausgelegten Forschungsarbeit ist es, diese Fragen dezidiert und im Detail zu konkretisieren, um daraus ein konzeptionelles Fundament zu entwickeln, das Forschung, Lehre und technologische Entwicklung integriert und die Potenziale ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 3 | Seite 56-60