Mechanismen der GenAI-Governance

Die rasante Verbreitung Generativer Künstlicher Intelligenz (GenAI) verändert die industrielle Wertschöpfung erheblich [1]. Da GenAI in der Lage ist, auf der Grundlage individueller Eingaben nicht vordefinierte Ergebnisse wie Texte, Bilder, Audiodateien oder Codes zu generieren [2], findet diese Technologie zunehmend Verbreitung in einer Vielzahl von Anwendungen in Produktionsunternehmen [3]. Dies bringt komplexe Herausforderungen in Bezug auf Verantwortlichkeit, Transparenz und Einhaltung gesetzlicher Vorschriften mit sich und macht sie zu einem dringenden Governance-Thema [4, 5, 6].

Die Governance von KI-Systemen zielt darauf ab, den Einsatz von KI mit den Strategien, Zielen, Werten, gesetzlichen Anforderungen und ethischen Grundsätzen einer Organisation in Einklang zu bringen [7]. Zu diesem Zweck werden Governance-Mechanismen wie Richtlinien, Prozesse oder Schulungsinstrumente entwickelt, um einen ethischen und konformen Einsatz von KI in Organisationen sicherzustellen [8].

Bisherige Ansätze zur KI-Governance haben sich vor allem auf Aspekte wie die technologische Kontrolle von KI-Systemen, die Einhaltung gesetzlicher Vorschriften und die organisatorische Kontrolle konzentriert [4, 5]. Soziale Faktoren wie die Einstellungen, das Bewusstsein und die Fähigkeiten der Mitarbeitenden wurden bisher nicht ausreichend berücksichtigt [8].

Mittlerweile schreiben regulatorische Rahmenbedingungen externe Verpflichtungen vor, die die Bedeutung von Aspekten bezogen auf die Mitarbeitenden in der KI-Governance weiter verstärken. So verlangt beispielsweise Artikel 4 des EU AI Act von Organisationen, dass sie ein angemessenes Maß an KI-Kompetenz ihrer Mitarbeitenden sicherstellen [9].

Trotz erster konzeptioneller Modelle fehlen noch empirische Belege dafür, wie KI-Governance-Mechanismen gestaltet, umgesetzt und in der Praxis wirksam gemacht werden können, um diese Aspekte zu berücksichtigen [8]. Daher ist es das Ziel dieser qualitativen Fallstudie zu untersuchen, wie Governance-Mechanismen gestaltet werden können, um das Wissen, die Akzeptanz und den verantwortungsvollen Einsatz von GenAI unter den Mitarbeitenden zu fördern.

Zu diesem Zweck haben wir ein produzierendes Unternehmen über einen Zeitraum von sechs Monaten bei der Implementierung von GenAI begleitet und dabei einen besonderen Schwerpunkt auf die verwendeten Governance-Mechanismen gelegt. Wir analysieren die identifizierten Mechanismen anhand des von [8] entwickelten Rahmens für strukturelle, prozedurale und relationale Governance-Mechanismen.

Unsere Ergebnisse zeigen, dass Unternehmen einen ganzheitlichen Ansatz verfolgen sollten, der strukturelle, prozedurale und relationale Mechanismen kombiniert, um Aspekten bezogen auf die Mitarbeitenden der GenAI-Governance zu berücksichtigen. Durch die Verknüpfung theoretischer Modelle mit praktischen Erkenntnissen leisten wir einen Beitrag zum wachsenden Forschungsfeld der GenAI-Governance und geben praktische Empfehlungen für einen kompetenten und verantwortungsvollen Einsatz von GenAI in Unternehmen.

Mechanismen der GenAI-Governance

Während die Grundannahmen der KI-Governance auch für GenAI gelten, wird deutlich, dass die technischen Besonderheiten der Technologie ein Umdenken im organisatorischen Kontext erfordern. Daher erweitert GenAI den Anwendungsbereich der KI-Governance, indem sie zusätzlich zu technologiebezogenen Aspekten eine neue Dimension, die sich auf Aspekte der Mitarbeitenden bezieht, berücksichtigt [8].

Während technologiebezogene Aspekte bereits umfassend diskutiert werden, haben Aspekte bezogen auf die Mitarbeitenden in der Literatur bislang wenig Beachtung gefunden [8, 10, 11]. Dies ist besonders problematisch, da GenAI-Systeme aufgrund der Offenheit, Unvorhersehbarkeit und Interaktivität der Technologie hohe Anforderungen an das Urteilsvermögen und die persönliche Verantwortung der Mitarbeitenden stellen, um organisatorische Risiken zu vermeiden.

In diesem Zusammenhang wird argumentiert, dass Organisationen in drei Schlüsselbereichen erfolgreich sein sollten:

1. Förderung einer kritischen, aber positiven Einstellung ihrer Mitarbeitenden gegenüber GenAI-Systemen, die sie dazu ermutigt, KI-generierte Ergebnisse kritisch zu reflektieren und gleichzeitig mit diesen Systemen zu experimentieren;
2. Sensibilisierung der Mitarbeitenden für die Möglichkeiten und Grenzen von GenAI-Systemen, um sie über die organisatorischen Risiken des Einsatzes von GenAI zu informieren, z. B. in Bezug auf Sicherheitsbedenken oder IP-Lecks, und
3. Befähigung der Mitarbeitenden zum kompetenten Einsatz von GenAI-Systemen, damit sie über die Fähigkeiten verfügen, korrekte und relevante Ergebnisse zu generieren und diese im Hinblick auf ihre Übereinstimmung mit der Strategie und den Werten der Organisation zu bewerten [6, 12, 8].

Um diese Aspekte bezogen auf die Mitarbeitenden anzugehen, lassen sich drei unterschiedlichen Mechanismen der GenAI-Governance unterscheiden, die sich in ihrer Ausgestaltung und ihren Zielen unterscheiden (Bild 1) [8].

Erstens beziehen sich strukturelle Mechanismen der GenAI-Governance auf die Definition relevanter Rollen innerhalb der Organisation und die Verortung der Entscheidungsbefugnis. Einige Organisationen ernennen beispielsweise KI-Ethikbeauftragte oder bilden spezielle Ausschüsse, die sich mit dem verantwortungsvollen Einsatz von KI in der Organisation befassen und als Ansprechpartner für die Mitarbeitende fungieren [11]. Regulatorische Rahmenwerke wie der EU AI Act können ebenfalls Anforderungen an die Verortung der Entscheidungsbefugnis stellen [6, 9].

Zweitens zielen prozedurale Mechanismen der GenAI-Governance darauf ab, die Entscheidungsfindung und den Einsatz von GenAI an den strategischen und wertorientierten Zielen der Organisation auszurichten [6, 8]. Neben übergeordneten Leitlinien [13] umfassen diese Aspekte wie Risikomanagement, vertragliche und rechtliche Aspekte sowie Compliance-Überwachung und Problemmanagement [8].

Drittens tragen relationale Mechanismen der GenAI-Governance durch bedarfsgerechte Schulungen und eine angemessene Strukturierung des Implementierungsprozesses zu einer kompetenten und verantwortungsvollen Nutzung von GenAI bei. Dazu gehört auch die Förderung der Zusammenarbeit zwischen den Stakeholdern durch die Kommunikation der Absichten der Organisation hinsichtlich der Nutzung von GenAI über geeignete Kanäle [8].

Während die konzeptionellen Überlegungen ausgereift sind, fehlen jedoch empirische Erkenntnisse darüber, wie Governance-Mechanismen gestaltet werden können, um einen verantwortungsvollen Einsatz von GenAI zu fördern. Aufbauend auf dem bestehenden Rahmenwerk zur Unterscheidung von GenAI-Governance-Mechanismen in Unternehmen [8] liefern wir daher im Folgenden praktische Erkenntnisse aus einer Fallstudienanalyse.

GenAI-Governance in der Unternehmenspraxis

Um praktische Einblicke in die Gestaltung von Governance-Mechanismen zu gewinnen, die die Einstellung, das Bewusstsein und die Fähigkeiten der Mitarbeitenden berücksichtigen, haben wir eine Fallstudie durchgeführt, in der wir ein mittelständisches Produktionsunternehmen während des sechsmonatigen Implementierungsprozesses von GenAI begleiten. Das Unternehmen entwickelt und produziert spezialisierte Industrieprodukte für den B2B-Sektor und möchte seine Mitarbeitenden mit einem GenAI-Tool bei ihrer täglichen Arbeit unterstützen, von der Erstellung von Texten und der Gestaltung von Präsentationen bis hin zur Unterstützung bei der Formelerzeugung in Excel oder der Analyse von Fehlern in Code-Schnipseln.

Im Rahmen dieses Prozesses hat sich das Unternehmen zu einem verantwortungsvollen Umgang mit GenAI verpflichtet. Zu diesem Zweck hat das Unternehmen eine Reihe von Governance-Mechanismen implementiert, um den kompetenten Einsatz von GenAI zu fördern.

Teil des Datenerhebungsprozesses war es, Einblicke in die verwendeten Mechanismen und deren Umsetzung zu gewinnen. Unsere Daten basieren auf Erkenntnissen aus Workshops, dem Zugang zu internen Dokumenten und Interviews mit Mitarbeitenden aus verschiedenen Abteilungen. Unter Verwendung der Konzeptualisierung von Governance-Mechanismen [8] haben wir uns in unserer Datenanalyse auf Aspekte bezogen auf Mitarbeitende konzentriert und die implementierten Mechanismen im Hinblick auf ihr beabsichtigtes Governance-Ziel (strukturell,
prozedural oder relational) untersucht. Als Ergebnis haben wir zwölf verschiedene Mechanismen identifiziert, die als praktische Erkenntnisse dienen, wie Unternehmen ihre unternehmensweite GenAI-Governance gestalten können (Bild 2).

Bei der Analyse der Governance-Bemühungen der Fallstudie wird deutlich, dass einige Mechanismen darauf abzielen, klare Zuständigkeiten und Entscheidungsbefugnisse im Fertigungsunternehmen zu schaffen (strukturelle Mechanismen), während andere dazu dienen, Richtlinien für den verantwortungsvollen Einsatz des Tools zu definieren und deren Einhaltung sicherzustellen (prozedurale Mechanismen). Darüber hinaus identifizierten wir Bemühungen, die Mitarbeitenden mit einzubeziehen und entsprechend zu schulen (relationale Mechanismen).

Da die strukturellen Voraussetzungen in der untersuchten Organisation bereits vor dem Implementierungsprozess gegeben sind, können wir die Verantwortlichkeiten in vier Bereiche unterteilen: Erstens ist ein kleines Projektteam für die operative Umsetzung, die Kommunikation und die Entwicklung von Schulungsmaterialien verantwortlich. Dieses Team verfügt über ein hohes Maß an technischem Fachwissen und ist daher auch für die Entwicklung von Schulungen und Weiterbildungen für andere Mitarbeitende des Unternehmens verantwortlich.

Zweitens wird vom Betriebsrat ein separater KI-Ausschuss gebildet, der sich explizit mit KI-bezogenen Fragen befasst und mit dem Projektteam interagiert. Drittens, während die Hauptverantwortlichkeiten in bestimmten Bereichen der Organisation verankert sind, übernehmen Abteilungsleitende eine vermittelnde Rolle, in der sie organisatorische Pläne und Informationen kommunizieren. Sie bilden somit eine Schnittstelle zwischen den Abteilungen, dem Projektteam und den Richtlinien auf Organisationsebene.

Viertens werden aus den einzelnen Abteilungen einige Mitarbeitende ausgewählt und umfassend geschult, um Experten für das GenAI-Tool zu werden. Dadurch können sie innerhalb der Organisation eine Multiplikatorrolle übernehmen, als kompetente Ansprechpartner für alltägliche Fragen im Zusammenhang mit GenAI fungieren und die Einführung des Tools in verschiedenen Abteilungen aktiv fördern. Damit verteilt die Organisation die Verantwortung und Entscheidungsbefugnisse klar auf einzelne Akteure und Akteursgruppen.

Um innerhalb des Produktionsunternehmens ein einheitliches Verständnis darüber zu schaffen, welche Aspekte für einen verantwortungsvollen Einsatz des GenAI-Tools zu berücksichtigen sind, und, um Mechanismen zu installieren, die sicherstellen, dass diese Form der Nutzung mit den strategischen und wertorientierten Zielen der Organisation in Einklang steht, hat die Organisation prozedurale Mechanismen eingesetzt. Dazu gehört unter anderem die Entwicklung einer Unternehmensvereinbarung, die die Bedingungen für den Einsatz von KI in der Organisation regelt und so KI-bezogene Auswirkungen, z. B. in Bezug auf Stellenabbau und Diskriminierung in Auswahlprozessen, vermeidet. Die Organisation entwickelte Richtlinien, die sich beispielsweise auf den Umgang mit sensiblen Daten beziehen und bei der Nutzung des GenAI-Tools zu beachten sind.

Infolgedessen entschied man sich für eine vertragliche Nutzung von GenAI durch einen externen Anbieter, sodass die Nutzungsbedingungen (z. B. in Bezug auf Sicherheitsrisiken) in der Lizenzvereinbarung festgelegt sind. Durch kontinuierliche Überwachung, Feedback-Schleifen und Evaluierungen entwickelte das Unternehmen Prozesse, um aufkommende Probleme frühzeitig zu erkennen und zu bearbeiten.

An verschiedenen Punkten des Implementierungsprozesses werden die entwickelten Richtlinien an die Abteilungen kommuniziert und Schulungen entwickelt (relationale Mechanismen). Das Unternehmen entschied sich für eine dezentrale Kommunikation über die Abteilungsleitenden, die für die Weitergabe von Details zum Implementierungsprozess und zu möglichen Einsatzbereichen an die Abteilungen verantwortlich sind. Es wurden ergänzende Schulungen erstellt, die sowohl allgemeine Aspekte von GenAI behandeln als auch toolspezifische Unterstützung bieten. Um tieferes Fachwissen aufzubauen und einige Mitarbeitende in den Abteilungen zu Experten für das GenAI-Tool auszubilden, werden zusätzliche und spezialisiertere Schulungen entwickelt. In diesen Schulungen werden Aspekte wie Prompt Engineering, KI-Ethik und Anwendungsbereiche für das GenAI-Tool im Unternehmen weiter vertieft.

GenAI-Governance als Schlüssel zur verantwortungsvollen Nutzung

GenAI birgt spezifische Governance-Risiken und erfordert daher gezielte Mechanismen seitens der Organisation, insbesondere im Hinblick auf Aspekte bezogen auf die Mitarbeitenden. Die Fallstudie eines produzierenden Unternehmens zeigt eine Kombination aus strukturellen, prozessualen und relationalen Mechanismen. Dieser ganzheitliche Ansatz ermöglicht es, klare Verantwortlichkeiten innerhalb der Organisation zuzuweisen, Richtlinien für den verantwortungsvollen Umgang zu definieren und die Mitarbeitende zu befähigen, GenAI kompetent einzusetzen.

Erstens verpflichtet sich die Organisation, eine positive, aber kritische Haltung gegenüber GenAI zu fördern, indem sie das Tool abteilungsübergreifend zur Verfügung stellt, die Mitarbeitenden zum Ausprobieren ermutigt und das Bewusstsein für die Bedeutung einer kritischen Bewertung von KI-generierten Inhalten schärft. Zweitens soll das Bewusstsein für die Möglichkeiten und Grenzen der Technologie gestärkt werden, beispielsweise durch die Zuweisung von Verantwortlichkeiten an verschiedene Personen und Gruppen und durch die Entwicklung von Richtlinien für den verantwortungsvollen Einsatz. Drittens konzentriert sich die Organisation auf die Entwicklung von Kompetenzen für den verantwortungsvollen Einsatz von GenAI durch allgemeine und spezialisierte Schulungsprogramme.

Hinsichtlich der regulatorischen Anforderungen des EU AI Act liefern unsere Erkenntnisse praktische Empfehlungen, wie Unternehmen den verantwortungsvollen Einsatz von GenAI durch gezielte Governance-Mechanismen fördern können. Darüber hinaus hat sich gezeigt, dass das konzeptionelle Modell [8] eine wertvolle Übertragbarkeit in die Praxis bietet. Wir ermutigen daher Forschende, auf unseren Ergebnissen aufzubauen und eine tiefergehende vergleichende Analyse zwischen Unternehmen durchzuführen, die unterschiedliche GenAI-Tools einsetzen, um mehr Einblicke in individuelle Mechanismen der GenAI-Governance zu gewinnen.

Dieser Artikel wurde im Rahmen des Projekts „HUMAINE (human-centered AI network) – Transfer-Hub der Metropole Ruhr für humanzentrierte Arbeit mit KI”, das vom Bundesministerium für Forschung, Technologie und Raumfahrt im Rahmen des Programms „Zukunft der Wertschöpfung – Forschung für Produktion, Dienstleistungen und Arbeit” gefördert und vom Projektträger Karlsruhe (PTKA) begleitet (Förderkennzeichen: 02L19C200).

Dies ist die deutsche Version des englischen Originalbeitrags mit der DOI: 10.30844/I4SE.25.5.58

Das könnte Sie auch interessieren

Serious Games als Trainingsinstrument Spielmechanische Gestaltung zur Förderung Resilienz Annika Lange , Thomas Knothe

Unvorhergesehene Ereignisse fordern produzierende Unternehmen zunehmend heraus. Resilienz zur Bewältigung von Krisen wird dabei zur Schlüsselkompetenz. Durch Serious Games (SG) kann Resilienz Aufbau transparenter werden. Der folgende Beitrag leitet spezifische Anforderungen an SG aus den einzelnen Resilienzphasen ab und zeigt, wie diese spielmechanisch umgesetzt werden können, um so Resilienz effektiv zu trainieren.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 98-104

Im Braunfeld zur Industrie 4.0 Lernfabriken als Schulungs- und Testumgebung für die digitale Transformation Jakob Weber, Sven Völker

Die digitale Transformation produzierender Unternehmen erfordert Ingenieure mit der Fähigkeit, den Übergang zur Industrie 4.0 praktisch zu gestalten. Dieser Beitrag stellt das Konzept einer Lernfabrik vor, die selbst einer kontinuierlichen digitalen Transformation unterliegt und damit eine Umgebung für die Entwicklung von Transformationskompetenzen schafft. Das Konzept für die digitale Transformation basiert auf digitalen Werker-Assistenzsystemen und Multiagentensystemen zur Produktionssteuerung. Sie ermöglichen eine schrittweise Integration vorhandener Ressourcen. Die Lernfabrik wird den Studierenden nicht als fertige Lösung präsentiert, sondern im Rahmen von studentischen Projekten kontinuierlich weiterentwickelt. Damit adressiert sie direkt den Mangel an qualifiziertem Personal für die Realisierung der Industrie 4.0.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 88-96

Kollegin KI? Kompetenzanforderungen und -vermittlung bei KI-Nutzung in der Industrie Swetlana Franken

Künstliche Intelligenz verändert Aufgaben, Rollen und Kompetenzen in (Industrie‑)Unternehmen grundlegend. Sie agiert zunehmend als Kollegin, die Entscheidungen vorbereitet, Prozesse unterstützt und mit Menschen interagiert. Der Beitrag beleuchtet zentrale Kompetenzanforderungen für die KI-Nutzung in der Industrie, stellt ein integriertes Kompetenzmodell vor und zeigt praxisnahe Strategien zur Kompetenzvermittlung auf. Ziel ist es, Unternehmen und Beschäftigte auf eine menschengerechte, kompetenzorientierte Implementierung von KI vorzubereiten, die technologische Effizienz mit menschlicher Kreativität und Urteilskraft verbindet.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 2 | Seite 78-86

Operationalisierung ethischer KI mit tachAId Validierung eines interaktiven Beratungstools in zwei Anwendungsfällen aus der Fertigungsindustrie Pavlos Rath-Manakidis, Henry Huick, Björn Krämer , Laurenz Wiskott

Die Integration künstlicher Intelligenz (KI) in Arbeitsprozesse verspricht erhebliche Effizienzsteigerungen, doch Unternehmen stehen dabei vor zahlreichen ethischen Herausforderungen, die den Beteiligten zunächst oft nicht bewusst sind – von Intransparenz in der Entscheidungsfindung über algorithmische Verzerrungen bis hin zu Risiken einer verfrühten Automatisierung. Dieser Beitrag stellt das Design und die Validierung von tachAId vor, einem interaktiven Beratungstool, das darauf abzielt, menschenzentrierte ethische Überlegungen in die Entwicklung von KI-Lösungen einzubetten. Es wird eine Validierungsstudie vorgestellt, die für zwei unterschiedliche industrielle KI-Anwendungen mit variierendem KI-Reifegrad durchgeführt wurde. tachAId lenkt die Aufmerksamkeit gezielt auf kritische ethische Überlegungen im gesamten Lebenszyklus von KI-Lösungen, die bei einer technisch orientierten Entwicklung möglicherweise übersehen werden. Die Ergebnisse zeigen jedoch auch eine zentrale ...

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 50-59 | DOI 10.30844/I4SD.26.1.50

Angewandte KI für die menschenzentrierte Montage Ein ethisch fundierter Ansatz zur Gestaltung von Arbeitsplätzen Tadele Belay Tuli , Michael Jonek , Sascha Niethammer, Henning Vogler, Martin Manns

Künstliche Intelligenz (KI) kann die Montage verbessern, indem sie menschliche Bewegungen vorhersagt und den Arbeitsplatz entsprechend gestaltet. Mithilfe probabilistischer Modelle wie der Gaußschen Mischmodelle (GMMs) antizipieren KI-Systeme die Bewegungen des Bedieners, um die Koordination mit Robotern zu verbessern. Diese Vorhersagesysteme werfen jedoch ethische Bedenken hinsichtlich Sicherheit, Fairness und Datenschutz gemäß EU AI Act auf. Dieser Artikel stellt eine Methode vor, die probabilistische Bewegungsmodellierung mit ethischer Bewertung mittels Z-Inspection® integriert. Eine Fallstudie unter Verwendung des Werkerassistenzsystem zeigt, wie multimodale Sensorik (Bewegung, Blick) und interpretierbare Modelle eine vorausschauende Unterstützung ermöglichen. Der Ansatz geht von der ethischen Bewertung zu einer ethisch informierten Arbeitsgestaltung über und liefert übertragbare Prinzipien sowie eine konfigurierbare Bewertungsmatrix.

Industry 4.0 Science | 42. Jahrgang | 2026 | Ausgabe 1 | Seite 60-68 | DOI 10.30844/I4SD.26.1.60

Lern- und kompetenzförderliche Arbeitsgestaltung Neue Lernorganisations- und Lernbegleitungsformen in digital transformierter Arbeit Peter Dehnbostel

Seit Jahrhunderten gibt es Maßnahmen und Methoden zur Arbeitsgestaltung. Mit der digital transformierten Arbeit sind jedoch grundlegend neue Kriterien für Lern- und Kompetenzförderlichkeit entstanden. Deren Anwendung ermöglicht es, Arbeit nicht nur effizienter, sondern auch menschenzentrierter zu gestalten und zugleich die Entwicklung sowie den Einsatz von KI in der Arbeitswelt beherrschbarer zu machen. Zudem tragen in der Digitalisierung entstandene innovative Lernformen wesentlich zur Arbeitsgestaltung bei, etwa Online-Communities, Lernplattformen, Chatbots und E-Coaching. Diese Entwicklung steht jedoch noch am Anfang.

Industry 4.0 Science | 41. Jahrgang | 2025 | Ausgabe 6 | Seite 58-64