Leitlinien für den fairen Einsatz generativer KI

Problemstellung

ChatGPT, Gemini, Copilot oder andere auf generativer KI basierende Assistenten finden in zunehmend mehr Unternehmen Anwendung und können bei vielfältigen Tätigkeiten eingesetzt werden: so z.B. bei der Erstellung, Korrektur, Übersetzung und Zusammenfassung von Texten, bei Programmier- und Kontrollaufgaben oder bei der Problemlösung und Wissensgenerierung. Zunehmend mehr Unternehmen erkennen dabei, dass es zur Erschließung der Produktivitätspotenziale [1] dieser KI-Tools einer Entwicklung betriebsspezifischer Nutzungsstrategien bedarf: denn neben Aspekten wie dem Schutz sensibler Unternehmensdaten [2], oder der Gefahr sogenannter „Halluzinationen“ [3] kann die Einführung generativer KI auch zu Widerständen bei Beschäftigten führen, z. B. aufgrund der Sorge um drohende Arbeitsplatzverluste [4, 5].

Für einen vertrauens- und verantwortungsvollen Einsatz der Technologie ist die Berücksichtigung von Fairnesskriterien (u.a. Diskriminierungsfreiheit, keine Leistungskontrolle, Beschäftigungsförderung/-sicherung) und die Entwicklung darauf basierender betrieblicher KI-Leitlinien daher von besonderer Bedeutung.

Mittlerweile stehen betrieblichen Gestaltungsakteuren eine Reihe guter Praxisbeispiele (z.B. das KI-Manifest der Deutschen Telekom) und allgemeine Handreichungen als „Blaupause“ für eine beschäftigtenorientierte Leitlinienentwicklung zur Verfügung [6]. Für den Umsetzungserfolg ist es jedoch von zentraler Bedeutung, dass betriebliche Leitlinien für einen fairen, d. h. humanressourcenstärkenden Einsatz von KI unter Beteiligung der verschiedenen Akteursgruppen sowie unter Berücksichtigung der Einsatzbereiche im Unternehmen erarbeitet werden [7]. Dies setzt die Ermittlung spezifischer Nutzungspotenziale und -risiken im betrieblichen Setting voraus. Wie aber können Betriebe Potenziale und Risiken des KI-Einsatzes beteiligungsorientiert ermitteln und in ihre KI-Leitlinien einfließen lassen?

Im Rahmen des Projekts „HUMAINE“ hat das Institut Arbeit und Qualifikation der Universität Duisburg-Essen mit dem „FriendlyTechCheck“ (FTC) ein Dialogverfahren entwickelt, mithilfe dessen betriebliche Akteure Gestaltungsanforderungen bei der Implementierung künstlicher Intelligenz eigenständig identifizieren und beispielsweise für die Entwicklung von Leitlinien nutzen können [8, 9]. Im vorliegenden Beitrag wird dieses Verfahren vorgestellt. Auf Basis von zwei betrieblichen Praxisbeispielen wird aufgezeigt, wie der FTC bei der Erarbeitung kontextsensitiver und beschäftigtenorientierter KI-Leitlinien im Unternehmen unterstützen kann.

FriendlyTechCheck: Risiko- und Potenzialanalyse von Künstlicher Intelligenz

Ziel des FTC ist die Befähigung betrieblicher Gestaltungsakteure zur Analyse von KI-Systemen im jeweiligen soziotechnischen Nutzungskontext hinsichtlich ressourcenfördernder („friendly AI“) und -schädigender Wirkungen („unfriendly AI“). Das Instrument basiert auf arbeitswissenschaftlich etablierten Humankriterien (z. B. Lernförderlichkeit, Schädigungslosigkeit) für die Einführung und Nutzung digitaler Technologien [10] und umfasst unterschiedliche Dimensionen (Bild 1). Die theoretische Grundlage bildet eine Modifikation Demerouti‘s Anforderungs-Ressourcen-Modell [11].

Der FTC kann sowohl prospektiv bei der Planung, als auch während und nach Technikeinführungsprozessen angewendet werden. Das Verfahren zielt dabei auf einen Dialog verschiedener betrieblicher Akteure ab, um so unterschiedliche Perspektiven zu berücksichtigen. Die Bewertung eines KI-Systems entlang der FTC-Checkliste erfolgt daher grundsätzlich durch mehrere betriebliche Stakeholder (z. B. Führungskräfte, Betriebsräte, Nutzende). Der Einsatz des FTC ist in ein Workshop-Format eingebettet, das von zuvor unterwiesenen betrieblichen Akteuren (z. B. aus dem Betriebsrat, dem HR- oder Arbeitsschutzbereich) moderiert wird. Die Teilnehmenden sollten dabei über Kenntnisse zur Funktionsweise des geplanten KI-Systems bzw. erste Nutzungserfahrungen verfügen.

Im Workshop (Dauer ca. 1,5 Stunden, je nach betrieblichem Bedarf) werden folgende Phasen durchlaufen:

1) Erhebungsphase: Die Teilnehmenden bewerten das einzuführende KI-System mithilfe der FTC-Checkliste. Die Risiko- und Potenzialbewertung entlang der FTC-Dimensionen beansprucht weniger als zehn Minuten Bearbeitungszeit.

2) Bewertungsphase: Die erhobenen Daten werden grafisch aufbereitet und dem Moderator zur Verfügung gestellt. Dieser präsentiert die Ergebnisse des Screenings und fordert die Teilnehmenden auf, die Resultate entlang der Dimensionen inhaltlich zu begründen. Ziel ist es, einen spezifischen Kontextbezug zu den identifizierten Potenzialen und Risiken herzustellen, was für die spätere Entwicklung von Gestaltungsmaßnahmen essenziell ist.

3) Gestaltungsphase: Vor dem Hintergrund der identifizierten Potenziale und Risiken entwickeln die Teilnehmenden konkrete Gestaltungsideen. Dies umfasst sowohl die Förderung von Potenzialen, als auch die präventive Reduktion von Risiken durch flankierende Maßnahmen. Die Gestaltungsideen werden hinsichtlich ihrer Machbarkeit und Relevanz von den Teilnehmenden bewertet. Die Dokumentation der Ergebnisse wird an Umsetzungsverantwortliche im Betrieb weitergeleitet (sofern im Teilnehmendenkreis nicht bereits entsprechende Befugnisse oder Ressourcen vorhanden sind).

Praktische Anwendung im Betrieb

Im Folgenden geben wir einen Einblick, wie der FTC in zwei unterschiedlichen Anwendungsfeldern eingesetzt wurde und welche Implikationen für die Entwicklung von KI-Leitlinien daraus folgten. Am Fraunhofer IAO nutzte die Abteilung ‚Production Excellence‘ das Verfahren, um Risiken und Potenziale auf generativer KI basierender Chatbots im Produktionsmanagement zu bewerten. Die neun Teilnehmenden (sieben Projektmitarbeitende, eine Führungskraft, eine Fachkraft für Arbeitssicherheit) sind in Kunden- und Forschungsprojekten mit der Planung von Logistik- und Produktionsprozessen betraut und verfügen über erste Erfahrungen im Umgang mit ChatGPT. Das Tool wird hier für Recherchezwecke, Programmierungen sowie zur Unterstützung der Angebots- und Berichtserstellung genutzt.

Die zweite Gruppe bestand aus sechs Mitarbeitenden der Iserlohner Werkstätten gGmbH, überwiegend tätig im Bereich Digitalisierung sowie in der Interessenvertretung der Werkstattbeschäftigten. Die Gruppe (ein Vorgesetzter, drei Mitarbeitende aus dem Technikbereich, zwei Vertreter des Werkstattrats) erhielt von der Geschäftsführung die Möglichkeit, als ‚Early Adopters‘ potenzielle Anwendungsbereiche von ChatGPT in Werkstätten für Menschen mit Behinderung zu identifizieren. Genutzt wird die KI hier u.a. für die Bestückung eines selbst entwickelten Content-Managementsystems zur Erstellung von personifizierten Arbeitsunterweisungen für die Werkstattbeschäftigten. Die Beteiligten erwarteten vom FTC-Einsatz Erkenntnisse darüber, welche Potenziale und Gestaltungsbedarfe bei einem möglichen Rollout generativer KI zu berücksichtigen sind.

Nachfolgend werden zentrale Ergebnisse auf Basis der Auswertung der FTC-Erhebungen und -Workshops für beide Fallbeispiele getrennt dargestellt. Dabei fokussieren wir uns auf die Dimensionen Wohlbefinden, Kompetenzen und Fairness. Für Ergebnisse zu den weiteren FTC-Dimensionen siehe [12].

Zentrale Ergebnisse

Die FTC-Ergebnisse im Bereich Produktionsmanagement (Bild 2) zeigen, dass die Teilnehmenden in der Nutzung von ChatGPT erhebliche Potenziale sehen. So berichten die Befragten, dass sie durch den Einsatz von ChatGPT beispielsweise die sprachliche Qualität von Anträgen oder Reportings verbessern können, wodurch ihr Selbstwertgefühl gestärkt wird. Potenziale werden auch darin gesehen, sich in neue, insbesondere fachfremde Sachverhalte einzuarbeiten und Bearbeitungszeiten für bürokratische Aufgaben wie Dienstreiseanträge zu reduzieren.

Neben diesen Entlastungs- und Lernpotenzialen sehen die Befragten aber auch Herausforderungen, insbesondere im Hinblick langfristiger Auswirkungen auf den beruflichen Status und die Beschäftigungschancen. Die Mehrheit der Teilnehmenden befürchtet, dass ihr Fachwissen zukünftig weniger bei Kunden gefragt sein könnte. Ein Projektmitarbeiter äußerte hierzu: „Wenn sich jetzt aber herausstellt, dass eine künstliche Intelligenz genauso gute Ergebnisse produziert wie du, gibt es ja keine Begründung, warum das, was du machst, noch ein wertvoller Job ist“.

Zwar gehen die Ingenieure mehrheitlich davon aus, dass ChatGPT ihre Arbeit nicht vollständig ersetzen wird und es stattdessen zu einer Verschiebung der Aufgaben in Richtung Kontrolltätigkeiten kommt. Es wird aber insbesondere bei der Akquisition von Projekten befürchtet, dass Projektgeber aufgrund der Automatisierungsmöglichkeiten Projektvolumina kürzen, was zu unfreiwilliger Teilzeitarbeit oder geringeren Projektlaufzeiten führen könnte.

Als zentrales Problem beim aktuellen betrieblichen Einsatz von ChatGPT sehen alle Teilnehmenden zudem den Umstand an, dass keine systematischen Schulungen zum Umgang mit ChatGPT angeboten werden, was sich aus ihrer Sicht langfristig ungünstig sowohl auf die Karrierechancen, als auch die Produktivität des Instituts auswirken könnte.

In der Wohlfahrtspflege sehen wir auf den ersten Blick teils ähnlich gelagerte FTC-Einschätzungen (Bild 3). Im Rahmen der Gruppendiskussion wird aber deutlich, dass diese in einem anderen (Nutzungs-)Kontext zu sehen sind. Die in den Werkstätten beschäftigten Fachkräfte für Rehabilitation erhoffen sich durch die Einführung eines betriebsspezifischen ChatGPTs eine Rückgewinnung von Zeit für originär pädagogische Aufgaben. So soll das aktuell von der Abteilung Digitalisierung entwickelte Content Management System mithilfe von ChatGPT bei der Erstellung bedarfsgerechter Arbeitsunterweisungen für die Werkstattbeschäftigten unterstützen.

Bei der Einführung eines unternehmensinternen ChatGPT sehen die Teilnehmenden weder für das pädagogische Personal noch für die ihnen anvertrauten Menschen mit Behinderung in den Werkstätten besondere Beschäftigungsrisiken: „Ich glaube nicht, dass wir Beschäftigung abbauen werden. . Stattdessen wird sich die Aufgabe verschieben“ (Vorgesetzter). Die Frage entsprechender Schulungen im Umgang mit generativer KI ist aufgrund des derzeitigen ‚Experimentier-Status‘ weniger akut . Die Einbeziehung von Werkstattbeschäftigten in die Nutzung und Schulung zu ChatGPT wird jedoch als wichtige Zukunftsaufgabe erachtet, damit diese für den ersten Arbeitsmarkt fit gemacht werden können: „Aber die [Schulung] sollte auf jeden Fall zur Verfügung gestellt werden, weil es einfach auch Barrieren aufbricht“ (Mitarbeiter Technikbereich).

Implikationen für eine humanzentrierte Nutzungsstrategie generativer KI

Die Ergebnisse zeigen, dass die Auswirkungen generativer KI auf Arbeit und Beschäftigung ambivalent und kontextabhängig sind. Die Teilnehmenden beider FTC-Workshops bewerteten ChatGPT als nützliches Tool. Gleichzeitig kamen zentrale Gestaltungsanforderungen zur Sprache. Im Produktionsmanagement bezogen sich diese vor allem auf den Erwerb neuer Kompetenzen in der Nutzung generativer KI sowie den Umgang mit potenziellen Beschäftigungsrisiken. Im Fall der Wohlfahrtspflege wurden etwaige negative Auswirkungen aufgrund des ‚Experimentier-Status‘ als weniger akut eingeschätzt. Gleichwohl wurde auch hier auf die Notwendigkeit von Schulungen und organisationale Leitplanken im Umgang mit generativer KI verwiesen, um die Arbeitsqualität sowie auch datenschutzrechtliche Anforderungen zu gewährleisten.

In beiden Fällen wurde die Entwicklung und Umsetzung einer auf die Gestaltungsanforderungen hin ausgerichteten KI-Nutzungsstrategie als entscheidender Erfolgsfaktor bewertet, um die Potenziale des betrieblichen KI-Einsatzes zu heben. Aus Sicht der Beteiligten sind dabei folgende Leitlinien zentral:

• Klare Richtlinien und Governance vereinbaren: Es sollten verbindliche Regeln für den Einsatz von ChatGPT definiert werden, etwa hinsichtlich zulässiger Aufgaben und Dateneingaben. Die Einführung paritätisch besetzter Nutzerräte, die neue KI-Systeme testen, bewerten und als Ansprechpartner für Beschäftigte fungieren, wurde als sinnvoll erachtet.

• KI-Nutzende sensibilisieren und unterweisen: Beide Gruppen betonten die Notwendigkeit, vor Einführung neuer KI-Tools alle potenziellen Nutzenden zu unterweisen, um das Risikobewusstsein zu schärfen und einen (rechts-)sicheren Umgang im betrieblichen Alltag zu gewährleisten. Dies könne auch dazu beitragen, Ängste gegenüber KI abzubauen.

• Schulungen anbieten: Die Teilnehmenden sehen die Arbeitgeber in der Pflicht, flächendeckende und verbindliche Schulungen bei der Einführung von ChatGPT und vergleichbarer Tools anzubieten, um technikaffine oder leistungsstarke Mitarbeitende nicht einseitig zu bevorteilen. Andernfalls könnten bestehende Ungleichheiten in digitalen Kompetenzen die Produktivität und Karrierechancen negativ beeinflussen.

• Zugänge schaffen: Besonders die Teilnehmenden aus dem Bereich der Wohlfahrtspflege betonten vor diesem Hintergrund, dass trotz zusätzlicher Kosten für Lizenzen und Qualifizierungsmaßnahmen allen Beschäftigten(gruppen) ein unkomplizierter Zugang zu ChatGPT ermöglicht werden sollte.

• Automatisierungsfolge in den Blick nehmen: Beide Gruppen sehen ein geringes Risiko, dass durch die Einführung von ChatGPT komplette Arbeitsaufgaben entfallen. Dennoch halten sie eine Potenzial- und Risikoanalyse auch bei partiellen Substitutionsrisiken für erforderlich, um Beschäftigten frühzeitig alternative Tätigkeitsfelder oder Qualifizierungsangebote zu eröffnen.

Vorläufiges Fazit

Wer die Potenziale generativer KI für mehr unternehmerischen Erfolg und wirtschaftliches Wachstum erschließen möchte, tut gut daran, dies auf faire und verantwortungsvolle Weise zu tun [13]. Die Einblicke aus den Anwendungsfällen konnten hier zeigen, dass das FTC-Verfahren für eine partizipative Potenzial- und Risikobewertung und die daran anknüpfende Entwicklung betrieblicher KI-Nutzungsstrategien und -Leitlinien hilfreich sein kann.

Die betrieblichen Praxispartner nehmen das Verfahren als einfach und zeitökonomisch anwendbar wahr und die Workshop-Teilnehmenden schätzen den dialogischen Charakter: es können die unterschiedlichen Perspektiven der am Prozess beteiligten Stakeholder auf Augenhöhe diskutiert werden. Der Einsatz des FTC ermöglichte es so, einen ersten Schritt in Richtung einer Technikfolgenabschätzung vorzunehmen, die im Tagesgeschäft oft untergeht – ein Umstand, der insbesondere auf KMU mit oft knappen Ressourcen für die Gestaltung von Digitalisierungsprozessen zutreffen dürfte. Inwieweit sich die identifizierten Gestaltungsanforderungen und Leitlinien auf andere Unternehmen und Anwendungsfälle übertragen lassen, muss eine weitere Erprobung des FTC zeigen.

Dieser Beitrag entstand im Rahmen des Forschungsprojekts HUMAINE, das durch das BMFTR-Förderprogramm „Zukunft der Wertschöpfung – Forschung zu Produktion, Dienstleistung und Arbeit“ gefördert wurde (Förderkennzeichen: 02L19C201).

Das könnte Sie auch interessieren

Schneller, einfacher Digitaler Zwilling Mit Open-Source zum kosteneffizienten Digitalen Zwilling und Industrie 5.0: Eine Fallstudie Shantall Cisneros Saldana , Sonali Pratap, Parth Punekar, Sampat Acharya, Heike Markus

Die Einführung Digitaler Zwillinge (DZ) scheitert oft an hohen Kosten, technischer Komplexität und fehlenden Fachkenntnissen. Diese Studie stellt ein kostengünstiges Modell eines DZ, welches mit Technology Readiness Level (TRL) 5 validiert ist. Es wurde innerhalb von nur zwei Wochen mithilfe von Open-Source-Lösungen und gängigen Unternehmenswerkzeugen entwickelt und integriert sensorbasierte Echtzeitdaten, prädiktive Analysen, Anomalieerkennung und automatisierte Benachrichtigungen, um Effizienz und Nachhaltigkeit in der Landwirtschaft zu steigern. Das System erreicht eine durchschnittliche relative Abweichung von nur 7,76 % und gibt automatisierte Warnungen in Echtzeit aus. Die Ergebnisse zeigen, wie fortschrittliche digitale Werkzeuge durch die Kombination von Open-Source-Technologien und Standardwerkzeugen zugänglich gemacht werden können: skalierbar, menschenzentriert und erschwinglich im Sinne von Industrie 5.0.

Industry 4.0 Science | 41. Jahrgang | 2025 | Ausgabe 3 | Seite 62-68 | DOI 10.30844/I4SD.25.3.62

Mit Digitalen Zwillingen die Zukunft der Fertigung gestalten Chancen und Hindernisse Javad Ghofrani , Darian Lemke, Tassilo Söldner

Digitale Zwillinge stellen eine Verbindung zwischen physischen und digitalen Systemen dar. Diese steigern die Effizienz und ermöglichen vorausschauende Wartung und die Herstellung von individuelleren Produkten. Trotz dieser Vorteile stehen Herausforderungen wie hohe Kosten, Datensynchronisierung und Sicherheitsrisiken einer breiten Einführung im Wege. Dieser Artikel befasst sich mit dem Potenzial Digitaler Zwillinge und untersucht die wichtigsten Hindernisse für die Integration und Implementierung, wobei auch einige industrielle Anwendungen wie die additive Fertigung als relevanter Anwendungsfall betrachtet werden.

Industry 4.0 Science | 41. Jahrgang | 2025 | Ausgabe 3 | Seite 72-81

Die Lernfabrik „InTraLab“ Digital transformierte Arbeit erfahren und lernen Norbert Gronau , Malte Teichmann

Lernfabriken bieten eine praxisnahe Umgebung zur Simulation von Produktionsprozessen, in der Lernende Kompetenzen durch direkte Anwendung neuer Technologien erwerben können. Das Industrial Transformation Lab (InTraLab) simuliert hybride Produktionsprozesse und integriert reale Demonstratoren sowie virtuelle Simulationen. Dies ermöglicht Lernenden den Erwerb von Handlungskompetenzen und Fähigkeiten, die für die digital transformierte Arbeitswelt entscheidend sind.

Industry 4.0 Science | 41. Jahrgang | 2025 | Ausgabe 2 | Seite 46-51

Echtzeit-Reaktionen für fahrerlose Transportsysteme (FTS) Überwachung und Steuerung bei großen Latenzzeiten Dominik Augenstein, Lea Basler

Das stetige Fortschreiten der Digitalisierung konfrontiert Unternehmen mit neuen Herausforderungen und Chancen. Unmittelbare Datenverarbeitung ist mittlerweile allgegenwärtig und die Vorteile sind offensichtlich. Doch in Deutschland herrscht eine lückenhafte Breitbandversorgung, was die Prozessverbesserung erschwert. Mathematische Ansätze und Machine Learning ermöglichen zeitnahe Optimierungen und eine reibungslose Produktion.

Industry 4.0 Science | 40. Jahrgang | 2024 | Ausgabe 6 | Seite 56-62

Energieeffizienz durch intelligente Stromdatenerfassung Drahtlose Retrofit-Lösung auf Basis von IoT-Technologien und Open Source Software für industrielle Bestandsgebäude Sergej Kreber, Kevin Kutzner, Dieter Uckelmann

Facility Manager von industriellen Liegenschaften stehen vor der Herausforderung, die Energieeffizienz ihrer Anlagen angesichts eines stetig steigenden Energiebedarfs und steigender Energiekosten zu optimieren. Digitale Prozesse, die eine umfassende Überwachung, Analyse und Steuerung des Energiebedarfs ermöglichen, bieten eine effektive Möglichkeit, Kosten zu senken, die Energieeffizienz zu steigern und Ressourcen optimal zu nutzen.

Industry 4.0 Science | 40. Jahrgang | 2024 | Ausgabe 2 | Seite 87-93 | DOI 10.30844/I4SD.24.2.87