verantwortungsvolle KI

Die Implementierung generativer künstlicher Intelligenz (GenAI) stellt neue Anforderungen an die GenAI-Governance. Dieser Beitrag präsentiert explorative Ergebnisse dazu, wie KMU aus dem Ruhrgebiet GenAI einsetzen, Risiken wahrnehmen und mit ethischen Herausforderungen umgehen. Die Daten stammen aus einer Befragung von 56 KMU und einer regionalen Fallstudie. Während institutionalisierte Governance-Mechanismen fehlen, können kommunikative Praktiken des Managements in der frühen Phase der GenAI-Implementierung als Ersatz dienen und sollten als wichtiger Vorläufer für die Entwicklung einer Governance-Struktur angesehen werden, insbesondere in KMU.

Systeme der Künstlichen Intelligenz (KI) unterstützen Mitarbeitende zunehmend bei komplexen Entscheidungsprozessen. Dazu müssen Mitarbeitende die Vertrauenswürdigkeit von KI-basierten Empfehlungen valide beurteilen. KI-Ethik-Labels sollen Mitarbeitenden bei dieser Einschätzung helfen und die Entwicklung vertrauenswürdiger KI-Lösungen befördern. Die AI Ethics Impact Group entwickelte hierfür ein Label, das auf dem VCIO-Framework (Values, Criteria, Indicators, Observables) basiert und dezidiert relevante ethische Werte adressiert. Jedoch sind solche Labels noch wenig verbreitet, weshalb kaum Erfahrungswerte aus der praktischen Anwendung vorliegen. Damit bleiben die praktische Umsetzbarkeit und der Nutzen von KI-Labels unklar. Der geplante Beitrag bietet einen Überblick über existierende Labels für KI-Systeme, beleuchtet das VCIO-Framework in der Anwendung auf einen konkreten Anwendungsfall aus der Praxis und leitet Handlungsempfehlungen für die Gestaltung ethischer KI ab.

Im Vergleich zu traditionellen KI-Systemen führt Generative Künstliche Intelligenz benutzerabhängige Eigenschaften ein, die einzigartige Herausforderungen für die KI-Governance in Organisationen mit sich bringen. Diese Herausforderungen hängen insbesondere mit menschlichen Faktoren zusammen, wie der Einstellung, dem Bewusstsein und den Fähigkeiten der Mitarbeitenden, die von bestehenden Governance-Rahmenwerken oft vernachlässigt werden. Diese qualitative Fallstudie untersucht, wie ein produzierendes Unternehmen Mechanismen der GenAI-Governance implementiert hat, um einen verantwortungsvollen Umgang mit dieser Technologie zu fördern. Die Ergebnisse zeigen, dass Unternehmen einen ganzheitlichen Ansatz verfolgen sollten, der strukturelle, prozessuale und relationale Mechanismen kombiniert, um Aspekte bezogen auf die Mitarbeitenden der GenAI-Governance zu berücksichtigen. Damit leistet diese Studie einen Beitrag zum wachsenden Forschungsfeld der GenAI-Governance und liefert ...