Layouted

Die Implementierung generativer künstlicher Intelligenz (GenAI) stellt neue Anforderungen an die GenAI-Governance. Dieser Beitrag präsentiert explorative Ergebnisse dazu, wie KMU aus dem Ruhrgebiet GenAI einsetzen, Risiken wahrnehmen und mit ethischen Herausforderungen umgehen. Die Daten stammen aus einer Befragung von 56 KMU und einer regionalen Fallstudie. Während institutionalisierte Governance-Mechanismen fehlen, können kommunikative Praktiken des Managements in der frühen Phase der GenAI-Implementierung als Ersatz dienen und sollten als wichtiger Vorläufer für die Entwicklung einer Governance-Struktur angesehen werden, insbesondere in KMU.

Systeme der Künstlichen Intelligenz (KI) unterstützen Mitarbeitende zunehmend bei komplexen Entscheidungsprozessen. Dazu müssen Mitarbeitende die Vertrauenswürdigkeit von KI-basierten Empfehlungen valide beurteilen. KI-Ethik-Labels sollen Mitarbeitenden bei dieser Einschätzung helfen und die Entwicklung vertrauenswürdiger KI-Lösungen befördern. Die AI Ethics Impact Group entwickelte hierfür ein Label, das auf dem VCIO-Framework (Values, Criteria, Indicators, Observables) basiert und dezidiert relevante ethische Werte adressiert. Jedoch sind solche Labels noch wenig verbreitet, weshalb kaum Erfahrungswerte aus der praktischen Anwendung vorliegen. Damit bleiben die praktische Umsetzbarkeit und der Nutzen von KI-Labels unklar. Der geplante Beitrag bietet einen Überblick über existierende Labels für KI-Systeme, beleuchtet das VCIO-Framework in der Anwendung auf einen konkreten Anwendungsfall aus der Praxis und leitet Handlungsempfehlungen für die Gestaltung ethischer KI ab.

Die Radiologie muss an der Schnittstelle mit anderen medizinischen Disziplinen unter Zeitdruck hervorragende diagnostische Qualität liefern. Künstliche Intelligenz (KI)-Anwendungen in diesem Umfeld müssen eine optimale Anomalie-Detektion in hochauflösenden, dreidimensionalen Bilddatensätze liefern und im Rahmen der Mensch-Maschine Befund-Co-Kreation den ethischen Anforderungen einer responsible AI genügen. Wir haben entlang eines komplexen Anwendungsfalls ein modulares System entwickelt, das (i) die Weiterentwicklung der Anomalieerkennung, (ii) die Erweiterung der KI-Befunde um diagnostische und therapeutische Konsequenzen, (iii) eine Metrik zur Messung der KI/menschlichen Ko-Kreation, (iv) die Analyse der Einstellung von Radiologen zur KI-Unterstützung und (v) die arbeitsplatzspezifische Implementierung von KI-Anwendungen umfasst. Alle Module werden im Hinblick auf die FUTURE-AI-Ethik-Konsenskriterien diskutiert. Dieser integrierte Technologie- und Arbeitsgestaltungsansatz kann ...

Künstliche Intelligenz (KI) kann Produktivität und Qualität steigern, dies erfordert aber ein gelungenes Zusammenspiel aus individuellen und organisationalen Kompetenzen. Diese Studie untersucht die Auswirkungen von KI-Integration auf Arbeitsergebnisse und Team-Problemlösung. In einer Laborumgebung erarbeiten Teilnehmende medizinische Empfehlungen mit zunehmender KI-Unterstützung. Erste Ergebnisse zeigen, dass Teams schneller werden, aber die Qualität abnimmt. Dies geht mit einer verringerten Fall-Durchdringung einher, wenn KI scheinbar gesicherte Erkenntnisse liefert, die jedoch nicht zur Lösung führen. Die Studie unterstreicht die Notwendigkeit von KI-Kompetenz in realistischen Lernsettings und die Bedeutung des kritisch-reflexiven Denkens für einen verantwortungsvollen KI-Einsatz.

Humanzentrierter KI (HCAI) kommt insbesondere in sicherheitskritischen Anwendungsbereichen große Bedeutung zu. Eine notwendige Voraussetzung für die Realisierung ist die Balance von menschlicher Kontrolle und Automatisierung durch Adaptionsfähigkeit. Für die Gestaltung auf der Ebene von Arbeitssystemen fehlt es jedoch an systematischen Ansätzen. In diesem Beitrag wird deshalb eine neue Methode entwickelt, welche transdisziplinäre Teams bei der Exploration von Gestaltungsräumen leiten kann. Basierend auf einem erweiterten Arbeitssystemmodell und Design-Structure- sowie Domain-Mapping-Matrizen können Interdependenzen strukturiert erfasst und analysiert werden. Die Anwendung in einem realweltlichen Arbeitsszenario der zerstörungsfreien Prüfung demonstriert das Potenzial für Komplexitätsreduktion, die Förderung eines gemeinsamen Verständnisses sowie die frühzeitige Identifizierung kritischer Schnittstellen. Die Methode stellt somit einen theoretisch fundierten, praktisch ...