ABBYY-Studie: Deutsche Führungskräfte uneins, wer bei KI-Fehlern letztlich verantwortlich ist
- Die Studie 2026 ABBYY Who Answers for AI: The Governance Gap zeigt, dass die Governance mit dem Innovationstempo kaum Schritt halten kann
- Bei einem Teil der Unternehmen bleibt der ROI von KI hinter den Erwartungen zurück – Hauptgrund ist die Datenqualität
- 62 % geben an, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen
Eine neue, von ABBYY in Auftrag gegebene weltweite Studie zeigt: KI schafft Mehrwert. Führungskräfte sind jedoch uneins, wer letztlich für schädliche oder fehlerhafte Ergebnisse von KI-Systemen verantwortlich sein sollte.
Für die ABBYY-Studie „State of Intelligent Automation 2026: Who Answers for AI? The Governance Gap“ befragte Opinium 1.200 Führungskräfte aus Unternehmen mit mindestens 100 Mitarbeitern in den USA, im Vereinigten Königreich, in Frankreich, Deutschland, Australien und Singapur.
Die deutsche Auswertung umfasst 200 Befragte. Fast ein Drittel (29 Prozent) der Führungskräfte in Unternehmen, die KI einsetzen, findet, die Verantwortung solle zwischen dem Unternehmen und dem Anbieter aufgeteilt werden. 27 Prozent sehen die Hauptverantwortung beim Unternehmen, das die KI einsetzt. 28 Prozent halten ausschließlich den KI-Anbieter für verantwortlich. Weitere 12 Prozent sind der Meinung, die Verantwortung liege beim Endnutzer. Vier Prozent meinen, die Aufsichtsbehörden sollten die Hauptverantwortung tragen.
Unklarheiten bei KI-Governance und Verantwortlichkeiten spiegeln weitergehende Bedenken gegenüber KI wider
29 Prozent der Führungskräfte, die KI in ihrem Unternehmen einsetzen, vertrauen vollständig darauf, dass KI-Systeme korrekte Ergebnisse liefern. Ein Viertel (25 Prozent) ist uneingeschränkt davon überzeugt, dass KI das Zustandekommen wichtiger Entscheidungen erklären kann. Für 31 Prozent ist der Schutz vertraulicher Informationen vollständig gewährleistet. 28 Prozent sind sich sicher, dass KI-Systeme keine unvertretbaren Risiken verursachen.
Darüber hinaus gibt mehr als die Hälfte (55 Prozent) der Führungskräfte an, dass ihr Unternehmen KI schneller einführt, als es sie wirksam steuern kann. Dies verstärkt die Sorge, dass die Governance mit dem Innovationstempo kaum Schritt hält.
Diese Bedenken wirken sich spürbar auf die Geschwindigkeit der KI-Einführung aus. 29 Prozent berichten, dass ethische Bedenken im Unternehmen die Umsetzung von KI-Initiativen erheblich verzögern. Dies verdeutlicht, wie schwierig es für Unternehmen ist, Innovation und verantwortungsvolle Einführung miteinander zu vereinbaren.
Data Governance ist für die Skalierung des KI-Einsatzes erforderlich
Data Governance umfasst Kontrollmechanismen, die korrekte, sichere und regelkonforme Daten gewährleisten. Sie stellt ein wesentliches Hindernis für die Skalierung des KI-Einsatzes dar. 62 Prozent der Führungskräfte in Unternehmen, die KI einsetzen, geben an, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen.
Diese Verzögerung könnte sich negativ auf den ROI auswirken. Etwa die Hälfte (52 Prozent) der Führungskräfte in Unternehmen mit KI-Governance berichtet, dass ihre KI-Initiativen die erwarteten Ziele übertroffen haben. 15 Prozent geben an, dass die Leistung der KI hinter den Erwartungen zurückbleibt. Damit stellt sich die Frage, ob Unternehmen geeignete Strukturen schaffen, um das volle Potenzial von KI auszuschöpfen.
Herausforderungen für den ROI von KI
Bedenken hinsichtlich der Datenqualität bilden das größte Hindernis für einen höheren ROI bei KI-Anwendungen. Fast ein Viertel (24 Prozent) der Führungskräfte nennt sie als größte Herausforderung. Dahinter folgen der Fachkräftemangel (16 Prozent) sowie Anforderungen an Governance und Aufsicht (12 Prozent).
Ein Teil der Herausforderung könnte auf einem fehlenden gemeinsamen Verständnis innerhalb der Unternehmen beruhen. Bei Mitarbeitern auf unteren Hierarchieebenen ist das Wissen über die Verantwortlichkeiten deutlich geringer. Nach Angaben der Befragten wissen 87 Prozent der Mitarbeiter auf der obersten Führungsebene, wer für Entwicklung, Implementierung und Steuerung von KI verantwortlich ist. Beim mittleren Management sind es 89 Prozent, bei Mitarbeitern auf unteren Hierarchieebenen 69 Prozent.
Unternehmen setzen zunehmend auf KI. Unsere Studie zeigt jedoch, dass viele noch immer mit zentralen Fragen zu Verantwortung, Governance und ROI ringen“, sagt Roman Kilun, Chief Compliance Officer bei ABBYY. „Die Unternehmensführung muss die Richtlinien für verantwortungsvolle KI im gesamten Unternehmen besser vermitteln. Für den Einsatz von KI müssen Unternehmen außerdem wissen, woher Daten stammen und ob sie vertrauenswürdig sind. Sie müssen auch klären, wie die Daten verwendet werden dürfen und wo sie gespeichert und verarbeitet werden. Mit der wachsenden Bedeutung der Datensouveränität werden maschinenlesbare Kontrollmechanismen erforderlich. Sie müssen Daten über deren gesamten Lebenszyklus steuern und eine durchgängige Compliance gewährleisten.
Roman Kilun, Chief Compliance Officer bei ABBYY
KI-Governance erweist sich als entscheidender Faktor für eine erfolgreiche Einführung
Die Ergebnisse deuten darauf hin, dass eine wirksame Governance Unternehmen dabei unterstützt, mit KI einen höheren Mehrwert zu erzielen. Von den Befragten aus Unternehmen mit einem entsprechenden Rahmenwerk geben 77 Prozent an, dass ihre KI-Initiativen dadurch erfolgreicher geworden sind. Nach Ansicht von 73 Prozent der Führungskräfte in Unternehmen, die KI nutzen, bringt der jeweilige Governance-Ansatz Risikominderung und eine schnelle Bereitstellung von KI in Einklang.
Die Mehrheit der Führungskräfte (82 Prozent), deren Unternehmen bereits KI einsetzen, gibt an, dass ein formelles Rahmenwerk für KI-Governance besteht. Der Reifegrad der Governance unterscheidet sich jedoch. Nur die Hälfte (50 Prozent) verfügt über ein Verfahren zur Meldung von KI-Vorfällen. 52 Prozent haben einen Reaktionsplan für solche Vorfälle, 45 Prozent einen Abschaltmechanismus für KI-Systeme (Kill-Switch) und 38 Prozent Funktionen zur Rücksetzung (Rollback). Lediglich drei Prozent geben an, dass ihr Unternehmen über keine Funktionen zum Management von KI-Vorfällen verfügt.
Zudem planen Unternehmen ohne formelle KI-Governance, entsprechende Strukturen zu schaffen. 13 Prozent der Führungskräfte in Unternehmen, die KI nutzen, geben an, dass derzeit keine formelle KI-Governance besteht. Ihr Unternehmen will jedoch innerhalb der kommenden zwölf Monate ein entsprechendes Rahmenwerk entwickeln.
Menschliche Aufsicht ist für die KI-Governance wichtig
Unternehmen mit einem Rahmenwerk für KI-Governance erkennen bereits praktische Vorteile. Jeweils etwa die Hälfte gibt an, dass Governance die Entwicklung von KI-Systemen (48 Prozent) und die Skalierung von KI-Initiativen über die Pilotphase hinaus (49 Prozent) erleichtert. 50 Prozent zufolge fördert sie die Akzeptanz von KI-Systemen unter den Mitarbeitern.
Die menschliche Aufsicht bleibt wichtig. 59 Prozent der deutschen Führungskräfte sagen, dass Menschen alle wichtigen KI-Entscheidungen prüfen, bevor daraus Maßnahmen folgen. In Australien steigt dieser Anteil auf 61 Prozent, in Singapur sinkt er auf 49 Prozent. Dies zeigt anhaltende Unterschiede bei der menschlichen Einbindung in KI-gestützte Entscheidungsprozesse.
