Verantwortung lässt sich nicht automatisieren.

Viele erwarten, dass KI Entscheidungsprozesse vereinfacht. In der Praxis offenbart sie Bereiche, in denen Führungskräfte ungern entscheiden.

KI generiert Optionen, strukturiert Informationen und leistet Vorarbeit, trägt aber keine Verantwortung, bewertet keinen Kontext und verantwortet keine Konsequenzen. Ohne Entscheidungsregeln wird Entscheidungsfindung aufgeschoben, Verantwortung zerstreut und der Qualitätsstandard willkürlich.

KI ohne Entscheidungsregeln verstärkt nur das Chaos.

Die Governance-Lücke: wer entscheidet über KI-Entscheidungen?

Organisationen, die KI einführen, ohne die Frage der Entscheidungsverantwortung zu klären, erzeugen eine strukturelle Governance-Lücke. Diese Lücke ist nicht neu — sie existierte auch vor KI. Aber KI macht sie sichtbar und teuer, weil das Volumen der Empfehlungen und Automatisierungen die Organisationsstruktur überfordert, die für ein niedrigeres Entscheidungstempo ausgelegt war.

Der McKinsey State of AI 2025 dokumentiert, dass nur 26 Prozent der befragten Organisationen über formale KI-Governance-Strukturen verfügen, die Entscheidungsverantwortung explizit zuweisen. Die übrigen 74 Prozent arbeiten mit informellen Absprachen, abteilungsinternen Regeln oder gar keinen Regeln. Je größer das Volumen der KI-generierten Outputs, desto größer wird das Risiko, das aus dieser Lücke entsteht.

Was fehlt: ein Entscheidungs-Framework für den KI-Betrieb

Die Frage ist nicht, ob KI Entscheidungen treffen kann. In vielen definierten Kontexten kann sie das besser als Menschen: schneller, konsistenter, skalierbarer. Die Frage ist, wer entscheidet, dass KI in diesem Kontext entscheiden darf, nach welchen Regeln, und wer die Konsequenzen trägt, wenn das Ergebnis falsch ist.

Gartner Decision Intelligence beschreibt diesen Rahmen als Decision Governance: die Gesamtheit der Regeln, Prozesse und Verantwortlichkeiten, die festlegen, wie Entscheidungen in einer Organisation getroffen werden, unabhängig davon, ob ein Mensch oder ein Algorithmus sie ausführt. Ohne Decision Governance sind KI-Systeme in Betrieb, aber niemand ist für ihre Outputs zuständig.

Drei Schichten der Entscheidungsverantwortung

  • Strategische Ebene: Wer entscheidet, welche Entscheidungsklassen KI-unterstützt werden dürfen? Diese Entscheidung ist Führungsaufgabe und kann nicht delegiert werden. Sie legt fest, in welchen Bereichen Algorithmen die Grundlage für unternehmerisches Handeln bilden.
  • Operative Ebene: Wer definiert die Regeln, nach denen das KI-System innerhalb einer Entscheidungsklasse operiert? Das ist die Ebene der Process Owner und Fachexperten, die sowohl das Sachgebiet als auch die Grenzfälle kennen.
  • Kontroll-Ebene: Wer überwacht laufend, ob das KI-System die definierten Regeln korrekt anwendet? Das ist die Ebene des Monitoring und der Qualitätssicherung — eine Funktion, die aktiv besetzt sein muss, nicht als Nebenaufgabe.

Governance-Modelle im Vergleich: was für den Mittelstand funktioniert

Großkonzerne haben KI-Governance-Strukturen mit dedizierten Chief AI Officers, KI-Ethik-Boards und umfangreichen Review-Prozessen. Der Mittelstand kann und sollte das nicht kopieren. Aber er braucht ein Äquivalent, das seinen Kapazitäten entspricht.

Drei Governance-Modelle zeigen sich im Mittelstand als praxistauglich:

Modell 1: KI-Verantwortlicher als Linienaufgabe

Ein bestehender Bereichsleiter übernimmt die KI-Governance als expliziten Bestandteil seiner Stellenbeschreibung. Er definiert gemeinsam mit den Prozessverantwortlichen die Entscheidungsregeln, führt ein Entscheidungsregister und berichtet der Geschäftsführung quartalsweise. Voraussetzung: Die Führungskraft hat ausreichend Kapazität und Mandat, Entscheidungsregeln verbindlich festzulegen.

Modell 2: KI-Steuerkreis aus Bereichsverantwortlichen

Ein funktionsübergreifendes Gremium aus zwei bis vier Bereichsleitenden trifft sich monatlich und entscheidet über neue KI-Anwendungsfelder, Regeländerungen und Eskalationen. Dieses Modell verteilt die Governance-Last und verhindert, dass eine Person zum Flaschenhals wird. Risiko: Entscheidungen können durch das Konsenserfordernis verlangsamt werden.

Modell 3: Externe Governance-Unterstützung mit internem Ankerpunkt

Ein externer Berater oder eine Beratungsorganisation stellt das Governance-Framework und begleitet die Implementierung, während ein interner Verantwortlicher die operative Umsetzung koordiniert. Dieses Modell ist besonders geeignet für Mittelständler, die KI-Governance aufbauen, aber nicht dauerhaft eigene Kapazität dafür vorhalten wollen.

Der EU AI Act: Governance als Pflicht, nicht als Option

Ab dem 2. August 2026 verlangt der EU AI Act für Hochrisiko-KI-Systeme explizite Governance-Strukturen. Artikel 9 fordert ein Risikomanagementsystem, das laufend betrieben wird. Artikel 14 verlangt menschliche Aufsicht mit klar benannten Verantwortlichen. Artikel 17 fordert ein Qualitätsmanagementsystem, das Entscheidungsprozesse dokumentiert.

Diese Anforderungen setzen voraus, dass Organisationen wissen, welche ihrer KI-Systeme unter die Hochrisiko-Kategorie fallen, wer für jedes dieser Systeme verantwortlich ist, und wie Entscheidungen im Zusammenspiel zwischen Mensch und System dokumentiert werden. Organisationen, die heute ohne Governance-Strukturen arbeiten, werden bis August 2026 erheblichen Nachrüstbedarf haben.

Bitkom schätzt, dass bis Ende 2025 mehr als 40 Prozent der deutschen Unternehmen, die KI in operativen Prozessen einsetzen, unter die Hochrisiko-Anforderungen des EU AI Acts fallen — nicht nur Gesundheit und Justiz, sondern auch Kreditentscheidungen, HR-Auswahlprozesse und sicherheitsrelevante Infrastruktur.

Entscheidungsverantwortung im Mittelstand: ein Beispiel

Ein produzierendes Unternehmen mit 180 Mitarbeitenden führt ein KI-gestütztes Wartungsplanungssystem ein. Das System analysiert Maschinendaten und empfiehlt Wartungsintervalle. Nach vier Monaten gibt es einen ungeplanten Maschinenstillstand, den das System nicht vorhergesagt hat. Die Geschäftsführung fragt: Wer ist verantwortlich?

Die Antwort bleibt unklar. Das System wurde eingeführt ohne schriftlich festgelegte Verantwortlichkeit. Der Wartungsleiter verweist auf das System, das Systemteam verweist auf die unzureichenden Eingangsdaten, und die Geschäftsführung verweist auf beide. Das ist nicht Technologieversagen — das ist Governance-Versagen.

Eine Governance-Struktur hätte vorab festgelegt: Der Wartungsleiter ist D-Träger für die Freigabe jeder durch das System generierten Wartungsempfehlung. Er darf die Empfehlung annehmen, anpassen oder ablehnen, muss aber im letzten Fall begründen und dokumentieren. Damit bleibt Verantwortung beim Menschen, auch wenn das System die Vorarbeit leistet.

Wer KI-Entscheidungen besitzt: die Eigentümerfrage

Jede KI-Entscheidung braucht einen Eigentümer — eine Person, die für das Ergebnis dieser Entscheidung einsteht und die Befugnis hat, die Regeln dahinter zu ändern. Diese Eigentümerschaft ist nicht delegierbar an das System selbst, an einen anonymen Prozess oder an eine Abteilung ohne benannte Führungskraft.

Harvard Business Review hat in Analysen erfolgreicher KI-Transformationen einen konsistenten Befund: Organisationen mit klarer Decision Ownership erzielen nicht nur höhere Entscheidungsqualität, sondern auch schnellere Anpassungszyklen. Wenn eine Entscheidungsregel falsch ist, muss klar sein, wer sie ändert. Ohne benannten Eigentümer bleibt jede Regelanpassung ein Aushandlungsprozess.

Praktische Schritte: Governance aufbauen, bevor das Problem sichtbar wird

  • KI-Inventar anlegen: Listen Sie alle aktiv genutzten KI-Systeme und KI-Funktionen in Ihrer Organisation auf. Für jedes System: Welche Entscheidungen unterstützt es? Wer hat es eingeführt? Wer nutzt es?
  • Risikoklassifikation durchführen: Welche dieser Systeme fallen unter die Hochrisiko-Kategorien des EU AI Acts? Die Europäische Kommission stellt dafür eine Klassifikationshilfe bereit.
  • Entscheidungseigentümer benennen: Für jedes System: Wer ist D-Träger für die durch das System unterstützten Entscheidungen? Diese Benennung ist schriftlich festzuhalten.
  • Regeln dokumentieren: Für jede Entscheidungsklasse: Was sind die Akzeptanzregeln? Was löst manuelle Prüfung aus? Was macht eine Entscheidung nichtig?
  • Eskalationspfade festlegen: Was passiert, wenn das System ein unerwartetes Ergebnis liefert? Wer wird informiert, wer entscheidet, wer dokumentiert?
  • Review-Zyklus einrichten: Mindestens quartalsweise prüfen: Entsprechen die definierten Regeln noch dem Stand der Praxis? Haben sich Kontext oder Risikolage verändert?

Fazit: Governance ist kein Bremspedal

KI-Governance wird häufig als Einschränkung wahrgenommen, als bürokratisches Overlay, das Innovation verlangsamt. Das Gegenteil ist der Fall. Governance ist die Bedingung für schnelle, konsistente und skalierbare Entscheidungen. Ohne Governance entscheiden Organisationen langsam, weil jede Ausnahme eine neue Aushandlung erfordert. Mit Governance entscheiden sie schnell, weil die Regeln bereits definiert sind und nur noch angewendet werden müssen.

KI scheitert nicht an der Technologie. Sie scheitert daran, dass die Organisation nicht entschieden hat, wie sie entscheidet. Diese Entscheidung ist die eigentliche Führungsaufgabe der KI-Transformation.

Warum KI Entscheidungsprobleme sichtbar macht, die vorher unsichtbar waren

In manuellen Prozessen ist Entscheidungsunklarheit oft unsichtbar, weil Menschen flexibel mit Ausnahmen umgehen, informelle Regeln anwenden und Lücken durch Improvisation schließen. Diese implizite Elastizität ist der eigentliche Puffer, der viele Prozesse stabil hält — auch wenn niemand die zugrundeliegenden Regeln je explizit formuliert hat. KI-Systeme haben diesen Puffer nicht. Sie fragen nach dem, was nicht definiert ist, und zeigen damit, wo Organisationen nie echte Regeln hatten.

Das MIT-Projekt NANDA beschreibt diesen Effekt in seiner Analyse der 95-Prozent-Misserfolgsquote: Organisationen, deren Piloten scheitern, identifizieren im Nachgang regelmäßig undefinierte Entscheidungsregeln als Hauptursache — nicht technische Defizite. Die KI hat den Prozess nicht schlechter gemacht. Sie hat sichtbar gemacht, dass er nie wirklich explizit war. Diese Erkenntnis ist wertvoll, aber nur, wenn sie zur Konsequenz führt: Entscheidungsregeln müssen vor dem KI-Einsatz, nicht danach, definiert werden.

Die drei Entscheidungstypen und ihre KI-Tauglichkeit

Nicht alle Entscheidungen sind KI-tauglich. Die Unterscheidung zwischen programmierbaren und nicht-programmierbaren Entscheidungen ist der wichtigste Schritt in der Entscheidungsarchitektur. Programmierbare Entscheidungen folgen definierten Regeln mit klaren Eingaben und messbaren Ausgaben — sie sind KI-tauglich. Nicht-programmierbare Entscheidungen erfordern Kontextverständnis, Urteilsvermögen und die Übernahme von Konsequenzverantwortung — sie bleiben menschlich.

Eine dritte Kategorie wird oft übersehen: Grenzfallentscheidungen, bei denen eine KI-Empfehlung vorliegt, aber die Entscheidung über ihre Anwendung von Kontext abhängt, den das System nicht hat. Diese Kategorie erfordert explizite Eskalationsregeln: Wann wird die KI-Empfehlung übergangen? Wer entscheidet das? Was wird dokumentiert? Organisationen ohne Grenzfallregeln behandeln diese Entscheidungen informell — was bedeutet, dass jede Person anders entscheidet und keine Konsistenz entsteht.

Accountability ohne Bürokratie: der schlanke Governance-Ansatz für den Mittelstand

KI-Governance muss im Mittelstand nicht die Komplexität eines Konzernmodells haben. Ein schlankes Modell mit drei Elementen reicht für die meisten Mittelstandssituationen aus: ein Entscheidungsregister, das die wichtigsten KI-unterstützten Entscheidungsklassen mit Regeln und Verantwortlichen dokumentiert; ein Eskalationspfad, der für jede Entscheidungsklasse definiert, welche Ausnahmen eine menschliche Überprüfung erfordern; und ein Review-Rhythmus, der sicherstellt, dass Regeln auf dem Stand der Praxis bleiben.

Dieses Minimal-Framework erfüllt die wesentlichen EU-AI-Act-Anforderungen für den Mittelstand, skaliert mit der Komplexität des Portfolios und erzeugt keine zusätzliche Dauerbelastung. McKinsey State of AI 2025 zeigt, dass High Performer im KI-Bereich nicht durch komplexere Governance-Strukturen gewinnen, sondern durch deren konsequente Anwendung. Ein einfaches Framework, das tatsächlich gelebt wird, schlägt ein komplexes Framework, das in der Schublade liegt.

Entscheidungsverantwortung und Vertrauen: der menschliche Faktor

Ein unterschätzter Aspekt der Entscheidungsarchitektur ist ihr Wirkung auf das Vertrauen der Mitarbeitenden in KI-Systeme. Wenn unklar ist, wer entscheidet und warum, entsteht Misstrauen gegenüber KI-Empfehlungen — nicht weil die Empfehlungen schlecht sind, sondern weil niemand für sie einsteht. Klare Entscheidungsverantwortung signalisiert, dass hinter jeder KI-Empfehlung ein Mensch steht, der sie geprüft hat und für die Konsequenzen einsteht. Dieses Signal ist die Grundlage für die Akzeptanz, ohne die KI-Systeme nicht genutzt werden.

Bitkom 2025 erhebt, dass Akzeptanzprobleme bei Mitarbeitenden nach Technologieversagen der zweithäufigste Grund für das Scheitern von KI-Projekten im deutschen Mittelstand sind. Die meisten dieser Akzeptanzprobleme entstehen nicht aus Technologieangst, sondern aus Intransparenz: Wer hat entschieden, dass dieses System hier eingesetzt wird? Nach welchen Regeln arbeitet es? Was passiert, wenn es falsch liegt? Entscheidungsarchitektur beantwortet diese Fragen — und schafft damit die Voraussetzung für Akzeptanz, nicht durch Kommunikationskampagnen, sondern durch strukturelle Klarheit.

Von der Kurzthese zur Praxis: was heute getan werden kann

Die Essenz dieser These lässt sich in einer Handlung operationalisieren: Wählen Sie einen Prozess, in dem heute ein KI-System Empfehlungen generiert. Schreiben Sie auf, nach welchen Regeln diese Empfehlungen akzeptiert werden, wer die Entscheidung trifft, was eine Ablehnung auslöst und wie das Ergebnis dokumentiert wird. Wenn diese Aufschreibung zeigt, dass keine klaren Regeln existieren, haben Sie die Ursache für die fehlende Wirkung des Systems gefunden — und den ersten Schritt zu ihrer Behebung.

Quellen

  • McKinsey & Company: The State of AI in 2025 — Governance und Operating Model (November 2025), https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
  • Gartner: Decision Intelligence — Decision Governance Framework 2024, https://www.gartner.com
  • Europäische Kommission: AI Act — Artikel 9 (Risikomanagementsystem), Artikel 14 (Menschliche Aufsicht), Artikel 17 (Qualitätsmanagementsystem), https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
  • Bitkom: KI-Regulierung und Compliance im deutschen Mittelstand 2025, https://www.bitkom.org
  • Harvard Business Review: The Elements of Good Judgment (2020, Neuauflage 2024), https://hbr.org
  • MIT Project NANDA: The GenAI Divide — State of AI in Business 2025 (Juli 2025), https://nanda.media.mit.edu

Warum KI Entscheidungsprobleme sichtbar macht, die vorher unsichtbar waren

In manuellen Prozessen ist Entscheidungsunklarheit oft unsichtbar, weil Menschen flexibel mit Ausnahmen umgehen, informelle Regeln anwenden und Lücken durch Improvisation schließen. Diese implizite Elastizität ist der eigentliche Puffer, der viele Prozesse stabil hält — auch wenn niemand die zugrundeliegenden Regeln je explizit formuliert hat. KI-Systeme haben diesen Puffer nicht. Sie fragen nach dem, was nicht definiert ist, und zeigen damit, wo Organisationen nie echte Regeln hatten.

Das MIT-Projekt NANDA beschreibt diesen Effekt in seiner Analyse der 95-Prozent-Misserfolgsquote: Organisationen, deren Piloten scheitern, identifizieren im Nachgang regelmäßig undefinierte Entscheidungsregeln als Hauptursache — nicht technische Defizite. Die KI hat den Prozess nicht schlechter gemacht. Sie hat sichtbar gemacht, dass er nie wirklich explizit war. Diese Erkenntnis ist wertvoll, aber nur, wenn sie zur Konsequenz führt: Entscheidungsregeln müssen vor dem KI-Einsatz, nicht danach, definiert werden.

Die drei Entscheidungstypen und ihre KI-Tauglichkeit

Nicht alle Entscheidungen sind KI-tauglich. Die Unterscheidung zwischen programmierbaren und nicht-programmierbaren Entscheidungen ist der wichtigste Schritt in der Entscheidungsarchitektur. Programmierbare Entscheidungen folgen definierten Regeln mit klaren Eingaben und messbaren Ausgaben — sie sind KI-tauglich. Nicht-programmierbare Entscheidungen erfordern Kontextverständnis, Urteilsvermögen und die Übernahme von Konsequenzverantwortung — sie bleiben menschlich.

Eine dritte Kategorie wird oft übersehen: Grenzfallentscheidungen, bei denen eine KI-Empfehlung vorliegt, aber die Entscheidung über ihre Anwendung von Kontext abhängt, den das System nicht hat. Diese Kategorie erfordert explizite Eskalationsregeln: Wann wird die KI-Empfehlung übergangen? Wer entscheidet das? Was wird dokumentiert? Organisationen ohne Grenzfallregeln behandeln diese Entscheidungen informell — was bedeutet, dass jede Person anders entscheidet und keine Konsistenz entsteht.

Accountability ohne Bürokratie: der schlanke Governance-Ansatz für den Mittelstand

KI-Governance muss im Mittelstand nicht die Komplexität eines Konzernmodells haben. Ein schlankes Modell mit drei Elementen reicht für die meisten Mittelstandssituationen aus: ein Entscheidungsregister, das die wichtigsten KI-unterstützten Entscheidungsklassen mit Regeln und Verantwortlichen dokumentiert; ein Eskalationspfad, der für jede Entscheidungsklasse definiert, welche Ausnahmen eine menschliche Überprüfung erfordern; und ein Review-Rhythmus, der sicherstellt, dass Regeln auf dem Stand der Praxis bleiben.

Dieses Minimal-Framework erfüllt die wesentlichen EU-AI-Act-Anforderungen für den Mittelstand, skaliert mit der Komplexität des Portfolios und erzeugt keine zusätzliche Dauerbelastung. McKinsey State of AI 2025 zeigt, dass High Performer im KI-Bereich nicht durch komplexere Governance-Strukturen gewinnen, sondern durch deren konsequente Anwendung. Ein einfaches Framework, das tatsächlich gelebt wird, schlägt ein komplexes Framework, das in der Schublade liegt.

Entscheidungsverantwortung und Vertrauen: der menschliche Faktor

Ein unterschätzter Aspekt der Entscheidungsarchitektur ist ihr Wirkung auf das Vertrauen der Mitarbeitenden in KI-Systeme. Wenn unklar ist, wer entscheidet und warum, entsteht Misstrauen gegenüber KI-Empfehlungen — nicht weil die Empfehlungen schlecht sind, sondern weil niemand für sie einsteht. Klare Entscheidungsverantwortung signalisiert, dass hinter jeder KI-Empfehlung ein Mensch steht, der sie geprüft hat und für die Konsequenzen einsteht. Dieses Signal ist die Grundlage für die Akzeptanz, ohne die KI-Systeme nicht genutzt werden.

Bitkom 2025 erhebt, dass Akzeptanzprobleme bei Mitarbeitenden nach Technologieversagen der zweithäufigste Grund für das Scheitern von KI-Projekten im deutschen Mittelstand sind. Die meisten dieser Akzeptanzprobleme entstehen nicht aus Technologieangst, sondern aus Intransparenz: Wer hat entschieden, dass dieses System hier eingesetzt wird? Nach welchen Regeln arbeitet es? Was passiert, wenn es falsch liegt? Entscheidungsarchitektur beantwortet diese Fragen — und schafft damit die Voraussetzung für Akzeptanz, nicht durch Kommunikationskampagnen, sondern durch strukturelle Klarheit.

Von der Kurzthese zur Praxis: was heute getan werden kann

Die Essenz dieser These lässt sich in einer Handlung operationalisieren: Wählen Sie einen Prozess, in dem heute ein KI-System Empfehlungen generiert. Schreiben Sie auf, nach welchen Regeln diese Empfehlungen akzeptiert werden, wer die Entscheidung trifft, was eine Ablehnung auslöst und wie das Ergebnis dokumentiert wird. Wenn diese Aufschreibung zeigt, dass keine klaren Regeln existieren, haben Sie die Ursache für die fehlende Wirkung des Systems gefunden — und den ersten Schritt zu ihrer Behebung.