Führungskräfte müssen keine Model Engineers werden. Sie müssen aber sieben Fragen stellen, die Verantwortung, Daten, Autorität, Evidenz, Fehler, Wirtschaftlichkeit und Ausstiegskriterien sichtbar machen. Es geht weder um Angstmacherei noch darum, jemanden mit Fangfragen vorzuführen, sondern um Neugier gepaart mit Rechenschaftspflicht. Richtig eingesetzt verwandeln diese Fragen abstrakte KI-Risiken in operative Realitäten, die das Board verstehen und auf die das Team reagieren kann.
Verantwortung und Data Lineage
Die erste Frage betrifft Verantwortung: „Wer verantwortet den Anwendungsfall, und welche Rechte haben wir an seinen Inputs und Outputs?“ Eine starke Antwort benennt den Business Owner, bildet wichtige Datenquellen ab und identifiziert vertragliche Fragen sowie Themen zu Datenschutz, Urheberrecht und Aufbewahrung, die eine juristische Prüfung erfordern.
Schwache Antworten versprechen vage „Compliance“, ohne zu benennen, welche Verträge den Datenfluss regeln. Häufig unterscheiden sie interne Trainingsdaten nicht von externen Inputs. Der Führung bleiben dadurch mögliche Haftungsrisiken bei Urheberrechts- oder Datenschutzverletzungen verborgen. Laut NIST Generative AI Risk Management Framework muss Governance Datenquellen und vorgesehene Anwendungsfälle klar abbilden, damit die Verantwortung über den gesamten Lifecycle erhalten bleibt.
Diese Fragen verbinden die unternehmensweite Verantwortung für Cybersecurity-Risiken, den Bedarf des Boards an entscheidungsrelevanten Cybersecurity-Informationen und die Kontrollen einer Minimum-Viable-KI-Governance.
Autorität und Human in the Loop
Die zweite Frage betrifft Autorität: „Wo endet die autonome Entscheidung, und wo beginnt menschliche Aufsicht?“ In agentischen Anwendungen verschwimmt die Grenze zwischen Unterstützung durch ein Tool und selbstständigem Handeln. Eine belastbare Antwort definiert konkrete Schwellen für menschliches Eingreifen je nach Risikostufe, etwa bei Finanztransaktionen oder Kundeninteraktionen. Sie klärt, wer das letzte Vetorecht besitzt und was diesen Eingriff auslöst.
Eine schwache Antwort beschreibt das KI-System als Black Box, die einfach „ihre Arbeit macht“, ohne seine Befugnisse festzulegen. Ein Agent, der Zahlungen genehmigt oder Systemkonfigurationen ändert, hat ein anderes Risikoprofil als einer, der einen Vorschlag formuliert. OWASPs Arbeit zu Bedrohungen agentischer Anwendungen hebt Risiken rund um Identity und Tool-Missbrauch hervor. Führungskräfte sollten fragen, welche Aktionen eine Freigabe brauchen, welche reversibel sind und welche Grenzen für autonome Ausführung gelten.
Evidenz und Verifikation
Die dritte Frage lautet: „Welche Evidenz zeigt uns, dass der Output für diese Entscheidung gut genug ist?“ Eine starke Antwort definiert zum Anwendungsfall passende Tests und Reviews: den Abgleich mit einem maßgeblichen System, Stichproben durch qualifizierte Reviewer, Grounding in genehmigten Quellen oder das Blockieren einer Aktion bei unzureichender Sicherheit.
Schwache Antworten verlassen sich auf den Ruf eines Modells oder einen generischen Accuracy Score, ohne ihn mit der tatsächlichen Entscheidung zu verbinden. Die erforderliche Absicherung muss mit den Folgen eines falschen Outputs steigen. Ein Brainstorming-Assistent und eine automatisierte Entscheidung über Anspruchsberechtigung dürfen nicht denselben Verifikationspfad haben.
Fehlermodi und Resilience
Die vierte Frage richtet sich auf Fehler: „Was geschieht, wenn das Modell versagt, und wer verantwortet die Wiederherstellung?“ Jedes System hat Edge Cases, in denen sich die Leistung unerwartet verschlechtert. Eine starke Antwort beschreibt den Incident-Response-Plan einschließlich Rollback-Verfahren, Fallback-Mechanismen und klarer Kommunikationswege für betroffene Nutzer. Sie weist konkrete Rollen für das Krisenmanagement bei KI-Fehlern zu.
Eine schwache Antwort nimmt an, das System werde sich wie vorgesehen verhalten, oder lädt die gesamte Verantwortung beim Nutzer ab. Resilience bedeutet zu bestimmen, welche Fehler die KI-Funktion stoppen, welche Arbeit in einen manuellen Prozess übergeben und welche Funktion sicher degradiert werden kann, während der Kernbetrieb weiterläuft.
Wirtschaftliche Wirkung und Kostenkontrolle
Die fünfte Frage prüft die Wirtschaftlichkeit: „Was kostet ein Fehlschlag wirklich – und was kostet der Erfolg?“ Führungskräfte müssen die finanziellen Folgen von Überautomatisierung und unzureichender Leistung verstehen. Eine starke Antwort stellt Kosten für Ausfallzeiten, regulatorische Sanktionen und Reputationsschäden dem Wert der durch KI gewonnenen Effizienz gegenüber. Sie vermeidet, KI nur als Cost Center oder als unbegrenztes Budget zu betrachten.
Schwache Antworten liefern optimistische Prognosen, die mögliche Haftung ignorieren, oder unterschätzen den sinkenden Grenznutzen beim Skalieren von Modellen ohne entsprechende Verbesserung der Datenqualität. Technologiewirtschaft verlangt eine realistische Sicht, in der die ROI-Berechnung auch verborgene Kosten für Wartung, Monitoring und Behebung enthält.
Ausstiegskriterien und Vendor Lock-in
Die sechste Frage lautet: „Was würde uns zum Stoppen bringen, und wie würden wir aussteigen?“ Eine starke Antwort definiert Abbruchkriterien und erklärt, wie Daten, Prompts, Evaluationen, Workflows und abhängige Prozesse migriert oder stillgelegt werden. Der Ausstieg kann Zeit und Geld kosten; so zu tun, als sei er sofort möglich, ist kein Zeichen von Reife.
Schwache Antworten zeigen eine zu enge Bindung an einen einzelnen Anbieter oder nehmen an, ein Wechsel sei unvertretbar aufwendig. Diese Haltung widerspricht Agilität und Resilience. Ein Tool geordnet verlassen zu können, ist ein Zeichen reifen Risikomanagements. Strategische Entscheidungen bleiben so auch dann tragfähig, wenn sich die zugrunde liegende Technologie verändert.
Kontinuierliche Verbesserung und Kennzahlen
Die letzte Frage blickt nach vorn: „Welche Kennzahlen verfolgen wir, um zu beweisen, dass sich dieses System mit der Zeit verbessert?“ Ohne messbaren Fortschritt lässt sich nicht erkennen, ob eine KI-Initiative Wert liefert oder verborgene Schulden anhäuft. Eine starke Antwort benennt KPIs zu Genauigkeit, Latenz, Security Incidents und Nutzerzufriedenheit. Sie verbindet diese Werte direkt mit Geschäftsergebnissen statt mit technischen Vanity Metrics.
Schwache Antworten berufen sich auf vage „Innovation“ ohne quantifizierbare Daten. So kann das Board Fortschritt schwer beurteilen oder Teams zur Verantwortung ziehen. Kontinuierliche Verbesserung braucht einen Feedback-Loop, in dem Fehler analysiert, Erkenntnisse gewonnen und Modelle mit rigorosen Tests weiterentwickelt werden.
Ein Aktionsplan für einen Termin
Wählen Sie einen KI-Anwendungsfall mit hoher Auswirkung, der bereits produktiv ist oder geplant wird. Nehmen Sie jede Frage auf die Agenda und verlangen Sie von den verantwortlichen Ownern Evidenz aus Verträgen, Architektur, Logs, Evaluationen, Incident-Plänen oder Finanzanalysen – nicht nur Meinungen.
Der Termin sollte mit einer einzigen Entscheidung enden: mit stärkeren Kontrollen fortfahren, die Entwicklung bis zur Risikominderung pausieren oder den Piloten beenden. So wird aus theoretischer Debatte praktische Umsetzung. Verankert das Team die Diskussion in diesen sieben Fragen, baut jedes KI-Projekt auf Klarheit, Verantwortung und Resilience auf.
Wiederholen Sie die Review, wenn sich Modell, Daten, Tools, Autorität, Anbieter oder geschäftliche Nutzung wesentlich ändern. Die sieben Fragen sind kein einmaliges Freigabeformular. Sie sind ein kompaktes Mittel, um Verantwortung und Evidenz an ein dynamisches System zu binden.
