"Die KI hat das entschieden" – dieser Satz klingt nach einer bequemen Erklärung. Rechtlich und wirtschaftlich betrachtet ist er jedoch keine Absicherung, sondern ein Risiko, das teuer werden kann.

Wo KI in der Auftragsabwicklung bereits Entscheidungen trifft

In der Auftragsabwicklung übernehmen KI-Systeme heute bereits reale Funktionen: die Prüfung von Angeboten und Verträgen, Margenkalkulation, Machbarkeitsanalysen sowie die Umsetzung von Lastenheften in Pflichtenhefte. Das spart erheblich Zeit und Rechercheaufwand. Es birgt aber ein Risiko, das in vielen Unternehmen noch nicht geklärt ist: Wer trägt das wirtschaftliche Ergebnis einer KI-gestützten Entscheidung? Wer verantwortet die zugrunde liegende Entscheidungslogik? Wer darf das System im Zweifel stoppen? Und wer dokumentiert die Entscheidung so, dass sie im Nachhinein nachvollziehbar bleibt?

Drei Kräfte, die aktuell zusammentreffen

Für Entscheider in Projekt- und Auftragsabwicklung treffen derzeit drei Entwicklungen gleichzeitig aufeinander.

Erstens ein konkreter Praxisfall: Im Fall Air Canada musste das Unternehmen für die fehlerhafte Auskunft seines KI-Chatbots haften. Die Argumentation "der Bot war's" hat vor Gericht nicht geschützt (Quelle: pinsentmasons.com).

Zweitens der EU AI Act mit seinen Vorgaben zu Human Oversight und Deployers: Unternehmen, die KI-Systeme einsetzen, werden bei Hochrisiko-Anwendungen zu Überwachung, Logging, Schulung und menschlicher Aufsicht verpflichtet.

Drittens die EU-Produkthaftungsrichtlinie (2024/2853): Sie erweitert die Produktdefinition explizit auf Software und KI-Systeme. Die nationale Umsetzung ist bis Dezember 2026 vorgesehen.

Verantwortung wird nicht verschoben, sondern verteilt

Diese drei Entwicklungen zeigen gemeinsam ein zentrales Prinzip: KI verschiebt keine Verantwortung – sie verteilt sie neu. Genau an diesem Punkt wird es für Führungskräfte gefährlich, wenn Entscheidungswege, Freigaben und Dokumentationspflichten beim Einsatz von KI-Systemen nicht vorab klar definiert sind. Wer KI in der Auftragsabwicklung einsetzt, sollte deshalb vor der Einführung klären, wer welche Entscheidung verantwortet – nicht erst, wenn ein Fall wie bei Air Canada eintritt.

Diese Einordnung ersetzt keine Rechtsberatung, sondern zeigt, worauf Unternehmen bei der Einführung von KI-Systemen prozessual achten sollten.