KI-Governance ist Chefsache

Warum der Einsatz von Künstlicher Intelligenz zur Vorstandspflicht wird.

Künstliche Intelligenz ist in kürzester Zeit vom IT-Thema zum Governance-Thema geworden. Ob Kreditentscheidungen, Bewerbungsvorauswahl, Preisbildung oder Kundenkommunikation – überall dort, wo Algorithmen heute Entscheidungen treffen oder vorbereiten, entsteht ein neues Haftungsrisiko für Geschäftsführung und Vorstand.

Warum KI zur Führungsaufgabe wird

Die Versuchung ist groß, KI-Einführung als reines Projekt der IT- oder Digitalabteilung zu behandeln. Das greift zu kurz. Sobald ein Unternehmen KI-Systeme einsetzt, die Kunden, Mitarbeitende oder Geschäftspartner betreffen, stellt sich die klassische Frage der Organhaftung: Hat die Geschäftsleitung mit der erforderlichen Sorgfalt gehandelt?

Nach § 93 AktG und § 43 GmbHG müssen Vorstände und Geschäftsführer ihre Entscheidungen auf angemessener Informationsgrundlage treffen und die Risiken ihres Handelns im Blick behalten. Ein KI-System, das unkontrolliert läuft, fehlerhafte Entscheidungen produziert oder gegen Datenschutz- und Diskriminierungsvorgaben verstößt, kann genau diese Sorgfaltspflicht verletzen – mit der Folge, dass die Organe persönlich in Anspruch genommen werden.

---

Konkrete Risikofelder

• Diskriminierung durch Algorithmen: Automatisierte Entscheidungen in Bewerbungsprozessen oder Kreditvergabe können ungewollt diskriminierend wirken, wenn Trainingsdaten verzerrt sind.

• Datenschutz: KI-Tools, die personenbezogene Daten verarbeiten, müssen DSGVO-konform dokumentiert und kontrolliert sein.

• EU AI Act: Mit der stufenweisen Anwendung der europäischen KI-Verordnung entstehen konkrete, einklagbare Pflichten – insbesondere für als "hochriskant" eingestufte Anwendungen.

• Reputationsrisiko: Fehlentscheidungen eines KI-Systems werden öffentlich der Unternehmensführung zugerechnet, nicht der Technologie.

Was Geschäftsführung und Vorstand jetzt tun sollten

1. KI-Einsatz inventarisieren – welche Systeme sind im Einsatz, wo werden Entscheidungen automatisiert getroffen?

2. Governance-Struktur etablieren – klare Zuständigkeiten, Freigabeprozesse und regelmäßige Berichterstattung an die Geschäftsleitung.

3. Externe Expertise einbeziehen – rechtliche und technische Prüfung, insbesondere im Hinblick auf EU AI Act und DSGVO.

"Hier arbeiten wir vertrauensvoll mit der Qualitybase GmbH zusammen, die auch die entsprechende Qualifikation nachweisen können!"

4. Sorgfalt dokumentieren – wer nachweisen kann, dass Risiken erkannt und Prozesse eingerichtet wurden, reduziert sein persönliches Haftungsrisiko erheblich.

Fazit

KI-Governance ist Teil der originären Leitungsaufgabe. Unternehmen, die den Einsatz von KI-Systemen nicht aktiv steuern und überwachen, öffnen nicht nur ein operatives, sondern auch ein persönliches Haftungsrisiko für ihre Organe. Eine gute D&O-Versicherung deckt die finanziellen Folgen ab – ersetzt aber nicht die Pflicht, KI-Risiken von vornherein aktiv zu managen.

Sie möchten wissen, wie Ihr aktueller D&O-Schutz mit dem Thema KI-Risiken umgeht? Sprechen Sie uns gerne an.