KI-Produktmanagement · Branchen-Briefing

Kalifornien verabschiedete während seiner Legislatursession 2026 bedeutende KI- und Datenschutzgesetze, die ab Januar 2027 wirksam werden (teilweise später). Die neuen Regelungen umfassen umfangreiche Anforderungen an KI-Produktmanagement: Arbeitgeber müssen Transparenz bei automatisierten Entscheidungssystemen wahren und menschliche Validierung bei Kündigungen sicherstellen (SB 947); Unternehmen mit großen Kundenplattformen müssen Chatbots offenlegen (AB 1609) und zusätzliche Schutzmaßnahmen für Minderjährige implementieren (SB 1119); Gesundheitsanbieter unterliegen strengen Vorgaben für klinische KI-Systeme und müssen Bias-Risiken identifizieren (AB 1979, SB 503); neu gegründet werden ein AI Auditor Registry und unabhängige Verifikationsstellen zur KI-Risikobewertung (SB 813, AB 1405). Die Regulierung verstärkt die Anforderung menschlicher Aufsicht bei folgenreichen Entscheidungen und erweitert Transparenzverpflichtungen für generative KI-Systeme erheblich.

Eine Model Card für AI Governance sollte nicht als statisches PDF-Dokument, sondern als lebendes Betriebsobjekt verstanden werden, das strukturiert dokumentiert, welches KI-Modell für welchen Zweck eingesetzt wird, welche Version aktiv ist, wer Anbieter oder Betreiber ist, welche Datenquellen verwendet werden, Performance-, Bias- und Risikoinformationen, bekannte Einschränkungen, Freigaben und Reviewtermine enthält. Die Model Card muss nach dem Go-live kontinuierlich gepflegt werden, weil sich Modellversionen, Datenquellen, Provider-Informationen, Performance-Metriken oder Einsatzkontext ändern können, und solche Änderungen müssen automatisch neue Reviews und Freigabeprüfungen auslösen, damit die dokumentierte Modellrealität mit der produktiven Realität übereinstimmt. Eine belastbare Model Card muss mit konkreten KI-Use-Cases verknüpft sein, da das Risiko eines Modells erst im spezifischen Einsatzkontext bewertet werden kann, und sie sollte strukturierte Felder enthalten (nicht überwiegend Freitext), um Informationen zu prüfen, filtern, berichten und aktualisieren zu können. Zentral für die Governance ist ein eindeutiger Owner, ein definiertes Reviewintervall, die Versionierung von Modell und Freigaben sowie die Nachvollziehbarkeit offener Maßnahmen und Änderungen – erst dies unterscheidet operative AI Governance von einer reinen Dokumentenablage.

Der EU AI Act droht mit Bußgeldern bis 35 Millionen Euro, doch viele Top-Manager kennen die regulatorischen Herausforderungen nicht. Der Artikel beschreibt fünf konkrete Handlungsschritte für die KI-Compliance: Zunächst eine systematische Inventur aller KI-Anwendungen im Unternehmen durchführen, dann die rechtlichen Anforderungen des AI Act klären, der zwischen unzulässigen Anwendungen, Hochrisikosystemen und Transparenzpflichten unterscheidet. KI-Governance wird als zentrale Managementaufgabe definiert – es braucht eine benannte verantwortliche Person und Abstimmung zwischen IT, Datenschutz, Compliance und Fachabteilungen. Zudem müssen klare, alltaugliche Regeln für die KI-Nutzung etabliert werden und die Nachweispflichten von Anfang an dokumentiert sein. Abschließend ist die Befähigung der Mitarbeiter essenziell: Sie müssen verstehen, wo KI eingesetzt werden darf, welche Grenzen es gibt und wann menschliches Urteil erforderlich ist.