Legal Tech · Branchen-Briefing

Der Artikel behandelt die Frage, ob die Nichtnutzung von KI-Tools in der Anwaltspraxis rechtliche Kunstfehler darstellen könnte. Mehrere ethische Regelwerke, darunter Rule 1.1 der Model Rules of Professional Conduct, verpflichten Anwälte zur Aufrechterhaltung technischer Kompetenz, und Gerichte haben bereits signalisiert, dass bewusste technologische Ignoranz nicht entschuldbar ist. Dabei wird die europäische KI-Verordnung (AI Act) erwähnt, die Hochrisiko-Anwendungen in der Justizadministration regelt, sowie die Datenschutz-Grundverordnung (GDPR), deren extraterritoriale Durchsetzung für international tätige Kanzleien relevant ist. Der Artikel schlägt fünf praktische Standards für rechtssichere KI-Nutzung vor: Einsatz "sandboxed" KI-Plattformen mit Verschlüsselung und Audit-Funktionen, standardisierte Prompt-Templates, Beschränkungen nach Falltyp, dokumentierte Nutzung und Überprüfung der Versicherungsdeckung für KI-gestützte Dienstleistungen. Die wachsende Anforderung von Mandanten gegenüber großen Kanzleien zur KI-Nutzung für Kosteneffizienz wird als Treiber dieser Entwicklung identifiziert.

Der Artikel behandelt die Risiken generativer KI für Anwaltskanzleien und deren Mandanten. Ein zentrales Thema ist der Vertrauensschutz: Wenn Mandanten sensible Informationen in öffentliche KI-Tools wie ChatGPT eingeben, können diese Daten von den KI-Anbietern gespeichert, überprüft und möglicherweise in Gerichtsverfahren offengelegt werden – wie im Fall United States v. Heppner demonstriert, wo ein Gericht feststellte, dass KI-Chatbot-Kommunikationen nicht unter Anwalt-Mandant-Privileg oder der Work-Product-Doktrin geschützt sind. New York erwägt derzeit ein Gesetz, das KI-Plattformen verbietet, legal advice anzubieten. Rechtsanwälte werden aufgefordert, Mandanten über diese Risiken aufzuklären und sie vor der unkontrollierten Nutzung dieser Tools zu warnen.

Die International Organization of Securities Commissions (IOSCO) hat einen Bericht zum "Supervisory Toolkit for AI Use in Capital Markets" veröffentlicht, der aufzeigt, auf welche Aspekte Finanzaufsichtsbehörden bei der Überwachung von KI-Systemen in Unternehmen fokussieren. Der Bericht etabliert einen risikobasierten Aufsichtsansatz mit drei Hauptfaktoren: Komplexität des KI-Systems, Grad der menschlichen Überwachung und potenzielle Auswirkungen auf Kunden und Märkte. Regulatorische Ziele umfassen proportionale Aufsicht, Wahrung des Marktvertrauens sowie Gewährleistung von Fairness, Erklärbarkeit und operativer Resilienz. Besondere Aufmerksamkeit gilt Halluzinationen bei Generativer KI, autonomer KI und systemischen Risiken durch Konzentration bei KI-Dienstleistern. Die IOSCO identifiziert spezifische Risikobereiche für regulatorische Kontrolle: Governance, Modellrisikomanagement, Datenschutz, Cybersecurity, Transparenz und Datenbias. Zur Risikominderung empfiehlt die IOSCO technische Maßnahmen wie Retrieval-Augmented Generation und Chain of Verification sowie robuste menschliche Überwachung mit ausreichenden Fachkenntnissen. Die IOSCO wird durch ihre Artificial Intelligence Working Group künftig bewährte Praktiken zu Offenlegung, Recordkeeping, Reporting und Governance überprüfen.