Einleitung

Der kürzlich veröffentlichte EU Artificial Intelligence Act (EU-KI-Gesetz) hat große Wellen in der europäischen Unternehmenslandschaft geschlagen. Mit einem Starttermin im Februar 2025 wird das Gesetz in allen 27 EU-Mitgliedsstaaten gelten. Die FERMA (Fédération Européenne des Risques et Assurances des Entreprises) hat dazu eine umfassende Stellungnahme veröffentlicht, die das risikobasierte Regelwerk erläutert und insbesondere die Auswirkungen auf Risikomanagement und Versicherungen hervorhebt.

Dieser Artikel zeigt, wie das Gesetz Unternehmen betrifft, welche Schritte Risikomanager unternehmen sollten und welche Auswirkungen auf Versicherungen zu erwarten sind.

Hauptfrage: Was bedeutet das neue EU-KI-Gesetz für Risikomanager?

Das EU-KI-Gesetz stellt eine der wichtigsten Regulierungen im Bereich Künstlicher Intelligenz (KI) dar. Es verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme in verschiedene Risikokategorien unterteilt werden – von geringem Risiko bis zu inakzeptablem Risiko. Insbesondere Hochrisiko-Systeme unterliegen strengen Auflagen, die Unternehmen zwingend einhalten müssen. Doch was bedeutet das für das tägliche Risikomanagement?

Folgefragen:

1. Was sind die wichtigsten Anforderungen des EU-KI-Gesetzes?
   • Hochrisiko-Systeme müssen in einer EU-Datenbank registriert werden und bestimmte Auflagen zu Datenmanagement, Transparenz und Governance erfüllen.
2. Wie können Unternehmen eine KI-Strategie gemäß dem neuen Gesetz entwickeln?
   • Laut FERMA sind drei Säulen entscheidend: eine klare KI-Strategie mit Governance-Rahmen, kontinuierliche Schulung der Mitarbeiter und Audit-Vorbereitung.
3. Welche Rolle spielen ethische Standards im Umgang mit KI?
   • FERMA empfiehlt die Implementierung international anerkannter ethischer Standards, um den Einsatz von KI-Systemen transparent und sicher zu gestalten.
4. Wie beeinflusst das Gesetz Versicherungen und Haftungsfragen?
   • Insbesondere im Bereich der „Silent AI“ könnten Haftungsfragen auftreten, die das Versicherungsmanagement erheblich beeinflussen.
5. Welche Maßnahmen können Risikomanager ergreifen, um sich vorzubereiten?
   • Entwicklung interner Benchmarks zur Messung der KI-Leistung, sowie Schulungen zur Risikominderung in Bezug auf Missbrauch, unethische Ergebnisse und Datenlecks.

Antworten:

1. Wesentliche Anforderungen des EU-KI-Gesetzes
   Hochrisiko-KI-Systeme, wie sie in Bereichen der kritischen Infrastruktur oder im Finanzwesen eingesetzt werden, müssen sich strikten Regularien unterziehen. Diese Systeme müssen nicht nur transparent in einer EU-Datenbank registriert werden, sondern auch hohe Anforderungen an Datentrainingsverfahren, Risikomanagement sowie regelmäßige Überprüfungen erfüllen. Unternehmen müssen also in der Lage sein, den gesamten Lebenszyklus ihrer KI-Systeme zu dokumentieren und transparent offenzulegen.
2. Entwicklung einer KI-Strategie
   FERMA empfiehlt die Entwicklung einer umfassenden KI-Strategie, die in einen soliden Governance-Rahmen integriert wird. Dies umfasst nicht nur die Ausarbeitung eines internen KI-Policy-Dokuments, sondern auch die Implementierung durchgängig nachvollziehbarer Prozesse, die auch externe Prüfungen überstehen. Hierzu gehört auch eine Investition in neue Technologien und die kontinuierliche Weiterbildung der Belegschaft.
3. Ethische Standards und ihre Bedeutung
   Ein zentraler Punkt im neuen EU-KI-Gesetz ist die Einhaltung ethischer Richtlinien. Diese helfen dabei, Risiken wie Diskriminierung, Intransparenz oder Datenmissbrauch zu vermeiden. FERMA rät Unternehmen, sich an international anerkannten ethischen Standards zu orientieren und die Rollen und Verantwortlichkeiten innerhalb des Unternehmens klar zu definieren.
4. Versicherungstechnische Implikationen
   Die Auswirkungen von KI auf die Versicherungsbranche könnten erheblich sein. „Silent AI“, also die Nutzung von KI ohne klare Regulierung oder Haftungsregelungen, könnte in Zukunft ein wachsendes Risiko darstellen. Versicherungs- und Risikomanager sollten daher prüfen, wie KI-Risiken in ihre bestehenden Policen integriert werden können.
5. Konkrete Maßnahmen für Risikomanager
   FERMA empfiehlt, dass Unternehmen interne Benchmarks für ihre KI-Systeme einführen, um deren Leistung zu messen und potenzielle Risiken frühzeitig zu erkennen. Schulungen für alle Nutzer der Systeme sind unerlässlich, um Risiken wie Missbrauch, Verzerrungen oder Sicherheitslücken zu minimieren. Zusätzlich sollten Unternehmen sicherstellen, dass ihre Systeme den Audit-Anforderungen entsprechen und möglicherweise eine formale Zertifizierung anstreben.

Praktische Tipps und Anleitungen

• KI-Strategie implementieren: Stellen Sie sicher, dass Ihre Organisation eine umfassende KI-Strategie entwickelt, die in den bestehenden Governance-Rahmen integriert ist.
• Regelmäßige Schulungen: Investieren Sie in die kontinuierliche Schulung von Mitarbeitern, um den sicheren und ethischen Einsatz von KI zu gewährleisten.
• Interne Benchmarks erstellen: Führen Sie Benchmarks ein, um die Leistung Ihrer KI-Systeme zu bewerten und potenzielle Schwachstellen frühzeitig zu identifizieren.
• Zertifizierung anstreben: Erwägen Sie eine formale Zertifizierung Ihrer KI-Systeme, auch wenn dies gesetzlich nicht zwingend vorgeschrieben ist.

Schlussfolgerung und Handlungsempfehlung

Das EU-KI-Gesetz ist ein wegweisendes Regelwerk, das von Unternehmen in ganz Europa eine klare und umfassende Strategie für den Umgang mit KI verlangt. Risikomanager stehen dabei im Zentrum der Umsetzung, da sie sicherstellen müssen, dass alle Anforderungen erfüllt werden und ethische sowie technische Standards eingehalten werden. Durch die Implementierung klarer Benchmarks und kontinuierliche Schulung kann das Risiko von Datenpannen, unethischen Ergebnissen oder Haftungsproblemen minimiert werden.

Die Versicherungsbranche wird ebenfalls von der neuen Regelung betroffen sein, insbesondere in Bezug auf die noch unklare Haftungsfrage bei „Silent AI“. Unternehmen sollten bereits jetzt prüfen, wie sie ihre Policen anpassen können, um zukünftige Risiken zu decken.

Für weitere Informationen und regelmäßige Updates zu diesem Thema empfiehlt sich die Anmeldung zu spezialisierten Newslettern oder der Kontakt zu Fachberatern für KI und Risikomanagement.

Quellen und weiterführende Links

• FERMA Policy Note zum EU AI Act