Die Nutzung von Künstlicher Intelligenz (KI) in Unternehmen wird durch die EU KI-Verordnung (AI Act) reguliert, die darauf abzielt, den sicheren und ethischen Einsatz von KI-Systemen zu gewährleisten. Für Unternehmer, die KI-Systeme entwickeln oder einsetzen, ist es entscheidend, die Vorschriften dieser Verordnung zu verstehen und zu beachten. In diesem Artikel erfahren Sie, worauf es ankommt und welche Schritte notwendig sind, um konform zu handeln.

Warum ist die EU KI-Verordnung für Unternehmer relevant?

Die EU KI-Verordnung soll sicherstellen, dass KI-Systeme in der gesamten Europäischen Union sicher und vertrauenswürdig eingesetzt werden. Für Unternehmen, die KI nutzen oder entwickeln, bedeutet dies, dass sie strenge Anforderungen in Bezug auf Transparenz, Sicherheit und ethische Grundsätze erfüllen müssen. Mit der Verordnung wird ein rechtlicher Rahmen geschaffen, der verschiedene Arten von KI-Systemen klassifiziert und je nach Risikostufe unterschiedliche Pflichten festlegt.

Was sind die Risikokategorien von KI-Systemen?

Die Verordnung unterteilt KI-Systeme in verschiedene Risikoklassen, die bestimmen, welche regulatorischen Anforderungen gelten.

1. Hochrisiko-KI-Systeme: Diese Systeme werden in sensiblen Bereichen wie Medizin, kritischer Infrastruktur, Beschäftigung und Strafverfolgung eingesetzt. Sie unterliegen besonders strengen Vorgaben, da Fehlfunktionen erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte haben können. Beispiele sind KI-Systeme zur Einstellung von Personal oder zur medizinischen Diagnose.
2. Verbotene KI-Systeme: Einige KI-Anwendungen sind nach der Verordnung verboten, insbesondere wenn sie gegen grundlegende Menschenrechte verstoßen. Dazu gehören Systeme, die subliminale Techniken nutzen, um menschliche Entscheidungen zu beeinflussen, oder biometrische Echtzeit-Fernidentifikationen in öffentlichen Räumen ohne rechtliche Grundlage durchführen.

Welche Tests und Bewertungen müssen für Hochrisiko-KI-Systeme durchgeführt werden?

Unternehmen, die Hochrisiko-KI-Systeme entwickeln oder verwenden, müssen sicherstellen, dass ihre Systeme umfassend geprüft und bewertet werden, bevor sie in Betrieb genommen werden. Dazu gehören:

• Technische Dokumentation: Die Verordnung verlangt eine ausführliche Dokumentation der technischen Merkmale des KI-Systems sowie dessen Zweck. Dies dient der Nachvollziehbarkeit und der Transparenz gegenüber Aufsichtsbehörden.
• Protokollierung und Rückverfolgbarkeit: Unternehmen müssen sicherstellen, dass das KI-System regelmäßig protokolliert wird, sodass Fehlfunktionen oder unvorhergesehene Entscheidungen nachvollzogen werden können. Dies ist besonders wichtig, um potenzielle Probleme schnell zu identifizieren und zu beheben.
• Konformitätsbewertung: Hochrisiko-KI-Systeme müssen eine Konformitätsbewertung durchlaufen. Diese kann intern oder extern durchgeführt werden, um sicherzustellen, dass das System den gesetzlichen Anforderungen entspricht. Dies umfasst sowohl technische Tests als auch eine Prüfung der ethischen Implikationen des Einsatzes.

Wie wird die menschliche Aufsicht sichergestellt?

Die EU KI-Verordnung legt großen Wert auf die menschliche Kontrolle über KI-Systeme, insbesondere bei Hochrisiko-Anwendungen. Unternehmer müssen sicherstellen, dass Menschen jederzeit in den Entscheidungsprozess eingreifen können, um Fehler zu korrigieren oder gefährliche Situationen zu verhindern.

Beispielsweise müssen in autonom gesteuerten Fahrzeugen Mechanismen vorhanden sein, die es dem Menschen ermöglichen, die Kontrolle zu übernehmen, falls das System eine unvorhergesehene oder gefährliche Entscheidung trifft. Dies dient der Sicherheit und minimiert das Risiko von Unfällen oder Fehlfunktionen.

Welche organisatorischen Maßnahmen müssen Unternehmen ergreifen?

Um den Anforderungen der EU KI-Verordnung gerecht zu werden, müssen Unternehmen auch entsprechende organisatorische Maßnahmen umsetzen. Dazu gehören:

• Einführung eines KI-Managementsystems: Unternehmen sollten ein System zur Verwaltung von KI-Risiken einführen. Dieses System dient dazu, Risiken frühzeitig zu identifizieren und entsprechende Gegenmaßnahmen zu ergreifen. Ein KI-Council oder ein Center of Excellence kann eine zentrale Rolle bei der Überwachung und Weiterentwicklung der KI-Strategien des Unternehmens spielen.
• Synergie mit bestehenden Compliance-Systemen: Viele Unternehmen haben bereits Systeme zur Risikobewertung und Compliance implementiert, wie z.B. ISO-Zertifizierungen. Diese Systeme können genutzt werden, um die KI-spezifischen Anforderungen des AI Acts effizienter zu integrieren. Dadurch wird die Umsetzung der Vorschriften erleichtert und gleichzeitig die betriebliche Effizienz gesteigert.

Welche Anforderungen an Transparenz und Rechenschaftspflicht bestehen?

Unternehmen, die KI-Systeme verwenden, sind verpflichtet, die Transparenz ihrer Systeme zu gewährleisten. Das bedeutet, dass die betroffenen Personen jederzeit nachvollziehen können müssen, wie und warum eine Entscheidung durch ein KI-System getroffen wurde. Dies erhöht die Akzeptanz von KI im täglichen Einsatz und schützt die Rechte der betroffenen Personen.

Darüber hinaus müssen Sicherheitsvorkehrungen getroffen werden, um das KI-System vor externen Angriffen zu schützen. Dazu gehören Maßnahmen gegen Adversarial Attacks oder Data Poisoning, bei denen versucht wird, das System durch manipulierte Eingaben zu beeinflussen oder zu schädigen.

Wie können Unternehmer die Kompetenz ihrer Mitarbeiter im Bereich KI verbessern?

Ein weiterer zentraler Aspekt der Verordnung ist die Notwendigkeit, das Wissen und die Kompetenzen der Mitarbeiter in Bezug auf den Einsatz von KI-Systemen kontinuierlich zu verbessern. Unternehmen müssen sicherstellen, dass ihre Mitarbeiter über die nötigen Fähigkeiten verfügen, um die rechtlichen und technischen Anforderungen der Verordnung zu verstehen und anzuwenden.

Regelmäßige Schulungen und Weiterbildungen sind entscheidend, um das Personal auf dem neuesten Stand der Technik zu halten und sicherzustellen, dass ethische und rechtliche Vorgaben eingehalten werden. Dies trägt nicht nur zur Sicherheit im Umgang mit KI bei, sondern stärkt auch die Innovationsfähigkeit des Unternehmens.

Fazit

Für Unternehmer, die KI-Systeme verwenden oder entwickeln, ist es entscheidend, die Bestimmungen der EU KI-Verordnung sorgfältig zu befolgen. Die Risikoklassifizierung von KI-Systemen bestimmt, wie streng die Anforderungen sind. Hochrisiko-Systeme erfordern umfangreiche Tests, Dokumentationen und eine kontinuierliche Überwachung. Unternehmen müssen sicherstellen, dass eine menschliche Aufsicht gewährleistet ist und organisatorische Maßnahmen wie ein KI-Managementsystem implementiert werden. Die Transparenz gegenüber betroffenen Personen sowie die Schulung von Mitarbeitern spielen ebenfalls eine zentrale Rolle, um den ethischen und rechtlichen Rahmen einzuhalten und das volle Potenzial von KI sicher zu nutzen.

Disclaimer: Diese Informationen sind allgemeiner Natur und stellen keine Rechtsberatung dar.