Künstliche Intelligenz (KI) ist in aller Munde und verändert unsere Arbeitswelt rasant. Doch was bedeutet das für Unternehmen und ihre Mitarbeiter? Müssen jetzt alle eine KI-Schulung absolvieren? Prof. Dr. Katja Nettesheim, eine anerkannte Expertin für KI, digitale Transformation und Zukunftsfähigkeit, klärt auf. In ihrem aktuellen LinkedIn-Posting nimmt sie den Artikel 4 des EU AI Act unter die Lupe und erklärt, was Unternehmen in Bezug auf die KI-Kompetenz ihrer Mitarbeiter beachten müssen. Dieser Artikel beleuchtet die wichtigsten Aspekte der KI-Schulungspflicht, gibt praktische Tipps zur Umsetzung und zeigt, wie Unternehmen die Chancen der KI optimal nutzen können. Dabei berücksichtigen wir auch die neuesten Veröffentlichungen der EU-Kommission zu diesem Thema (C(2025) 884 final), die heute am 4.2.2025 erschienen ist.
Das musst Du wissen – KI-Schulungspflicht im EU AI Act
- Der EU AI Act fordert von Anbietern und Betreibern von KI-Systemen, dass sie Maßnahmen ergreifen, um sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenzen verfügt. Die Kommission wird Leitlinien zur praktischen Umsetzung veröffentlichen (Art. 96(1)(b) AI Act).
- Die Bundesnetzagentur wird ab August die Kontrollbehörde sein, aber bei Schäden durch unsachgemäße KI-Nutzung droht Schadensersatz, auch für Geschäftsführer persönlich.
- Unabhängig von der Schulungspflicht sollten Unternehmen KI nutzen, Risiken transparent machen, ein Schutzkonzept erstellen und Leitlinien für die KI-Nutzung festlegen.
- KI-Kompetenz umfasst Fähigkeiten, Kenntnisse und das Verständnis, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken bewusst zu sein.
- Die KI-K Initiative von Prof. Dr. Nettesheim unterstützt Unternehmen und Bevölkerung dabei, KI-kompetent zu werden und die KI-Transformation erfolgreich zu meistern.
Hauptfrage Was genau bedeutet die KI-Schulungspflicht nach Artikel 4 des EU AI Act für Unternehmen, und wie können sie diese am besten umsetzen, um sowohl rechtlichen Anforderungen gerecht zu werden als auch die Vorteile der KI optimal zu nutzen? Welche Arten von KI-Systemen fallen unter die Verbote des AI Acts (Art. 5 AI Act)?
Folgefragen (FAQs)
- Welche Unternehmen sind von der KI-Schulungspflicht betroffen?
- Was bedeutet „ausreichende KI-Kompetenz“ im Sinne des EU AI Act konkret?
- Welche Maßnahmen müssen Unternehmen ergreifen, um die KI-Kompetenz ihrer Mitarbeiter sicherzustellen?
- Welche Konsequenzen drohen bei Nichteinhaltung der KI-Schulungspflicht?
- Wie können Unternehmen die KI-Transformation erfolgreich gestalten und die Chancen der KI optimal nutzen?
- Welche Rolle spielt die Bundesnetzagentur bei der Kontrolle der KI-Schulungspflicht?
- Wie können Unternehmen ein Schutzkonzept für KI-Risiken erstellen?
- Welche Leitlinien sollten Unternehmen für die KI-Nutzung festlegen?
- Wo finde ich Unterstützung und Ressourcen für die KI-Transformation?
- Wie kann das Buch „KI-Kompetenz: Für eine Zukunft in Wohlstand“ von Prof. Dr. Katja Nettesheim bei der Umsetzung der KI-Schulungspflicht helfen?
- Welche Arten von KI-Systemen sind gemäß Artikel 5 AI Act verboten?
- Was versteht man unter „schädlicher Manipulation“ und „Ausnutzung von Schwachstellen“ gemäß dem AI Act?
Antworten auf jede Frage
Welche Unternehmen sind von der KI-Schulungspflicht betroffen?
Laut Artikel 4 des EU AI Act betrifft die KI-Schulungspflicht „die Anbieter und Betreiber von KI-Systemen“. Das bedeutet, dass alle Unternehmen, Behörden, Vereine usw., die KI-Systeme entwickeln, einsetzen oder nutzen, in der Pflicht stehen, die KI-Kompetenz ihrer Mitarbeiter sicherzustellen. Dabei ist es unerheblich, ob es sich um große Konzerne oder kleine und mittlere Unternehmen (KMU) handelt. Die Anforderungen an die KI-Kompetenz können jedoch je nach Risikograd der eingesetzten KI-Systeme variieren.
Was bedeutet „ausreichende KI-Kompetenz“ im Sinne des EU AI Act konkret?
„Ausreichende KI-Kompetenz“ umfasst laut Prof. Dr. Nettesheim alle Fähigkeiten, Kenntnisse und das Verständnis, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden. Dabei sind der Hintergrund der Mitarbeiter (technische Kenntnisse, Erfahrung, Ausbildung und Schulung), der Kontext, in dem die KI-Systeme eingesetzt werden (Hochrisiko oder nur Marketing-Texte in ChatGPT generieren?), sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden (besonderes Schutzbedürfnis?), zu berücksichtigen.
Welche Maßnahmen müssen Unternehmen ergreifen, um die KI-Kompetenz ihrer Mitarbeiter sicherzustellen?
- Unternehmen müssen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeiter sicherzustellen. Konkrete Details dazu sollen im Mai vom EU AI Office veröffentlicht werden. Prof. Dr. Nettesheim betont, dass die Maßnahmen „nach besten Kräften“ zu erfolgen haben, was bedeutet, dass die Anforderungen an große Unternehmen höher sind als an kleine Unternehmen.
Mögliche Maßnahmen sind: - Welche Konsequenzen drohen bei Nichteinhaltung der KI-Schulungspflicht?
Zunächst passiert erstmal nichts, aber langfristig drohen Konsequenzen: Ab August wird die Bundesnetzagentur die Kontrollbehörde sein. Wie immer gilt: Wenn Schäden entstehen, die auf unsachgemäße KI-Nutzung oder -entwicklung zurückzuführen sind, ist Schadensersatz zu leisten – auch von den Geschäftsführern persönlich! - Wie können Unternehmen die KI-Transformation erfolgreich gestalten und die Chancen der KI optimal nutzen?
Prof. Dr. Nettesheim empfiehlt Unternehmen, folgende Schritte zu unternehmen, um die KI-Transformation erfolgreich zu gestalten: - Wie können Unternehmen die KI-Transformation erfolgreich gestalten und die Chancen der KI optimal nutzen?
Prof. Dr. Nettesheim empfiehlt Unternehmen, folgende Schritte zu unternehmen, um die KI-Transformation erfolgreich zu gestalten:- KI nutzen: Um zukunftsfähig zu bleiben, sollten Unternehmen aktiv KI-Systeme einsetzen und die Möglichkeiten der KI erkunden.
- Risiken transparent machen: Neben den potenziellen Zugewinnen durch KI sollten Unternehmen auch die Risiken analysieren und transparent machen.
- Schutzkonzept erstellen: Unternehmen sollten ein Schutzkonzept für ihre unternehmensspezifischen KI-Risiken entwickeln.
- Leitlinien herausgeben: Unternehmen sollten Leitlinien für die KI-Nutzung herausgeben, die festlegen, was Mitarbeiter mit KI dürfen und was nicht. Auch hierzu gibt es Abschnitte im aktuellen Buch von Prof. Dr. Katja Nettesheim.
Welche Rolle spielt die Bundesnetzagentur bei der Kontrolle der KI-Schulungspflicht?
Die Bundesnetzagentur wird ab August die Kontrollbehörde für die Einhaltung des EU AI Act sein, einschließlich der KI-Schulungspflicht. Es ist jedoch noch unklar, wie die Bundesnetzagentur die Einhaltung der KI-Schulungspflicht konkret kontrollieren wird.
Wie können Unternehmen ein Schutzkonzept für KI-Risiken erstellen?
Ein Schutzkonzept für KI-Risiken sollte folgende Aspekte berücksichtigen:
- Identifizierung von KI-Risiken: Analyse der potenziellen Risiken, die mit dem Einsatz von KI-Systemen verbunden sind (z.B. Diskriminierung, Datenschutzverletzungen, Manipulation).
- Bewertung von KI-Risiken: Bewertung der Wahrscheinlichkeit und des potenziellen Schadens der identifizierten Risiken.
- Entwicklung von Schutzmaßnahmen: Entwicklung und Implementierung von Maßnahmen zur Minimierung der identifizierten Risiken (z.B. technische Schutzmaßnahmen, organisatorische Maßnahmen, Schulungen).
- Überwachung und Anpassung: Kontinuierliche Überwachung der Wirksamkeit der Schutzmaßnahmen und Anpassung bei Bedarf.
Welche Leitlinien sollten Unternehmen für die KI-Nutzung festlegen?
Die Leitlinien für die KI-Nutzung sollten folgende Punkte abdecken:
- Zweck der KI-Nutzung: Festlegung, für welche Zwecke KI-Systeme eingesetzt werden dürfen.
- Verantwortlichkeiten: Klare Zuweisung von Verantwortlichkeiten für den Einsatz und die Überwachung von KI-Systemen.
- Datenschutz: Sicherstellung des Datenschutzes bei der Nutzung von KI-Systemen.
- Transparenz: Schaffung von Transparenz über die Funktionsweise und die Entscheidungen von KI-Systemen.
- Ethik: Berücksichtigung ethischer Aspekte bei der Entwicklung und Nutzung von KI-Systemen.
- Compliance: Einhaltung aller relevanten Gesetze und Vorschriften.
Wo finde ich Unterstützung und Ressourcen für die KI-Transformation?
Es gibt zahlreiche Organisationen und Initiativen, die Unternehmen bei der KI-Transformation unterstützen, darunter:
- KI-K Initiative: Die KI-K Initiative von Prof. Dr. Katja Nettesheim unterstützt Unternehmen und Bevölkerung dabei, KI-kompetent zu werden und die KI-Transformation erfolgreich zu meistern.
- Plattform Lernende Systeme: Die Plattform Lernende Systeme ist eine Initiative des Bundesministeriums für Bildung und Forschung (BMBF) und bietet Informationen, Studien und Veranstaltungen zum Thema KI. Sie bringt Experten aus Wissenschaft, Wirtschaft, Politik und Gesellschaft zusammen, um den Einsatz von KI-Technologien zu erforschen und deren Potenzial für verschiedene Anwendungsfelder zu erschließen. Ein Interview mit Jessica Heesen. Sie leitet die Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme in Deutschland, einer Initiative des Bundesministeriums für Bildung und Forschung (BMBF), die sich mit der Entwicklung und Anwendung lernender Systeme beschäftigt. Das Interview ist hier.
- Deutsche KI-Verbände: Es gibt verschiedene deutsche KI-Verbände, die Unternehmen bei der KI-Transformation unterstützen und eine Plattform für den Austausch bieten.
Wie kann das Buch „KI-Kompetenz: Für eine Zukunft in Wohlstand“ von Prof. Dr. Katja Nettesheim bei der Umsetzung der KI-Schulungspflicht helfen?
Das Buch „KI-Kompetenz: Für eine Zukunft in Wohlstand“ von Prof. Dr. Katja Nettesheim ist genau für diese Zielgruppe geschrieben und verschafft Unternehmen und ihren Mitarbeitenden genau die Lust und Fähigkeit, KI zu nutzen, sowie das Risikobewusstsein, das die EU als KI-Kompetenz verlangt. Das Buch bietet einen leichten Einstieg und praktische Anleitungen für Einzelne und Führungskräfte, sich selbst und/oder ihre Organisation KI-kompetent zu machen. Es behandelt die Widerstände, die Veränderungen entgegengehalten werden, und bietet pragmatische Vorgehenspläne für die persönliche und die organisatorische Transformation.
Welche Arten von KI-Systemen sind gemäß Artikel 5 AI Act verboten?
Artikel 5 AI Act listet eine Reihe von KI-Systemen auf, die aufgrund ihres hohen Risikos für die Grundrechte und die Sicherheit der Bürger in der EU verboten sind.
Dazu gehören unter anderem:
- KI-Systeme, die subliminale Techniken einsetzen, um das Verhalten von Menschen zu manipulieren.
- KI-Systeme, die Schwachstellen von Menschen ausnutzen, um ihr Verhalten zu verändern.
- KI-Systeme für Social Scoring, die Menschen aufgrund ihres Verhaltens oder ihrer Persönlichkeit bewerten und klassifizieren.
- KI-Systeme zur Risikobeurteilung und Vorhersage von Straftaten, die sich ausschließlich auf Profiling stützen.
- KI-Systeme zum wahllosen Auslesen von Gesichtsbildern aus dem Internet oder Überwachungskameras, um Datenbanken zu erstellen.
- KI-Systeme, die Emotionen am Arbeitsplatz oder in Bildungseinrichtungen erkennen.
- KI-Systeme, die biometrische Daten nutzen, um Menschen nach Rasse, politischer Meinung oder sexueller Orientierung zu kategorisieren.
- Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden (mit begrenzten Ausnahmen). (Art. 5 AI Act)
- Was versteht man unter „schädlicher Manipulation“ und „Ausnutzung von Schwachstellen“ gemäß dem AI Act?
- Schädliche Manipulation: KI-Systeme, die Techniken einsetzen, die das Bewusstsein einer Person unterdrücken oder absichtlich manipulieren oder täuschen, um ihr Verhalten so zu verändern, dass sie Entscheidungen trifft, die sie sonst nicht treffen würde, und dadurch erheblichen Schaden verursacht.
- Ausnutzung von Schwachstellen: KI-Systeme, die die Anfälligkeit von Menschen aufgrund ihres Alters, einer Behinderung oder ihrer sozioökonomischen Situation ausnutzen, um ihr Verhalten zu verändern und dadurch erheblichen Schaden zu verursachen.
Konkrete Tipps und Anleitungen
- Starte mit einer Bestandsaufnahme: Analysiere, welche KI-Systeme in Deinem Unternehmen bereits eingesetzt werden und welche Kompetenzen Deine Mitarbeiter bereits haben.
- Definiere Lernziele: Lege fest, welche KI-Kompetenzen Deine Mitarbeiter benötigen, um die KI-Systeme effektiv und verantwortungsvoll nutzen zu können.
- Wähle die richtigen Schulungsmaßnahmen: Biete Deinen Mitarbeitern Schulungen und Weiterbildungen an, die auf ihre individuellen Bedürfnisse und Lernziele zugeschnitten sind.
- Fördere den Wissensaustausch: Schaffe Plattformen für den Wissensaustausch und die Zusammenarbeit im Bereich KI, z.B. interne KI-Communities oder regelmäßige KI-Meetups.
- Etabliere eine Fehlerkultur: Ermutige Deine Mitarbeiter, mit KI-Systemen zu experimentieren und aus Fehlern zu lernen.
- Integriere KI-Kompetenz in die Personalentwicklung: Berücksichtige KI-Kompetenz bei der Personalentwicklung und der Karriereplanung.
- Schaffe Anreize: Schaffe Anreize für Deine Mitarbeiter, sich im Bereich KI weiterzubilden und ihr Wissen anzuwenden.
- Bleibe am Ball: Die KI-Technologie entwickelt sich rasant weiter. Stelle sicher, dass Deine Mitarbeiter immer auf dem neuesten Stand sind.
Regelmäßige Aktualisierung
Dieser Artikel wird regelmäßig aktualisiert, um die aktuellsten Informationen und Entwicklungen im Bereich der KI-Schulungspflicht zu berücksichtigen.
Fazit: KI-Kompetenz als Schlüssel zur Zukunftsfähigkeit – EU AI Act als Chance begreifen
Die KI-Schulungspflicht nach Artikel 4 des EU AI Act mag auf den ersten Blick wie eine zusätzliche Belastung für Unternehmen erscheinen. Doch bei genauerer Betrachtung erweist sie sich als Chance, die Weichen für eine erfolgreiche KI-Transformation zu stellen und die Zukunftsfähigkeit des Unternehmens zu sichern.
Die KI-Kompetenz der Mitarbeiter ist der Schlüssel, um die Potenziale der KI voll auszuschöpfen und die Risiken zu minimieren. Unternehmen, die frühzeitig in die KI-Kompetenz ihrer Mitarbeiter investieren, werden nicht nur den rechtlichen Anforderungen gerecht, sondern profitieren auch von einer höheren Innovationskraft, einer gesteigerten Effizienz und einer besseren Wettbewerbsfähigkeit.
Prof. Dr. Katja Nettesheim betont, dass die KI-Transformation ein ganzheitlicher Prozess ist, der nicht nur technisches Know-how, sondern auch ein tiefes Verständnis für die ethischen, rechtlichen und gesellschaftlichen Auswirkungen der KI erfordert. Unternehmen sollten daher nicht nur in Schulungen und Weiterbildungen investieren, sondern auch eine offene und transparente Unternehmenskultur fördern, in der Mitarbeiter ermutigt werden, mit KI-Systemen zu experimentieren, aus Fehlern zu lernen und ihr Wissen zu teilen.
Die KI-K Initiative von Prof. Dr. Nettesheim leistet einen wichtigen Beitrag zur Förderung der KI-Kompetenz in Deutschland und unterstützt Unternehmen und Bevölkerung dabei, die Chancen der KI zu nutzen und die Risiken zu minimieren. Die Initiative bietet eine Plattform für den Austausch, die Vernetzung und die Zusammenarbeit im Bereich KI und trägt dazu bei, dass Deutschland den Anschluss an die Weltspitze nicht verliert.
Die KI-Schulungspflicht nach Artikel 4 des EU AI Act ist somit nicht nur eine regulatorische Anforderung, sondern auch ein Weckruf für Unternehmen, die KI-Transformation aktiv anzugehen und die KI-Kompetenz ihrer Mitarbeiter als strategischen Erfolgsfaktor zu begreifen. Wer jetzt die richtigen Weichen stellt, wird von den vielfältigen Chancen der KI profitieren und seine Zukunftsfähigkeit nachhaltig sichern.
https://KINEWS24-academy.de – KI. Direkt. Verständlich. Anwendbar. Hier kannst Du Dich in einer aktiven Community austauschen und KI lernen.
Quellen
- Posting von Prof. Dr. Katja Nettesheim auf LinkedIn: https://www.linkedin.com/feed/update/urn:li:activity:7292526497859289088/
- Profil von Prof. Dr. Katja Nettesheim auf LinkedIn: https://www.linkedin.com/in/katja-nettesheim/
- Webseite von Culcha: www.culcha.com
- Webseite der KI-K Initiative: www.ki-k.org
- Webseite von Mediate: www.mediate-group.com
- Amazon-Bestellung „KI-Kompetenz“: https://bit.ly/KI-Kompetenz
- COMMUNICATION TO THE COMMISSION – Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act): C(2025) 884 final
#AI #KI #ArtificialIntelligence #KuenstlicheIntelligenz #KISchulungspflicht #EUAIACT #KIKompetenz #KITransformation
English 
German