Ja, Sie dürfen KI-Tools wie Perplexity.ai, ChatGPT oder Adobe Firefly in Ihrem Unternehmen einsetzen, müssen jedoch die Vorgaben der EU-Verordnung zur Künstlichen Intelligenz (AI Act) beachten. Diese Verordnung legt fest, welche Anforderungen Unternehmen bei der Nutzung von KI-Systemen erfüllen müssen, abhängig davon, in welche Risikokategorie die jeweiligen Anwendungen fallen.

Die EU-Verordnung zur Künstlichen Intelligenz (AI Act)

Die EU AI-Verordnung, die derzeit in der Endphase der Ausarbeitung ist, schafft ein Regelwerk, das KI-Anwendungen nach ihrem potenziellen Risiko für Sicherheit und Grundrechte reguliert. Dabei werden KI-Systeme in vier Risikokategorien eingeteilt:

1. Verbotene Praktiken: Diese Kategorie umfasst KI-Systeme, die gegen Grundrechte, Datenschutz oder die öffentliche Sicherheit verstoßen. Beispiele sind Systeme zur sozialen Bewertung durch Regierungen, Technologien zur Manipulation von menschlichem Verhalten oder bestimmte Formen der biometrischen Überwachung.
2. Hochrisiko-KI-Systeme: Diese Systeme müssen strenge Vorschriften einhalten und eine Konformitätsbewertung durchlaufen, bevor sie in der EU eingesetzt werden dürfen. Hochrisiko-KI-Systeme umfassen Anwendungen in kritischen Bereichen wie Energieversorgung, Bildung (z. B. Prüfungssysteme), Strafverfolgung und Personalmanagement (z. B. KI-gestützte Rekrutierung). Diese Anwendungen erfordern umfangreiche Maßnahmen zur Sicherstellung von Transparenz, Genauigkeit und menschlicher Aufsicht.
3. Begrenztes Risiko: Diese Kategorie umfasst Systeme, die spezifische Transparenzanforderungen erfüllen müssen. Hierzu gehören Chatbots oder virtuelle Assistenten, die den Nutzern klar mitteilen müssen, dass sie mit einer KI interagieren. Die Verwendung solcher Systeme ist erlaubt, erfordert aber eine entsprechende Kennzeichnung.
4. Minimales Risiko: Die meisten KI-Systeme fallen in diese Kategorie und sind weitgehend unreguliert. Dazu gehören z. B. KI-gestützte Schreibwerkzeuge, automatisierte Übersetzungsdienste oder kreative KI-Anwendungen. Für diese Systeme gelten lediglich allgemeine Datenschutz- und Sicherheitsanforderungen.

In welche Risikokategorie fallen Perplexity.ai, ChatGPT und Adobe Firefly?

Die von Ihnen genannten Tools – Perplexity.ai, ChatGPT und Adobe Firefly – sind in der Regel in den Kategorien „begrenztes Risiko“ oder „minimales Risiko“ einzuordnen. Diese Tools werden hauptsächlich als generative KI-Modelle für die Texterstellung, kreative Prozesse und andere unterstützende Aufgaben verwendet. Sie gelten nicht als Hochrisiko-KI-Systeme, es sei denn, sie werden in spezifischen regulierten Bereichen (z. B. Strafverfolgung, Gesundheitswesen, Personalmanagement) eingesetzt. Unternehmen sollten folgende Punkte beachten:

• Transparenzpflicht: Wenn diese Tools so genutzt werden, dass sie direkt mit Endnutzern interagieren, ist es erforderlich, die Nutzer darüber zu informieren, dass sie mit einer KI interagieren.
• Datenschutz und Datensicherheit: Die Nutzung dieser Tools muss den EU-Datenschutzrichtlinien (DSGVO) entsprechen. Insbesondere dürfen persönliche Daten nicht unangemessen verarbeitet oder gespeichert werden.
• Verantwortungsvoller Einsatz: Die Tools sollten nicht in einer Weise genutzt werden, die zu ethischen oder rechtlichen Problemen führt, z. B. durch die Erzeugung von Desinformation oder Manipulation.

Maßnahmen zur Einhaltung des EU AI Act

Um sicherzustellen, dass Ihr Unternehmen beim Einsatz von KI-Tools wie Perplexity.ai, ChatGPT oder Adobe Firefly den Anforderungen des AI Act entspricht, sollten folgende Maßnahmen getroffen werden:

1. Durchführung einer Risikobewertung: Ermitteln Sie, in welche Risikokategorie der Einsatz der Tools in Ihrem speziellen Anwendungsfall fällt. Wenn eine Hochrisiko-Einstufung wahrscheinlich ist, stellen Sie sicher, dass alle erforderlichen Compliance-Maßnahmen getroffen werden.
2. Transparenz sicherstellen: Klären Sie Ihre Nutzer und Mitarbeiter transparent darüber auf, dass KI-Technologien eingesetzt werden und in welchem Umfang.
3. Datenschutz- und Sicherheitsrichtlinien befolgen: Entwickeln Sie interne Richtlinien, um sicherzustellen, dass der Einsatz von KI-Tools den geltenden Datenschutzgesetzen entspricht. Schutzmaßnahmen für sensible Daten müssen implementiert werden.
4. Schulung der Mitarbeiter: Stellen Sie sicher, dass Ihre Mitarbeiter gut informiert und geschult sind, um die KI-Tools verantwortungsvoll und gesetzeskonform zu nutzen.
5. Regelmäßige Überprüfung und Anpassung: Führen Sie regelmäßig Audits durch, um sicherzustellen, dass Ihre KI-Nutzungspraktiken weiterhin den gesetzlichen Anforderungen entsprechen.
6. Rechtliche Beratung einholen: Erwägen Sie, rechtlichen Rat einzuholen, insbesondere wenn Sie KI-Tools in sensiblen oder regulierten Bereichen einsetzen, um sicherzustellen, dass alle Compliance-Anforderungen erfüllt sind.

Fazit

Der Einsatz von KI-Tools wie Perplexity.ai, ChatGPT und Adobe Firefly ist in Unternehmen erlaubt, solange die Nutzung im Einklang mit den Vorgaben des EU AI Act steht. Es ist entscheidend, eine Risikobewertung durchzuführen, um festzustellen, in welche Kategorie die Nutzung fällt, und sicherzustellen, dass alle Anforderungen an Transparenz, Datenschutz und Sicherheit eingehalten werden. Eine sorgfältige Planung und regelmäßige Überprüfung Ihrer KI-Nutzungsstrategie hilft, potenzielle Probleme mit der EU-Regulierung zu vermeiden und gleichzeitig die Vorteile dieser Technologien optimal zu nutzen.