In einer Zeit, in der der technologische Fortschritt im Bereich der künstlichen Intelligenz (KI) rasant voranschreitet, wird die Frage nach der Sicherheit und den ethischen Grenzen von KI immer dringlicher. Beim diesjährigen TechCrunch Disrupt 2024 sprachen prominente KI-Sicherheitsexperten wie Sarah Myers West vom AI Now Institute, Jingna Zhang, Gründerin der Künstlerplattform Cara, und Aleksandra Pedraszewska von ElevenLabs über die Risiken einer überstürzten KI-Entwicklung.

Das Dilemma der Geschwindigkeit: Warum Langsamkeit manchmal besser ist

„Wir stehen an einem Wendepunkt, an dem große Ressourcen in diesen Bereich fließen“, betonte Sarah Myers West. Sie machte auf die dringende Notwendigkeit aufmerksam, KI-Entwicklungen nicht nur auf Effizienz und Innovation zu trimmen, sondern auch die sozialen und ethischen Konsequenzen im Auge zu behalten. Der Druck, neue Produkte auf den Markt zu bringen, könnte langfristige negative Auswirkungen haben, wenn ethische Standards vernachlässigt werden. Ein tragischer Fall verdeutlicht das Ausmaß: Die Familie eines verstorbenen Kindes reichte kürzlich Klage gegen das Unternehmen Character.AI ein, da der KI-Chatbot angeblich eine Rolle im Selbstmord des Kindes gespielt haben soll.

Künstler und Copyright im Zeitalter von KI

Für Künstler wie Jingna Zhang, deren Plattform Cara Künstlern eine Stimme gibt, ist KI ein zweischneidiges Schwert. Unternehmen wie Meta beanspruchen das Recht, öffentliche Inhalte zur KI-Trainingsdatenbank zu nutzen. Dies stellt ein ernsthaftes Problem für Künstler dar, die ihre Werke online präsentieren müssen, um ein Publikum zu gewinnen, aber gleichzeitig Gefahr laufen, dass ihre Arbeit ohne Zustimmung zur Verbesserung von KI-Modellen genutzt wird. „Copyright schützt uns und ermöglicht es uns, unseren Lebensunterhalt zu verdienen“, sagte Zhang und betonte, dass generative KI sich nicht an die etablierten Urheberrechtsgesetze halte. Sie fordert daher klare Lizenzierungsregelungen für die Nutzung künstlerischer Werke durch KI.

Die Herausforderungen von Voice-Cloning und Deepfake-Risiken

Die KI-Sprachtechnologie steht ebenfalls im Fokus. Aleksandra Pedraszewska von ElevenLabs, einem Milliarden-Dollar-Startup für KI-Voice-Cloning, erklärte, dass der Schutz vor Missbrauch – etwa durch nicht-einvernehmliche Deepfakes – oberste Priorität habe. ElevenLabs, das inzwischen eine große Nutzergemeinschaft von 33 Millionen Menschen hat, müsse sich der Risiken neuer Technologien bewusst sein. „Es ist wichtig, Modelle auf ungewolltes Verhalten und unbeabsichtigte Konsequenzen zu testen,“ betonte sie. Eine enge Beziehung zur Community sei entscheidend, um Missbrauch frühzeitig zu erkennen und zu verhindern.

Der Mittelweg zwischen Regulierung und Innovation

In der Diskussion wurde auch das Spannungsfeld zwischen einer strikten Regulierung und einem ungebremsten Fortschritt thematisiert. Pedraszewska plädierte dafür, weder eine komplett anti-KI-Position einzunehmen noch vollständig auf Regulierung zu verzichten. Vielmehr sei es notwendig, einen Mittelweg zu finden, der Innovation fördert, ohne ethische Bedenken zu ignorieren. Dies könnte durch eine engere Zusammenarbeit zwischen Entwicklern und der Community erreicht werden.

Fazit: Vorsicht vor einem ethischen Blindflug

Die Botschaft der Experten ist eindeutig: „Move fast and break things“ mag als Mantra des Silicon Valley in der Vergangenheit funktioniert haben, doch bei der Entwicklung von KI ist eine vorsichtigere Herangehensweise erforderlich. Die Auswirkungen von KI auf die Gesellschaft – sei es durch emotionale Beeinflussung, Urheberrechtsverletzungen oder das Risiko von Missbrauch – sind zu gewichtig, um sie zu ignorieren. Gründer und Unternehmen sollten daher nicht nur auf technische Machbarkeit, sondern auch auf die langfristigen ethischen Implikationen achten.

Quellen:

• TechCrunch Artikel: AI safety advocates tell founders to slow down