Die Federal Trade Commission (FTC) hat am 25. September 2024 eine umfassende Durchgreifaktion angekündigt, die gegen Unternehmen gerichtet ist, die künstliche Intelligenz (KI) als Instrument für betrügerische oder unlautere Praktiken nutzen. Diese Initiative mit dem Namen „Operation AI Comply“ umfasst fünf rechtliche Maßnahmen gegen verschiedene Akteure, die die steigende Nachfrage nach KI missbrauchen, um Verbraucher zu täuschen oder irreführende Produkte und Dienstleistungen anzubieten.

Hintergrund: Warum die FTC Maßnahmen ergreift

Mit dem wachsenden Hype um KI-Technologien häufen sich auch die Behauptungen darüber, wie diese Tools das Leben der Menschen verbessern und automatisieren können. Die neuen Fälle zeigen jedoch, dass manche Unternehmen die KI-Euphorie ausnutzen, um Verbraucher in betrügerische Schemata zu locken. FTC-Vorsitzende Lina M. Khan betonte: „Der Einsatz von KI-Tools, um Menschen zu täuschen oder zu betrügen, ist illegal. Durch das Durchgreifen gegen unlautere oder irreführende Praktiken stellt die FTC sicher, dass ehrliche Unternehmen und Innovatoren eine faire Chance erhalten und die Verbraucher geschützt werden.“

Hauptfrage: Welche Fälle umfasst die „Operation AI Comply“?

Die FTC hat fünf Unternehmen angeklagt, die mit überzogenen KI-Versprechen und betrügerischen Geschäftsmodellen Millionen von Dollar von Verbrauchern erschlichen haben. Nachfolgend ein Überblick über die wichtigsten Fälle:

1. DoNotPay: Der „Roboteranwalt“

DoNotPay behauptete, die „weltweit erste KI-Anwaltslösung“ zu sein, die es Verbrauchern ermöglichen würde, rechtliche Probleme ohne menschliche Anwälte zu lösen. Die FTC erhob Anklage, da das Unternehmen die Fähigkeiten seines Dienstes erheblich übertrieben habe. Die Versprechen, „perfekt gültige Rechtsdokumente in kürzester Zeit zu erstellen“ oder „Anwaltshonorare zu eliminieren“, konnten nicht gehalten werden. Laut der Beschwerde hatte DoNotPay keine Rechtsanwälte eingestellt oder die Leistung seiner KI-Anwendung getestet. Das Unternehmen hat einem Vergleich zugestimmt, der eine Strafe von 193.000 US-Dollar und die Warnung betroffener Nutzer beinhaltet.

2. Ascend Ecom: Falsche Versprechen über E-Commerce-Gewinne

Ascend Ecom und seine verschiedenen Ableger (u.a. ACV Partners und Ascend CapVentures) versprachen den Verbrauchern, mithilfe von „KI-gestützten Tools“ profitable Online-Geschäfte zu eröffnen. Die FTC wirft dem Unternehmen vor, seit 2021 mindestens 25 Millionen Dollar durch betrügerische Versprechen verdient zu haben. Kunden mussten zehntausende Dollar für das Einrichten von Online-Shops zahlen, während die versprochenen Einnahmen oft ausblieben. Das Verfahren gegen Ascend Ecom wird derzeit vor einem US-Gericht verhandelt.

3. Ecommerce Empire Builders: Teure Schulungen ohne Mehrwert

Ecommerce Empire Builders (EEB) bot Schulungen für bis zu 2.000 US-Dollar an, die angeblich den Aufbau von „KI-gestützten E-Commerce-Imperien“ ermöglichen sollten. Für Premium-Services verlangte das Unternehmen sogar bis zu 35.000 US-Dollar. Laut FTC erwirtschafteten fast alle Kunden keine nennenswerten Gewinne, und das Unternehmen verweigerte regelmäßig Rückerstattungen. Die FTC klagte EEB und seinen Geschäftsführer Peter Prusinowski an; ein Gericht hat den Betrieb vorläufig eingestellt.

4. Rytr: Automatische Erstellung gefälschter Bewertungen

Rytr ist ein KI-Schreibassistent, der gezielt für die Erstellung von „Testimonial & Review“-Inhalten vermarktet wurde. Laut FTC bot das Unternehmen eine Funktion, die es Nutzern ermöglichte, realistisch wirkende, aber irreführende Produktbewertungen zu generieren. Diese Praxen schadeten nicht nur Verbrauchern, die sich auf gefälschte Bewertungen verließen, sondern auch ehrlichen Wettbewerbern. Rytr hat einem Vergleich zugestimmt, der ihm die Werbung oder den Verkauf von KI-Diensten zur Erstellung von Verbraucherbewertungen untersagt.

5. FBA Machine: Betrug mit vermeintlichen KI-gestützten Shops

FBA Machine (ehemals Passive Scaling) versprach, dass seine „KI-gestützten Tools“ Konsumenten helfen würden, gewinnbringende Amazon-Shops zu betreiben. Der Hauptverantwortliche Bratislav Rozenfeld bot Verbrauchern „risikofreie“ Geschäftsmöglichkeiten an, die angeblich garantiert „7-stellige Einkünfte“ generieren würden. Die Realität sah jedoch anders aus: Die meisten Nutzer erlitten hohe Verluste. Der Betrieb wurde durch ein Gericht gestoppt, das Verfahren läuft noch.

Relevante Folgefragen und Erkenntnisse

1. Wie können Verbraucher sich vor irreführenden KI-Dienstleistungen schützen?

• Überprüfen Sie die Glaubwürdigkeit von Anbietern und deren Behauptungen.
• Achten Sie auf übermäßig hohe Gewinnversprechen oder revolutionäre Funktionen.
• Lesen Sie Nutzerbewertungen kritisch, insbesondere bei ungewöhnlich positiven Kommentaren.

2. Welche rechtlichen Maßnahmen kann die FTC bei KI-basiertem Betrug ergreifen?

• Die FTC kann rechtliche Schritte einleiten, um Unternehmen zur Zahlung von Strafen zu zwingen und Verbraucher zu entschädigen.
• In schwerwiegenden Fällen wird der Betrieb vorübergehend eingestellt und das Unternehmen unter die Aufsicht eines Gerichts gestellt.

3. Warum nehmen irreführende KI-Behauptungen zu?

• Die schnelle Verbreitung und der Hype um KI führen dazu, dass viele Unternehmen versuchen, ihre Produkte oder Dienstleistungen als fortschrittlicher darzustellen, als sie tatsächlich sind.
• Verbraucher, die wenig technisches Wissen haben, sind anfällig für gut klingende, aber falsche Versprechen.

Tipps und Hinweise für Verbraucher

• Seien Sie vorsichtig bei extrem positiven Bewertungen: Überprüfen Sie, ob die Bewertungen authentisch wirken oder alle die gleichen positiven Aussagen wiederholen.
• Suchen Sie nach Belegen für Leistungsversprechen: Seriöse Anbieter sollten Daten und Forschungsergebnisse vorlegen können, die die Leistungsfähigkeit ihrer KI-Dienste untermauern.
• Vermeiden Sie Dienstleistungen mit vagen Erklärungen: Wenn eine KI-Lösung als „revolutionär“ bezeichnet wird, aber keine Details zu ihrer Funktionsweise bereitgestellt werden, könnte dies ein Warnzeichen sein.

Ausblick: Die Zukunft von KI und Verbraucherschutz

Die FTC signalisiert mit der „Operation AI Comply“ klar, dass Unternehmen, die KI einsetzen, um Konsumenten zu täuschen, mit strengen Maßnahmen rechnen müssen. Dies gilt insbesondere in einem Umfeld, in dem KI-Innovationen rasant voranschreiten und Verbraucher zunehmend unsicher sind, welche Angebote seriös sind. Diese Maßnahmen sollen nicht nur Verbraucher schützen, sondern auch ehrlichen Unternehmen den Marktzugang erleichtern.

Durch regelmäßige Überprüfungen und die Veröffentlichung solcher Fälle wird die FTC weiterhin sicherstellen, dass Verbraucher über neue Entwicklungen und Risiken im Zusammenhang mit KI-Technologien informiert sind.

Schlussfolgerung und Handlungsaufforderung

Die „Operation AI Comply“ zeigt, dass die FTC entschlossen ist, betrügerische KI-Praktiken zu bekämpfen. Verbraucher sollten aufmerksam bleiben, KI-Versprechen kritisch hinterfragen und betrügerische Aktivitäten bei den zuständigen Behörden melden. Weitere Informationen und die Möglichkeit, verdächtige Vorfälle zu melden, finden sich auf der offiziellen FTC-Webseite unter consumer.ftc.gov.

Quellen: Federal Trade Commission (FTC) – Offizielle Pressemitteilung