Instagram entwickelt gerade eine neue Funktion, die Inhalte kennzeichnet, wenn sie mit KI erstellt oder bearbeitet wurden. Dies wird besonders wichtig, um Benutzern zu zeigen, wenn KI in der Gestaltung der Inhalte eine Rolle gespielt hat.
Entdeckung der neuen Funktion
Der App-Forscher Alessandro Paluzzi, der oft neue Instagram-Funktionen entdeckt, bevor sie offiziell bekannt gegeben werden, hat einen Screenshot einer Seite in der Instagram-App gepostet. Darauf steht: „Der Ersteller oder Meta sagte, dass dieser Inhalt mit KI erstellt oder bearbeitet wurde.“ Im speziellen Fall wurde ein Bild „von Meta KI“ generiert. Zudem wird kurz erläutert, was generative KI ist und wie man Beiträge identifiziert, die AI verwenden.
Verpflichtung zu verantwortungsbewusster KI Entwicklung
Diese Entdeckung erfolgt kurz nachdem Meta, zusammen mit anderen großen KI Playern wie Google, Microsoft und OpenAI, sich gegenüber dem Weißen Haus zur verantwortungsbewussten Entwicklung von KI bekannt hat. Eine der Verpflichtungen beinhaltet die Entwicklung eines Wasserzeichensystems, um Benutzer darüber zu informieren, wenn Inhalte von KI generiert wurden.
Unklarheiten und Meta’s Engagement
Es ist noch unklar, wie automatisiert das Kennzeichnungssystem von Instagram sein wird. Die Tatsache, dass die Notiz die Worte „Meta sagte“ enthält, deutet darauf hin, dass das Tech-Unternehmen die Notiz in einigen Fällen proaktiv anwenden wird. Meta selbst lehnte es ab, einen Kommentar dazu abzugeben.
Meta hat kürzlich sein großes Sprachmodell LLaMA 2 Open Source gemacht, hat aber noch keine kundenorientierten generativen KI-Funktionen für Produkte wie Instagram weit verbreitet. Es gibt jedoch Hinweise auf solche Funktionen. CEO Mark Zuckerberg erwähnte in einer Besprechung im Juni, dass Meta Funktionen wie Textaufforderungen zur Modifizierung von Fotos für Instagram Stories entwickelt. Der Financial Times zufolge könnte Meta auch schon nächsten Monat eine KI-Chatbot-‘Personas’-Funktion in seine Produkte integrieren.
Instagram: Gefahren und andere Entwicklungen
Obwohl die Technologie noch in den Kinderschuhen steckt, gab es schon Beispiele dafür, wie KI-generierte Desinformation aussehen könnte. Ein Beispiel ist ein virales Bild des Papstes in einer aufgeblasenen Jacke. Dies wurde als Warnung gesehen, dass nun einfache Werkzeuge existieren, um gefährliche Fehlinformationen zu verbreiten.
Nicht nur Meta ist aktiv. Google hat bereits ein neues Tool angekündigt, das es den Benutzern erleichtern soll, festzustellen, ob ein Bild von KI generiert wurde. Die „About this image“-Funktion wird diesen Sommer eingeführt und soll den ersten Ort hervorheben, an dem ein Bild vom Suchriesen indexiert wurde, um wichtige Hinweise auf seinen Ursprung zu geben.
Fazit
Die Kennzeichnung von mit KI erstellten oder bearbeiteten Inhalten wird ein wichtiger Schritt sein, um Transparenz und Verantwortung in der digitalen Welt zu fördern. Instagrams Bemühungen, zusammen mit den Entwicklungen anderer großer Unternehmen, sind ein positiver Schritt in diese Richtung.
Quelle: The Verge