Meta hat angekündigt, auf seinen Social Media Plattformen Facebook, Instagram und Threads KI-generierte Bilder und Videos kennzeichnen zu wollen.
Meta- Präsident Nick Clegg: „Wir haben fotorealistische Bilder, die mit Meta AI erstellt wurden, von Anfang an gekennzeichnet, damit die Nutzer erkennen können, wie sie erstellt wurden.“
Entsprechende Bilder werden mit der Kennzeichnung „Imagined with AI“ versehen. Um KI-Bilder, die mit Tools anderer Anbieter erstellt wurden, ebenfalls zu kennzeichnen, hat Meta mit Partnern an gemeinsamen technischen Standards gearbeitet, die signalisieren, wenn Inhalte mit KI erstellt wurden.
Unsichtbare Marker gemäß C2PA und IPTC-Standard sollen Bilder von Google, OpenAI, Microsoft, Adobe, Midjourney und Shutterstock kennzeichnen, so dass auch andere Plattformen sie erkennen können.
Nutzer will Meta außerdem verpflichten, von sich aus ihre KI-generierten Inhalte entsprechend zu kennzeichnen. Wer dem nicht nachkommt, soll sanktioniert werden. „Aber es ist noch nicht möglich, alle KI-generierten Inhalte zu identifizieren, und es gibt Wege, unsichtbare Markierungen zu entfernen“, so Nick Clegg. „Wir arbeiten intensiv daran, die Entfernung oder Veränderung unsichtbarer Wasserzeichen zu erschweren.“ So hat das KI-Forschungslabor FAIR von Meta eine Technologie unter dem Namen Stable Signature Wasserzeichen entwickelt, die nicht deaktiviert werden können.
„Menschen und Organisationen, die aktiv mit KI-generierten Inhalten täuschen wollen, werden nach Wegen suchen, um diese Sicherheitsvorkehrungen zu umgehen, daher müssen wir weiterhin nach Möglichkeiten suchen, um einen Schritt voraus zu sein“, so Clegg.
