Müssen KI-generierte Inhalte gekennzeichnet werden?

Anlass für diese Überlegung ist der so genannte „EU AI-Act“, der als europäische Verordnung am 01.08.2024 in Kraft getreten ist und in jedem Mitgliedsstatt der EU seitdem unmittelbar, wie ein (deutsches) nationales Gesetz, zur Anwendung kommt. 

Also, wie sieht es jetzt rechtlich aus? Aktuell besteht nach dieser Verordnung noch keine gesetzliche Kennzeichnungspflicht. Die Kennzeichnungspflichten aus Art. 50 gelten erst ab dem 02.08.2026 (vgl. Art. 113 Abs. 2). Erst ab dann müssen KI-generierte Inhalte gemäß der gesetzlichen Vorgaben gekennzeichnet werden.

Welche Vorgaben machen die Betreiber der Netzwerke wie TikTok, Instagram und Facebook zum Einsatz von KI? 

1.TikTok

TikTok hat keine explizite, separate Kennzeichnungspflicht für KI-generierte Inhalte festgelegt. Die Plattform hat jedoch allgemeine Richtlinien zur Authentizität und zum Schutz vor Desinformation. Im Allgemeinen wird erwartet, dass alle Inhalte authentisch sind und keine Täuschung verursachen.

Welche Sanktionen drohen, wenn Sie sich nicht an diese Vorgaben halten?

Verstöße gegen die allgemeinen Community-Richtlinien oder gegen die Integrität von Inhalten (z.B. durch irreführende oder täuschende Inhalte; = "Manipulation" und "Desinformation") können folgende Konsequenzen haben:

• Entfernung des Inhalts
• Einschränkungen des Kontos
• Sperrung des Profils bei wiederholten Verstößen

2. Instagram (Meta)

Auch Instagram verlangt keine ausdrückliche Kennzeichnung von KI-generierten Inhalten. Allgemein gilt aber auch hier, dass wenn Inhalte gegen die Instagram-Richtlinien oder Werberichtlinien verstoßen (einschließlich Manipulation von Inhalten oder Täuschung), verschiedene Strafen ausgesprochen werden können wie:

• Löschen des Inhalts
• Einschränkung oder Sperrung des Kontos
• Vorübergehende oder dauerhafte Sperrung des Zugriffs auf bestimmte Funktionen (z.B. Werbung)

3. Facebook (Meta)

Da auch Facebook zum Meta-Konzern gehört,gibt es ebenfalls keine explizite Vorschrift, dass KI-generierte Inhalte auf Facebook zwingend als solche gekennzeichnet werden müssen. Dennoch gelten auch hier die gleichen allgemeinen Standards hinsichtlich Authentizität und der Verhinderung von Täuschung wie bei Instagram. Die Sanktionen sind die gleichen wie bei Instagram.

Sollte vielleicht dennoch schon jetzt gekennzeichnet werden? 

Auch wenn aktuell noch keine gesetzlichen Kennzeichnungspflichten zur Anwendung kommen, halte ich es dennoch für sinnvoll, bereits jetzt KI-generierte Videos, Fotos oder Audioinhalte entsprechend zu markieren. 

Gerade manipulierte Fotos suggerieren häufig eine perfekte Social Media Optik, die mit der Realität nichts zu tun hat. Die Folge daraus ist ein verzerrtes Bild mit unrealistischen Körperidealen, die gerade bei Kindern und Jugendlichen einen enormen Körperdruck und eine verschobene Selbstwahrnehmung erzeugen. Zu diesem Problem habe ich schon im Jahr 2021 eine Podcastfolge unserer Anwaltssprechstunde aufgenommen, hört bei Interesse gern nochmal rein (Folge 21 vom 04.10.2021).

Und da die Plicht sowieso ab dem 02.08.2026 besteht, kann man sich auch jetzt schon daran halten und entsprechend vorbereitet sein. 

Was ist konkret zu markieren?

KI-generierte Bild-, Audio und Videoinhalte müssen, sofern sie Deepfakes sind (= die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise echt oder wahr erscheinen würden), ab dem 02.08.2026 gekennzeichnet werden (Ausnahmen bzw. geringere Anforderungen gelten für Kunst).

KI-generierter Text muss als solcher gekennzeichnet werden, sofern er die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert. Dies gilt aber dann nicht, wenn der Text redaktionell von einem Menschen geprüft wurde und der Mensch die rechtliche Verantwortung für den Inhalt übernimmt. 

Wie können solche Hinweise formuliert werden? 

Mit einem klar formulierten Hinweissatz kann man am Anfang oder Ende eines Textes oder eines Videos bzw. in Begleittexten zu einem Beitrag oder Foto darauf hinweisen, dass dieser Inhalt mit einem KI-Tool erstellt wurde (“Hinweis: Dieser Text/dieses Bild/ dieses Video wurde mit Hilfe von KI erstellt.”). In den sozialen Netzwerken kann man auch die vond en Betreibern vorgegebenen Kennzeichungsmöglichkeiten nutzen. Alternativ bietet sich auch die Verwendung von Hashtags an wie #KI oder „AI“.