Ab dem 2. August 2026 verpflichtet Artikel 50 des AI Act Unternehmen zu Transparenz bei Inhalten, die unter Beteiligung künstlicher Intelligenz entstehen. Kurz gesagt: Ein Chatbot muss sich als KI zu erkennen geben, generierte Grafiken, Audio und Video müssen maschinell gekennzeichnet werden, und Deepfakes sowie ein Teil der Texte erfordern einen für Menschen lesbaren Hinweis. Das betrifft jedes Unternehmen, das solche Inhalte auf dem EU-Markt veröffentlicht, nicht nur die Anbieter von Modellen. Dieser Leitfaden erklärt, wann die Pflicht tatsächlich entsteht, wann die redaktionelle Prüfung sie aufhebt und wie Sie den Prozess aufsetzen, bevor die Frist zum Problem wird.
Rechtsgrundlage ist die Verordnung (EU) 2024/1689, umgangssprachlich AI Act. Sie ist am 1. August 2024 in Kraft getreten, doch die einzelnen Teile gelten gestaffelt. Die Transparenzpflichten aus Artikel 50, also alles, wovon hier die Rede ist, gelten ab dem 2. August 2026. Das ist keine ferne Abstraktion für die Rechtsabteilungen großer Konzerne. Wenn Sie ein Medienhaus oder eine Agentur führen, einen Shop mit Chatbot betreiben oder einfach Grafiken aus einem Generator auf Ihre Website stellen, betrifft dieser Artikel Ihre tägliche Arbeit.
Es lohnt sich, gleich zwei Extreme zu entschärfen, die auf dem Markt kursieren. Das erste: „Der AI Act verbietet KI-Inhalte.” Er verbietet sie nicht. Artikel 50 untersagt nichts, er verlangt nur Transparenz. Das zweite: „Es reicht, made with AI in die Fußzeile zu schreiben.” Auch falsch, denn in vielen Fällen genügt der sichtbare Hinweis allein ohne die technische Ebene der Anforderung nicht. Die Wahrheit liegt dazwischen und ist machbarer, als die Panik nahelegt, aber anspruchsvoller, als ein Achselzucken vermuten lässt.
Was Artikel 50 des AI Act besagt
Artikel 50 teilt die Welt in zwei Rollen, und diese Unterscheidung entscheidet darüber, was Sie tun müssen. Der Anbieter (Provider) ist derjenige, der ein KI-System entwickelt oder bereitstellt. Der Betreiber (Deployer) ist derjenige, der das System nutzt und die Ausgabe veröffentlicht. Ein Unternehmen ist mitunter in beiden Rollen zugleich, etwa wenn es einen eigenen Generator gebaut hat und dessen Ausgaben selbst veröffentlicht.
Die vier Absätze von Artikel 50 verteilen die Pflichten so:
| Absatz | Wen es betrifft | Pflicht |
|---|---|---|
| Art. 50(1) | Anbieter | Ein KI-System, das mit Menschen spricht (Chatbot), muss darüber informieren, dass der Mensch es mit KI zu tun hat, es sei denn, dies ist aus dem Kontext offensichtlich. |
| Art. 50(2) | Anbieter | Ein System, das synthetisches Audio, Bild, Video oder Text erzeugt, muss die Ausgabe in einem maschinenlesbaren Format kennzeichnen, das als künstlich erzeugt oder manipuliert erkennbar ist; die Lösung muss wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch machbar ist. |
| Art. 50(3) | Betreiber | Wer ein System zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die betroffenen Personen darüber informieren. |
| Art. 50(4) | Betreiber | Wer ein Deepfake (Bild, Audio, Video) erzeugt oder manipuliert, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert ist; wer Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit in Angelegenheiten von öffentlichem Interesse zu informieren, muss dies ebenfalls offenlegen, es sei denn, der Inhalt wurde von einem Menschen geprüft oder redaktionell kontrolliert und jemand trägt die redaktionelle Verantwortung. |
Der häufigste Irrtum in Unternehmen besteht darin zu denken, dass Artikel 50 sie nicht betrifft, weil sie das Modell nicht selbst gebaut haben. Er betrifft sie. Absatz 4 spricht ausdrücklich vom Betreiber, also von Ihnen, wenn Sie eine Grafik aus einem Generator nehmen und auf die Website eines Kunden stellen. Die Pflicht zur maschinellen Kennzeichnung aus Absatz 2 liegt beim Anbieter des Modells, doch die Pflicht zur Offenlegung eines Deepfakes und eines informierenden Textes liegt bei demjenigen, der veröffentlicht.
Wann Sie kennzeichnen MÜSSEN und wann nicht
Hier liegt der Kern, denn das Recht behandelt nicht alle Inhalte gleich. Die Trennlinie verläuft zwischen visuell-akustischen Medien und Text sowie zwischen freiem Text und redaktionell geprüftem Text.
Für Bild, Audio und Video ist die Regel hart. Wenn der Inhalt künstlich erzeugt oder so manipuliert ist, dass er den Eindruck von Echtheit erweckt (Deepfake), muss der Betreiber dies offenlegen. Hier gibt es nicht die bequeme redaktionelle Ausnahme, die man vom Text kennt. Die einzige Milderung betrifft offenkundig künstlerische oder satirische Werke, bei denen die Offenlegung so erfolgen soll, dass sie den Genuss des Werks nicht beeinträchtigt.
Für Text gibt es eine wesentliche Ausnahme. Text, der veröffentlicht wird, um die Öffentlichkeit in Angelegenheiten von öffentlichem Interesse zu informieren, erfordert eine Offenlegung, aber nicht dann, wenn er von einem Menschen geprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung dafür trägt. Das ist die Tür für Redaktionen und für jeden, der einen echten Freigabeprozess für Inhalte hat und nicht die rohe Ausgabe des Modells direkt auf die Seite stellt.
| Inhaltstyp | Situation | Für Menschen kennzeichnen |
|---|---|---|
| KI-Grafik | Realistisches Foto einer Person, eines Orts, eines Ereignisses (Deepfake) | Ja, Offenlegung erforderlich |
| KI-Grafik | Deutlich illustrativ, abstrakt, nicht die Realität vortäuschend | Meist nicht als Deepfake, aber gute Praxis, sie zu kennzeichnen |
| KI-Video oder -Audio | Synthetische Stimme, Avatar, geklonte Stimme | Ja, Offenlegung erforderlich |
| KI-Text | Artikel, der die Öffentlichkeit informiert, ohne Redaktion | Ja, Offenlegung erforderlich |
| KI-Text | Derselbe Artikel nach Prüfung und mit redaktioneller Verantwortung | Nein, die redaktionelle Ausnahme greift |
| KI-Text | Produktbeschreibung, interne Notiz, nicht informierender Inhalt | Außerhalb des Umfangs der Offenlegungspflicht |
| Chatbot | Assistent, der mit dem Kunden spricht | Ja, muss informieren, dass es sich um KI handelt |
| Geringfügige KI-Bearbeitung | Korrektur, Stilverbesserung ohne Sinnänderung | Generell außerhalb des Umfangs |
Die Grenze der „geringfügigen Bearbeitung” ist für Agenturen und Marketer praktisch am wichtigsten. Wenn die KI die Interpunktion korrigiert oder einen Absatz kürzt, ohne Bedeutung und Kontext zu verändern, ist das eine unterstützende Bearbeitung, die in der Regel keine Pflicht auslöst. Wenn die KI die gesamte Erzählung schafft, eine Aussage fabriziert oder ein fotorealistisches Bild eines Ereignisses erzeugt, das nie stattgefunden hat, sind Sie auf der anderen Seite der Linie.
Zwei Kennzeichnungsebenen
Das Wichtigste, das man sich merken muss: Compliance ist keine einzelne Geste, sondern zwei Ebenen. Man kann die eine ohne die andere haben und trotzdem nicht konform sein.
Die erste Ebene, die maschinelle, ergibt sich aus Absatz 2. Die KI-Ausgabe soll ein Signal tragen, das eine Maschine erkennt: dass der Inhalt künstlich erzeugt oder manipuliert ist. In der Praxis wird das heute auf drei oft kombinierte Arten umgesetzt. C2PA Content Credentials ist ein offener Provenienz-Standard, der der Datei ein kryptografisch signiertes Manifest mit der Herkunftsgeschichte anfügt. Ein Wasserzeichen, sichtbar oder unsichtbar, das in die Pixel oder Tonproben eingewoben ist. Metadaten, also Felder, die in der Datei selbst gespeichert sind. Die Verordnung verlangt, dass die Lösung wirksam, interoperabel, robust und zuverlässig ist, soweit dies technisch machbar ist, weshalb leicht entfernbare Metadaten allein eine schwache Wahl sind.
Die zweite Ebene, die menschliche, ergibt sich aus Absatz 4. Das ist eine lesbare Information, die ein Mensch sieht und versteht: ein Hinweis unter der Grafik, eine Kennzeichnung am Artikel, ein Begrüßungssatz des Chatbots. Hier kehren wir zum Mythos aus der Einleitung zurück. Ein kleiner sichtbarer Hinweis „mit KI erstellt” kann für sich allein nicht ausreichen, denn er ersetzt nicht die maschinelle Ebene aus Absatz 2. Und umgekehrt erfüllt ein für den Leser unsichtbares technisches Wasserzeichen allein nicht die Offenlegungspflicht aus Absatz 4 dort, wo diese Pflicht besteht. Sie brauchen beide, abgestimmt auf den Inhaltstyp.
Eine technische Falle, die Praktiker überrascht: Die Veröffentlichungs-Pipeline kann die maschinelle Ebene zerstören. Bildoptimierung, Konvertierung nach AVIF, das Durchleiten der Datei durch ein CDN oder die Medienbibliothek im CMS entfernt häufig Metadaten und C2PA-Manifeste. Wenn Sie eine gekennzeichnete Datei hochladen und das System unterwegs die Metadaten entfernt, verschwindet die Kennzeichnung, und Sie sind wieder am Ausgangspunkt, ohne es zu wissen.
So setzen Sie es Schritt für Schritt um
Die drei häufigsten Kontexte, in denen das auf dem Schreibtisch von Marketern und Agenturen landet, sind Social Media, die Website und Marketingmaterialien. Für jeden ist der Prozess ähnlich, aber die Details unterscheiden sich.
In Social Media haben Plattformen zunehmend eigene Mechanismen zur Offenlegung von KI, und ein Teil davon liest C2PA und fügt die Kennzeichnung automatisch hinzu. Das entbindet Sie nicht von der Verantwortung, erleichtert aber die menschliche Ebene. Ein praktischer Schritt: Kennzeichnen Sie die C2PA-Datei an der Quelle, bevor sie auf die Plattform gelangt, und aktivieren Sie beim Veröffentlichen die verfügbaren Schalter „KI-generierter Inhalt”. Verlassen Sie sich nicht allein darauf, dass die Plattform es erkennt, denn die Komprimierung beim Upload ist mitunter aggressiv.
Auf Ihrer eigenen Website haben Sie volle Kontrolle und volle Verantwortung. Hier hilft eine Agentur dem Kunden wirklich: eine Kennzeichnungskomponente für Grafiken und Videos gestalten, einen Disclaimer für den Chatbot hinzufügen und im CMS sicherstellen, dass die Bild-Pipeline die Provenienzdaten nicht entfernt oder dass die Kennzeichnung unabhängig von den Metadaten angefügt wird. Für einen Blog mit redaktionellem Prozess ist es entscheidend, diesen Prozess zu dokumentieren, denn er löst die Ausnahme aus Absatz 4 aus.
Bei Marketingmaterialien (Anzeigen, Präsentationen, Verkaufsinhalte) gehen Sie nach Risiko vor. Ein fotorealistisches Abbild einer Person, eine synthetische Stimme im Spot, der Avatar eines Moderators sind Fälle mit hohem Risiko, die eine Offenlegung erfordern. Eine abstrakte Hintergrundgrafik oder ein Icon ist ein Fall mit niedrigem Risiko. Bauen Sie eine einfache Checkliste, die das Team vor der Veröffentlichung durchgeht, statt jeden Fall von Neuem zu entscheiden.
Ein konkreter Mindestprozess sieht so aus: Inventarisierung der KI-Nutzung, Zuordnung des Inhaltstyps zur Anforderung, Aktivierung der maschinellen Ebene an der Quelle, Hinzufügen eines Hinweises für Menschen dort, wo nötig, und ein Entscheidungsregister mit einer redaktionell verantwortlichen Person. Die vollständige Version dieser fünf Schritte finden Sie im Anleitungsabschnitt dieses Artikels.
Die häufigsten Fallstricke
Erstens: das Verwechseln der Rollen. Ein Unternehmen nimmt an, dass Artikel 50 es nicht betrifft, weil es das Modell nicht trainiert hat. Als Betreiber, der ein Deepfake oder einen informierenden Text veröffentlicht, sind Sie Pflichtenträger, unabhängig davon, wessen Modell den Inhalt erzeugt hat.
Zweitens: die menschliche Ebene ohne die maschinelle, oder umgekehrt. Ein bloßer Hinweis unter dem Foto ersetzt nicht die Kennzeichnung aus Absatz 2, und ein bloßes unsichtbares Wasserzeichen ersetzt nicht die lesbare Offenlegung aus Absatz 4 dort, wo sie gilt.
Drittens: die Pipeline, die Metadaten löscht. Sie kennzeichnen die Datei, und das CMS, die Komprimierung oder das CDN entfernt die Provenienz bei der Veröffentlichung. Das muss an der realen, veröffentlichten Version der Datei getestet werden, nicht an der lokalen.
Viertens: Übereifer bei geringfügigen Bearbeitungen. Jede Interpunktionskorrektur als „KI-Inhalt” zu kennzeichnen, verwässert das Signal und ermüdet das Publikum. Eine unterstützende Bearbeitung, die den Sinn nicht verändert, liegt in der Regel außerhalb des Umfangs.
Fünftens: die redaktionelle Ausnahme als automatisch zu behandeln. Die Ausnahme für Text greift nur dann, wenn tatsächlich eine menschliche Prüfung stattfindet und jemand die redaktionelle Verantwortung trägt. Ohne einen dokumentierten Prozess lässt sie sich schwer geltend machen.
Was ist mit Polen und der Durchsetzung
Hier ist Vorsicht geboten. Polen benennt eine nationale Marktüberwachungsbehörde für den AI Act, doch zum Zeitpunkt der Veröffentlichung sollte die endgültige Form und Bezeichnung dieser Einrichtung als noch im Gange und nicht als abgeschlossene Tatsache behandelt werden. Sicher ist, dass die Durchsetzung national erfolgt und die Sanktionen unmittelbar aus der Verordnung folgen, also nicht auf ein polnisches Gesetz warten, um wirksam zu sein.
Die Höhe der Bußgelder beeindruckt. Verstöße gegen Artikel 50 unterliegen Artikel 99 und können bis zu 15 Millionen Euro oder 3 Prozent des gesamten weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist. Das ist bewusst die niedrigere Stufe in der Verordnung, denn verbotene Praktiken werden strenger geahndet, mit bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes. Für ein kleines Unternehmen ist das reale Risiko nicht die Obergrenze, sondern dass die Pflicht besteht, aber kein Prozess vorhanden ist.
Es gibt auch ein bewegliches Element. Die Europäische Kommission finalisiert gemeinsam mit dem AI Office einen Verhaltenskodex und Leitlinien zur Kennzeichnung und Erkennung von KI-Inhalten. Diese werden die technischen Details ergänzen, etwa welche Kennzeichnungsmethoden konkret als ausreichend robust gelten. Deshalb sollten Sie den Prozess flexibel aufbauen, bereit für eine Präzisierung, und nicht auf eine einzige Lösung festbetoniert.
Was Sie heute tun sollten
Warten Sie nicht auf den 2. August 2026, denn die Umsetzung der zwei Ebenen dauert länger als eine Woche, und das Testen der Pipeline auf das Entfernen von Metadaten kann Überraschungen zutage fördern. Beginnen Sie mit der Inventarisierung: Erfassen Sie jeden Ort, an dem KI Ihre Inhalte berührt, und ordnen Sie die Rolle Anbieter oder Betreiber zu. Ordnen Sie dann den Inhaltstyp der Anforderung gemäß der Tabelle oben zu. Aktivieren Sie anschließend die maschinelle Ebene an der Quelle und den lesbaren Hinweis dort, wo er gilt. Halten Sie zum Schluss den Prozess fest und bestimmen Sie eine redaktionell verantwortliche Person, denn sie löst die Ausnahme für Text aus.
Der günstigste Schritt heute sind zwei Dokumente: eine kurze Checkliste vor der Veröffentlichung und ein Entscheidungsregister. Der teuerste Fehler ist die Annahme, dass es Sie nicht betrifft, weil Sie das Modell nicht gebaut haben. Transparenz ist zudem ein Vorteil. Eine klare Kennzeichnung schafft Vertrauen beim Publikum, und in einer von synthetischen Inhalten überschwemmten Welt hebt sich eine Marke, die mit offenen Karten spielt, positiv ab.
Wenn Sie möchten, dass wir das gemeinsam mit Ihnen durchgehen, führen wir ein Audit der KI-Nutzung und die Umsetzung des Kennzeichnungsprozesses für Websites, Shops und Redaktionen durch: Inventarisierung, maschinelle Ebene in der Veröffentlichungs-Pipeline, Offenlegungskomponenten und Redaktionsrichtlinie. Schreiben Sie uns, und wir erstellen ein individuelles Angebot, das auf Ihren Stack und den Umfang Ihrer Veröffentlichungen zugeschnitten ist.
Letzte Prüfung der Rechtsfakten: 2. Juni 2026.
