In der Marketingabteilung der Cerbo GmbH geht’s rund.
Der neue Blogartikel ist fertig, das LinkedIn-Posting ist vorbereitet und das passende Bild hat die KI geliefert. Und das Bild ist ziemlich gelungen, findet das Marketing – es schaut so gar nicht nach KI aus.
Nur die Praktikantin schaut etwas skeptisch auf den Bildschirm.
„Müssen wir da eigentlich dazuschreiben, dass das Bild mit KI gemacht wurde?“
Gute Frage.
Und wie schaut’s eigentlich mit dem Blogartikel aus? ChatGPT hat da ja schließlich auch mitgeholfen. Gleich wie beim LinkedIn-Posting.
Während im Marketingbüro noch heftig diskutiert wird, erscheint Herr Gruber in der Tür.
Ausgerechnet Herr Gruber, die graue Eminenz der Buchhaltung, wie üblich im braunen Tweedanzug. In der einen Hand die Kaffeetasse, unter dem Arm seine abgegriffene schwarze Ledermappe. Vor ihm ein Kipferl. Na ja, eigentlich ein Croissant. Die Praktikantin hat sich beim Bäcker vergriffen. Herr Gruber ist wenig begeistert.
„Also, wenn ihr mich fragt, müsst ihr das alles kennzeichnen!“
Herr Gruber hat sich nämlich informiert über diesen AI Act.
Und er erklärt jetzt, dass alles, was mit KI gemacht wurde, gekennzeichnet werden muss.
Nur: Hat Herr Gruber recht?
Muss wirklich alles gekennzeichnet werden?
Wer muss eigentlich KI-generierte Inhalte kennzeichnen – und wann? Die kurze Antwort auf Herrn Grubers Behauptung:
Nein, nicht alles muss gekennzeichnet werden.
Herr Gruber liegt mit seiner Vorsicht aber nicht komplett daneben.
Wer KI-generierte Inhalte kennzeichnen muss und wann, regelt unter anderem Artikel 50 des EU AI Act.
Aber diese Vorschriften greifen eben nicht für alles, was irgendwie mit KI in Berührung kam.
Sonst müssten wir wahrscheinlich bald unter jede E-Mail schreiben, dass ChatGPT bei der Formulierung geholfen hat. Und unter jede Präsentation, dass Copilot ein paar Folien beigesteuert hat.
So weit geht der AI Act nicht.
Entscheidend ist nämlich, was mit der KI erzeugt wird, wie das Ergebnis verwendet wird und wer dafür verantwortlich ist.
Denn der AI Act unterscheidet auch zwischen den Unternehmen, die KI-Systeme anbieten, und jenen, die sie verwenden.
Und das macht einen Unterschied.
Schauen wir also, was bei Cerbo jetzt wirklich gekennzeichnet werden muss.
Ein KI-generiertes Bild. Muss da jetzt ein Hinweis drauf?
Zurück ins Marketingbüro der Cerbo GmbH.
Das Bild für den neuen Blogartikel zeigt eine gemütliche Büroszene. Ein paar Menschen sitzen bei einer Besprechung, auf dem Tisch stehen Kaffeetassen und ein Laptop. Alles mit KI erstellt.
Die Personen gibt es nicht wirklich, die Besprechung hat nie stattgefunden.
Muss da jetzt „KI-generiert“ unter das Bild geschrieben werden?
Nicht unbedingt.
Denn der AI Act unterscheidet zwischen zwei Arten der Kennzeichnung.
Zum einen gibt es die "technische Kennzeichnung"
Anbieter von KI-Systemen, die Bilder erzeugen, müssen dafür sorgen, dass diese Bilder maschinenlesbar als KI-generiert oder KI-manipuliert erkennbar sind.
Anbieter sind die Unternehmen, die KI-Systeme entwickeln oder entwickeln lassen und unter ihrem eigenem Namen auf den Markt bringen oder in Betrieb nehmen. Also zum Beispiel der Anbieter des KI-Bildgenerators oder OpenAI bei ChatGPT.
Das heißt aber nicht, dass unter jedem Bild sichtbar „KI-generiert“ stehen muss.
Die technische Kennzeichnung ist in erster Linie eine Pflicht der Anbieter solcher KI-Systeme. Sie muss maschinenlesbar sein, aber nicht als sichtbarer Hinweis unter dem Bild stehen.
Für KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht worden sind, läuft für diese technische Kennzeichnungspflicht noch eine Übergangsfrist bis zum 2. Dezember 2026.
Zum anderen gibt es die "Offenlegungspflicht für Deepfakes"
Stellen wir uns vor, bei der Cerbo wird ein täuschend echtes Bild der Geschäftsführerin erstellt, auf dem sie einen Preis entgegennimmt, den sie nie gewonnen hat.
Das ist ein typischer Fall für die Deepfake-Regeln.
Der AI Act versteht darunter künstlich erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die echten Personen, Gegenständen, Orten oder Ereignissen ähneln und fälschlicherweise für echt gehalten werden könnten.
Unternehmen, die solche Deepfakes einsetzen, müssen grundsätzlich offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Und was heißt das jetzt für Cerbo?
Beim erfundenen Bürobild kommt es darauf an, wie es dargestellt und verwendet wird.
Ist es klar als Illustration erkennbar und täuscht keine tatsächliche Situation vor, besteht nach Artikel 50 EU AI Act grundsätzlich keine Pflicht zu einem sichtbaren KI-Hinweis.
Beim täuschend echten Bild der Geschäftsführerin mit ihrem erfundenen Preis dagegen schon (sofern keine Ausnahme greift).
Und ganz unabhängig von der Kennzeichnungspflicht sollte Cerbo überlegen, ob das Bild einen falschen Eindruck erweckt.
Denn nicht alles, was rechtlich erlaubt ist, ist auch eine gute Idee.
Blogartikel und LinkedIn-Posting: Muss ich KI-Texte kennzeichnen?
Das mit dem Bild ist also geklärt.
Aber was ist jetzt mit den Texten?
Beim Blogartikel hat ChatGPT mitgeholfen, das LinkedIn-Posting wurde sogar zum größten Teil von der KI vorformuliert.
Herr Gruber bleibt skeptisch. Wenn es nach ihm geht, muss alles gekennzeichnet werden. Schließlich hat die KI ja ordentlich mitgeschrieben.
Aber auch hier gilt: Nicht jeder Text, bei dem KI im Spiel war, muss gekennzeichnet werden.
Artikel 50 des AI Acts sieht eine Offenlegungspflicht für KI-generierte und KI-manipulierte Texte vor, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Was sind jetzt eigentlich diese „Angelegenheiten von öffentlichem Interesse“?
Zum Beispiel politische Entscheidungen, Gesundheitsthemen oder gesellschaftliche Entwicklungen, die viele Menschen betreffen.
Wenn Cerbo also einen KI-generierten Artikel darüber veröffentlicht, wie sich KI auf Arbeitsplätze auswirkt, kann das darunterfallen.
Ein stinknormales LinkedIn-Posting über die neuen Produkte der Cerbo GmbH fällt da nicht automatisch darunter.
Und auch ein Blogartikel muss nicht allein deshalb gekennzeichnet werden, weil ChatGPT bei den Formulierungen geholfen hat.
Außerdem gibt es da noch eine wichtige Ausnahme:
Wenn der KI-generierte Text von Menschen überprüft oder redaktionell bearbeitet wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt, dann entfällt diese Offenlegungspflicht nach Artikel 50.
Was heißt das jetzt für Cerbo?
Für das LinkedIn-Posting über die eigenen Produkte braucht Cerbo nach Artikel 50 grundsätzlich keinen Hinweis.
Beim Blogartikel kommt es auf den Inhalt und den redaktionellen Umgang an.
Geht es zum Beispiel um eine gesellschaftlich relevante Frage, sollte Cerbo prüfen, ob die besondere Transparenzpflicht für Texte greift. Wurde der Text aber menschlich geprüft oder redaktionell kontrolliert und ist die redaktionelle Verantwortung klar geregelt, entfällt auch hier die Pflicht zur Offenlegung.
Und ganz unabhängig von der Kennzeichnung gilt:
Wer einen Text veröffentlicht, sollte auch wissen, was drinsteht.
Die Verantwortung für den Inhalt verschwindet schließlich nicht, nur weil die KI mitgeschrieben hat.
Ein Chatbot auf der Website. Muss sich der vorstellen?
Während im Marketingbüro noch eifrig über Blogartikel und LinkedIn-Posting diskutiert wird, schaut der exzentrische Kollege vorbei.
Er hat Neuigkeiten.
Auf der Cerbo-Website gibt es jetzt einen Chatbot.
Der beantwortet Fragen von Kund:innen, hilft bei der Produktauswahl und ist sogar ziemlich freundlich.
Dass hinter dem freundlichen Chatfenster eine KI steckt und niemand aus dem Support, ja das hat der Kollege nicht so explizit auf die Website geschrieben.
Herr Gruber wird hellhörig.
Und diesmal hat er tatsächlich recht.
Anbieter von KI-Systemen, die direkt mit Menschen interagieren, müssen grundsätzlich dafür sorgen, dass diese Menschen darüber informiert werden, dass sie es mit KI zu tun haben. So steht es in Artikel 50 Absatz 1 des AI Acts.
Es gibt allerdings eine Ausnahme: Wenn für eine einigermaßen informierte, aufmerksame und verständige Person ohnehin offensichtlich ist, dass sie mit einer KI kommuniziert, braucht es keinen zusätzlichen Hinweis.
Aber darauf würde ich mich bei einem Chatbot für Kund:innen nicht unbedingt verlassen. Und Herr Gruber auch nicht.
Was heißt das jetzt für Cerbo?
Auch wenn die gesetzliche Pflicht aus Artikel 50 Absatz 1 grundsätzlich den Anbieter trifft, sollte Cerbo auf der eigenen Website für Klarheit sorgen. Am einfachsten gleich zu Beginn des Chats.
Zum Beispiel:
„Hallo! Ich bin Pinky, der KI-Assistent der Cerbo GmbH und helfe gerne bei Fragen zu unseren Produkten.„
Das ist weder kompliziert noch besonders aufwendig.
Wichtig ist, dass die Information rechtzeitig kommt.
Ein versteckter Hinweis irgendwo in der Datenschutzerklärung ist zu wenig.
Und noch etwas:
Wenn der Chatbot personenbezogene Daten verarbeitet, muss Cerbo zusätzlich die DSGVO beachten.
Das ist aber eine andere Baustelle, die wir in einer eigenen Artikelreihe genauer unter die Lupe nehmen.
Wenn die Chefin plötzlich Dinge sagt, die sie nie gesagt hat
Zurück zu Cerbo.
Das Marketing überlegt, ob man für die nächste Produktvorstellung nicht gleich ein Video machen könnte. Mit KI ist das schließlich ratzfatz erledigt.
Die Idee: Die Geschäftsführerin präsentiert das neue Produkt. Sie schaut direkt in die Kamera, spricht mit ihrer eigenen Stimme und erklärt die Vorteile.
Nur hat sie das Video nie aufgenommen.
Und auch den Text hat sie nie gesprochen.
Das ist der Punkt, wo wir wieder zu den Deepfakes kommen.
Wer KI-generierte oder KI-manipulierte Bild-, Ton- oder Videoinhalte einsetzt, die echte Personen, Orte oder Ereignisse täuschend echt darstellen und damit als Deepfake einzustufen sind, muss grundsätzlich offenlegen, dass diese künstlich erzeugt oder verändert wurden.
Das gilt auch dann, wenn die Geschäftsführerin mit dem Video einverstanden ist.
Ihre Zustimmung ersetzt nicht automatisch die Transparenzpflicht nach dem AI Act.
Was heißt das jetzt für Cerbo?
Wenn Cerbo ein solches Video veröffentlicht, muss grundsätzlich erkennbar sein, dass es künstlich erzeugt oder manipuliert wurde.
Zum Beispiel durch einen gut wahrnehmbaren Hinweis.
„Dieses Video wurde mithilfe künstlicher Intelligenz erstellt. Bild und Stimme der Geschäftsführerin sind KI-generiert.„
Ein solcher Hinweis darf aber nicht irgendwo versteckt sein, sondern muss für das Publikum klar erkennbar sein.
Und noch was: Die Einwilligung der betroffenen Person, Persönlichkeitsrechte und gegebenenfalls Datenschutzfragen müssen zusätzlich berücksichtigt werden.
Praktisch heißt das: Bevor Cerbo ein KI-Video mit einer echten Person veröffentlicht, sollte geklärt sein, ob die Person einverstanden ist, ob das Video als Deepfake einzuordnen ist und wie die KI-Erstellung offengelegt wird.
KI-generierte Inhalte kennzeichnen: Also doch nicht überall?
Nein. Herr Gruber darf beruhigt sein. Zumindest ein bisschen.
Der AI Act verlangt keine pauschale Kennzeichnung aller Inhalte, bei denen KI mitgeholfen hat.
Für Cerbo heißt das:
- KI-generierte Bilder:
Nicht automatisch sichtbar kennzeichnungspflichtig. Bei Deepfakes schaut die Sache anders aus. - Blogartikel und Social-Media-Posts:
Nicht jeder KI-Text braucht einen Hinweis. Entscheidend sind unter anderem der Inhalt, der Zweck der Veröffentlichung und die redaktionelle Verantwortung. - KI-Chatbots:
Menschen müssen grundsätzlich erkennen können, dass sie mit einer KI kommunizieren. - Deepfake-Videos und -Stimmen:
Hier besteht grundsätzlich eine Offenlegungspflicht, auch wenn die dargestellte Person einverstanden ist. Besondere Ausnahmen und Erleichterungen sind jedoch möglich.
Herr Gruber wird noch einmal nachlesen. Sicherheitshalber.
Und das ist ja auch nicht falsch.
Denn die Frage lautet ja: Welche Transparenzpflicht gilt für meinen konkreten Fall?
Der AI Act verlangt nicht, dass wir jeden KI-Einsatz mit einem Warnschild versehen.
Aber er verlangt in bestimmten Fällen, dass Menschen informiert werden, wenn sie es mit KI oder künstlich erzeugten Inhalten zu tun haben.
Und selbst dort, wo keine gesetzliche Kennzeichnungspflicht besteht, kann ein freiwilliger Hinweis sinnvoll sein.
Nicht, weil Herr Gruber aus der Buchhaltung darauf besteht.
Weil Transparenz manchmal einfach die bessere Idee ist.
Quellen & weiterführende Informationen
EU AI Act: Verordnung (EU) 2024/1689 – Artikel 50
Kennzeichnungs- und Transparenzpflichten für KI-generierte Inhalte, Deepfakes und KI-Systeme, die direkt mit Menschen interagieren (Stand: 31.10.2026).
EU AI Act: Verordnung (EU) 2024/1689 – Artikel 3
Begriffsbestimmungen, insbesondere zu Deepfakes und zur Unterscheidung zwischen Anbietern und Betreibern von KI-Systemen (Stand: 31.10.2026).
Und wie schaut das bei Ihnen aus? Machen Sie den Kennzeichnungs-Check!
Schauen Sie sich einmal an, wo in Ihrem Unternehmen KI-generierte Inhalte veröffentlicht werden. Auf der Website, in Social Media oder vielleicht sogar in der Kommunikation mit den Kund:innen.
Wissen Sie, welche davon Sie tatsächlich kennzeichnen müssen?
Und falls Sie jetzt unsicher sind: Bevor Sie vorsichtshalber überall „KI-generiert“ draufschreiben, lohnt es sich, genauer hinzuschauen.
Denn KI-Kompetenz heißt auch, die Regeln zu kennen, die für den eigenen Einsatz gelten.
Genau darum geht’s übrigens auch in unserem
KI-Bootcamp BASIS.
Eva Jaritz
