Kennzeichnung KI-generierter Inhalte nach Art. 50 der KI-Verordnung der EU

Zwei Pflichten, zwei Akteure

Art. 50 der Verordnung (EU) 2024/1689 trennt die technische Ebene von der Ebene, die sich an den Menschen richtet, und beide sollten auseinandergehalten werden. Der Anbieter eines generativen KI-Systems, also die Person, die das System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen in Verkehr bringt oder in Betrieb nimmt, auch zum Eigengebrauch, muss sicherstellen, dass die Ausgaben des Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Diese Pflicht erfasst synthetische Audio-, Bild- und Videoinhalte und Text, und sie wird in der Infrastruktur umgesetzt: Wasserzeichen, Metadaten, Herkunftssignaturen, digitale Fingerabdrücke. Die Pflicht knüpft an das System an, auch an ein KI-System mit allgemeinem Verwendungszweck, das auf dem Modell eines Dritten aufbaut; wer nur ein KI-Modell mit allgemeinem Verwendungszweck als solches bereitstellt, unterliegt den gesonderten Pflichten für Modelle, und die Kennzeichnungspflicht gilt für ihn nicht.

Ein sichtbarer Hinweis ist das nicht, und die Pflicht steht unter dem Vorbehalt der Machbarkeit; dazu unten mehr. Sie gilt auch nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten des Betreibers oder deren Semantik nicht wesentlich verändert, und in diesen Bereich fällt ein grosser Teil der alltäglichen KI-gestützten Textarbeit; die Leitlinien der Kommission nennen Beispiele dafür, was als Standardbearbeitung gilt, und nehmen unter anderem kurze Zeichenfolgen, Quellcode und Ausgaben von Maschine zu Maschine aus.

Den Anbieter trifft auch die Interaktionspflicht nach Art. 50 Abs. 1: Ein System, das für die Interaktion mit natürlichen Personen bestimmt ist, muss so konzipiert und entwickelt werden, dass die betreffenden Personen informiert werden, dass sie es mit einem KI-System zu tun haben, es sei denn, dies ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. Die Offenlegung beim Chatbot ist somit eine Gestaltungspflicht des Anbieters des Systems. Ein Unternehmen, das den Chatbot eines Lieferanten lediglich so einsetzt, wie er geliefert wurde, ist nicht dieser Anbieter und sollte vor der Einführung prüfen, ob das System die Pflicht erfüllt; ein Unternehmen, das einen Chatbot für sich entwickeln lässt oder ihn auf dem Modell eines Dritten selbst entwickelt und ihn unter eigenem Namen in Betrieb nimmt, ist Anbieter dieses Systems und zugleich dessen Betreiber.

Den Betreiber, das Unternehmen, das ein KI-System verwendet, treffen Informationspflichten gegenüber den betroffenen Personen, aber nur in bestimmten Fällen: die Offenlegung bei Deepfakes und bei bestimmten Texten zu Angelegenheiten von öffentlichem Interesse sowie, nach Art. 50 Abs. 3, die Pflicht, die davon betroffenen Personen zu informieren, wenn er ein Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung betreibt. Die FAQ der Kommission zu Art. 50 und der AI Act Service Desk (dessen Text noch nicht an die Änderungen durch die Digital-Omnibus-Verordnung zur KI angepasst ist) legen diese Struktur von offizieller Seite dar.

Text: Was die Pflicht des Betreibers erfasst

Die Frage ist für die beiden Ebenen getrennt zu beantworten. Auf der Ebene des Anbieters ist Text erfasst: Der Anbieter eines Systems, das synthetischen Text erzeugt, muss diese Ausgaben maschinenlesbar kennzeichnen. Auf der Ebene des Betreibers ist die Offenlegungspflicht für Text bewusst eng gefasst: Sie gilt, wenn durch KI erzeugter oder manipulierter Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und selbst dann entfällt sie, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Auf dieser Ausnahme liegt in der Praxis das Gewicht.

Der Text enthält zwei weitere Grenzen. Ist ein Deepfake Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, beschränkt sich die Offenlegungspflicht auf eine Offenlegung in geeigneter Weise, welche die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Zudem enthält jeder Absatz eine eigene strafrechtliche Ausnahme: Die Chatbot-Pflicht nach Art. 50 Abs. 1 entfällt für Systeme, die gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen sind, sofern Schutzvorkehrungen für Dritte bestehen, und nie für ein System, das der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung steht; die Kennzeichnungspflicht nach Art. 50 Abs. 2 sowie die Pflichten bei Deepfakes und bei Text nach Art. 50 Abs. 4 entfallen, wenn das System oder seine Verwendung in dieser Weise zugelassen ist; die Pflicht bei Emotionserkennung und biometrischer Kategorisierung nach Art. 50 Abs. 3 entfällt nur für Systeme, die gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassen sind, unter dem Vorbehalt von Schutzvorkehrungen und im Einklang mit dem Unionsrecht.

Ein Nachrichtenmedium, das ungeprüfte, maschinell verfasste Artikel über das Tagesgeschehen veröffentlicht, muss dies offenlegen. Der mit KI entworfene Vertrag, das Kundenmemo oder der interne Bericht eines Unternehmens fällt von vornherein nicht unter die Pflicht: Ein solches Dokument wird nicht veröffentlicht, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Die Art des Dokuments entscheidet die Frage nicht; eine Marketingpublikation oder ein Bericht, die veröffentlicht werden, um die Öffentlichkeit über eine solche Angelegenheit zu informieren, fallen darunter und sind nur ausgenommen, wenn eine Person sie inhaltlich überprüft hat und jemand die redaktionelle Verantwortung trägt. Überprüfung bedeutet die Prüfung des Inhalts durch jemanden mit einschlägigem Wissen und Urteilsvermögen; die FAQ der Kommission schliessen oberflächliche, rein formale oder verfahrensmässige Kontrollen («superficial, solely formal, or procedural checks») wie die Rechtschreibprüfung aus. Die Ausnahme gehört zur Pflicht des Betreibers nach Art. 50 Abs. 4 und lässt die maschinenlesbare Kennzeichnung durch den Anbieter nach Art. 50 Abs. 2 unberührt. Ein Disclaimer in jeder mit KI-Unterstützung verfassten E-Mail findet im Text keine Grundlage.

Maschinenlesbare Kennzeichnung: Was sie gewährleistet und was nicht

Für alle, die Compliance-Erwartungen auf die Kennzeichnungspflicht stützen, sind drei Punkte von Bedeutung. Erstens liegt die Pflicht beim Anbieter des Systems; als Nutzer trägt Ihr Unternehmen davon nichts: Durch die Nutzung eines Modells versieht es nichts mit einem Wasserzeichen, und es kann in der Regel nicht beeinflussen, ob der Anbieter es tut. Zweitens ist die Pflicht ausdrücklich relativiert: Die technischen Lösungen müssen wirksam, interoperabel, belastbar und zuverlässig sein, soweit technisch möglich, unter Berücksichtigung der Besonderheiten und Beschränkungen der Arten von Inhalten, der Umsetzungskosten und des Stands der Technik; diese Formulierung lässt Raum für die technische Wirklichkeit. Wasserzeichen in Text gelten weithin als die anfälligste Technik, weil Umformulierungen und leichte Bearbeitungen das Signal entfernen können; auch Herkunftsmetadaten von Bildern und Videos lassen sich aus einer Datei entfernen, weshalb Herkunftsstandards sie mit weichen Bindungen (soft bindings) wie unsichtbaren Wasserzeichen oder Fingerabdrücken verbinden, um die Zuordnung wiederherzustellen. Die Widerstandsfähigkeit hängt von der Technik ab, und keine ist lückenlos.

Drittens der Zeitplan: Nach der Übergangsregel in der Verordnung (EU) 2026/1744 vom 8. Juli 2026, der am 27. Juli 2026 in Kraft getretenen Digital-Omnibus-Verordnung zur KI, haben Anbieter von Systemen, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, nach Art. 111 Abs. 4 eine Schonfrist von vier Monaten und müssen die Pflicht zur Kennzeichnung und Erkennbarkeit erst ab dem 2. Dezember 2026 erfüllen. Die Pflicht ist zukunftsgerichtet gefasst, nämlich als Pflicht, sicherzustellen, dass die Ausgaben des Systems gekennzeichnet sind; eine Pflicht, bereits im Umlauf befindliches Material zu kennzeichnen, ist sie nicht, und die FAQ der Kommission bestätigen, dass vor dem 2. August 2026 erzeugte Inhalte nicht rückwirkend gekennzeichnet werden müssen. Rechnen Sie damit, dass Modellanbieter Markierungen einbetten und schrittweise robuster machen und dass die Erkennbarkeit bei Text unvollkommen bleibt, und richten Sie keinen Geschäftsprozess ein, der einen zuverlässigen universellen Detektor voraussetzt; einen solchen Detektor gibt es heute nicht.

Leitlinien und Praxisleitfaden

Art. 50 steht nicht für sich allein. Am 20. Juli 2026 hat die Kommission ihre Leitlinien zu den Transparenzpflichten für Anbieter und Betreiber von KI-Systemen veröffentlicht, die darlegen, wie die Kommission die Pflichten nach Art. 50 versteht, und das Büro für Künstliche Intelligenz hat einen Praxisleitfaden zur Transparenz KI-generierter Inhalte (Code of Practice on Transparency of AI-generated Content) vorangetrieben, der die Kennzeichnungs- und Offenlegungspflichten für die Praxis konkretisiert; bis Ende Juli 2026 hatten rund 190 Unternehmen und Organisationen unterzeichnet, und die Kommission (Stellungnahme vom 8. Juli 2026) und das KI-Gremium (Bewertung vom 9. Juli 2026) haben den Praxisleitfaden als angemessenes freiwilliges Instrument zum Nachweis der Einhaltung bestätigt. Die Unterzeichnung des Praxisleitfadens ist freiwillig; die zugrunde liegenden Pflichten sind es nicht.

Für Betreiber ist der Praxisleitfaden in zweifacher Hinsicht von Bedeutung. Sein Abschnitt 2 behandelt unmittelbar die eigenen Pflichten des Betreibers nach Art. 50 Abs. 4, mit Orientierungshilfen zur Gestaltung, Platzierung und Darstellung der Hinweise (Labels) und zu einem fakultativen EU-Symbol, und Betreiber können diesen Abschnitt selbst unterzeichnen. In der Beschaffung gibt Ihnen ein KI-Lieferant, der Abschnitt 1 unterzeichnet hat und umsetzt, eine dokumentierte Antwort auf die Frage, ob die von Ihnen eingesetzten Werkzeuge die Pflichten auf Anbieterseite erfüllen; die Stellungnahme der Kommission hält allerdings fest, dass die Befolgung des Praxisleitfadens kein abschliessender Nachweis der Einhaltung ist, und die Unterschrift eines Lieferanten entbindet Sie nicht von Ihren eigenen Offenlegungspflichten.

Was Unternehmen in Europa jetzt tun sollten

Die Arbeit besteht in einer Bestandsaufnahme. Erfassen Sie, wo die Organisation generative KI mit Aussenwirkung einsetzt: Chatbots im Kundenkontakt (die Pflicht, das System so zu gestalten, dass Personen wissen, dass sie es mit einer Maschine zu tun haben, liegt nach Art. 50 Abs. 1 beim Anbieter, aber ein Betreiber sollte vor der Einführung prüfen, ob seine Systeme dies tatsächlich mitteilen), Bild-, Ton- oder Videoinhalte, die ein Deepfake sein könnten (Offenlegung gegenüber dem Publikum, sichtbar oder hörbar, klar und eindeutig, spätestens zu dem Zeitpunkt, in dem das Publikum dem Inhalt erstmals ausgesetzt ist, und unter Einhaltung der Barrierefreiheitsanforderungen), jedes Emotionserkennungssystem oder System zur biometrischen Kategorisierung (der Betreiber muss die davon betroffenen Personen informieren, Art. 50 Abs. 3) und jeden Publikationskanal, der die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert (entweder offenlegen oder die menschliche redaktionelle Überprüfung einrichten, welche die Pflicht entfallen lässt, und dies dokumentieren).

Prüfen Sie, ob ein Teil der Gruppe Anbieter ist, ohne es zu wissen: Ein Unternehmen, das ein System mit seinem eigenen Namen versieht, eines für sich entwickeln lässt oder eines wesentlich verändert und es dann in Verkehr bringt oder in Betrieb nimmt, auch für die interne Verwendung, kann Anbieterpflichten tragen, die es nie budgetiert hat. Das Risiko ist beträchtlich: Nach Art. 99 Abs. 4 der KI-Verordnung können bei Verstössen gegen Art. 50 Geldbussen von bis zu EUR 15 Millionen oder, im Falle von Unternehmen, von bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden, je nachdem, welcher Betrag höher ist. Für KMU, einschliesslich Start-up-Unternehmen, gilt als Obergrenze der niedrigere der beiden Beträge (Art. 99 Abs. 6), und der Digital Omnibus dehnt diese Berechnung nach dem niedrigeren Betrag für diese Stufe von Geldbussen auf kleine Midcap-Unternehmen aus (Art. 99 Abs. 6a, eingefügt durch die Verordnung (EU) 2026/1744).

Passen Sie die Verträge an: Verträge mit KI-Lieferanten sollten eine Kennzeichnung zusichern, die Art. 50 entspricht, und Abläufe der Content-Erstellung mit Agenturen sollten die Pflichten bei Deepfakes und die Offenlegungspflichten ausdrücklich zuweisen. Und verfassen Sie die interne Weisung für die Mitarbeitenden auf einer Seite: KI-gestützte Geschäftstexte brauchen keine Kennzeichnung; eine Veröffentlichung zu Angelegenheiten von öffentlichem Interesse braucht eine, es sei denn, eine Person hat sie inhaltlich überprüft und trägt die redaktionelle Verantwortung; im Zweifel führt der Weg über die redaktionelle Überprüfung.

Was das für Sie bedeutet

• Kennzeichnen Sie nicht alles. Für gewöhnliche KI-gestützte Geschäftstexte besteht keine Offenlegungspflicht; massgebend ist, ob ein Text ohne redaktionelle Überprüfung veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
• Prüfen Sie, ob Ihre Chatbots sagen, was sie sind. Die Gestaltungspflicht trifft nach Art. 50 Abs. 1 den Anbieter, aber die Offenlegung der Interaktion ist die sichtbarste und am leichtesten überprüfbare Pflicht des Artikels; prüfen Sie sie vor der Einführung und regeln Sie sie im Vertrag mit dem Lieferanten.
• Nutzen Sie die redaktionelle Überprüfung als das Compliance-Instrument, das sie ist. Bei Texten zu Angelegenheiten von öffentlichem Interesse entscheiden die dokumentierte inhaltliche Überprüfung und die redaktionelle Verantwortung darüber, ob eine Pflicht besteht oder nicht.
• Verankern Sie die Anbieterfrage in der Beschaffung. Fragen Sie Lieferanten nach ihrem Vorgehen bei der Kennzeichnung nach Art. 50 und nach ihrem Status beim Praxisleitfaden, bevor Sie sich auf die Ausgaben ihrer Systeme verlassen.

Isak Legal berät Unternehmen in der EU und der Schweiz zur Vorbereitung auf die KI-Verordnung der EU, zur Governance von Transparenz und KI-Einsatz, zu Lieferantenverträgen und zum Zusammenspiel von KI, Datenschutz und sektorspezifischen Regeln. Mehr dazu auf unserer Seite KI, Daten & Technologie, oder nehmen Sie Kontakt auf.

Dieses Client Update dient ausschliesslich der allgemeinen Information, gibt den Stand vom 27. September 2026 wieder und stellt weder eine Rechtsberatung dar noch begründet es ein Mandatsverhältnis. Das Datum der allgemeinen Anwendung, der Geltungsbeginn von Art. 50 und die viermonatige Schonfrist nach Art. 111 Abs. 4 sind der Verordnung (EU) 2024/1689 und der Verordnung (EU) 2026/1744 sowie den veröffentlichten Orientierungshilfen der Kommission entnommen. Der Praxisleitfaden wird weiterentwickelt. Für die Beratung in einer konkreten Angelegenheit nehmen Sie bitte Kontakt mit uns auf.