Art. 50 EU AI Act: Das Prüfungsschema hinter dem LinkedIn-Halbwissen – und warum Sunos Wasserzeichen Pflicht sind, keine Wohltat

2026-08-08

WORUM GEHT ES HIER?

Es geht um Art. 50 KI-VO. Nicht als LinkedIn-Glücksrad mit drei Buzzwords, sondern als echtes Prüfungsschema: erst Anwendungsbereich, dann Zeitachse, dann Rollen, dann Fallgruppen, dann Rechtsfolgen. Von oben nach unten. Wie Short Circuit Evaluation, nur mit Bußgeldhammer statt Stacktrace.

Der Kern: Transparenzpflichten sind kein Deko-Aufkleber für KI-Content. Sie hängen daran, wer handelt - Anbieter oder Betreiber -, was erzeugt wird - Text, Bild, Audio, Video, Deepfake - und wann das System in Verkehr gebracht wurde. Wer das durcheinanderwirft, produziert Compliance-Folklore. Hübsch. Nutzlos. Gefährlich.

Und dann kommt der Praxistest: Suno. Der KI-Musikdienst kündigt Wasserzeichen und Fingerprinting an. Klingt nach freiwilliger Künstlerliebe. Ist aber wahrscheinlich deutlich weniger Lagerfeuer und deutlich mehr Art. 50 Abs. 2 KI-VO. Ergebnis: Suno muss synthetische Audioinhalte maschinenlesbar kennzeichnen: robust, interoperabel, spätestens nach der Bestandssystem-Frist. Und wer mit Suno Stimmen echter Künstler:innen nachbaut und veröffentlicht, hat zusätzlich ein Deepfake-Problem auf Betreiberseite.

Kurz: Dieser Artikel erklärt nicht „KI-Inhalte müssen gekennzeichnet werden". Das wäre E = mc² auf einem schlechten Hoodie. Hier geht es darum, wie man sauber prüft, nach juristischen Maßstäben.

Erklärt von einem Hybriden (Informatiker & Jurist) mit mehr als 20 Jahren Erfahrung in Informatik und Jura und in Großkonzernen wie Microsoft, Daimler, EnBW, Zeiss und GÖRG, um nur einige zu nennen.

WARUM DIESER ARTIKEL - UND WARUM MIT SCHAUM VORM MUND

Es reicht mir.

Ich scrolle durch LinkedIn und sehe zum EU AI Act dasselbe Ritual: Halbwissen, aufgekocht, hübsch angerichtet, dann mit maximaler Überzeugung serviert. ChatGPT-Style: Schön LSD-Hallus rausrotzen und dabei klingen wie Einstein auf Koks.

So. Jetzt musst du als KI-Schaman:in ganz fest die Zähne zusammenbeißen. Ich weiß, du glaubst eh schon, du weißt alles. Dann halt jetzt einfach mal kurz weiterlesen, vielleicht lernst du doch noch was:

Für dieses Thema brauchst du in der Praxis zwei Werkzeuge gleichzeitig in der Hand: Jura und Informatik. Nicht „ich hab mal ’nen DSGVO-Post gelesen"-Jura. Und nicht „ich kann Python lesen, wenn es im Claude-Code-Fenster vorbeirattert"-Informatik. Sondern beides belastbar: Paragrafen und Pipeline. Sonst berätst du hier nicht, du cosplayst Kompetenz.

Der EU AI Act ist kein hübsches Pinterest-Poster mit drei Bulletpoints. Das ist ein Rechtskonstrukt mit Falltüren. Wer das juristisch einordnet, muss technisch verstehen, wie der Mist gebaut wird. Wer es technisch baut, muss juristisch verstehen, welche Pflichten an welchen Rollen hängen. Wenn du nur eine Karte auf der Hand hast, kannst du in diesem Bereich nicht seriös beraten.

Und wer sich die zweite oder gleich beide Karten aus ChatGPT rausquetscht: Beschleunigte Scheiße bleibt Scheiße.

Weniger kraftausdrückerisch:

A fool with a tool is still a fool!

Wenn ich über etwas rede, wovon ich keine Ahnung habe, label ich das vorher. Laienmeinung. Fertig. Ich würde mir nie anmaßen, über Recruiting zu dozieren. Oder Medizin.

Diese akademische Demut - eigentlich: diese ganz normale Demut - ist weg. Nicht seit es KI gibt. Sondern seit Menschen KI benutzen. Feiner Unterschied. Entscheidend. Das Werkzeug ist nicht das Problem. Der Mensch ist das Problem.

Dafür gibt’s einen Namen: Dunning-Kruger. Je weniger Substanz, desto mehr Brusttrommeln.

Ich seh das auch im MMA.

Ich bin wieder aktiv. Kämpfen selbst? Lass ich. In meinem Alter ist das eine dumme Wette gegen die eigene Restlaufzeit, ich hab mir neulich schon einen Treffer eingefangen, der mich sauber ausgeknockt hat. Egal. Ich brauch diesen Fight Club.

Und da kommt die gleiche Mechanik: Neue Leute überschätzen sich. Nicht aus Bosheit. Die wissen schlicht noch nicht, wie viel Chaos ein echter Fight ist. Nichts elegant, nichts filmreif. Nur Luftnot, Adrenalin und wildes Rumgeprügel, bis die Theorie vom sauberen Jab kollabiert.

Aber und das ist der Unterschied: Das ist keine Prahlerei. Das ist Unwissen. Da hab ich Mitgefühl. Wir alten Hasen nehmen Rücksicht. Kein Thema.

Bei den Prahlärschen auf LinkedIn?

Null.

Und wer mir wirklich leidtut, sind die Leute, die das lesen und glauben: Oh, viele Follower, der oder die wird schon wissen, was er oder sie schreibt.

Spoiler: Reichweite ersetzt keine Kompetenz. Sonst würde die Bildzeitung ja wirklich die Toten auferstehen lassen können und dies nicht nur in Schlagzeilen behaupten.

Ich hab nicht viele Follower:innen. Passt.

Liegt auch daran, dass ich oft knochenehrlich bin und eine Sprache benutze, die eher Wildwest als LinkedIn ist. War im Referendariat schon so. Trotzdem: fast ausschließlich zweistellige Noten und wer Jura kennt, weiß: Das ist selten.

Heißt: Ich weiß, wovon ich rede.

Auch wenn ich dabei manchmal klinge wie Lucky Luke.

Aber du weißt ja, und jetzt spreche ich meine eigentlichen Leserinnen und Leser an: Lucky Luke hat ein verdammt großes Herz und er beherrscht sein Handwerk, sogar aus der Hüfte.

E = MC² IST NICHT DIE RELATIVITÄTSTHEORIE

Bevor wir anfangen, die Warnung: Dieses Prüfungsschema ist so, wie es ist. Nicht „kompliziert, weil ich gern klug wirke". Kompliziert, weil der EU AI Act halt ein juristischer Hochofen ist: viel Hitze, viele Klappen, viele Stellen, an denen du dir die Finger abklemmst.

Art. 50 „zu vereinfachen" ist meistens kein Service, sondern ein Betrug am Leser. Das ist wie: „E = mc² ⇒ das ist die Relativitätstheorie." Nein. Das ist ein Ergebnis. Dahinter steckt das Genie, nicht der Sticker. Wer nur die Formel nachplappert, hat nichts verstanden und verkauft trotzdem Wissen. Genau dieser LinkedIn-Zirkus.

Und ja: Der EU AI Act ist keine Raketenwissenschaft. Trotzdem bleibt die Grundwahrheit: Das hier ist bereits simplifiziert. Ich habe dir die schlimmsten Ecken schon abgerundet. Und viele werden trotzdem zum ersten Mal denken:

Ach du Scheiße, das ist ja doch mehr als drei Bulletpoints und ein Canva-Poster.

Warum? Weil du sauber prüfen musst:

• Welche Rolle trägst du: Anbieter? Betreiber? Doppelrolle?
• Liegt überhaupt ein KI-System im Rechtssinne vor oder nur Marketing-Geblubber über „AI"?
• Gilt EU-Recht hier überhaupt (ja, manchmal ist die Antwort: erst mal klären, dann reden)?

Und wenn du nicht gelernt hast, wie man ein Prüfungsschema baut, baust du eben Mist: du prüfst Pflichten, die gar nicht greifen, oder du übersiehst die, die dir später den Bußgeldhammer ins Gesicht drücken.

Dieser Artikel ist für Leute, die Substanz wollen. Für Produkt, Projekt, Business. Für „ich muss das bauen und vertreten" nicht für „ich will mir eine Meinung aus KI-Dünschiss extrahieren und dann laut damit wedeln".

QUELLEN, ARBEITSWEISE, UND WARUM KI ALLEIN DIR HIER NICHT HILFT

Meine Quellen: der Gesetzestext in der aktuellen konsolidierten Fassung (dazu gleich mehr, Stichwort Digital Omnibus), ein juristischer Fachkommentar (Bomhard/Pieper/Wende/Merkle zur KI-VO), mehrere Fachbücher (u.a. Wendt und das Handbuch von Voigt) und mein eigenes Wissen aus über zwanzig Jahren Informatik und Jura. Alles ist gegen den Verordnungstext gegengeprüft.

Können sich trotzdem Fehler einschleichen? Klar. Ich bin nicht perfekt. Wenn du einen findest: Sag Bescheid, ich korrigiere. Jede unbequeme Wahrheit ist besser als die schönste Lüge.

Nebenbei: Ich schreibe gerade ein Fachbuch für den Rheinwerk Verlag und habe dort großartige Lektorinnen an meiner Seite, mit denen ich unheimlich gern zusammenarbeite. So ein Buch ist ein Berg an Arbeit. Wer glaubt, das kriegt man mal schnell mit KI geschrieben: Nein. Kriegt man nicht.

Und das hat einen Grund, den viele nicht kennen: Jurawissen in Deutschland ist nach wie vor Papierwissen. Vieles, was nicht Papier ist, stammt aus Sekundärliteratur, und die wirklich verlässlichen Online-Quellen stehen seit jeher hinter Paywalls. Ich habe das in einem anderen Artikel mal so ausgedrückt: Als 2022 die KI-Crawler wie eine Horde blutrünstiger Vampire durchs Netz zogen und Wissensberge leersaugten, um sie als digitale Leichen zurückzulassen - siehe Stack Overflow -, da standen die deutschen Jura-Wissensberge mit Knoblauch behangen und mit Pflöcken bewaffnet am Eingang. Die Crawler kamen nicht rein.

Die Konsequenz: In den Trainingskorpora vieler Frontier-Modelle steckt bis heute juristischer Schwachsinn. Veraltete Gesetzesfassungen. Fehlerhafter Unsinn. Und das ewige Halbwissen, das die Leute ohnehin schon immer rausgesabbert haben, ist nunmehr maschinell aufgekocht. Gerade bei juristischen Texten muss man deshalb nach wie vor hands-on arbeiten: nachschlagen, gegenlesen, verifizieren.

Wenn man KI-generierte Rechtsausführungen ungeprüft in Schriftsätze kippt, kann es grotesk werden: Im Fall Withers v. City of Aberdeen (N.D. Miss., 8. Juni 2026) warfen sich beide Seiten mit konfabulierter (= halluzinierter) Rechtsprechung zu. Senior District Judge Sharion Aycock entfernte daraufhin sämtliche vier Prozessvertreter aus dem Verfahren, schloss zwei für zwei Jahre vom Gericht aus und verhängte insgesamt 8.000 US-Dollar Sanktionen. Nicht die Nutzung von KI war das Problem, sondern das feierliche Abzeichnen ihres Outputs als anwaltliche Arbeit (https://www.damiencharlotin.com/hallucinations/ - da stehen verdammt viele der Hallu-Fälle, ist ne richtige Pest geworden in den USA - last visit: 2026-08-08 - 14:57)

Deshalb, wenn du hier Kolleginnen und Kollegen aus dem Jurabereich siehst, echte Anwältinnen und Anwälte: Vertrau denen mehr als dem, was eine KI ausspuckt. Geh bei denen in die Beratung.

Ich selbst bin übrigens nicht für Rechtsberatung im anwaltlichen Sinne buchbar. Ich bin nach wie vor ITler mit dem Beifang Jura. Heißt: Ich zeige dir, wie man das Ganze umsetzt, und zwar juristisch exakt. Ich berate, wie du Systeme rechtskonform baust, da hilft mein Wissen als Softwarearchitekt. Du sparst dir bei mir die Dolmetscherrunden zwischen Rechtsabteilung und Entwicklung.

Und ja, der bestmögliche Call-to-Action kommt gleich hier, ganz ohne Scham: Ich stehe zurzeit wieder für Projekte zur Verfügung. Wer mich buchen will, jetzt ist die Gelegenheit. Würde mich freuen.

Stand: 2026-08-08 - 12:30

So. Genug geredet. Jetzt wird geprüft. Und am Ende jagen wir einen brandaktuellen Fall durch das Schema: Muss Suno seine KI-Songs kennzeichnen?

TEIL 1: DAS PRÜFUNGSSCHEMA ZU ART. 50 KI-VO

Vorab zur Methodik, für alle ohne Staatsexamen: Ein Prüfungsschema arbeitet man von oben nach unten ab. Wer bei Schritt drei einsteigt, weil Schritt eins und zwei langweilig klingen, produziert genau die Fehler, die ich oben beschrieben habe. Die Reihenfolge ist kein Vorschlag. Sie ist das Ergebnis von Jahrhunderten juristischer Methodenlehre und sie verhindert, dass du Pflichten prüfst, die auf deinen Fall überhaupt nicht anwendbar sind.

In der Informatik gibt es das auch: Nennt sich beim Compiler Short Circuit Evaluation. Bedeutet: Wenn der erste Teil einer Bedingung schon entscheidet, wird der Rest gar nicht mehr ausgeführt. false && irgendwasTeures() ruft irgendwasTeures() nie auf. Weil das Ergebnis schon feststeht. Genau so läuft ein Prüfungsschema: Wenn EU-Recht gar nicht anwendbar ist, prüfst du nicht fröhlich Art. 50 weiter. Dann ist der Ast tot. Ende der Show.

A. IST ÜBERHAUPT EU-RECHT ANWENDBAR?

Klingt banal, ist es nicht. Die KI-VO ist öffentliches Wirtschaftsrecht, genau: Produktsicherheits- und Marktverhaltensrecht.

Deshalb läuft hier kein klassisches Internationales Privatrecht: Rom I (Vertragsstatut) und Rom II (Deliktsstatut) sind für die verwaltungsrechtliche Pflichtenlage irrelevant. Die Verordnung bestimmt ihren räumlichen Anwendungsbereich selbst, einseitig, über Art. 2 KI-VO, strukturell wie Art. 3 DSGVO: Marktortprinzip.

Die praktische Konsequenz, die auf LinkedIn regelmäßig untergeht: Eine Rechtswahlklausel in den AGB eines US-Anbieters („governed by the laws of California") ändert nichts. Erfasst ist nach Art. 2 Abs. 1:

• wer KI-Systeme in der Union in Verkehr bringt oder in Betrieb nimmt - egal, wo er sitzt (lit. a),
• Betreiber mit Sitz in der Union (lit. b),
• und der Drittstaaten-Joker: Anbieter und Betreiber in Drittstaaten, wenn der Output in der Union verwendet wird (lit. c).

B. SCHUTZBEREICHSPRÜFUNG: PERSÖNLICHER, ZEITLICHER, SACHLICHER SCHUTZBEREICH & LEX SPECIALIS PRÜFUNGEN

1. BEREICHSAUSNAHMEN: BIN ICH SOFORT RAUS?

Jetzt die Bereichsausnahmen des Art. 2. Die klopfst du vorab ab, komplett, bevor du überhaupt an Art. 50 denkst. Fünf sind hier relevant:

• Militär, Verteidigung und nationale Sicherheit (Abs. 3)
• wissenschaftliche Forschung und Entwicklung als alleiniger Zweck (Abs. 6)
• Forschung und Erprobung vor dem Inverkehrbringen (Abs. 8)
• Privatnutzung (Abs. 10)
• Open Source (Abs. 12)

Die ersten drei sind meist schnell abgehakt. Die letzten zwei sehen nach Freifahrtschein aus - und genau da stellt der AI Act zwei Fallen, in die reihenweise Leute reintappen:

Falle 1 - Privatnutzung (Abs. 10) gilt nur halb. Ausgenommen sind ausschließlich die Betreiberpflichten natürlicher Personen bei rein persönlicher, nicht beruflicher Tätigkeit. Heißt: Die private Nutzerin ist von Art. 50 Abs. 3 und 4 raus. Die Anbieterpflichten aus Abs. 1 und 2 bleiben davon komplett unberührt. Wer glaubt „privat = safe", hat nur die halbe Norm gelesen.

Konkret: Du baust privat mit Suno einen Track, in dem ein Politiker Dinge singt, die er nie gesagt hat, und schickst ihn deinen Kumpels. Dich als private Betreiberin trifft die Deepfake-Kennzeichnungspflicht aus Abs. 4 nicht - die Ausnahme greift. Suno dagegen muss den Output trotzdem maschinenlesbar als KI-generiert markieren (Abs. 2), denn deine Privatnutzung ändert an den Anbieterpflichten exakt nichts. Und sobald du den Track auf deinen Kanal ballerst und damit Reichweite oder Geld machst, ist „rein persönlich" Geschichte - dann bist du wieder voll drin.

Falle 2 - Open Source (Abs. 12) schützt gerade nicht. Die Rückausnahme, die fast jeder übersieht: KI-Systeme unter freien Lizenzen sind vom AI Act ausgenommen … es sei denn, sie sind Hochrisiko, fallen unter die Verbote des Art. 5 - oder unter Art. 50. Lies das zweimal. FOSS ist kein Schutzschild gegen die Transparenzpflichten. Wer ein offenes generatives Modell als System in Verkehr bringt, ist trotzdem dabei.

2. ZEITLICHER ANWENDUNGSBEREICH - UND WAS DER DIGITAL OMNIBUS WIRKLICH GEÄNDERT HAT

Hier trennt sich gerade die Spreu vom Weizen, denn seit ein paar Tagen ist die Rechtslage eine andere, als 90 % der LinkedIn-Posts behaupten.

Die KI-VO gilt nach Art. 113 grundsätzlich seit dem 2. August 2026. Kapitel IV - das ist genau ein Artikel, nämlich unser Art. 50 - ist von keiner Sonderregel erfasst. Ergebnis: Art. 50 ist seit dem 2. August 2026 scharf. Vollständig. Unmittelbar. In jedem Mitgliedstaat. Ausnahme: siehe gleich unten, die Gnadenfrist für Bestandssysteme.

Und jetzt der Teil, den die meisten verschlafen haben: Am 27. Juli 2026 ist der Digital Omnibus in Kraft getreten - die Verordnung (EU) 2026/1744, die den AI Act an etlichen Stellen umgebaut hat. Was hat er für Art. 50 geändert?

• Verschoben wurde: nichts. Während die Hochrisiko-Pflichten des Kapitels III auf den 2. Dezember 2027 (Annex-III-Systeme) bzw. den 2. August 2028 (Annex-I-Produkte) rausgeschoben wurden, blieb Art. 50 unangetastet. Wer also gerade jubelt „der AI Act wurde verschoben!", hat die Hälfte der Wahrheit erwischt - die falsche Hälfte.
• Neu ist eine Gnadenfrist für Bestandssysteme: Der neue Art. 111 Abs. 4 gibt Anbietern von KI-Systemen, die synthetische Inhalte erzeugen und vor dem 2. August 2026 in Verkehr gebracht wurden, Zeit bis zum 2. Dezember 2026, um die maschinenlesbare Kennzeichnung nach Art. 50 Abs. 2 umzusetzen. Merk dir dieses Datum, es wird im Suno-Teil noch eine Hauptrolle spielen. Und aufgepasst: Die Frist gilt nur für Abs. 2. Die Pflichten aus Abs. 1, 3 und 4 gelten auch für Bestandssysteme seit dem 2. August.
• Art. 50 Abs. 7 wurde neu gefasst - neu gefasst, nicht neu erfunden: Praxisleitfäden (Codes of Practice) standen schon in der Stammfassung von 2024. Dort war allerdings das KI-Büro (AI Office) für Förderung und Erleichterung zuständig, und die Kommission konnte die Leitfäden per Durchführungsrechtsakt genehmigen. Der Omnibus hat beides umgebaut: In der konsolidierten Fassung fördert jetzt die Kommission selbst die Praxisleitfäden, bewertet unter Berücksichtigung der Stellungnahme des KI-Gremiums (Board), ob deren Einhaltung für die Pflichten aus Abs. 2 und 4 genügt - und kann bei Unzulänglichkeit per Durchführungsrechtsakt verbindliche gemeinsame Regeln erlassen. Übersetzt: Wie „maschinenlesbar" konkret auszusehen hat, wird sich über diese Leitfäden materialisieren - wer die ignoriert, verhandelt später mit der Behörde. (Und wer dir heute noch erzählt, hier sei „das KI-Büro" am Zug, zitiert die Fassung von 2024 bzw. Kommentarliteratur von 2025 - womit wir wieder beim Thema veraltetes Wissen in KI-Korpora wären. Konsolidierte Fassung lesen. Immer.)
• Flankierend: Ab dem 2. Dezember 2026 gelten neue Verbote in Art. 5 Abs. 1 lit. ba und bb - nicht-einvernehmliche Intim-Deepfakes und KI-generiertes Missbrauchsmaterial. Das ist dann keine Transparenzfrage mehr, sondern schlicht verboten.

3. KONKURRENZEN: WAS GEHT VOR, WAS LÄUFT PARALLEL?

Innerhalb der KI-VO gilt eine Stufenprüfung, und die Reihenfolge ist kein Deko-Element:

Stufe 1 - Verbote vor Transparenz. Fällt die Praxis unter Art. 5, ist sie verboten. Punkt. Transparenz heilt nichts. Wer bei Emotionserkennung am Arbeitsplatz mit Art. 50 Abs. 3 einsteigt, hat den Aufbaufehler des Jahres gebaut: Das Ding ist nach Art. 5 Abs. 1 lit. f bereits verboten (außer aus medizinischen oder Sicherheitsgründen). Dasselbe bei biometrischer Kategorisierung nach sensiblen Merkmalen (lit. g). Erst wenn Art. 5 durchgeprüft und verneint ist, geht es bei Art. 50 weiter.

Stufe 2 - Hochrisiko läuft parallel, nicht alternativ. Art. 50 Abs. 6 stellt klar: Die Absätze 1 bis 4 lassen Kapitel III unberührt. Ein Hochrisiko-System kann also zusätzlich den Transparenzpflichten unterliegen - Kumulation, keine Spezialität. Pikant: Emotionserkennung und biometrische Kategorisierung sind, soweit nicht schon verboten, zugleich Hochrisiko nach Anhang III Nr. 1 lit. b und c.

Stufe 3 - GPAI ist ein eigenes Regime. Die Pflichten für GPAI-Modelle (Art. 51 ff.) stehen neben Art. 50. Und Art. 50 Abs. 2 erfasst GPAI-Systeme ausdrücklich selbst.

Außerhalb der KI-VO: Die DSGVO läuft parallel (Art. 13, 14, bei automatisierten Einzelentscheidungen Art. 22 DSGVO) - Art. 50 Abs. 3 verweist sogar ausdrücklich auf sie.

Der Digital Services Act wird ergänzt, aber Vorsicht vor dem Kurzschluss: Ein Verstoß gegen Art. 50 macht einen Inhalt nicht zum rechtswidrigen Inhalt im Sinne des DSA (ErwG 136).

Und dann gibt es im deutschen Recht noch ein Gesetz, das praktisch niemand auf dem Zettel hat: den Medienstaatsvertrag (MStV). Das ist kein Bundesgesetz, sondern ein Staatsvertrag aller 16 Bundesländer, seit November 2020 in Kraft als Nachfolger des alten Rundfunkstaatsvertrags. Und der enthält in § 18 Abs. 3 MStV eine Social-Bot-Kennzeichnungspflicht: Anbieter von Telemedien in sozialen Netzwerken müssen bei automatisiert erstellten Inhalten oder Mitteilungen den Umstand der Automatisierung kenntlich machen, sofern das Nutzerkonto seinem äußeren Erscheinungsbild nach für die Nutzung durch natürliche Personen bereitgestellt wurde. Übersetzt: Wenn dein Bot-Account aussieht wie ein Mensch, musst du draufschreiben, dass da eine Maschine tippt. Und bevor jetzt jemand einwendet, das treffe doch nur „Telemedienanbieter": Genau das bist du. Telemedienanbieter ist jede natürliche oder juristische Person, die eigene oder fremde Telemedien bereithält. Typisches Amtsstubendeutsch, ich weiß. Dein Account im sozialen Netzwerk ist selbst das Telemedium, du als Verwenderin des Bots bist die Anbieterin. Die Gesetzesbegründung sagt es wörtlich: Verpflichtet sind die Verwender der Social Bots; die Plattformen müssen nach § 93 Abs. 4 MStV nur flankierend dafür sorgen, dass gekennzeichnet wird. Und anders als die Impressumspflicht des Abs. 1 kennt Abs. 3 keine Ausnahme für rein persönliche Zwecke. Deutschland hatte damit eine Bot-Kennzeichnung, Jahre bevor Brüssel den AI Act überhaupt fertig hatte.

Nur: Der Anwendungsbereich ist deutlich schmaler als Art. 50, heisst, nur soziale Netzwerke, nur Konten mit Menschen-Optik. Art. 50 Abs. 1 erfasst dagegen jedes Interaktionssystem, egal wo es läuft. Und weil eine EU-Verordnung unmittelbar gilt und Anwendungsvorrang vor Landesrecht hat, wird die Social-Bot-Kennzeichnung des § 18 Abs. 3 MStV nach herrschender Literaturmeinung im unmittelbar geltenden Art. 50 aufgehen.

Praktisch prüfst du also künftig Art. 50 und § 18 Abs. 3 MStV ist die Fußnote für den Übergangszeitraum.

4. DIE VORFRAGE, DIE NOTORISCH ÜBERSPRUNGEN WIRD: LIEGT ÜBERHAUPT EIN KI-SYSTEM VOR? (SACHLICHER SCHUTZBEREICH)

Bevor irgendjemand irgendwas kennzeichnen muss, braucht es ein KI-System im Sinne des Art. 3 Nr. 1: ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie operiert, gegebenenfalls anpassungsfähig ist und aus Eingaben ableitet, wie es Outputs erzeugt - Vorhersagen, Inhalte, Empfehlungen, Entscheidungen. Das grenzt generative Modelle von rein regelbasierter, konventioneller Software ab. Dein 90er-Jahre-Serienbrief-Makro ist kein KI-System, auch wenn das Marketing das gern hätte.

5. WER BIN ICH IM SINNE DES EU AI ACTS? (PERSÖNLICHER SCHUTZBEREICH)

Danach die Rollenfrage, und die entscheidet über alles Weitere:

• Anbieter (Art. 3 Nr. 3): entwickelt das System - oder lässt entwickeln - und bringt es unter eigenem Namen oder eigener Marke in Verkehr.
• Betreiber (Art. 3 Nr. 4): verwendet das System in eigener Verantwortung - außer bei rein persönlicher, nicht beruflicher Tätigkeit.

Dazu zwei Klassiker aus der Praxis: Nach Art. 25 kann ein Betreiber zum Anbieter werden - etwa wer ein fremdes System unter eigener Marke anbietet oder wesentlich verändert (White-Label-Chatbots, ich gucke dich an). Und die Doppelrolle ist möglich: Wer seinen Kundenservice-Chatbot selbst entwickelt und selbst einsetzt, trägt Anbieter- und Betreiberpflichten kumulativ.

C. DIE FALLGRUPPEN DES ART. 50 - WER SCHULDET WAS?

Fallgruppe 1 - Interaktionssysteme (Abs. 1, Anbieter). KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind: Chatbots, Voicebots, Social Bots. Die Pflicht setzt auf der Design-Ebene an: Das System muss so konzipiert und entwickelt sein, dass die Person erfährt, dass sie mit KI spricht. Das ist eine By-Design-Pflicht, kein nachgeschobener Fußnotenhinweis. Ausnahme: Offensichtlichkeit - gemessen an einer angemessen informierten, aufmerksamen und verständigen Person (das europäische Verbraucherleitbild lässt grüßen). Indizien: die Bezeichnung „Chatbot", das Erscheinungsbild, eine unnatürlich schnelle Reaktionszeit. Zweite Ausnahme: gesetzlich zugelassene Strafverfolgungssysteme.

Fallgruppe 2 - Synthetische Inhalte (Abs. 2, Anbieter, inkl. GPAI-Systeme). Wer ein System anbietet, das synthetische Audio-, Bild-, Video- oder Textinhalte erzeugt, muss die Outputs in maschinenlesbarem Format kennzeichnen und als künstlich erzeugt oder manipuliert erkennbar machen. Der Adressat dieser Kennzeichnung ist - jetzt kommt der Teil, der ohne Informatik-Hintergrund gern verwechselt wird - die Maschine, nicht der Mensch. Es geht darum, dass Erkennungstools, Plattformen und Crawler den Inhalt als synthetisch identifizieren können.

Die technische Lösung muss vier Qualitätsanforderungen genügen - soweit technisch machbar, unter Berücksichtigung von Inhaltsart, Umsetzungskosten und Stand der Technik:

Und womit kennzeichnet man nun konkret? ErwG 133 nennt fünf Technikfamilien - verbindlich vorgeschrieben ist keine, kombinieren ist ausdrücklich erwünscht:

Als Softwarearchitekt sage ich dir: Die Musik spielt bei belastbar und interoperabel. Ein Wasserzeichen, das die erste MP3-Transkodierung nicht überlebt, ist Compliance-Theater. Ein Metadaten-Tag, den jede Plattform beim Upload wegstrippt, auch. Deshalb kombiniert die Praxis (Stichwort C2PA): robuste, in das Signal eingebettete Wasserzeichen plus Metadaten plus serverseitiges Fingerprinting mit Abgleichsdatenbank. Und deshalb dokumentierst du deine Abwägung - Inhaltsart, Kosten, Stand der Technik - schriftlich. Das ist deine Verteidigungslinie, wenn die Behörde fragt.

Ausnahmen von Abs. 2: assistive Funktionen für Standardbearbeitung (Helligkeit, Kontrast, Rechtschreibprüfung, Noise Reduction), Systeme, die die Eingaben nicht wesentlich verändern, sowie Strafverfolgung.

Fallgruppe 3 - Emotionserkennung und biometrische Kategorisierung (Abs. 3, Betreiber). Erst Art. 5 prüfen (siehe oben - Arbeitsplatz und Bildung: verboten!). Bleibt danach ein zulässiger Anwendungsfall, muss der Betreiber die exponierten Personen über den Betrieb des Systems informieren - über das „Ob", nicht zwingend über jedes technische „Wie" - und die Daten DSGVO-konform verarbeiten. Doppelte Pflichtenstruktur: Transparenz und Datenschutz-Compliance.

Und hier versteckt sich ein Wortlaut-Detail für Feinschmecker: Die Strafverfolgungsausnahme des Abs. 3 nennt nur Aufdeckung, Verhütung und Ermittlung - die „Verfolgung" fehlt, anders als in Abs. 1, 2 und 4. Heißt nach strengem Wortlaut: Im Strafverfahren selbst bleibt die Informationspflicht bestehen. Solche Asymmetrien sind handwerklich (bezogen auf das kautelarjuristische Handwerk) bedenklich, da sie nicht nur den Cognitive Load zum “Erlernen” des Gesetzes erhöhen, sondern auch oft auf dem (digitalen) Tisch von Richterinnen und Richtern landen, die dann diese Asymmetrie im Auslegungswege erläutern müssen.

Fallgruppe 4 - Deepfakes und KI-Texte (Abs. 4, Betreiber). Zwei Varianten:

Variante A - Deepfakes: Bild-, Ton- oder Videoinhalte, die einen Deepfake darstellen. Die Legaldefinition (Art. 3 Nr. 60) verlangt, dass der Inhalt existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt oder wahrheitsgemäß erscheinen würde. Wichtig: Rein fiktive Inhalte ohne Realitätsbezug sind schon tatbestandlich kein Deepfake - dann bleibt nur die Anbieterpflicht aus Abs. 2. Der Betreiber muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde - und diese Offenlegung richtet sich, anders als bei Abs. 2, an den Menschen: sichtbares Wasserzeichen, Texthinweis, Ansage.

Für Kunst, Satire und Fiktion gibt es eine Erleichterung, keine Befreiung (wie oft behauptet wird): Die Offenlegung muss dann so erfolgen, dass sie die Darstellung und den Genuss des Werks nicht beeinträchtigt.

Variante B - Texte: KI-erzeugte oder -manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Ausnahme: Der Text hat eine menschliche Überprüfung oder redaktionelle Kontrolle durchlaufen, und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung. Das ist das Redaktionsprivileg - der Grund, warum deine Zeitung nicht jeden KI-gestützten Artikel labeln muss, dein redaktionsloser Content-Bot aber schon.

Zur Einordnung, wo Art. 50 Abs. 4 im großen Bild überhaupt ansetzt - nämlich nur auf einer von fünf Regulierungsebenen:

D. DER MODUS: WIE UND WANN IST ZU INFORMIEREN? (ABS. 5)

Alle Informationen nach Abs. 1 bis 4 müssen klar und eindeutig erteilt werden, spätestens bei der ersten Interaktion oder Exposition (die deutsche amtliche Fassung übersetzt „exposure" holprig mit „Aussetzung"; noch so ein handwerkliches Schmankerl). Der Fachkommentar zur KI-VO (Bomhard/Pieper/Wende/Merkle, 1. Aufl. 2025, Art. 50 - siehe Quellen unten) bringt es auf den Punkt: Ein KI-Hinweis, vergraben auf Seite 14 der Datenschutzerklärung oder im Cookie-Banner-Kleingedruckten, genügt nicht. Dazu kommt die Barrierefreiheit: Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen ⇒ in Deutschland denk dabei ans Barrierefreiheitsstärkungsgesetz (BFSG).

E. RECHTSFOLGEN: WAS PASSIERT, WENN MAN’S VERKACKT?

Jetzt der Teil, den das erste Staatsexamen auslässt und das zweite zur Hauptsache macht - und den auf LinkedIn fast niemand mitdenkt:

Aufsicht: Verstöße gegen Art. 50 sind im Marktüberwachungsverfahren ausdrücklich als eigene Non-Compliance-Kategorie genannt (Art. 79 Abs. 6 lit. d). Die Behörde kann Korrekturmaßnahmen anordnen, das System vom Markt nehmen oder zurückrufen lassen. In Deutschland ist seit dem 29. Juli 2026 das KI-Durchführungsgesetz in Kraft: Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde, flankiert vom Koordinierungs- und Kompetenzzentrum KoKIVO; sektorale Behörden wie BaFin und BfArM bleiben für ihre Bereiche zuständig.

Bußgeld: Art. 99 Abs. 4 lit. g - bis zu 15 Millionen Euro oder 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt der jeweils niedrigere Betrag; der Digital Omnibus hat diese Privilegierung auf Small Mid-Caps erweitert.

Individualrechtsschutz: Jede Person kann sich bei der Marktüberwachungsbehörde beschweren (Art. 85). Einen eigenen Schadensersatzanspruch enthält die KI-VO dagegen nicht - und die geplante KI-Haftungsrichtlinie hat die Kommission beerdigt. Es bleibt beim nationalen Recht.

Und jetzt das eigentlich scharfe Schwert, das kaum jemand auf dem Zettel hat - die zivilrechtliche Flanke: Über § 3a UWG (Rechtsbruch) können Wettbewerber und Verbände Verstöße abmahnen und Unterlassung verlangen - ob Art. 50 eine Marktverhaltensregelung ist, ist noch nicht ausgeurteilt, aber für die verbraucherschützenden Pflichten der Absätze 1 und 4 gut begründbar; unabhängig davon läuft die Irreführungsschiene über §§ 5, 5a UWG. Dazu kommt: Art. 110 KI-VO hat die Verordnung in den Anhang der EU-Verbandsklagenrichtlinie eingefügt - qualifizierte Verbraucherverbände können also Verbandsklagen stützen. Und bei Deepfakes laufen Persönlichkeitsrecht, KUG und Co. sowieso parallel - Transparenz ersetzt keine Einwilligung.

Wer bis hierhin denkt „das Bußgeld trifft mich als kleinen Laden doch nie": Die Abmahnung deines Wettbewerbers wartet nicht auf die Bundesnetzagentur.

TEIL 2: DER PRAXISTEST - MUSS SUNO KENNZEICHNEN?

Jetzt jagen wir einen aktuellen Fall durchs Schema. Suno - der KI-Musikdienst, der gerade vor dem LG München I gegen die GEMA verloren hat (meine ausführliche Analyse dazu: GEMA watscht Suno ab) - hat angekündigt, erzeugte Songs künftig mit Wasserzeichen und Fingerprinting zu versehen. Heise hat berichtet (Suno: KI-Musikdienst will erzeugte Songs mit Wasserzeichen kennzeichnen). Begründet wird das mit Transparenz und dem Schutz von Künstlern. Der Kontext ist erkennbar der urheberrechtliche Druck nach dem Münchner Urteil.

Was in der Berichterstattung und in Sunos eigener Kommunikation nicht vorkommt: der EU AI Act. Also prüfen wir selbst. Von oben nach unten, wie es sich gehört.

Schritt 1 - EU-Recht anwendbar? Suno ist ein US-Unternehmen. Egal. Der Dienst wird in der Union angeboten, EU-Nutzer generieren damit Songs - Inverkehrbringen in der Union (Art. 2 Abs. 1 lit. a). Und selbst wenn man daran zweifeln wollte: Der Output wird in der Union verwendet (lit. c). Die kalifornische Rechtswahl in den AGB interessiert dabei - siehe oben - exakt niemanden. Bereichsausnahmen? Keine einschlägig. EU-Recht: anwendbar.

Schritt 2 - Zeitlich? Art. 50 gilt seit dem 2. August 2026. Suno wurde vor diesem Stichtag in Verkehr gebracht - damit greift die Bestandssystem-Frist des Art. 111 Abs. 4: Die maschinenlesbare Kennzeichnung nach Abs. 2 muss bis zum 2. Dezember 2026 stehen. Und jetzt leg mal Sunos Ankündigung daneben, die Wasserzeichen kämen „in den kommenden Wochen". Rechne nach. Das Zeitfenster passt verdächtig exakt auf die gesetzliche Frist. Suno verkauft der Öffentlichkeit als freiwilliges Transparenz-Engagement, was ab Dezember schlicht einklagbare Gesetzespflicht ist. Chapeau ans Marketing.

Schritt 3 - KI-System? Ein generatives Audio-Modell, das aus Prompts Musik ableitet: Autonomie, Inferenz, Content-Output. Art. 3 Nr. 1 - eindeutig ja.

Schritt 4 - Rollen? Suno entwickelt das System und bietet es unter eigener Marke an: Anbieter (Art. 3 Nr. 3). Die Nutzerinnen und Nutzer, die Songs generieren und veröffentlichen: Betreiber (Art. 3 Nr. 4) - außer sie handeln rein privat (Art. 2 Abs. 10).

Schritt 5 - Fallgruppe 2 für Suno selbst: Musik ist synthetischer Audioinhalt. Also: maschinenlesbare Kennzeichnung, Pflicht aus Art. 50 Abs. 2. Ausnahmen? Ein Volltext-zu-Song-Generator ist keine „unterstützende Funktion für Standardbearbeitung", und dass die Semantik der Eingaben nicht wesentlich verändert würde, kann bei „Prompt rein, fertiger Song raus" niemand ernsthaft vertreten. Pflicht besteht. Die angekündigte Kombination - unhörbares Audio-Wasserzeichen plus Fingerprinting - liest sich wie direkt aus ErwG 133 abgeschrieben: Wasserzeichen plus Fingerabdrücke, Kombination mehrerer Verfahren. Genau richtig. Die spannende Frage ist die Robustheit: Übersteht das Wasserzeichen Transkodierung, Streaming-Kompression, Tempo-Shifts und die YouTube-Upload-Pipeline? Das ist der Maßstab „belastbar und zuverlässig, soweit technisch machbar" - und genau da werden sich die Codes of Practice nach Abs. 7 austoben.

Schritt 6 - Fallgruppe 1 kurz: Sunos Web-Interface ist eine offensichtliche KI-Anwendung - die Offensichtlichkeitsausnahme dürfte greifen. Kein Drama.

Schritt 7 - Fallgruppe 4 für die Nutzerseite: Wer mit Suno einen Song generiert, der wie die Stimme eines existierenden Künstlers klingt, und das Ding veröffentlicht, erzeugt einen Audio-Deepfake (Art. 3 Nr. 60) - und muss als Betreiber offenlegen. Erleichterung für offensichtlich künstlerische Werke: ja, aber Erleichterung heißt dezente Offenlegung, nicht null Offenlegung. Der private Bereich bleibt außen vor. Rein fiktive Musik ohne Bezug zu real existierenden Personen ist dagegen tatbestandlich kein Deepfake - da bleibt es bei Sunos Anbieterpflicht aus Abs. 2.

Schritt 8 - Rechtsfolgen bei Verstoß: Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4 lit. g), Marktüberwachung durch die Bundesnetzagentur - und die UWG-Flanke: Man male sich aus, mit welcher Freude Musikkonzerne und Verwertungsgesellschaften, die Suno ohnehin schon vor Gericht zerlegen, ab Dezember zusätzlich einen Transparenzverstoß in den Schriftsatz tackern.

Ergebnis: Ja, Suno muss kennzeichnen. Maschinenlesbar, robust, spätestens ab dem 2. Dezember 2026. Die Wasserzeichen-Ankündigung ist keine Wohltat und kein PR-Geschenk an die Musikbranche - sie ist die Erfüllung einer Rechtspflicht, fünf Minuten vor Fristablauf. Dass Suno das als Goodwill verkauft und den AI Act mit keiner Silbe erwähnt, ist Kommunikationshandwerk. Dass fast die gesamte Berichterstattung darauf reinfällt und den AI Act ebenfalls nicht erwähnt, ist genau das Kompetenzproblem, mit dem dieser Artikel angefangen hat.

FAZIT

Art. 50 ist seit dem 2. August 2026 scharf. Der Digital Omnibus hat Hochrisiko verschoben - die Transparenzpflichten nicht. Bestandssysteme haben für die maschinenlesbare Kennzeichnung noch bis zum 2. Dezember 2026 Luft, für alles andere nicht. Die Pflichten verteilen sich präzise auf Anbieter und Betreiber, die Ausnahmen sind eng, und durchgesetzt wird nicht nur per Bußgeld, sondern absehbar auch über Abmahnungen und Verbandsklagen.

Und wer dir erzählt, das alles ließe sich auf „KI-Inhalte müssen gekennzeichnet werden" eindampfen, der erzählt dir E = mc² und nennt es Relativitätstheorie.

Wenn du das Ganze nicht nur verstehen, sondern in deinen Systemen umsetzen musst - rechtskonform, dokumentiert, mit einer Kennzeichnungsarchitektur, die eine Behördenprüfung übersteht: Genau dafür bin ich da. ITler mit dem Beifang Jura, Softwarearchitekt mit Staatsexamens-Präzision. Keine Rechtsberatung im anwaltlichen Sinne - dafür geh zu den echten Anwältinnen und Anwälten, die machen das gut. Aber die Brücke zwischen Paragraf und Produktion, die baue ich.

Zurzeit wieder für Projekte verfügbar. Meld dich.

QUELLEN

• Verordnung (EU) 2024/1689 (KI-VO), konsolidierte Fassung vom 27.07.2026 einschließlich der Änderungen durch die Verordnung (EU) 2026/1744 („Digital Omnibus"), EUR-Lex
• Verordnung (EU) 2026/1744 vom 08.07.2026, EUR-Lex
• Bomhard/Pieper/Wende/Merkle, KI-VO, 1. Aufl. 2025, Art. 50
• Wendt/Wendt, Das neue Recht der Künstlichen Intelligenz; Voigt, Handbuch KI-Verordnung
• Gesetz zur Durchführung der KI-Verordnung, in Kraft seit 29.07.2026 (BGBl. 2026 I Nr. 233), BMDS
• Heise: Suno: KI-Musikdienst will erzeugte Songs mit Wasserzeichen kennzeichnen
• Meine Urteilsanalyse: GEMA watscht Suno ab - das Suno-Urteil des LG München I (siehe: Medium oder hier auf meiner Website: ki-codex.ai)

Dieser Artikel ist keine Rechtsberatung im Einzelfall und ersetzt keine anwaltliche Beratung. Er soll dir helfen, den Regelungsrahmen zu verstehen und in der Praxis die richtigen Fragen zu stellen.

Wenn es um die konkrete Umsetzung deiner KI-Anwendung geht - also die Verbindung von IT & Jura (Compliance-by-Design, Dokumentation, Kennzeichnungs- und Prozessarchitektur) - kannst du mich dafür beauftragen. Ich komme aus der Softwarepraxis (über 10 Jahre C#-Entwicklung, lange Zeit „klassisch" ohne KI, jetzt natürlich mit KI-Raketenboost) und entwickle in Kundenprojekten bei Bedarf auch heute noch Prototypen.