EU AI Act: KI-Kennzeichnungspflicht ab August

EU AI Act: KI-Inhalte sollen transparenter werden

Eine Studie von Microsoft Research und weiteren Forschern zeigt, wie schwer KI-Bilder zu erkennen sind: Bei rund 287.000 Bildbewertungen von mehr als 12.500 Teilnehmern lag die Trefferquote im Schnitt nur bei 62 %. Besonders schwer fiel die Unterscheidung bei Stadt- und Naturbildern.

Für Unternehmen ist das ein Warnsignal: Ein Bild von einem vollen Café, zufriedenen Kunden oder einem modernen Büro kann Vertrauen schaffen.

Doch wenn dieser Ort, diese Kunden oder dieses Büro gar nicht existieren, entsteht ein falscher Eindruck. Das kann die Glaubwürdigkeit in der Realität schädigen.

Genau hier setzt der AI Act an: Das EU-Gesetz schafft erstmals einen verbindlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union und legt fest, wann Transparenz gegenüber Nutzern erforderlich ist.

Der AI Act will KI nicht generell verbieten. Transparenzpflichten sollen aber verhindern, dass Menschen künstliche Inhalte für echte Aufnahmen halten.

Unternehmer müssen sich zukünftig folgende Frage stellen: Könnte ein Betrachter glauben, dass dieses Bild echt ist? Falls ja, braucht es in vielen Fällen eine klare Kennzeichnung.

Unsere Partner-Empfehlungen

EU KI-Verordnung: Die Pflichten zusammengefasst

Die Transparenzpflichten aus Artikel 50 des AI Acts gelten ab dem 2. August 2026.

Sie betreffen KI-generierte oder manipulierte

• Bilder,
• Videos,
• Audioinhalte,
• Texte und
• Chat-Ausgaben,

sofern diese Inhalte wie echte Aufnahmen, Aussagen oder menschliche Kommunikation wirken können.

Der AI Act unterscheidet zwischen Anbietern und Betreibern von KI-Systemen. Anbieter wie OpenAI (ChatGPT), Google (Gemini) oder Anthropic (Claude) müssen eine maschinelle Erkennbarkeit von KI-generierten oder manipulierten Inhalten ermöglichen. Das kann über Metadaten, digitale Wasserzeichen oder andere maschinenlesbare Markierungen geschehen.

Für Selbstständige als Betreiber zählt vor allem die Nutzerseite. Infografiken, Diagramme oder klar als Illustration erkennbare Visualisierungen sind in der Regel unkritisch, solange sie keine reale Situation vortäuschen. Heikel hingegen sind Darstellungen angeblicher Kunden, Mitarbeitender, Geschäftsräume, Events, Produktanwendungen oder Vorher-nachher-Darstellungen.

Nutzer müssen auch bei KI-gestützter Kundenkommunikation wie Chatbots und schriftlichen Inhalten erkennen können, wenn sie mit einer KI interagieren oder Inhalte nicht von einem Menschen stammen.

Für Texte gilt eine Einschränkung: Eine ausdrückliche Kennzeichnungspflicht greift vor allem dann, wenn es um KI-generierte oder -manipulierte Texte geht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren.

Eine Ausnahme besteht, wenn eine menschliche Kontrolle bzw. Überprüfung erfolgt und eine Person die redaktionelle Verantwortung trägt.

So müssen KI-Inhalte gekennzeichnet werden

Der Hinweis auf KI-Generierung sollte dort stehen, wo Nutzer den Inhalt wahrnehmen. Bei Bildern bietet sich die Bildunterschrift an, bei Videos ein eingeblendeter Hinweis oder eine klare Kennzeichnung im Player.

Auf Social Media kann der Hinweis in die Caption oder direkt ins Motiv integriert werden. Bei Texten sollte er gut sichtbar im Beitrag selbst stehen. Bei Anzeigen sollte er spätestens zur ersten Interaktion verfügbar sein.

Die Formulierung dazu muss klar und eindeutig sein. Geeignet sind kurze Hinweise wie "KI-generierter Inhalt" oder "mit KI erstellt".

Verstöße gegen Transparenzpflichten können teuer werden: Der AI Act sieht für bestimmte Verstöße Bußgelder von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes vor. Zusätzlich drohen wettbewerbsrechtliche Abmahnungen, wenn KI-Bilder irreführend eingesetzt werden.

AI-Act-Check für Unternehmer

Gründer, KMU und Solo-Selbstständige sollten jetzt einen einfachen, verbindlichen Prozess für KI-Inhalte einführen. Der erste Schritt ist eine Bestandsaufnahme: Welche KI-Bilder, KI-Texte, Videos oder Audioinhalte nutzt das Unternehmen bereits?

Wichtig sind Website, Shop, Anzeigen, Social Media, Newsletter, Präsentationen und Vertriebsunterlagen. Für jeden Inhalt sollte kurz geprüft werden:

• Ist er KI-generiert oder KI-bearbeitet?
• Könnte er wie ein echter, menschlich erstellter Inhalt wirken?
• Besteht die Gefahr, dass Nutzer dadurch einen falschen Eindruck gewinnen?

Bei Unsicherheit sollten die inhaltlich rechtlich geprüft werden. Danach sollten die wichtigsten KI-Use-Cases erfasst werden. Also:

• Wo wird KI regelmäßig eingesetzt?
• Wer erstellt die Inhalte?
• Welche Tools werden genutzt?
• An welchen Stellen kommen die Inhalte mit Kunden, Bewerbern, Investoren oder Geschäftspartnern in Kontakt?

Außerdem sollten Unternehmen Standardhinweise festlegen.

Auch die eingesetzten Tools gehören auf den Prüfstand. Gründer sollten prüfen, ob ihre KI-Tools Metadaten, Wasserzeichen oder andere Formen der Kennzeichnung unterstützen. Das ersetzt zwar nicht die eigene Verantwortung, erleichtert aber die saubere Umsetzung.

Zum Prozess gehören außerdem klare Zuständigkeiten:

• Wer darf KI-Inhalte erstellen?
• Wer gibt sie frei?
• Wer entscheidet, ob eine Kennzeichnung nötig ist?

Diese Verantwortung sollte nicht nebenbei im Marketing liegen, sondern klar benannt werden.

Für Agenturen und Freelancer sollten dieselben Regeln gelten. Wer externe Dienstleister beauftragt, sollte schriftlich festlegen,

• wann KI eingesetzt werden darf,
• wie Inhalte gekennzeichnet werden und
• wer die finale Freigabe übernimmt.

Die wichtigste Regel bleibt: KI darf im Marketing gestalten, erklären und Aufmerksamkeit schaffen. Sie sollte aber nie echte Kunden, echte Räume, echte Events oder echte Erfolge vortäuschen.

Auch spannend:

• Rente: Reformpaket bringt Pflichtversicherung für Selbstständige
• Die 10 reichsten Deutschen: LIDL, BMW und Aldi dominieren
• Selbstständig machen: Selbstständig machen: 10 Geschäftsideen für Klein- & Nebengewerbe