Mit dem Inkrafttreten weiterer Bestimmungen des EU AI Acts stellen sich viele Unternehmen aktuell dieselbe Frage: Müssen ab dem 2. August alle KI-generierten Bilder sichtbar gekennzeichnet werden?
Die kurze Antwort lautet: Nein.
Die längere und wichtigere Antwort lautet jedoch: Unternehmen sollten sich nicht darauf verlassen, dass das Thema KI-Kennzeichnung sie nicht betrifft. Denn Artikel 50 des EU AI Acts geht deutlich weiter als die bloße Kennzeichnung von Bildern. Tatsächlich handelt es sich um eine zentrale Transparenzvorschrift, die zahlreiche Anwendungsfälle künstlicher Intelligenz umfasst und erhebliche organisatorische Anforderungen mit sich bringt.
Die eigentliche Herausforderung besteht daher nicht darin, einzelne Inhalte zu markieren. Die Herausforderung besteht darin, die eigene KI-Nutzung zu verstehen, Verantwortlichkeiten festzulegen und eine strukturierte Governance aufzubauen.
Der Irrtum der pauschalen Kennzeichnungspflicht
In den vergangenen Monaten sind zahlreiche vereinfachte Darstellungen zum EU AI Act erschienen. Häufig entsteht dabei der Eindruck, dass künftig jedes mit künstlicher Intelligenz erzeugte Bild verpflichtend mit einem sichtbaren Warnhinweis versehen werden muss.
So einfach ist die Rechtslage jedoch nicht.
Artikel 50 des EU AI Acts enthält Transparenzpflichten für verschiedene KI-Anwendungen. Welche konkreten Anforderungen gelten, hängt unter anderem davon ab:
- Welche Art von KI-System eingesetzt wird
- Welche Rolle ein Unternehmen einnimmt
- Welcher Inhalt erzeugt oder verarbeitet wird
- In welchem Kontext die KI genutzt wird
- Welche Risiken für betroffene Personen bestehen
Eine pauschale Antwort für alle KI-generierten Inhalte gibt es daher nicht.
Für Unternehmen bedeutet dies, dass sie ihre KI-Anwendungen einzeln bewerten müssen, anstatt allgemeine Annahmen zu treffen.
Transparenz betrifft weit mehr als Bilder
Wer Artikel 50 ausschließlich mit Bildgenerierung verbindet, übersieht einen wesentlichen Teil der Anforderungen.
Die Vorschrift umfasst unter anderem:
- Chatbots und KI-Assistenten
- KI-Agenten
- KI-generierte oder manipulierte Audioinhalte
- KI-generierte oder manipulierte Videoinhalte
- Deepfakes
- Emotionserkennungssysteme
- Systeme zur biometrischen Kategorisierung
- Bestimmte KI-generierte Texte zu Themen von öffentlichem Interesse
- Anforderungen an maschinenlesbare Kennzeichnungen
Damit wird deutlich, dass Transparenz nicht nur ein Marketing-Thema ist. Sie betrifft zahlreiche Geschäftsprozesse, Kundeninteraktionen und interne Anwendungen.
Unternehmen, die KI im Kundenservice, in der Personalabteilung, im Marketing, in der Softwareentwicklung oder im Wissensmanagement einsetzen, sollten daher prüfen, ob Transparenzpflichten relevant sind.
Die entscheidende Frage: Welche Rolle hat Ihr Unternehmen?
Ein zentraler Aspekt des AI Acts besteht darin, dass die Pflichten von der jeweiligen Rolle abhängen.
Viele Organisationen nutzen heute KI-Systeme großer Anbieter wie Microsoft, OpenAI, Google oder Anthropic. Dabei wird häufig angenommen, dass sämtliche regulatorischen Verpflichtungen ausschließlich beim Anbieter liegen.
Diese Annahme kann gefährlich sein.
Der AI Act unterscheidet unter anderem zwischen:
- Anbietern von KI-Systemen
- Betreibern beziehungsweise Deployern
- Importeuren
- Händlern
- Bevollmächtigten
Je nach Einsatzszenario können unterschiedliche Verpflichtungen entstehen. Ein Unternehmen kann in einem Anwendungsfall lediglich Nutzer einer KI-Lösung sein, in einem anderen jedoch selbst Inhalte bereitstellen oder KI-Systeme in einer Weise konfigurieren, die zusätzliche Anforderungen auslöst.
Ohne eine klare Rollenbestimmung lässt sich daher kaum beurteilen, welche gesetzlichen Pflichten tatsächlich bestehen.
Wissen Sie überhaupt, welche KI-Systeme eingesetzt werden?
In vielen Unternehmen existiert bereits heute ein erhebliches Transparenzproblem.
Mitarbeitende nutzen KI-Tools für:
- Texterstellung
- Bildgenerierung
- Übersetzungen
- Softwareentwicklung
- Datenanalysen
- Rechercheaufgaben
- Kundenkommunikation
Oft geschieht dies dezentral und ohne zentrale Erfassung.
Dadurch können Unternehmen grundlegende Fragen nicht beantworten:
- Welche KI-Systeme werden genutzt?
- Wer nutzt diese Systeme?
- Für welche Zwecke werden sie eingesetzt?
- Welche Daten werden verarbeitet?
- Welche Inhalte werden veröffentlicht?
- Welche Risiken bestehen?
Ein wesentlicher Bestandteil einer funktionierenden AI Governance besteht daher zunächst darin, Transparenz über die eigene KI-Landschaft zu schaffen.
Man kann nur die Anforderungen erfüllen, die man kennt. Für unbekannte KI-Anwendungen ist das nicht möglich.
Wer prüft und genehmigt KI-generierte Inhalte?
Ein weiterer häufig übersehener Punkt betrifft interne Verantwortlichkeiten.
Viele Unternehmen verfügen über Freigabeprozesse für Verträge, Datenschutzunterlagen oder Marketingkampagnen. Für KI-generierte Inhalte existieren solche Prozesse jedoch oft noch nicht.
Dabei stellt sich eine Reihe wichtiger Fragen:
- Wer erstellt den Inhalt?
- Wer prüft die fachliche Richtigkeit?
- Wer bewertet mögliche Transparenzpflichten?
- Wer entscheidet über eine Kennzeichnung?
- Wer dokumentiert die Entscheidung?
Fehlen klare Zuständigkeiten, entstehen schnell Unsicherheiten und Inkonsistenzen.
Während eine Abteilung Inhalte konsequent kennzeichnet, verzichtet eine andere möglicherweise vollständig darauf. Das erhöht nicht nur regulatorische Risiken, sondern erschwert auch Audits und Compliance-Nachweise.
Dokumentation wird zum entscheidenden Erfolgsfaktor
Eine wirksame Compliance-Strategie endet nicht mit der Umsetzung einer Maßnahme.
Unternehmen müssen zunehmend nachweisen können, wie Entscheidungen getroffen wurden und auf welcher Grundlage bestimmte Bewertungen erfolgt sind.
Deshalb sollten Organisationen dokumentieren:
- Welche KI-Systeme verwendet werden
- Welche Bewertungen durchgeführt wurden
- Welche Transparenzpflichten identifiziert wurden
- Welche Maßnahmen umgesetzt wurden
- Wer Entscheidungen freigegeben hat
- Wann Überprüfungen stattgefunden haben
Diese Dokumentation schafft nicht nur regulatorische Sicherheit. Sie erleichtert auch interne Kontrollen, Zertifizierungen und externe Audits.
AI Governance statt Einzelmaßnahmen
Viele Unternehmen suchen derzeit nach schnellen Lösungen für einzelne Anforderungen des AI Acts.
In der Praxis zeigt sich jedoch, dass isolierte Maßnahmen selten ausreichen.
Wer lediglich eine Kennzeichnung für KI-generierte Bilder einführt, löst möglicherweise nur einen kleinen Teil der tatsächlichen Anforderungen.
Nachhaltiger ist der Aufbau einer strukturierten AI Governance mit definierten Prozessen, Rollen und Verantwortlichkeiten.
Dazu gehören beispielsweise:
- KI-Richtlinien
- Freigabeprozesse
- Risikobewertungen
- Schulungen
- Dokumentation
- Kontrollmechanismen
- Regelmäßige Überprüfungen
Ein systematischer Ansatz reduziert nicht nur regulatorische Risiken, sondern schafft auch Vertrauen bei Kunden, Geschäftspartnern und Behörden.
ISO/IEC 42001 als Grundlage für nachhaltige KI-Compliance
Viele Organisationen erkennen inzwischen, dass eine langfristige Umsetzung der KI-Regulierung nur mit einem Managementsystemansatz sinnvoll möglich ist.
Die internationale Norm ISO/IEC 42001 bietet hierfür einen strukturierten Rahmen.
Sie unterstützt Unternehmen dabei:
- KI-Systeme zu identifizieren
- Verantwortlichkeiten festzulegen
- Risiken zu bewerten
- Governance-Prozesse aufzubauen
- Compliance-Anforderungen umzusetzen
- Nachweise für Audits bereitzustellen
Dadurch entsteht eine belastbare Grundlage für den verantwortungsvollen Einsatz künstlicher Intelligenz.
Fazit
Die Diskussion über die Kennzeichnung KI-generierter Bilder greift zu kurz. Artikel 50 des EU AI Acts betrifft weit mehr als visuelle Inhalte und stellt Unternehmen vor umfassende Transparenzanforderungen.
Die entscheidende Frage lautet daher nicht, ob ein einzelnes Bild gekennzeichnet werden muss. Die entscheidende Frage lautet, ob eine Organisation überhaupt weiß, welche KI-Systeme eingesetzt werden, welche Pflichten daraus entstehen und wie diese Entscheidungen dokumentiert werden.
Annahmen sind keine Compliance-Strategie.
Unternehmen sollten jetzt die Gelegenheit nutzen, ihre KI-Nutzung zu analysieren, Verantwortlichkeiten festzulegen und tragfähige Governance-Strukturen aufzubauen.
Die Syngenity® GmbH unterstützt Organisationen dabei, genau diese Transparenz zu schaffen und AI-Governance-Strukturen sowie KI-Managementsysteme nach ISO/IEC 42001 zu etablieren. Denn nachhaltige KI-Compliance beginnt nicht mit einer Kennzeichnung, sondern mit einem systematischen Verständnis der eigenen KI-Landschaft.
