Direkt zum Inhalt
Dr. Sebastian SilberzahnRechtsanwalt
Kontakt aufnehmen
Alle Insights

Grundlagen ·

KI-Transparenz im Produkt. Was Softwareanbieter kennzeichnen müssen

Dr. Sebastian Silberzahn, RechtsanwaltStand der Fakten etwa 10 Min.

Auf einen Blick

Wer eine KI-Funktion unter eigenem Namen anbietet, ist dafür in der Regel Anbieter im Sinne der KI-Verordnung, auch wenn das Modell von einem anderen Hersteller stammt. Er muss dafür sorgen, dass Nutzer einen KI-Assistenten als solchen erkennen, und die erzeugten Inhalte maschinenlesbar kennzeichnen, während Deepfakes und veröffentlichte Texte in der Verantwortung seiner Kunden bleiben. Der Hinweis auf die KI ist seit dem 2. August 2026 Pflicht, und für Funktionen, die schon vorher auf dem Markt waren, muss die Kennzeichnung spätestens am 2. Dezember 2026 umgesetzt sein.

Inhalt

Viele Softwareunternehmen bauen derzeit KI-Funktionen in ihre Produkte ein oder planen, KI-Leistungen künftig selbst anzubieten. Beispiele sind ein Assistent, der Fragen zum Produkt beantwortet, eine Zusammenfassung langer Tickets oder Dokumente und ein Generator für Texte oder Bilder. Technisch steckt dahinter oft ein Sprachmodell eines großen Herstellers, das über eine Schnittstelle eingebunden wird. Rechtlich gilt für solche Funktionen seit dem 2. August 2026 Art. 50 der KI-Verordnung (KI-VO). In diesem Beitrag erläutere ich, wann ein Softwareunternehmen für die Transparenz einer KI-Funktion verantwortlich ist, welche Funktionen erfasst sind, was bis zum 2. Dezember 2026 umgesetzt sein muss und welche Pflichten bei den Kunden bleiben.

Unterschiedliche Adressaten von Transparenzpflichten

Art. 50 KI-VO wird oft als allgemeine Pflicht verstanden, alles zu kennzeichnen, was eine KI erzeugt hat. Tatsächlich enthält die Vorschrift vier einzelne Pflichten, die sich jeweils an einen bestimmten Adressaten richten.1 Die ersten beiden treffen den Anbieter eines KI-Systems. Er muss Systeme, die direkt mit Menschen interagieren, so gestalten, dass diese erfahren, dass sie mit einer KI kommunizieren (Abs. 1). Außerdem muss er Audio-, Bild-, Video- und Textinhalte, die sein System erzeugt oder verändert, in einem maschinenlesbaren Format kennzeichnen und als künstlich erzeugt erkennbar machen (Abs. 2). Die beiden anderen Pflichten treffen den Betreiber, der das System einsetzt. Er informiert die betroffenen Personen, wenn er ein System zur Emotionserkennung oder zur biometrischen Kategorisierung einsetzt (Abs. 3), und er legt Deepfakes sowie bestimmte veröffentlichte Texte offen (Abs. 4). Alle Informationen müssen klar erkennbar, spätestens bei der ersten Interaktion und barrierefrei bereitgestellt werden (Abs. 5).

Wie die Kommission diese Pflichten versteht, hat sie in Leitlinien beschrieben, deren aktuelle Fassung vom 5. November 2026 stammt. Die Leitlinien binden weder Unternehmen noch Gerichte, maßgeblich auslegen kann die KI-VO nur der Europäische Gerichtshof.2 Sie sind aber derzeit der genaueste Maßstab, an dem sich Unternehmen und Aufsichtsbehörden orientieren können. Ergänzend gibt es einen freiwilligen Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte, den die Kommission und das KI-Gremium als geeignetes Mittel bewertet haben, um die Einhaltung der Pflichten nachzuweisen.3 Verstöße gegen die Transparenzpflichten können mit Geldbußen von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, bei kleinen und mittleren Unternehmen gilt der jeweils niedrigere Betrag.4

Anbieter ist, wer die Funktion unter eigenem Namen anbietet

Welche Pflichten ein Unternehmen treffen, hängt davon ab, ob es nach der KI-VO Anbieter oder Betreiber ist. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet.5

Die Pflichten knüpfen an das KI-System an, nicht an das Modell, das darin arbeitet. Ein Softwareunternehmen, das ein Sprachmodell eines anderen Herstellers in sein Produkt einbaut und die Funktion unter eigenem Namen anbietet, ist deshalb für diese Funktion in der Regel selbst Anbieter. Die Kommission nennt als Beispiel ausdrücklich ein Unternehmen, das eine KI-Anwendung unter eigener Marke an andere Unternehmen liefert, die sie in ihre Prozesse integrieren.6 Den Hersteller des Modells treffen diese Pflichten nicht unmittelbar. Die Kommission ermutigt Modellanbieter aber, Hinweise und Kennzeichnung bereits im Modell anzulegen, damit nachgelagerte Anbieter ihre Pflichten leichter erfüllen können.7 Auf eine solche Kennzeichnung darf sich das Softwareunternehmen stützen, soweit sie den Anforderungen genügt. Nachweisen muss es die Einhaltung dennoch selbst.8

Kunden, die die Funktion beruflich nutzen, sind Betreiber. Deren Beschäftigte werden dadurch nicht zu eigenen Betreibern, weil sie nach den Vorgaben und unter der Kontrolle ihres Arbeitgebers handeln.9 Ein Unternehmen kann auch beide Rollen zugleich innehaben, etwa wenn es sein eigenes generatives System im Marketing einsetzt.10

Diese Rollen sind von den Rollen nach der Datenschutz-Grundverordnung (DSGVO) zu trennen. Dasselbe Unternehmen kann für eine Funktion Anbieter nach der KI-VO sein und die personenbezogenen Daten, die seine Kunden eingeben, als deren Auftragsverarbeiter verarbeiten. Wie sich die datenschutzrechtliche Rolle bestimmen lässt, erläutere ich im Beitrag Eigene Daten und Daten im Auftrag.

Ein Assistent muss sich als KI zu erkennen geben

Die Hinweispflicht nach Abs. 1 erfasst Systeme, die für eine echte wechselseitige Kommunikation mit Menschen bestimmt sind. Dazu gehören Assistenten und Chatbots im Produkt ebenso wie KI-Agenten, die mit Nutzern oder Dritten kommunizieren. Nicht erfasst sind Aufrufe zwischen Systemen im Hintergrund, an denen kein Mensch beteiligt ist.11

Der Hinweis entfällt nur, wenn für einen durchschnittlich informierten, aufmerksamen und verständigen Nutzer offensichtlich ist, dass er mit einer KI kommuniziert. Die Kommission legt diese Ausnahme eng aus. Dass Nutzer allgemein wissen, dass es Chatbots gibt, macht die Interaktion mit einem bestimmten Chatbot noch nicht offensichtlich. Richtet sich ein Produkt nur an ein Fachpublikum, kann die Ausnahme eher greifen als bei einem Angebot für Verbraucher.12

Zusammenfassungen sind zu kennzeichnen, Rechtschreibkorrekturen nicht

Die Kennzeichnungspflicht nach Abs. 2 betrifft Funktionen, die Audio, Bilder, Video oder Text erzeugen oder verändern. Ausgenommen sind Systeme, soweit sie lediglich bei der Standardbearbeitung unterstützen oder die Eingaben des Nutzers nicht wesentlich verändern. Die Leitlinien zählen dazu Rechtschreib- und Grammatikkorrekturen, kleinere stilistische Glättungen und Übersetzungen. Eine Zusammenfassung oder eine Umformulierung, die Stil, Aufbau oder Aussage eines Textes verändert, ist dagegen zu kennzeichnen.13 Ganz außerhalb des Anwendungsbereichs liegen kurze Ausgaben wie einzelne Wörter, Bildunterschriften und Beschriftungen der Oberfläche sowie Quellcode.14

Für B2B-Anwendungen sehen die Leitlinien eine weitere, eng gefasste Ausnahme vor. Sie gilt nur für rein technische Ausgaben, die ein begrenzter, vorab festgelegter Personenkreis wahrnimmt, und nur dann, wenn alle Voraussetzungen zusammen erfüllt sind.15 Texte, die eine SaaS-Funktion für ihre Nutzer erzeugt, dürften diese Voraussetzungen in aller Regel nicht erfüllen, auch wenn das Produkt ausschließlich an Unternehmen vertrieben wird.

Die Kennzeichnung muss maschinenlesbar sein, etwa als Wasserzeichen oder in den Metadaten. Das allein genügt nach Ansicht der Kommission jedoch nicht. Der Anbieter muss außerdem dafür sorgen, dass sich die Kennzeichnung mit verfügbaren Mitteln auslesen lässt, möglichst über öffentlich zugängliche Standards.16 Angaben zu der Person, die den Inhalt erstellt hat, sollte die Kennzeichnung wohl nicht enthalten.17

Bestandsfunktionen müssen bis zum 2. Dezember gekennzeichnet sein

Die Transparenzpflichten gelten seit dem 2. August 2026 für alle erfassten Systeme, auch für solche, die bereits vorher auf dem Markt waren.18 Mit der Änderungsverordnung vom Juli 2026, dem Digital Omnibus zur KI, hat der Gesetzgeber davon nur eine Ausnahme gemacht. Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen die Kennzeichnung nach Abs. 2 erst bis zum 2. Dezember 2026 umsetzen.19 Für den Hinweis nach Abs. 1 gilt diese Übergangsfrist nicht. Bei einem Assistenten, der zugleich Texte erzeugt, muss der Hinweis auf die KI also bereits seit August erscheinen, während die Kennzeichnung der erzeugten Texte noch bis Dezember Zeit hat.20 Inhalte, die vor dem 2. August 2026 erzeugt wurden, müssen nicht nachträglich gekennzeichnet werden.21

Offen ist, wie eine Funktion zu behandeln ist, die nach dem 2. August 2026 grundlegend überarbeitet wurde. Für Hochrisiko-Systeme regelt Art. 111 Abs. 2 KI-VO ausdrücklich, dass erhebliche Änderungen zu neuen Pflichten führen. Der neue Abs. 4 enthält für die Kennzeichnung keine vergleichbare Regel. Ich halte es für vertretbar, eine weiterentwickelte Funktion weiterhin als Bestandssystem zu behandeln, solange sie dieselbe Aufgabe erfüllt. Kommt dagegen eine neue Art von Ausgabe hinzu, etwa Bilder statt Texte, spricht mehr für ein neues System, für das die Übergangsfrist nicht gilt.

Deepfakes und öffentliche Texte kennzeichnet der Kunde selbst

Die Offenlegungspflichten nach Abs. 4 treffen nicht das Softwareunternehmen, sondern seine Kunden als Betreiber. Ein Deepfake ist ein mit KI erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der realen Personen, Orten oder Ereignissen ähnelt und einem Betrachter fälschlich als echt erscheinen würde.22 KI-generierte Texte müssen Betreiber nur offenlegen, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Produktbeschreibungen, gewöhnliche Werbetexte und eine Zusammenfassung, die nur der Nutzer selbst sieht, fallen nach den Leitlinien nicht darunter. Die Pflicht entfällt außerdem, wenn ein Mensch den Text geprüft hat und jemand die redaktionelle Verantwortung trägt.23

Das Softwareunternehmen kann seinen Kunden diese Pflichten nicht abnehmen, ihnen die Erfüllung aber erleichtern. Die Leitlinien sehen sichtbare Hinweise an erzeugten Inhalten ausdrücklich als ergänzende Maßnahme vor, und die Kommission stellt dafür freiwillige Symbole bereit.24 Eine Funktion, die Bilder erzeugt, kann solche Hinweise etwa standardmäßig anbringen und dem Kunden die Entscheidung überlassen, ob er sie beibehält.

Der Hinweis gehört in die Oberfläche, die Kennzeichnung in die Ausgabe

Für die Umsetzung gibt es mehrere Wege, die sich in Aufwand und Abhängigkeiten unterscheiden. Beim Hinweis auf die KI ist ein dauerhaftes Label am Assistenten jederzeit sichtbar, wird mit der Zeit aber übersehen. Ein Hinweis beim ersten Aufruf fällt stärker auf, ist danach aber nicht mehr präsent. Nach den Leitlinien genügt meist ein gut sichtbarer Hinweis vor der ersten Interaktion, empfohlen wird aber, beides zu verbinden, etwa ein Label mit einem kurzen Hinweis in der ersten Antwort. In sensibleren Zusammenhängen können wiederkehrende Hinweise nötig sein. Ein Hinweis allein in den Nutzungsbedingungen oder in der Dokumentation reicht nicht aus.25

Bei der Kennzeichnung liegt es nahe, auf Wasserzeichen oder Metadaten aufzusetzen, die der Modellanbieter bereits mitliefert. Das lässt sich schnell umsetzen, macht das Unternehmen aber von den Entscheidungen des Modellanbieters abhängig. Wechselt es das Modell, muss es die Kennzeichnung unter Umständen neu lösen, und den Nachweis, dass sie genügt, muss es in jedem Fall selbst führen können. Eine eigene Kennzeichnung in der Anwendung bedeutet mehr Aufwand, bleibt aber unabhängig vom Modell. In beiden Fällen erwartet die Kommission, dass Anbieter ihre Lösung mit dem Stand der Technik weiterentwickeln.26

Zusätzlich kann ein Unternehmen den Verhaltenskodex unterzeichnen. Unterzeichner können sich zum Nachweis auf die Maßnahmen des Kodex stützen und haben damit gegenüber den Aufsichtsbehörden eine verlässliche Grundlage. Sie verpflichten sich dafür auf konkrete Maßnahmen und wirken in den Arbeitsgruppen der Unterzeichner mit. Wer nicht unterzeichnet, muss im Einzelfall darlegen, dass seine eigenen Maßnahmen angemessen sind.27

Auch gegenüber Kunden lohnt sich eine abgestimmte Linie. Die Frage, was ein Produkt kennzeichnet, kann im Sicherheitsfragebogen oder in Vertragsverhandlungen aufkommen, etwa wenn ein Kunde selbst Inhalte veröffentlicht und seine eigenen Pflichten einschätzen muss. Eine Beschreibung, welche Funktionen einen Hinweis zeigen, welche Ausgaben gekennzeichnet werden und welche Pflichten beim Kunden bleiben, beantwortet diese Frage und lässt sich in die Produktdokumentation übernehmen.

Die Verantwortung lässt sich nicht an den Modellanbieter abgeben

Für Anbieter sind die Transparenzpflichten vor allem eine Anforderung an das Produkt. Ein Absatz in den Nutzungsbedingungen erfüllt sie nicht, und weder der Modellanbieter noch der Kunde kann sie dem Unternehmen abnehmen, das die Funktion unter eigenem Namen anbietet. Als Ausgangspunkt lohnt sich eine Übersicht aller KI-Funktionen im Produkt, die für jede Funktion festhält, ob sie direkt mit Nutzern kommuniziert, ob sie Inhalte erzeugt, die gekennzeichnet werden müssen, und was der Modellanbieter bereits mitliefert. Wird in derselben Übersicht auch die datenschutzrechtliche Rolle erfasst, lässt sie sich zugleich für Kundenanfragen nutzen.

Wo ein Assistent sich bisher nicht als KI zu erkennen gibt, sollte der Hinweis zeitnah ergänzt werden, weil diese Pflicht bereits gilt. Die Kennzeichnung von Bestandsfunktionen sollte bis zum 2. Dezember 2026 stehen, neue Funktionen sollten sie vom ersten Release an enthalten. Ob sich die Unterzeichnung des Verhaltenskodex lohnt, hängt unter anderem davon ab, wie aufwendig seine Maßnahmen im eigenen Produkt umzusetzen sind, welche Kunden das Produkt nutzen und in welcher Phase sich das Unternehmen befindet.

Einige Fragen sind noch offen. Für die Erkennung gekennzeichneter Inhalte fehlen einheitliche Standards, die Behandlung überarbeiteter Bestandsfunktionen ist ungeklärt, und wie die Aufsicht in Deutschland die Pflichten durchsetzt, wird sich erst zeigen. Die Kommission hat angekündigt, ihre Leitlinien anhand der praktischen Erfahrungen zu überprüfen.28 Wer Hinweis und Kennzeichnung jetzt als Teil der Funktion plant, kann spätere Anpassungen mit dem regulären Release umsetzen.

Fußnoten

  1. Art. 50 Abs. 1 bis 5 KI-VO; Leitlinien der Kommission zu Art. 50 KI-VO, C(2026) 7702 final vom 5.11.2026 (im Folgenden Leitlinien), Rn. 6 und 141 bis 143. ↩

  2. Leitlinien, Rn. 5. ↩

  3. Europäische Kommission, Seite zum Code of Practice on Transparency of AI-generated Content (Stand 19.10.2026); Leitlinien, Rn. 146 und 147. ↩

  4. Art. 99 Abs. 4 lit. g und Abs. 6 KI-VO; Leitlinien, Rn. 152. ↩

  5. Art. 3 Nr. 3 und 4 KI-VO; Leitlinien, Rn. 10 und 12. ↩

  6. Leitlinien, Rn. 11 mit Beispiel. ↩

  7. Leitlinien, Rn. 26 und 27. ↩

  8. Leitlinien, Rn. 74. ↩

  9. Leitlinien, Rn. 14. ↩

  10. Leitlinien, Rn. 15. ↩

  11. Leitlinien, Rn. 30 und 31. ↩

  12. Leitlinien, Rn. 42 bis 45. ↩

  13. Art. 50 Abs. 2 KI-VO; Leitlinien, Rn. 56 und 90 bis 92 mit Beispielen. ↩

  14. Leitlinien, Rn. 68. ↩

  15. Leitlinien, Rn. 87. ↩

  16. Leitlinien, Rn. 70, 71, 75 und 76. ↩

  17. Leitlinien, Rn. 94. ↩

  18. Art. 113 KI-VO; Leitlinien, Rn. 153. ↩

  19. Art. 111 Abs. 4 KI-VO, angefügt durch Art. 1 Nr. 39 lit. b der Verordnung (EU) 2026/1744; Erwägungsgrund 38 der Verordnung (EU) 2026/1744. ↩

  20. Leitlinien, Rn. 153. ↩

  21. Leitlinien, Rn. 154. ↩

  22. Art. 3 Nr. 60 und Art. 50 Abs. 4 Unterabs. 1 KI-VO; Leitlinien, Rn. 112 bis 118. ↩

  23. Art. 50 Abs. 4 Unterabs. 2 KI-VO; Leitlinien, Rn. 130 bis 138. ↩

  24. Leitlinien, Rn. 71; Europäische Kommission, EU-Icons zur Kennzeichnung KI-generierter Inhalte. ↩

  25. Leitlinien, Rn. 37, 38 und 40. ↩

  26. Leitlinien, Rn. 74 und 83. ↩

  27. Leitlinien, Rn. 84, 147 und 148; Europäische Kommission, Seite zum Code of Practice. ↩

  28. Leitlinien, Rn. 155. ↩

Quellen

Quelle Art und Verbindlichkeit
Verordnung (EU) 2024/1689 (KI-VO, AI Act), Art. 3, 50, 99, 111, 113 Verordnung, unmittelbar verbindlich
Verordnung (EU) 2026/1744 vom 8. Juli 2026 zur Änderung der KI-VO (Digital-Omnibus-Verordnung zur KI), ABl. L 2026/1744 vom 24.7.2026, Art. 1 Nr. 39 und Erwägungsgrund 38 Verordnung, unmittelbar verbindlich, in Kraft seit 27.7.2026
Mitteilung der Kommission, Leitlinien zur Umsetzung der Transparenzpflichten für bestimmte KI-Systeme nach Art. 50 KI-VO, C(2026) 7702 final vom 5.11.2026 Leitlinien, nicht verbindlich
Code of Practice on Transparency of AI-generated Content, Juni 2026 freiwilliger Verhaltenskodex, von Kommission und KI-Gremium als angemessen bewertet
Europäische Kommission, EU-Icons zur Kennzeichnung KI-generierter Inhalte freiwillige Hilfsmittel

Themen

Normen

  • Art. 50 Abs. 1 bis 5 KI-VO
  • Art. 3 Nr. 3, 4 und 60 KI-VO
  • Art. 99 Abs. 4 und 6 KI-VO
  • Art. 111 Abs. 2 und 4 KI-VO
  • Art. 113 KI-VO
  • Verordnung (EU) 2026/1744
  • Leitlinien der Kommission zu Art. 50 KI-VO, C(2026) 7702
  • Code of Practice on Transparency of AI-generated Content

Weiterlesen

Kontakt

Erstgespräch vereinbaren

Melden Sie sich gerne per E-Mail für einen ersten Termin. Im persönlichen Austausch besprechen wir Ihr Vorhaben und klären, wie eine sinnvolle Zusammenarbeit aussehen kann.