Neues EU-Gesetz
KI-Kennzeichnungspflicht im Rathaus: Nicht jeder ChatGPT-Text braucht ein Warnschild
Ab Sonntag, dem 2. August 2026, gelten zwar neue Transparenzpflichten aus Artikel 50 der europäischen KI-Verordnung. Doch eine allgemeine Pflicht, jeden mit künstlicher Intelligenz bearbeiteten Text zu kennzeichnen, gibt es nicht. Die entscheidende Nachricht für Bürgermeister, Pressestellen und Hauptämter lautet: Wird ein Text fachlich von einem Menschen geprüft und von der Kommune verantwortlich freigegeben, ist grundsätzlich kein sichtbarer KI-Hinweis erforderlich.
Die Europäische Kommission hat die endgültigen Leitlinien zu Artikel 50 erst am 20. Juli 2026 veröffentlicht und Ende Juli noch einmal aktualisiert. Sie sollen ausdrücklich für eine verhältnismäßige und einheitliche Anwendung der Regeln sorgen.
Zwei Pflichten werden häufig durcheinandergebracht
Ein Grund für die Verwirrung liegt darin, dass die KI-Verordnung zwei unterschiedliche Arten der Kennzeichnung regelt.
Die erste Pflicht trifft vor allem die Anbieter generativer KI-Systeme, also beispielsweise die Unternehmen hinter großen Sprach- und Bildmodellen. Sie müssen dafür sorgen, dass künstlich erzeugte oder veränderte Inhalte möglichst in einem maschinenlesbaren Format erkennbar sind. Gemeint sind etwa technische Metadaten, Herkunftsinformationen oder andere digitale Markierungen. Das ist in erster Linie eine Aufgabe des Herstellers des KI-Systems und nicht der kommunalen Pressestelle.
Die zweite Pflicht betrifft die Anwender solcher Systeme, in der Verordnung „Betreiber“ genannt. Dazu können auch Gemeinden, Städte, Kreise und kommunale Unternehmen gehören. Sie müssen in bestimmten Fällen für den Bürger sichtbar offenlegen, dass ein Text, ein Bild, eine Tonaufnahme oder ein Video künstlich erzeugt oder verändert wurde.
Aus diesen beiden Ebenen wird in manchen Schlagzeilen kurzerhand eine pauschale Kennzeichnungspflicht für alles, was irgendwann einmal mit einer KI in Berührung gekommen ist. Das klingt dramatisch, ist aber ungefähr so präzise wie die Behauptung, jeder Taschenrechner mache aus seinem Besitzer einen Steuerberater.
Warum Kommunen besonders genau hinsehen müssen
Die Kennzeichnungspflicht für Texte gilt nur, wenn ein Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Die EU-Kommission zählt dazu ausdrücklich Politik, demokratische Prozesse, öffentliche Verwaltung, öffentliche Dienstleistungen, Rechtspflege, Sicherheit, Gesundheit, Umweltschutz sowie wirtschaftliche, wissenschaftliche und kulturelle Entwicklungen, die Gegenstand einer öffentlichen Debatte sein können.
Damit fallen viele typische Rathausinhalte grundsätzlich in diesen Bereich:
- Pressemitteilungen
- Meldungen auf der kommunalen Internetseite
- öffentliche Hinweise zu Baustellen, Gebühren oder Satzungen
- öffentliche Vorlagen für Gemeindevertretungen und Kreistage
- Informationen zu Wahlen oder Bürgerbeteiligungen
- Beiträge in sozialen Netzwerken
- öffentliche Newsletter
- Informationen zu Schulen, Kitas, Wasser, Abfall oder Verkehr
Das bedeutet aber nicht, dass alle diese Texte automatisch gekennzeichnet werden müssen. Es bedeutet lediglich, dass die Kommune prüfen muss, ob zusätzlich die übrigen Voraussetzungen erfüllt sind.
Wann ein KI-Text aus dem Rathaus gekennzeichnet werden muss
Ein sichtbarer KI-Hinweis wird bei Texten im Kern nur dann erforderlich, wenn folgende Voraussetzungen zusammenkommen:
- Der Inhalt wurde durch ein KI-System erzeugt oder wesentlich verändert.
- Der Text wird veröffentlicht.
- Er soll die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren.
- Es hat keine ausreichende inhaltliche Prüfung durch einen Menschen stattgefunden.
- Niemand übernimmt nach einer solchen Prüfung die Verantwortung für die Veröffentlichung.
Fehlt bereits eine der ersten drei Voraussetzungen, greift diese spezielle Kennzeichnungspflicht für öffentliche Texte regelmäßig nicht. Hat eine qualifizierte menschliche Prüfung stattgefunden und übernimmt die Kommune die Verantwortung, greift die ausdrückliche Ausnahme des Artikels 50.
Der Gesetzestext stellt klar: KI-generierte öffentliche Texte müssen nicht gekennzeichnet werden, wenn sie einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die Verantwortung für die Veröffentlichung trägt.
Die wichtigste Ausnahme: Ein Mensch prüft und entscheidet
Für Rathäuser ist dies der entscheidende Punkt. Die EU verlangt nicht, dass künstliche Intelligenz aus der Verwaltungskommunikation verbannt wird. Sie verlangt, dass ein verantwortlicher Mensch die inhaltliche Kontrolle behält.
Nach den Leitlinien der EU-Kommission muss die Prüfung die Substanz des Textes betreffen. Der Prüfer muss über ausreichende Kenntnisse und berufliches Urteilsvermögen verfügen. Er muss Aussagen kontrollieren, Quellen bewerten und den Text ändern, zurückweisen oder zur Veröffentlichung freigeben können.
Eine bloße Rechtschreibprüfung, ein flüchtiges Überfliegen oder das mechanische Drücken des Freigabeknopfs genügt dagegen nicht. Die Kommission stellt ausdrücklich klar, dass rein formale oder oberflächliche Kontrollen – etwa eine Prüfung von Grammatik oder Rechtschreibung – keine ausreichende menschliche Überprüfung darstellen.
Für eine Kommune dürfte daher eine normale fachliche Freigabekette in aller Regel ausreichen: Der zuständige Fachbereich prüft Zahlen, Rechtsgrundlagen und Sachverhalt, die Pressestelle kontrolliert Darstellung und Quellen, anschließend erfolgt die Freigabe durch den zuständigen Verantwortlichen.
Der Mitarbeiter muss den KI-Entwurf nicht zwangsläufig vollständig umschreiben. Entscheidend ist nicht die Zahl der geänderten Wörter, sondern ob er sich den Inhalt tatsächlich zu eigen gemacht und dafür die Verantwortung übernommen hat.
Diese Rathaus-Texte brauchen regelmäßig keinen KI-Hinweis
Ein Text muss nicht schon deshalb gekennzeichnet werden, weil künstliche Intelligenz bei seiner Entstehung geholfen hat.
Keine sichtbare Kennzeichnung ist regelmäßig erforderlich, wenn die KI beispielsweise:
- eine erste Gliederung erstellt,
- Überschriften vorschlägt,
- einen vorhandenen Entwurf verständlicher formuliert,
- einen langen Text kürzt,
- unterschiedliche Formulierungsvarianten liefert,
- Rechtschreibung und Grammatik korrigiert,
- einen Text übersetzt,
- Stichpunkte in einen ersten Entwurf verwandelt,
und ein fachkundiger Mitarbeiter das Ergebnis anschließend inhaltlich kontrolliert und verantwortlich freigibt.
Auch eine vollständig von einer KI vorgeschlagene Pressemitteilung kann deshalb ohne KI-Hinweis veröffentlicht werden, wenn die Pressestelle Fakten, Zitate, Zahlen und Quellen kontrolliert, bei Bedarf Änderungen vornimmt und die Kommune die Verantwortung übernimmt.
Die KI-Verordnung verbietet keine Arbeitsteilung zwischen Mensch und Maschine. Sie verlangt lediglich, dass nicht am Ende die Maschine Bürgermeister, Pressesprecher und Fachamtsleiter in Personalunion spielt.
Beispiele aus der kommunalen Praxis
|
Beispiel |
Kennzeichnung erforderlich? |
Begründung |
|
ChatGPT entwirft eine Pressemitteilung. Fachamt und Pressestelle prüfen alle Angaben und geben den Text frei. |
Nein |
Inhaltliche menschliche Prüfung und verantwortliche Freigabe |
|
Eine KI formuliert einen Beitrag für Facebook. Die Pressestelle prüft Inhalt, Quellen und Formulierung. |
Nein |
Menschliche Kontrolle reicht grundsätzlich aus |
|
Eine öffentliche Beschlussvorlage wird mit KI vorbereitet und anschließend von Fachamt und Rechtsamt geprüft. |
Nein |
Verantwortliche fachliche Prüfung |
|
Ein Mitarbeiter nutzt KI nur zur Rechtschreib- und Grammatikprüfung. |
Nein |
Keine relevante eigenständige Inhaltserzeugung; zudem menschlich verantworteter Text |
|
Eine individuelle Antwort an einen einzelnen Bürger wird mit KI vorbereitet und nicht öffentlich verbreitet. |
Regelmäßig nein |
Keine Veröffentlichung zur Information der Öffentlichkeit |
|
Eine KI erstellt automatisch Meldungen über Verkehrsbehinderungen, die ungeprüft auf der Internetseite erscheinen. |
Ja |
Öffentliche Information ohne menschliche Prüfung |
|
Ein KI-System schreibt selbständig Meldungen über den kommunalen Haushalt und veröffentlicht sie automatisch. |
Ja |
Angelegenheit von öffentlichem Interesse ohne verantwortliche Kontrolle |
|
Ein KI-generierter Newsletter wird nur auf Rechtschreibfehler geprüft und anschließend versandt. |
Ja |
Eine rein formale Kontrolle reicht nicht |
|
Eine maschinelle Übersetzung einer Warnmeldung wird ungeprüft veröffentlicht. |
Im Zweifel ja |
Öffentliche Information ohne ausreichende fachliche Prüfung |
|
Ein Sitzungsprotokoll wird durch KI zusammengefasst und anschließend mit Aufzeichnung und Niederschrift abgeglichen. |
Nein |
Substantielle menschliche Prüfung |
Was gilt für interne Vermerke und Bürgerbriefe?
Nicht jeder Text einer Verwaltung wird „veröffentlicht“. Interne Vermerke, Arbeitsentwürfe, Notizen oder Kommunikation innerhalb des Rathauses fallen schon deshalb regelmäßig nicht unter die spezielle Kennzeichnungspflicht für öffentlich verbreitete KI-Texte.
Ähnliches gilt grundsätzlich für ein individuelles Schreiben an einen einzelnen Bürger. Ein solches Schreiben dient zwar der Information, wird aber normalerweise nicht veröffentlicht, um die Öffentlichkeit zu unterrichten.
Anders kann es bei Serienbriefen, Rundschreiben, öffentlichen Newslettern oder massenhaft verbreiteten Bürgerinformationen aussehen. Hier kann der Schritt zur Veröffentlichung erreicht sein. Wird ein solcher Inhalt von einer KI erzeugt, sollte er deshalb entweder inhaltlich geprüft und verantwortlich freigegeben oder sichtbar gekennzeichnet werden.
Unabhängig von der Kennzeichnungspflicht gelten selbstverständlich weiterhin Datenschutz, Amtsgeheimnisse, Informationssicherheit, Urheberrecht und die Pflicht zur rechtmäßigen Verwaltungsentscheidung. Ein KI-Hinweis verwandelt einen unzulässigen Umgang mit personenbezogenen Daten schließlich nicht auf wundersame Weise in saubere Verwaltungsarbeit.
Was gilt für kommunale Chatbots?
Bei einem Chatbot gelten andere Regeln als bei einer normalen Pressemitteilung. Menschen müssen grundsätzlich darüber informiert werden, wenn sie unmittelbar mit einem KI-System kommunizieren, sofern dies nicht ohnehin offensichtlich ist. Der Hinweis muss spätestens zu Beginn der ersten Interaktion klar und verständlich erfolgen.
Ein kommunaler Chatbot sollte deshalb beispielsweise mit folgendem Hinweis starten:
„Sie kommunizieren mit einem KI-System. Die Antworten können fehlerhaft oder unvollständig sein. Rechtsverbindliche Auskünfte erteilt die zuständige Verwaltungsstelle.“
Die technische Hauptpflicht trifft zunächst den Anbieter des Systems. Entwickelt oder betreibt eine Kommune jedoch ein System unter eigenem Namen, kann sie selbst zum Anbieter werden. Unabhängig von dieser juristischen Abgrenzung sollte bereits bei Beschaffung und Einrichtung festgelegt werden, dass der KI-Hinweis für den Bürger deutlich sichtbar erscheint.
Was gilt für KI-Bilder, Videos und Tonaufnahmen?
Bei Bildern und Videos geht es vor allem um sogenannte Deepfakes. Gemeint sind künstlich erzeugte oder manipulierte Bilder, Tonaufnahmen oder Videos, die existierenden oder plausibel existierenden Personen, Orten, Gegenständen oder Ereignissen ähneln und fälschlicherweise echt wirken können. Solche Inhalte müssen deutlich offengelegt werden.
Eine Kommune müsste daher beispielsweise kennzeichnen:
- ein künstlich erzeugtes Foto, das den Bürgermeister bei einem nie stattgefundenen Termin zeigt,
- eine künstliche Tonaufnahme, in der eine reale Person vermeintlich eine Aussage macht,
- ein täuschend echtes Video eines erfundenen Hochwasserereignisses,
- ein manipuliertes Bild eines geplanten Bauprojekts, das wie eine reale Aufnahme wirkt.
Nicht jede grafische KI-Illustration ist automatisch ein Deepfake. Aus Gründen der Glaubwürdigkeit sollten Kommunen fotorealistische KI-Bilder dennoch grundsätzlich als „KI-generierte Illustration“ oder „Visualisierung mit künstlicher Intelligenz“ kenntlich machen. Rechtliche Mindestpflicht und kluge Bürgerkommunikation müssen schließlich nicht immer erst vor Gericht miteinander bekannt gemacht werden.
Wie muss ein kennzeichnungspflichtiger Text markiert werden?
Die Offenlegung muss klar, eindeutig und für den Bürger wahrnehmbar sein. Sie darf nicht irgendwo im Impressum, in einer technischen Datei oder am Ende einer kilometerlangen Datenschutzerklärung versteckt werden. Die Information muss spätestens bei der ersten Begegnung mit dem Inhalt sichtbar sein und die Anforderungen an die Barrierefreiheit erfüllen.
Geeignete Formulierungen können beispielsweise lauten:
„Dieser Text wurde durch ein KI-System erstellt und vor der Veröffentlichung nicht inhaltlich durch einen Mitarbeiter geprüft.“
Oder bei automatisierten Meldungen:
„Diese Information wurde automatisiert mit Hilfe künstlicher Intelligenz erstellt. Eine redaktionelle Prüfung findet nicht vor jeder Veröffentlichung statt.“
Bei einem manipulierten Bild:
„KI-generierte Darstellung. Die gezeigte Szene ist keine authentische Aufnahme.“
Die EU stellt zusätzlich freiwillige Symbole und einen Verhaltenskodex für die Kennzeichnung bereit. Der Kodex ist freiwillig, die gesetzlichen Transparenzpflichten selbst sind es nicht.
Die einfache Fünf-Fragen-Regel für jedes Rathaus
Bevor ein mit KI unterstützter Text veröffentlicht wird, genügt in der Praxis eine kurze Prüfung:
Erstens: Hat die KI den Inhalt selbst erzeugt oder wesentlich verändert?
Zweitens: Wird der Text öffentlich verbreitet?
Drittens: Geht es um eine Angelegenheit von öffentlichem Interesse?
Viertens: Hat ein fachkundiger Mitarbeiter Inhalt, Fakten und Quellen tatsächlich geprüft?
Fünftens: Ist eindeutig festgelegt, wer die Verantwortung für die Veröffentlichung trägt?
Werden die ersten drei Fragen mit Ja beantwortet, die letzten beiden aber mit Nein, ist eine Kennzeichnung erforderlich.
Werden auch die letzten beiden Fragen mit Ja beantwortet, greift grundsätzlich die Ausnahme: Der Text muss nicht öffentlich als KI-Inhalt markiert werden.
Was Kommunen organisatorisch festlegen sollten
Statt jeden Mitarbeiter mit einem mehrseitigen juristischen Prüfschema zu beglücken, sollten Kommunen einen einfachen internen Ablauf festlegen:
- Öffentlich relevante KI-Texte dürfen nicht automatisch veröffentlicht werden.
- Jeder Text erhält einen fachlich zuständigen Prüfer.
- Zahlen, Namen, Zitate, Rechtsgrundlagen und Quellen werden kontrolliert.
- Die Freigabe wird im Dokumenten- oder Redaktionssystem dokumentiert.
- Für ungeprüfte automatische Inhalte werden feste Kennzeichnungstexte hinterlegt.
- Chatbots erhalten bereits beim Start einen deutlichen KI-Hinweis.
- Fotorealistische KI-Bilder werden grundsätzlich als solche bezeichnet.
Eine Dokumentation der Freigabe wird in Artikel 50 nicht ausdrücklich für jeden Pressetext vorgeschrieben. Sie ist dennoch sinnvoll, weil die Kommune im Streitfall zeigen kann, dass die menschliche Kontrolle nicht nur auf dem Papier existierte.
Keine Millionenbußgelder für deutsche Rathäuser
Auch bei den Sanktionen lohnt ein Blick hinter die große Schlagzeile. Die europäische KI-Verordnung sieht für Verstöße gegen Artikel 50 grundsätzlich Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vor. Für Behörden und andere öffentliche Stellen durften die Mitgliedstaaten jedoch eigene Regelungen treffen.
Deutschland hat von dieser Möglichkeit Gebrauch gemacht. Das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz trat am 29. Juli 2026 in Kraft. Nach dessen Paragraf 17 werden gegen Behörden und sonstige öffentliche Stellen bei den einschlägigen Verstößen gegen die KI-Verordnung keine Geldbußen verhängt. Das gilt damit regelmäßig auch für kommunale Behörden.
Das ist allerdings kein Freifahrtschein. Die Pflichten gelten trotzdem. Aufsichtsbehörden können Verstöße prüfen, Informationen anfordern und Maßnahmen zur Herstellung eines rechtmäßigen Zustands verlangen. Die Bundesnetzagentur übernimmt eine zentrale Koordinierungsfunktion; bei Landes- und Kommunalbehörden können die Länder zuständige Aufsichtsstellen bestimmen.
Die gute Nachricht lautet daher: Kein Bürgermeister muss wegen eines vergessenen KI-Hinweises vorsorglich schon einmal das Rathaus verpfänden. Ignorieren sollte die Verwaltung die Regeln trotzdem nicht.
Ab wann gilt die KI-Kennzeichnungspflicht?
Artikel 50 der KI-Verordnung gilt ab dem 2. August 2026. Vor diesem Datum erzeugte Inhalte müssen nicht nachträglich gekennzeichnet werden. Für bestimmte technische Markierungspflichten der Anbieter älterer KI-Systeme besteht eine begrenzte Übergangsfrist bis zum 2. Dezember 2026. Die sichtbaren Pflichten der professionellen Anwender gelten dagegen grundsätzlich ab dem 2. August.
Die neue KI-Kennzeichnungspflicht ist kein Verbot künstlicher Intelligenz im Rathaus. Und sie verlangt auch keine Fußnote unter jedem Satz, bei dem ChatGPT Formulierungshilfe geleistet hat.
Für Kommunen gilt eine einfache Regel: Künstliche Intelligenz darf Entwürfe erstellen, Texte kürzen, Sprache vereinfachen und Formulierungen vorschlagen. Entscheidend ist, dass ein fachkundiger Mensch den Inhalt kontrolliert, die Veröffentlichung verantwortet und im Zweifel auch Nein sagen kann.
Kennzeichnen muss die Verwaltung vor allem dort, wo ein KI-System öffentliche Informationen praktisch selbständig erzeugt und ohne ernsthafte menschliche Prüfung verbreitet. Wer dagegen klare Zuständigkeiten und eine vernünftige Freigabe organisiert, kann künstliche Intelligenz weiter nutzen, ohne jede Rathausmeldung mit einem digitalen Beipackzettel zu versehen.
*
