Der Artikel 50 des EU Artificial Intelligence Act verpflichtet öffentliche Stellen, wenn sie KI-Systeme einsetzen, transparent darüber zu informieren, z. B. wenn Bürgerinnen und Bürger direkt mit KI interagieren oder Inhalte veröffentlicht werden, die mit oder durch KI erstellt wurden. Ziel ist, Vertrauen und Klarheit für alle Beteiligten zu schaffen.
Die Regelungen des AI Act gelten größtenteils ab dem 2. August 2026.
Wichtige Pflichten im Überblick
Hinweis bei Bürger-KI-Interaktion:
Wenn ein Chatbot oder ein anderes KI-System direkt mit Bürgern kommuniziert, z. B. der Chatbot unserer Webseite muss deutlich gemacht werden, dass eine KI zum Einsatz kommt.
Kennzeichnung KI-generierter Inhalte:
Wenn Texte, Bilder, Audio oder Video vollständig oder überwiegend künstlich erzeugt oder verändert wurden, muss darauf hingewiesen werden, es sei denn, eine redaktionelle Kontrolle durch einen Menschen hat stattgefunden.
Ausnahmen bei redaktioneller Verantwortung:
Wenn Mitarbeitende die Inhalte redaktionell prüfen und verantworten, genügt die menschliche Verantwortlichkeit; eine explizite Kennzeichnung ist dann meist nicht erforderlich.
Sonderfälle (z. B. Deepfakes, biometrische Systeme):
KI-generierte oder manipulierte Medien müssen, soweit kein künstlerischer, satirischer oder fiktionaler Kontext vorliegt, klar als künstlich erzeugt gekennzeichnet werden. Systeme zur Emotionserkennung oder biometrischen Kategorisierung erfordern zudem zusätzliche datenschutzrechtliche Maßnahmen.
Mit dem Compliance Checker prüfen
Um herauszufinden, ob und wie der AI Act auf ein eingesetztes KI-System bei euch zutrifft, kann das Online-Tool EU AI Act Compliance Checker hilfreich sein: https://artificialintelligenceact.eu/de/bewertung/eu-ai-act-compliance-checker/
Mit dem Checker lässt sich in wenigen Schritten ermitteln:
- ob euer KI-System der Verordnung unterliegt,
- in welche Risikokategorie es fällt (geringes Risiko, eingeschränktes Risiko, „High-Risk“ oder unzulässiges Risiko),
- welche Transparenz- oder Dokumentationspflichten gegebenenfalls greifen.
Der Checker ist eine erste Orientierung und ersetzt keine rechtliche Prüfung, dient aber der Praxis-Vorbereitung und internen Risikoabschätzung.
Wann ist Kennzeichnung nötig
| Bereich / Einsatz | Kennzeichnung erforderlich? | Konkret bedeutet das |
|---|---|---|
| Interne Nutzung von KI zur Textunterstützung (z. B. von Mitarbeitenden) | ❌ Nein | Es gibt keinen Hinweis nach außen, interne Regeln und Datenschutzvorgaben genügen. |
| Bürger-Chatbot auf der Webseite | ✔ Ja | Hinweis, z. B.: „Sie kommunizieren mit einem KI-System“, gut sichtbar und barrierefrei. |
| Veröffentliche Texte, die vollständig KI-generiert sind (ohne menschliche Prüfung) | ✔ Ja | Kennzeichnung erforderlich: „Text wurde künstlich erzeugt“. |
| Veröffentliche Texte, die von Mitarbeitenden redaktionell geprüft und verantwortet werden | ❌ Nein | Redaktionelle Verantwortung liegt beim Menschen, Kennzeichnung nicht erforderlich. |
| KI-generierte oder -manipulierte Bilder/Videos (z. B. realistisch wirkende Darstellungen) | ✔ Ja | Hinweis: „Bild/Video künstlich erzeugt oder verändert“. |
| Systeme zur Emotionserkennung oder biometrischen Kategorisierung | ✔ Ja (plus Datenschutz- und Rechtsprüfung) | Einsatz erfordert vorherige Information der Betroffenen; datenschutzrechtliche Prüfung notwendig. |
| Interne Assistenzsysteme (z. B. KI-Assistenten für Mitarbeitende) | ❌ Nein | Transparenz gegenüber externen Nutzern nicht erforderlich aber interne Datenschutz-, Verarbeitungs- und Nutzungsregeln müssen vorliegen. |
Marco Meid
06184 802-138
E-Mail senden
Digitalisierungsbeauftragter
Redaktion:
Stadt Langenselbold
Kontakt für Rückfragen:
Sofern zu diesem Beitrag kein konkreter Kontakt genannt ist,
wenden Sie sich bitte direkt an die Stadt Langenselbold.
Die redaktionelle Gesamtverantwortung liegt bei der Stadt Langenselbold.
– redaktionell geprüft –
Stadt Langenselbold
Schloßpark 2
63505 Langenselbold
