Transparenzpflichten beim Einsatz von generativer künstlicher Intelligenz
Generative Künstliche Intelligenz (KI) kann bei vielen Aufgaben unterstützen, zum Beispiel beim Formulieren und Überarbeiten von Texten, beim Erstellen von Präsentationen oder bei der Entwicklung von Bild(-ideen).
Ab dem 02.08.2026 müssen Betreiber von KI-Systemen deren Einsatz transparent machen und kennzeichnen. Dies folgt aus der europäischen Verordnung über künstliche Intelligenz (VO 2024/1689; KI-VO). Vor diesem Hintergrund hat die Hochschulleitung eine Handreichung mit Hinweisen, Regelungen und Handlungsempfehlungen zur Kennzeichnung des Einsatzes von KI zusammengestellt. Sie soll den Mitarbeitenden eine erste Orientierung für den Arbeitsalltag an der KHSB zu bieten.
Hintergrund
Die KI-VO ist im Jahr 2024 in Kraft getreten. Sie legt insbesondere auch Pflichten für Unternehmen und andere Einrichtungen fest, die KI als „Betreiber“ lediglich einkaufen und nutzen. Ein Beispielfall ist der Einsatz von Chat-GPT, Co-Pilot oder anderer generativer KI-Systeme zur Erzeugung von Medieninhalten im Unternehmen bzw. der Institution.
Transparenzpflichten beim Einsatz von KI-Systemen
Art. 50 KI-VO legt für die Anbieter und Betreiber von KI-Systemen verschiedene Transparenzpflichten fest. Unsere Hochschule gilt als Betreiber von KI-Systemen, sofern Text-, Bild-, Ton- oder Videoinhalte mit Hilfe von ChatGPT, Co-Pilot oder anderen generativen KI-Systemen von Beschäftigten erzeugt werden.
Handelt es sich um Bild-, Ton- oder Videoinhalte müssen insbesondere sog. „Deepfakes“ offengelegt werden. Dabei handelt es sich um solche Medieninhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahr erscheinen würden. Die Erstellung eines täuschend echten KI-Bildes und deren Verwendung auf der Website oder auf anderen öffentlich zugänglichen Internetseiten muss also als KI-Bild gekennzeichnet werden.
Wird ein Text mit einem KI-System erzeugt und veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, so muss der KI-Einsatz ebenfalls offengelegt werden. Dies kann z.B. auch Bereiche der Wissenschaftskommunikation, öffentlich zugängliche Gutachten oder Studien erfassen. Die Offenlegungspflicht gilt allerdings nicht, wenn ein KI-generierter Text vor der Veröffentlichung ernsthaft menschlich überprüft wird und eine Person die redaktionelle Verantwortung für den Text übernimmt.
Konsequenz bei Verstößen
Verstöße gegen die Transparenzpflichten nach Art. 50 Abs. 4 KI-VO können mit einem Bußgeld von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden (Art. 99 Abs. 4 KI-VO). Zuständig ist die Bundesnetzagentur. Daneben können Verstöße auch abgemahnt werden.
Was folgt daraus für unsere Hochschule:
1. Wenn Sie KI-generierte Texte für Webseiten, Social-Media-Beiträge, Pressemitteilungen oder andere redaktionelle Inhalte der KHSB verwenden, ist in der Regel keine Kennzeichnung erforderlich, wenn Mitarbeitende KI lediglich als Hilfsmittel nutzen und den Text anschließend prüfen, bearbeiten und die redaktionelle Verantwortung übernehmen.
2. Kennzeichnen Sie bitte Bilder, Video oder Tonaufnahmen, die mit generativen KI-Systemen erstellt werden, entsprechend dem nachfolgenden Verfahren erkennbar als solche.
Hinweise zur Kennzeichnung von KI-Bildmaterial
Verfahren bei der Nutzung von KI-generiertem oder KI-modifiziertem Bildmaterials auf unserer Webseite:
Es ist eine technische Lösung innerhalb des Content Management Systems Typo3 geplant, um KI-generierte oder KI-bearbeitete Bilder transparent und einheitlich auf der Website zu kennzeichnen. Voraussichtlich ab Oktober wird es möglich sein, Bilder in Typo3 – ähnlich den Copyright-Angaben – mit einem AI-Label zu versehen. Das bedeutet, Sie müssen die Kennzeichnung nicht selbst direkt auf dem Bildmaterial vornehmen. Eine Kennzeichnung (per Montage o.ä.) direkt im Bild ist nicht erforderlich.
Bis diese technische Lösung zur Verfügung steht, bitten wir darum, betroffenes Bildmaterial durch eine entsprechende Bildunterschrift (KI-generiert oder KI-modifiziert) in Typo3 zu kennzeichnen.
Sollte KI-Bildmaterial durch andere Personen in Typo3 implementiert werden, ist sicherzustellen, dass diese über die KI-generierte oder modifizierte Herkunft des Bildmaterials informiert werden, damit die entsprechende Kennzeichnung vorgenommen werden kann.
Social Media-Plattformen, wie Instagram bieten bereits Kennzeichnungsmöglichkeiten in der Applikation selbst an. Diese sollten entsprechend genutzt werden.
Keine Kennzeichnung ist erforderlich:
- bei klassischer Bildbearbeitung, wie Farb- oder Belichtungskorrektur (auch wenn dabei KI-gestützte Werkzeuge verwendet werden, solange die Bildaussage nicht wesentlich verändert wird)
- bei eindeutig künstlerischen oder humoristischen Darstellungen (hier genügt ein Hinweis, z.B. in der Bildunterschrift)
Bei Fragen zur Kennzeichnungspflicht für Bildmaterial wenden Sie sich bitte an die Stabsstelle