<BR />Ein Betrieb erstellt mittels KI ein Bild für seine Website, formuliert damit einen Werbetext oder lässt Kunden zunächst von einem Chatbot betreuen. Muss er künftig jedes Mal darauf hinweisen, dass KI im Spiel ist? Nein, eine pauschale Kennzeichnungspflicht für alle KI-Inhalte gibt es nicht. Seit dem 2. August greifen jedoch neue Transparenzregeln nach Artikel 50 des europäischen AI Act. „Ziel der Regelung ist es nicht, KI in der digitalen Kommunikation zu verbieten“, erklärt Veronica Fedrizzi von der Rechtsabteilung der Handelskammer Bozen. Vielmehr solle sichergestellt werden, „dass Nutzer zwischen von Menschen erstellten und künstlich erzeugten oder veränderten Inhalten unterscheiden können“.<h3> Das gilt bei Deepfakes</h3>Bei Deepfakes gelten besonders strenge Vorgaben. Gemeint sind realistisch wirkende Fotos, Videos oder Audios, die komplett künstlich erzeugt oder stark manipuliert wurden.<BR /><BR />„Entscheidend ist nicht der Einsatz künstlicher Intelligenz als solcher, sondern die Fähigkeit des jeweiligen Inhalts, die Realität glaubwürdig zu simulieren“, sagt Fedrizzi. Ausschlaggebend sei, ob der Inhalt dadurch für authentisch gehalten werden könne.<BR /><BR />Ein Beispiel ist ein täuschend echtes Produktfoto in einer Kulisse, die es nie gab. Auch eine geklonte Stimme oder ein Video, das einer realen Person Aussagen in den Mund legt, gehören dazu. Solche Inhalte müssen eindeutig als künstlich erzeugt oder bearbeitet gekennzeichnet werden.<BR /><BR />Deutlich entspannter ist die Lage bei offensichtlichen Illustrationen oder Grafiken. „Nicht alle mithilfe von KI-Systemen erstellten Inhalte fallen zwangsläufig unter die Kategorie täuschend echt wirkender Inhalte“, betont Fedrizzi.<h3> Chatbot muss sich zu erkennen geben</h3>Auch bei Chatbots und Sprachassistenten gilt: Karten auf den Tisch. Für Kunden muss auf den ersten Blick klar sein, dass am anderen Ende ein Algorithmus sitzt. „In diesem Fall geht es nicht um die Kennzeichnung eines von der KI erzeugten Inhalts“, erklärt Fedrizzi. Vielmehr müsse die betroffene Person darüber informiert werden, „dass sie mit einer Maschine und nicht mit einem menschlichen Gesprächspartner kommuniziert“. Am besten klappt das mit einem kurzen Hinweis direkt zum Start, zum Beispiel: „Sie sprechen hier mit unserem digitalen Assistenten.“<h3> <h3> Nicht jeder KI-Text braucht einen Vermerk</h3></h3>Auch bei Texten gibt es keine pauschale Kennzeichnungspflicht. Besondere Vorsicht ist jedoch bei Beiträgen geboten, die sich an die Öffentlichkeit richten und Themen von öffentlichem Interesse behandeln – etwa Pressemitteilungen, Firmenblogs oder Kundenmagazine zu wirtschaftlichen, gesundheitlichen oder gesellschaftlichen Entwicklungen.<BR /><BR />Wurde ein solcher Text von einem Menschen inhaltlich geprüft und redaktionell verantwortet, kann der Hinweis entfallen. „Die bloße Durchsicht eines Textes, eine Rechtschreibkontrolle oder eine rein formale Überprüfung reichen in der Regel aber nicht aus“, sagt Fedrizzi. Der menschliche Beitrag müsse substanziell sein und sich auf den veröffentlichten Inhalt auswirken.<BR /><BR />Wer die Verantwortung übernimmt, muss Fakten und Quellen checken, den Kontext bewerten und den Text bei Bedarf anpassen. „Maßgeblich ist der tatsächliche Beitrag zur inhaltlichen Bewertung“, erklärt Fedrizzi. Für interne E-Mails, Entwürfe, Präsentationen, Angebote oder einfache Produktbeschreibungen gilt diese Pflicht nicht. <h3> Der Hinweis darf nicht versteckt sein</h3>Ist eine Kennzeichnung nötig, muss sie sofort ins Auge springen und leicht verständlich sein. Das klappt zum Beispiel mit Hinweisen wie „KI-generiertes Bild“, „Mit KI erstelltes Video“ oder „KI-generierte Stimme“.<BR /><BR />„Wenig sichtbare Hinweise, schwer zugängliche Fußnoten oder versteckte Warnhinweise sind zu vermeiden“, sagt Fedrizzi. Die künstliche Natur eines Inhalts müsse für die Nutzer unmittelbar erkennbar sein.<BR /><BR />Auch im Hintergrund eingebettete, maschinenlesbare Metadaten helfen bei der Rückverfolgung. „Einen sichtbaren Hinweis ersetzen sie aber nicht“, so die Expertin. <h3> Auftraggeber bleibt verantwortlich</h3>Lagert ein Unternehmen die Erstellung von Inhalten an eine Werbeagentur oder einen externen Dienstleister aus, schützt das nicht vor Verantwortung. Wer Bilder, Videos oder Texte am Ende veröffentlicht, muss grundsätzlich selbst prüfen, ob eine Kennzeichnungspflicht besteht.<BR /><BR />„Die Einbindung eines Dritten entbindet diejenige Person oder Organisation, die den Inhalt verwendet und gegenüber der Öffentlichkeit verbreitet, nicht von ihrer Verantwortung“, stellt Fedrizzi klar.<BR /><BR />Sie rät dazu, Zuständigkeiten, Informationspflichten und Prüfabläufe direkt vertraglich zu regeln. So sollte klargestellt werden, wo KI zum Einsatz kommen darf, wie das Unternehmen darüber informiert wird und wer die finale Freigabe übernimmt.<h3> Auch intern braucht es klare Strukturen</h3>Auch intern braucht es klare Strukturen: Betriebe sollten feste Freigabeprozesse etablieren und ihr Team gezielt schulen. „Ein zentrales Element betrifft die Zuweisung interner Verantwortlichkeiten“, sagt Fedrizzi. Es brauche feste Personen oder Teams, die den KI-Einsatz im Auge behalten.<BR /><BR />Das gilt allen voran für Marketing, PR, Vertrieb und Kundenservice. Der EU AI Act verpflichtet Anbieter und Betreiber ohnehin dazu, für die nötige KI-Kompetenz in den eigenen Reihen zu sorgen.<h3> Verstöße können teuer werden</h3>Verstöße können teuer werden: Der AI Act sieht bei missachteten Transparenzpflichten Strafen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes vor. In Italien soll primär die Cybersicherheitsagentur ACN die Einhaltung überwachen – je nach Bereich können aber auch die Finanzaufsicht, die Datenschutzbehörde oder die Wettbewerbsbehörde mitmischen.