Der Schritt gilt als Reaktion auf die Erstellung und Verbreitung von Millionen sexualisierter KI-Bilder von Frauen und Kindern mithilfe des Chatbots Grok von US-Milliardär Elon Musk Anfang des Jahres. Das Verbot soll Teil einer Reihe von Veränderungen am bestehenden KI-Gesetz werden, das die EU 2024 verabschiedet hatte. Der Rat der EU-Länder hatte sich bereits vergangene Woche für ein solches Verbot ausgesprochen.<BR /><BR />Bei Grok handelt es sich um eine beim Onlinedienst X integrierte Funktion. Stein des Anstoßes war Anfang Jänner der neue „Spicy Mode“ bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen konnten - etwa mit Aufforderungen wie „Entferne ihre Kleider“ oder „Zieh ihr einen Bikini an“. Auch die Erstellung und Verbreitung kinderpornografischer Inhalte war damit möglich.<BR /><BR />Die irische Aufsichtsbehörde leitete im Auftrag der EU eine Untersuchung ein. Grundlage ist das EU-Gesetz über digitale Dienste (DSA). Das Parlament muss nun noch im Plenum über das Verbot entscheiden. Die Abstimmung ist für nächste Woche geplant. Im Anschluss verhandeln dann Parlament und Mitgliedstaaten über den abschließenden Text.