So soll die Verbotsliste unter anderem um biometrische Kategorisierungssysteme anhand sensibler Merkmale sowie präventive Polizeisysteme erweitert werden. Nach der Einigung können die Verhandlungen mit den EU-Staaten beginnen.

Regulierung nach Risikograd der KI

Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung richtet sich nach dem Grad des Risikos, das die KI erzeugen kann. Der Act verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können.

KI-Systeme, die Wähler und Wahlergebnisse beeinflussen oder einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sollen nach dem Wunsch der Abgeordneten auch auf der Hochrisiko-Liste stehen.

Ausnahmen für Forschungstätigkeiten gefordert

Im Kommissionsvorschlag sind maßgeschneiderte Regeln zur sinnvollen Nutzung von generativer KI wie ChatGPT enthalten. Um die KI-Innovation anzukurbeln, schlagen die Abgeordneten Ausnahmeregelungen für Forschungstätigkeiten sowie die Nutzung sogenannter KI-Reallabore („regulatory sandboxes“) vor.

Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Der Start der Gespräche ist noch unklar.

Nach einer vorübergehenden Sperrung ist der Sprachroboter ChatGPT ist in Italien seit Ende APril wieder verfügbar. Die Datenschützer hatten ChatGPT Ende März vorerst gesperrt und OpenAI verboten, Nutzerdaten aus Italien zu verarbeiten. Man warf dem Start-up vor, seinen Nutzern nicht mitzuteilen, welche Informationen von ihnen gespeichert werden und zudem keine rechtliche Grundlage für die Sammlung und Speicherung der Daten zu haben.