Spätestens seit vor einem Jahr der KI-Chatbot „ChatGPT“ Millionen von Menschen mit seinen vielfältigen Anwendungen verblüfft hat, ist das Tema Künstliche Intelligenz (KI) ein Thema, dem der Sprung aus der Tech-Nische in den Massenmarkt gelungen ist. Da KI aber auch sehr gefährlich sein kann, hat sich die EU jetzt auf ein Regelwerk geeinigt. Der Südtiroler Rechtsanwalt Christian Notdurfter (43) erklärt, was es damit auf sich hat.<BR /><BR /><BR /><BR /><b>KI hilft vielen Menschen, etwa dank ChatGPT, beruflich, aber auch privat bei vielen Tätigkeiten. Warum ist diese EU-Regelung dann nötig, was habe ich davon?</b><BR /><BR />Christian Notdurfter: KI birgt enorme Potenziale, stellt Mensch, Gesellschaft und Umwelt gleichzeitig aber auch vor große Herausforderungen. Einmal abgesehen von einer möglichen zukünftigen Gefahr der Auslöschung der Menschheit durch KI, gibt es bereits heute konkrete Gefahren für uns Menschen: Überwachung, Diskriminierung, Manipulation, um nur einige zu nennen. Auch davor soll der AI-Act schützen und verfolgt dabei nach wie vor einen risikobasierten Ansatz. Das heißt: Je risikoreicher die KI-Anwendung, desto strenger die Auflagen. Bestimmte Anwendungen sollen gänzlich verboten werden.<BR /><BR /><BR /><b>Welche?</b><BR /><BR />Notdurfter: Verboten werden soll zum Beispiel die biometrische Kategorisierung, etwa durch Erkennung von Gesichtszügen, Körpergang oder Herzschlag, in Bezug auf sensible Daten wie politische oder religiöse Überzeugungen, sexuelle Orientierung oder Rasse. Verboten werden sollen auch die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, um etwa die Zufriedenheit zu messen, Social Scoring nach chinesischem Modell sowie Systeme, die das Verhalten von Menschen manipulieren oder menschliche Schwächen, etwa Alter, Behinderung, soziale oder wirtschaftliche Lage, ausnutzen. <BR /><BR /><BR /><b>Ist der AI-Act ein echter Erfolg, oder ein typischer Brüssel- Kompromiss?</b><BR /><BR />Notdurfter: Es stellt sich die Frage, wie man hier „Erfolg“ definieren möchte. Bisher gibt es „nur“ eine politische Einigung. Diese hat sicherlich eine globale Signalwirkung und ist daher zu begrüßen. Wir wissen aber noch nicht genau, wie der endgültige Entwurf im Detail aussehen wird, und der Teufel steckt bekanntlich im Detail. <BR />Aus den Pressemittelungen von Parlament und Rat und anderen Verlautbarungen geht jedenfalls hervor, dass durchaus Kompromisse getroffen wurden, was bei einem Vorhaben dieser Komplexität und Ausmaße nicht anders zu erwarten war. Ein wesentlicher Kompromiss soll zum Beispiel den Einsatz von KI in der Strafverfolgung betreffen, etwa im Bereich der biometrischen Überwachung wie der automatisierten Gesichtserkennung. <BR />Die Möglichkeit einer solchen Überwachung für Strafverfolgungszwecke war von den Mitgliedstaaten und insbesondere von Frankreich gefordert worden. Frankreich hat bekanntlich schwere Terroranschläge erlitten und richtet die Olympischen Spiele 2024 aus.<BR /><BR /><BR /><b>Was wurde diesbezüglich beschlossen?</b><BR /><BR />Notdurfter: Eine biometrische Überwachung soll ausnahmsweise in Echtzeit, zeitlich und örtlich begrenzt, zur gezielten Suche nach Opfern, etwa bei Entführungen, zur Abwehr einer akuten terroristischen Bedrohung oder zur Ortung einer Person, die einer schweren Straftat verdächtigt wird, zulässig sein. Es bleibt abzuwarten, wie diese Ausnahmen im endgültigen Entwurf konkret formuliert sein werden und ob ein möglicher Missbrauch wirksam eingedämmt werden kann.<BR /><BR /><BR /><b>In Sachen KI spielt die Musik ja in den USA, wo es keine Regeln für den Sektor gibt. Warum wird dann Europas AI-Act jetzt als „historisch“ und als „Durchbruch“ gefeiert?</b><BR /><BR />Notdurfter: Die politische Einigung auf den AI-Act kann unter anderem auch deshalb als „historisch“ bezeichnet werden, weil er bei endgültiger Verabschiedung den weltweit ersten umfassenden Rechtsrahmen für KI-Systeme schaffen würde, dessen Nichteinhaltung mit Sanktionen bedroht wäre. Es ist auch nicht ganz auszuschließen, dass sich der sogenannte „Brüssel-Effekt“ wie bei der Datenschutz-Grundverordnung (DSGVO) wiederholt und sich der AI-Act de facto weltweit als Standard etabliert. <BR />Man darf aber nicht vergessen, dass es auch in den USA und sogar in China zumindest Ansätze einer Regulierung gibt, weshalb man vielleicht doch von einem Wettbewerb der Regulierung sprechen kann. So hat US-Präsident Biden kürzlich eine „Executive Order“ zu KI erlassen. Diese schafft aber keine neuen gesetzlichen Pflichten, sondern stellt Anweisungen an Bundesbehörden dar und könnte – anders als Europas AI-Act – jederzeit mit einem einfachen Federstrich, z. B. durch den nächsten Präsidenten, wieder aufgehoben werden.<BR /><BR /><BR /><b>Wie geht es jetzt weiter?</b><BR /><BR />Notdurfter: Nach der nun erzielten politischen Einigung soll der Entwurf in den kommenden Wochen im Detail fertiggestellt werden. Nach weiteren Zwischenschritten müssen der Rat und das Parlament den Rechtsakt dann formell verabschieden, bevor er im Amtsblatt veröffentlicht werden und in Kraft treten kann. Es ist davon auszugehen, dass der AI-Act frühestens Anfang 2026 vollständig wirksam wird. Bis dahin soll ein von der Kommission entwickelter „AI-Pact“ die freiwillige Umsetzung der wichtigsten Verpflichtungen fördern.<BR />