Vergangene Woche hatte der frühere Entwickler des KI-Modells Claude von Anthropic, Jacob Coxon, für Aufsehen gesorgt. Er warnte davor, dass selbstlernende und sich selbst verbessernde KI schon in wenigen Jahren außer Kontrolle geraten und im Extremfall sogar die Menschheit gefährden könnten. Auch Anthropic-Chef Dario Amodei und OpenAI-Chef Sam Altman mahnen inzwischen zu mehr Vorsicht beim Entwicklungstempo.<h3> Das Agenten-Risiko</h3>Aichner verweist auf Systeme, die nicht mehr bloß Fragen beantworten, sondern als sogenannte Agenten eigenständig Aufgaben erledigen, Programme bedienen oder Entscheidungen treffen. „Die Entwicklung der letzten Monate zeigt, dass sich ein KI-System nicht nur theoretisch, sondern auch in der Praxis selbstständig machen kann.“<BR /><BR />Kritisch werde es, wenn ein solches Modell weitreichende Zugriffsrechte erhält. „Sobald das passiert, weiß niemand mit Sicherheit, in welche Richtung es handelt.“ Dabei müsse nicht einmal eine böse Absicht dahinterstehen. „KI-Systeme haben schon unbeabsichtigt große Datenmengen in Unternehmen gelöscht und auf Nachfrage dann behauptet, sie seien es nicht gewesen oder die Daten seien noch da“, sagt Aichner. Im schlimmsten Fall könne eine KI aber auch zu dem Schluss kommen, „dass eine schädliche Handlung für das Erreichen ihres Ziels die richtige ist“.<BR /><BR />Von der Übernahme kritischer Infrastruktur sind solche Vorfälle weit entfernt. Aichner gibt allerdings zu bedenken, dass Endverbraucher nur die Modelle kennen, die von den Unternehmen freigegeben werden. „Wir als Endverbraucher kennen sicherlich nicht die am weitesten entwickelten Systeme.“ Hinter den Kulissen dürften die Fähigkeiten bereits weiter reichen.<BR /><BR />Eine KI könnte zudem versuchen, sich außerhalb ihrer ursprünglichen Umgebung zu verbreiten, sagt Aichner. „Eine bösartige KI könnte sich ähnlich wie ein Virus auf verschiedenen Computern oder Geräten einnisten.“ Zugleich werde KI immer stärker selbst zum Programmieren eingesetzt.<BR /><BR />Hinzu kommen Roboter. „Aktuell wird KI in humanoide und viele andere Roboter geladen, die zum Teil bereits von Sicherheitskräften eingesetzt werden.“ Noch seien solche Maschinen selten. „Wenn irgendwann Millionen solcher Roboter in Haushalten, Krankenhäusern oder Altersheimen stehen, darf wirklich nichts mehr schiefgehen.“<h3> Wer bremst zuerst?</h3>Dass nun ausgerechnet die führenden KI-Unternehmen selbst vor einer zu schnellen Entwicklung warnen, erachtet Aichner als wenig glaubhaft. „Ich möchte niemandem etwas unterstellen, aber diese Unternehmen leben genau davon, dass sich die KI weiterentwickelt und sie ihrer Konkurrenz einen Schritt voraus sind.“<BR /><BR />Einen freiwilligen Stillstand hält er deshalb für unwahrscheinlich. „Für die führende Firma kann es zu einem bestimmten Zeitpunkt durchaus Sinn machen, die Entwicklung anzuhalten. Die anderen müssen aber versuchen, sie einzuholen oder zu überholen, um Kunden zu gewinnen.“<BR /><BR /><embed id="dtext86-76339086_quote" /><BR /><BR />Dass sich USA, China und Europa auf ein langsameres Tempo einigen, hält Aichner ebenfalls für unwahrscheinlich. „Die einzelnen Länder oder Wirtschaftsregionen werden sich nicht darauf einlassen, wenn sie dadurch einen wirtschaftlichen Nachteil erwarten.“ China könne sich mit KI einen Vorsprung verschaffen, die USA wollten ihre Führungsrolle nicht verlieren. „Auch Europa wird sich wohl nur auf Einschränkungen einlassen, wenn gewährleistet ist, dass unsere Unternehmen dadurch nicht noch weiter zurückfallen.“<BR /><BR />Aichner nüchtern: „Vermutlich gibt es nur ein Szenario, in dem es zu einer weltweiten Regulierung oder zu einem Verbot bestimmter besonders fortschrittlicher Modelle kommt – und zwar, wenn etwas Schlimmes passiert.“ <BR /><BR />Das müsse nicht gleich eine außer Kontrolle geratene Superintelligenz sein. Auch ein großer wirtschaftlicher Schaden könnte die Debatte verändern. Aichner nennt als Beispiel eine Bank, deren digitale Daten oder Kontoinformationen durch ein autonom handelndes System gelöscht oder unwiederbringlich verändert werden.<h3> Ein Not-Schalter für KI</h3>Aichner fordert deshalb technische Sicherungen. „Es müsste so etwas wie einen Not-Aus-Schalter geben, den man im Zweifelsfall drücken kann.“ Dieser müsste so gebaut sein, dass ein System ihn nicht selbst umgehen kann. Im äußersten Fall müsse es möglich sein, große Rechenzentren vom Netz zu nehmen.<BR /><BR />Gleichzeitig sieht Aichner keinen realistischen Weg, die Entwicklung grundsätzlich zu stoppen. Dafür seien die finanziellen Interessen zu groß – und der Nutzen inzwischen zu konkret. „Menschen und Unternehmen sparen mit KI viel Zeit, erledigen ihre Aufgaben schneller und günstiger.“ Und genau das erleichtere es, die Risiken zu verdrängen: „Da ist es angenehmer, die echte Gefahr auszublenden“, sagt Aichner.