Vor einigen Jahren stellten Mariana Mazzucato und ich eine einfache Frage: Wer ist verantwortlich, wenn in der KI-Welt etwas schiefgeht? Diese Frage bleibt weiterhin unbeantwortet, auch nachdem der UN-Sicherheitsrat vergangene Woche zusammengekommen ist, um die existenziellen Risiken der KI zu erörtern.

An dem Treffen nahmen genau jene Tech-CEOs teil, die nun eine Pause bei der KI-Entwicklung fordern, während sie zugleich die Entwicklung immer leistungsfähigerer Systeme vorantreiben. Die einzige Stimme von außerhalb der Branche war Yoshua Bengio, Ko-Vorsitzender des Unabhängigen Internationalen Wissenschaftsgremiums für KI und führender Fürsprecher der KI-Sicherheit. Abgesehen von den Vertretern der Mitgliedstaaten kam weder aus dem Globalen Süden oder der Zivilgesellschaft, noch auch nur eine einzige Frau zu Wort. Letzteres hätte sich beheben lassen, indem man die andere Ko-Vorsitzende des Gremiums, die Friedensnobelpreisträgerin Maria Ressa, ebenfalls eingeladen hätte.

Neben dem problematischen Kontext, in dem das Treffens stattfand, verhinderte das Mandat des Sicherheitsrats für Frieden und Sicherheit außerdem eine umfassendere Diskussion aller Gefahren, die von KI ausgehen können. Viele Mitglieder merkten an, die Arbeit des Rates dürfe nicht in die Zuständigkeit anderer UN-Organisationen eingreifen, die sich ebenfalls mit diesen Fragen befassen. Doch wie ein altes Sprichwort schon sagt: Wenn alle zuständig sind, ist es keiner.

KI verstärkt bestehende Ungleichheiten durch algorithmische Diskriminierung und ungleichen Zugang zu Technologien, Kapital und Rechenleistung.

Auch die sozialen, wirtschaftlichen und arbeitsmarktbezogenen Folgen der KI fehlten im Briefing des Sicherheitsrats völlig, obwohl sie das Leben der Menschen bereits heute beeinflussen und ebenso gravierend sein können wie der Kontrollverlust über KI-Agenten. KI verstärkt bestehende Ungleichheiten durch algorithmische Diskriminierung und ungleichen Zugang zu Technologien, Kapital und Rechenleistung. Sie droht zudem, menschliches Urteilsvermögen und Handlungsfähigkeit zu ersetzen und unsere kognitiven, emotionalen und relationalen Fähigkeiten auszuhöhlen, wie die Arbeiten von Vladimír Šucha zeigen. Wie wir zudem im Bericht „All In” dokumentiert und bei der UN-Generalversammlung vorgestellt haben, kommen außerdem Auswirkungen auf die psychische Gesundheit junger Menschen und die Gewalt, der Frauen im Netz ausgesetzt sind, hinzu.

Zudem konzentrierte sich das Treffen unverhältnismäßig stark auf die Technologien selbst und auf Möglichkeiten, sie zu korrigieren. Dieser Fokus verstellt den Blick auf die politischen und wirtschaftlichen Strukturen, die vielen dieser Probleme zugrunde liegen. Denn bereits lange vor dem Aufkommen der KI hatte eine Globalisierung ohne Zügel über Jahrzehnte das Kapital gegenüber der Arbeit begünstigt, Einkommen und Vermögen an der Spitze gebündelt und der Mehrheit wirtschaftliche Sicherheit vorenthalten.

Der Laissez-faire-Ansatz gegenüber den globalen Märkten hat Länder mit niedrigem Einkommen wirtschaftlich verwundbar gehalten, während er einige wenige Billionen-Dollar-Konzerne und gewaltige Privatvermögen hervorbrachte. Zudem hat er eine politische Ökonomie geschaffen, die sich Reformen widersetzt, vor allem in den Vereinigten Staaten. Die OECD-Vereinbarung von 2021 über eine globale Mindestbesteuerung von Unternehmen in Höhe von 15 Prozent war ein bedeutender Schritt in die richtige Richtung. Doch dieser Anlauf kam zum Erliegen, als Präsident Donald Trump unmittelbar nach seiner Rückkehr ins Weiße Haus die USA aus dem Abkommen zurückzog und die Tech-Giganten damit noch reicher und mächtiger werden ließ. In diese politische Ökonomie ist die KI hineingeraten.

KI-generierte Inhalte machen bereits die Hälfte der online veröffentlichten Artikel aus, und selbst Fachleute für digitale Forensik können nicht mehr sagen, was echt ist. Können jene, die noch ein humanistisches Bild des digitalen Lebens vertreten, sich in diesem Lärm überhaupt Gehör verschaffen?

Das UN-Treffen hätte sich mit dem Vorschlag Finnlands, Norwegens und mehr als 20 weiterer Länder befassen sollen: gemeinsame Sicherheitsprotokolle, verpflichtende Risikobewertungen vor der Markteinführung, unabhängige Evaluierungen und eine internationale Behörde zur Aufsicht über Frontier-KI.

Regierungen können schnell handeln, wenn sie es wollen.

Regierungen können schnell handeln, wenn sie es wollen. Das habe ich in meinen Jahren bei der OECD sowie als Stabschefin und G20-Sherpa selbst erlebt. Brachen Krisen aus, verhandelten die Mitgliedstaaten nicht jahrelang über langatmige Kommuniqués und warteten auch nicht auf die perfekte institutionelle Lösung. Sie konzentrierten sich auf das konkrete Problem und darauf, was ein neues Gremium leisten musste. So wurde die Internationale Energieagentur nach den Ölschocks der 1970er Jahre rasch gegründet, die Financial Action Task Force 1989 zur Bekämpfung der Geldwäsche. In jüngerer Zeit brachte der Inklusive Rahmen der OECD zu Gewinnverkürzung und Gewinnverlagerung (BEPS) Länder zusammen, um gegen Steuervermeidung von Unternehmen vorzugehen, unter anderem mit dem Mindeststeuersatz von fünfzehn Prozent.

Bei der KI sollten wir ebenso vorgehen. Statt uns in Verfahrensfragen zu verlieren, sollten wir zunächst klären, welche Aufgaben ein internationales KI-Gremium erfüllen muss, und es dann mit dem nötigen Fachwissen und Budget ausstatten. So ließe sich auch die Herausforderung beantworten, die Michael Kratsios, Wissenschafts- und Technologieberater des Weißen Hauses, dem UN-Sicherheitsrat entgegenhielt: „Man kann keine Technologie steuern, die man nicht versteht.“

Der finnisch-norwegische Vorschlag sieht eine internationale Institution vor, die Standards setzen und eine gemeinsame Reaktion koordinieren kann, sobald KI-Systeme gefährliche Fähigkeitsschwellen überschreiten. Außerdem fordert er unabhängige Evaluierungsmechanismen. Er sollte jedoch weiter gehen und verpflichtende Risikoregister sowie einen Notfallmechanismus vorsehen, wie ihn die USA und China Berichten zufolge bereits erarbeiten. Die Evaluierungen sollten zudem die Auswirkungen der KI auf die Menschen berücksichtigen.

Damit all dies funktioniert, braucht die Institution ein unabhängiges technisches Gremium. Das Gremium der OECD-Konvention gegen Bestechung etwa erstellt Länderbewertungen, die nach der Konsens-minus-eins-Regel verabschiedet werden. Zwar mögen die Länder globale Anti-Korruptionsstandards entsprechend ihrer Rechtstradition unterschiedlich definieren, doch das Prinzip der „funktionalen Gleichwertigkeit“ stellt sicher, dass unterschiedliche rechtliche Ansätze zu vergleichbaren Ergebnissen führen. Zudem müsste die Institution mit anderen internationalen Organisationen zusammenarbeiten, damit KI der menschlichen Entwicklung dient.

Bleibt die Frage, wer die einzelnen Mitgliedstaaten in einem neuen internationalen KI-Gremium vertreten würde. Der Basler Ausschuss für Bankenaufsicht funktioniert, weil in ihm Amtsträger mit annähernd gleichem Mandat und gleichen Zuständigkeiten zusammenkommen. Für die KI gibt es nichts Vergleichbares. Nur wenige Länder haben überhaupt ein KI-Ministerium, und die bestehenden verfügen nicht über die Mittel, Marktverhalten zu untersuchen oder zu sanktionieren. Solange wir die nötigen Institutionen auf nationaler wie internationaler Ebene nicht aufgebaut haben, bleibt unsere ursprüngliche Frage – „Wer ist verantwortlich, wenn etwas schiefgeht?“ – offen, und die Welt bleibt unermesslichen Risiken ausgesetzt.

© Project Syndicate