KI: Wer bezahlt die Aufpasser der KI?

Wer bezahlt für die Sicherheit von Künstlicher Intelligenz, einem Thema, das sich schnell entwickelt und von großer Bedeutung ist? In einem Wired-Artikel von Ezra Klein, veröffentlicht in der New York Times, wird das Thema beleuchtet. Seit 2023 wurden Sprachmodelle bei Textaufgaben der mittleren Schwelle nicht überzeugen konnten, doch erreichten sie im Juli 2025 das Goldniveau in der Mathematik-Olympiade.

Im selben Jahr löste OpenAI sogar ein Millennium-Problem, ein Problem, das 2000 mit einer Million Dollar Belohnung versehen war.

OpenAI-Chef Sam Altman hat vorgeschlagen, ihnen einen Friedensnobelpreis zu geben, wenn sie gemeinsame Standards und Tests für AI einigen. Die Chefs von OpenAI und Anthropic scheuen der Verzögerung an, aber sie können das Spiel nicht selbst anhalten. Der Wettbewerb ist nun nicht mehr nur ein kapitalistischer Kampf zwischen Unternehmen, sondern geht um Überlebenswetten ganzer Volkswirtschaften. Donald Trump und Xi Jinping haben sich am Donnerstag dieser Woche getroffen, um ihre Wetten nicht zu verlieren.

Philanthropen und Investoren sehen die Chance, in das unterfinanzierte Risiko mit potenziellen katastrophalen Auswirkungen zu investieren. Unterfinanziertes Risiko mit potenziell katastrophalem Ausgang. Die Zahl der Milliardäre, die aus der AI-Branche hervorgehen, steigt, und viele zugesagen, 80 Prozent ihres Vermögens zu spenden. Eine Gruppe von Philosophie, der effektive Altruismus, ist besonders an AI-Sicherheit interessiert. Sie setzen darauf, wo ein Dollar die meisten gesunden Lebensjahre kauft.

In Deutschland beginnt eine Bewegung, sich für AI-Sicherheit einzusetzen, aber die Geldzuflüsse sind noch gering. Eine deutsche Familie gibt seit sechs Jahren jährlich über 15 Millionen Euro für Organisationen im Bereich „AI-Sicherheit“ aus. In Deutschland fehlt es an unabhängigen Aufsichtsbehörden, gut ausgebildeten Beamten und einer informierten Öffentlichkeit.

Die private Finanzierung zieht auch öffentliches Interesse an. Arbeitsminister Karsten Wildberger hat versprochen, gemeinsam mit Kanada in einem Projekt zu investieren, das mit Innovationsprojekten in diesem Bereich verbunden ist.