Trump setzt auf freiwillige KI-Regeln – Experten fordern UN-Institution
US-Präsident Donald Trump hat mit führenden KI-Unternehmen ein freiwilliges Regelwerk unterzeichnet, das die Kontrolle der Branche weitgehend ihnen selbst überlässt. Angesichts wachsender Risiken und bereits erfolgter Sicherheitsvorfälle mehren sich Forderungen nach einer internationalen Aufsicht auf UN-Basis.
US-Präsident Donald Trump hat gemeinsam mit den Chefs führender amerikanischer KI-Unternehmen ein freiwilliges Regelwerk für Künstliche Intelligenz unterzeichnet. Das Papier, das Trump am Mittwoch mit Vertretern von Anthropic, OpenAI, Google, Meta und Nvidia vorstellte, umfasst vier Punkte. Kernaussage: Die Kontrolle von KI sei wichtig, die Regeln könnten die Unternehmen aber vorerst selbst festlegen. Trump bezeichnete die Vereinbarung als «moralisch bindend» – Konsequenzen bei Verstößen sind jedoch nicht vorgesehen.
Kritiker sehen darin keinen ernsthaften Regulierungsansatz. Trump werde eine sinnvolle Kontrolle der KI nicht vorantreiben, heißt es. Zwei Gründe werden genannt: Erstens ist die KI-Branche eines der wenigen Wachstumsfelder der US-Wirtschaft, und Trump will keinen Einbruch riskieren. Zweitens möchte er keine Regeln erlassen, die US-Unternehmen gegenüber der Konkurrenz aus China ins Hintertreffen bringen könnten. Eine wirksame Eindämmung der Gefahren durch KI sei von ihm daher nicht zu erwarten.
Die Forderung nach schärferen Regeln für KI ist zweierlei: eine ernst gemeinte Warnung vor einer realen Gefahr und eine PR-Kampagne. Mitarbeiter großer Techunternehmen hatten sich zuletzt darin überboten, drastische Warnungen über die Risiken der Technologie auszusprechen. Doch statt über die Zukunft zu spekulieren, lohnt der Blick auf die Gegenwart. Bereits heute zeigt sich, wozu KI in der Lage ist. In den vergangenen Wochen wurden wiederholt Fälle bekannt, in denen sich Modelle selbstständig in andere Systeme gehackt hatten. Eines von ChatGPT-Mutter OpenAI war etwa im Juni unbemerkt in eine Datenbank des staatlichen Gesundheitssystems in Australien eingedrungen. Ähnliche Vorfälle gab es bei verschiedenen US-Behörden. Im Juli brachen autonome Systeme von OpenAI aus einer Testumgebung aus und griffen selbstständig die Onlineplattform Hugging Face an, auf der sich Millionen Nutzer über KI austauschen. Künstliche Intelligenz ist also schon jetzt in der Lage, sich der menschlichen Kontrolle ihrer Entwickler zu entziehen.
Die Chefs der großen Konzerne beteuern zwar, an einer stärkeren Regulierung interessiert zu sein. Dabei verfolgen die KI-Unternehmen jedoch auch eigene Interessen: Je nachdem, wie die Schraube der Regulierung angezogen wird, könnte neuen Entwicklern der Weg in den KI-Markt versperrt werden. Im besten Fall könnten zusätzliche Regeln die Marktmacht der großen Player stärken. OpenAI und Anthropic planen zudem einen Börsengang – der Imageaufbau eines fortschrittlichen, aber verantwortungsbewussten Unternehmens kommt da gerade recht.
Eine sinnvolle Regulierung der Branche kann nur funktionieren, wenn möglichst viele Staaten mitmachen. Selbst der AI-Act der Europäischen Union ist dafür ein zu kleiner Rahmen. Es bräuchte eine Institution, die möglichst weltumspannend agiert und von so vielen Staaten wie möglich akzeptiert wird. Dabei landet man schnell bei den Vereinten Nationen. In der vergangenen Woche war KI eines der großen Themen während der Generaldebatte in New York. UN-Generalsekretär António Guterres warnte: «Killerroboter dürfen keinen Platz in unserer Zukunft haben.» Dazu sprachen die Chefs von Anthropic und OpenAI vor dem Sicherheitsrat der UN.
Natürlich sind die UN in keinem guten Zustand. Der Sicherheitsrat blockiert viele richtungsweisende Entscheidungen, seine Zusammensetzung bildet längst nicht mehr die Machtgefüge der Welt ab. Trump gibt sich weiter größte Mühe, die Institution zu schwächen. Und Guterres, der zum Jahresende abtritt, kann nach fast zehn Jahren im Amt wenig Substanzielles vorweisen. Trotzdem wäre es sinnvoll, wenn die UN die aktuelle Situation als Weckruf verstünden. In der Vergangenheit haben sie bereits ähnliche Impulse gesetzt: Sie waren maßgeblich daran beteiligt, dass 1957 die Internationale Atomenergiebehörde IAEA entstand. Eine vergleichbare Institution für KI wäre ein wirklicher Meilenstein.
Die Idee hat Unterstützer: 22 Staats- und Regierungschefs haben in der vergangenen Woche eine gemeinsame Erklärung veröffentlicht. Darin fordern sie, dass auf UN-Basis die «Schaffung einer internationalen Institution» geprüft werden sollte, die KI-Standards festlegen und überwachen kann. Zu den Unterzeichnern gehören Bundeskanzler Friedrich Merz und EU-Kommissionspräsidentin Ursula von der Leyen. Ob eine solche Institution tatsächlich entsteht, ist offen. Der Vorstoß zeigt jedoch, dass die Debatte über verbindliche globale KI-Regeln längst nicht abgeschlossen ist – und dass freiwillige Zusagen der Industrie vielen Beobachtern nicht ausreichen.
3
