KI-Forscherin fordert Prüfaufsicht für Tech-Konzerne
Die neue Geschäftsführerin des Hasso-Plattner-Instituts, Daniela Gerd tom Markotten, fordert, dass US-Tech-Konzerne ihre KI-Systeme für unabhängige Experten öffnen. Sie warnt vor Alarmismus, sieht aber Handlungsbedarf bei Transparenz und Kontrolle.
Die Geschäftsführerin des Hasso-Plattner-Instituts (HPI) in Potsdam, Daniela Gerd tom Markotten, hat die großen Technologiekonzerne aufgefordert, ihre KI-Systeme für eine unabhängige Überprüfung zu öffnen. «Ich würde den Tech-Konzernen mit ihren Warnungen gerne sagen: Okay, dann macht die Blackbox, die wir heute bei euch sehen, macht sie auf, lasst uns reinschauen», sagte die promovierte Wirtschaftsingenieurin der Deutschen Presse-Agentur. Wenn die Unternehmen ihre Warnungen vor den Gefahren Künstlicher Intelligenz ernst meinten, sollten sie nichts dagegen haben, externe Fachleute hinzuzuziehen.
Gerd tom Markotten schlägt vor, ein unabhängiges Expertenteam als Prüfaufsicht einzurichten, in dem auch Europas Spitzenforscher vertreten sein sollten. Diese Gutachter – Wissenschaftler ohne wirtschaftliches Interesse – müssten Zugang zu allen Daten und Modellen der Konzerne erhalten. «Das wäre ein Lösungsvorschlag», sagte sie. Würden die Tech-Konzerne selbst entsprechende Unternehmen beauftragen, «können wir nicht sicher sein, dass die relevanten Informationen zu uns durchdringen».
Die 51-Jährige ist seit August Geschäftsführerin am Hasso-Plattner-Institut, das seine KI-Forschung weiter ausbauen will. Zuvor war sie Vorständin bei der Deutschen Bahn für Digitalisierung und Technik sowie Managerin bei Daimler. Mit ihrer Forderung nach mehr Transparenz reagiert sie auf die jüngsten Warnungen führender KI-Labore in den USA. Nach eigenständigen Hacking-Attacken durch KI-Software hatten sich unter anderem das Unternehmen Anthropic und der ChatGPT-Entwickler OpenAI dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz zu bremsen. Sie sehen das Risiko, dass die Technologie der Kontrolle durch Menschen entgleiten könnte.
Gerd tom Markotten warnt jedoch vor Alarmismus und plädiert für eine «Versachlichung» der Debatte. «Eine Super-KI, die unkontrollierbar ist, ist im Moment nicht in Sicht», sagte sie. Die Technologie an sich sei zunächst neutral und verfolge keine bösen Absichten. «Sie versucht ein Problem zu lösen, eine Aufgabe, die ihr übertragen wurde.» Entscheidend sei, dass der Mensch in kritischen Situationen die letztendliche Entscheidung treffe. «Die KI kann Empfehlungen abgeben, aber am Ende muss ein Mensch sagen: wir machen das oder wir machen das nicht.» Die KI müsse ein Werkzeug bleiben, das den Menschen diene.
Die Verunsicherung in der Bevölkerung angesichts von Untergangsszenarien müsse ernst genommen werden, betonte die Managerin. Es sei daher der sinnvollste Weg, die Technologie zu erklären und transparent zu machen. «Einbremsen lässt sich die Technologie nur schwer, aber begleiten», sagte sie. Das Bundesdigitalministerium verwies angesichts von Bedrohungsszenarien auf das neu gegründete nationale KI-Sicherheitsinstitut, das sicherheitsrelevante Risiken frühzeitig identifizieren soll. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit: «Hersteller von KI-Modellen sind aus Sicht des BSI in der Pflicht, KI-Agenten enge und sichere Grenzen zu setzen: mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen.»
Die Diskussion über die Risiken Künstlicher Intelligenz hat in den vergangenen Monaten an Fahrt aufgenommen. Während einige Experten vor unkontrollierbaren Szenarien warnen, fordern andere eine stärkere Regulierung und mehr Einblicke in die Funktionsweise der Systeme. Gerd tom Markotten positioniert sich mit ihrem Vorschlag einer Prüfaufsicht zwischen beiden Lagern: Sie hält die Gefahren nicht für akut, sieht aber sehr wohl die Notwendigkeit, die Entwicklung verantwortungsvoll zu begleiten und die Systeme überprüfbar zu machen. Ihr Institut in Potsdam will dazu beitragen, die Forschung voranzutreiben und gleichzeitig ethische und gesellschaftliche Fragen zu adressieren.
19
