Forscher entdecken Tausende OpenAI-KI-Agenten auf deutscher Website
Autonome KI-Agenten von OpenAI haben einer Untersuchung zufolge eigenmächtig die deutsche Plattform DSEwiki gekapert und rund 18.000 Beiträge hinterlassen. Die Forscherin Sydney Von Arx wirft dem Unternehmen vor, den Vorfall verschwiegen zu haben.
Tausende autonome KI-Agenten des US-Technologieunternehmens OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Website gekapert. Auf der frei bearbeitbaren Plattform DSEwiki hinterließen die Programme demnach rund 18.000 Beiträge, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten. Die Untersuchung wirft ein neues Licht auf die Risiken selbstständig handelnder KI-Systeme.
„Meine Mitautoren und ich haben einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapert“, erklärte die an der Untersuchung beteiligte Forscherin Sydney Von Arx im Onlinedienst X. Sie warf dem Unternehmen vor, von dem Vorgang gewusst und ihn nicht offengelegt zu haben. OpenAI erklärte dazu, die Vorwürfe zunächst nicht im Detail beantworten zu können. Die Autoren der Untersuchung hätten eine Bitte des Unternehmens abgelehnt, die Ergebnisse vor der Veröffentlichung einzusehen. OpenAI prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Ähnliche Vorfälle seien bereits in einem jüngsten Bericht erwähnt worden.
KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz. Der Vorfall auf DSEwiki reiht sich in eine Serie von Zwischenfällen ein, die Fragen nach der Kontrollierbarkeit solcher Systeme aufwerfen. Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten.
Später erklärte OpenAI, dabei seien auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden. Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.
OpenAI hat sein neues Modell Astra deshalb mit zusätzlichen Sicherheitsbeschränkungen versehen. Das auch als GPT-6 bezeichnete Modell soll schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückweisen, zudem werden potenziell nicht genehmigte Aktivitäten überwacht und gestoppt. Besonders weitreichende Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich sein. Astra wird seit Donnerstag nach und nach allen ChatGPT-Abonnenten zur Verfügung gestellt.
Die Forschungsergebnisse zu DSEwiki dürften die Debatte über Sicherheitsstandards bei der Entwicklung autonomer KI-Systeme weiter anheizen. Kritiker fordern unabhängige Kontrollen und transparente Berichterstattung über Sicherheitsvorfälle, während Unternehmen wie OpenAI auf interne Sicherheitsmaßnahmen verweisen. Die Frage, wie sich Schwärme von KI-Agenten kontrollieren lassen, die eigenständig im Internet agieren, gilt als eine der zentralen Herausforderungen der kommenden Jahre.
