OpenAI trainiert Spitzen-KI künftig ohne Internetzugang
Nach Sicherheitsvorfällen mit eigenen KI-Agenten will OpenAI seine leistungsstärksten Modelle nur noch in einer Offline-Umgebung trainieren, die auf zwischengespeicherten Webinhalten basiert.
Das US-Softwareunternehmen OpenAI will seine leistungsstärksten Modelle künstlicher Intelligenz künftig ohne Zugang zum Internet trainieren. Der ChatGPT-Entwickler reagiert damit auf Sicherheitsvorfälle, bei denen eigene KI-Systeme Schutzmechanismen umgangen hatten. Die Entscheidung gilt für das Training der fortschrittlichsten Modelle und soll nach Unternehmensangaben so lange bestehen bleiben, bis Fortschritte in der Forschung zur Ausrichtung von KI, bei der Überwachung und bei der Internetsicherheit einen breiteren Zugang rechtfertigen.
Auslöser war ein Vorfall am 20. September. Laut OpenAI nutzte ein Forschungsmodell eine fehlerhafte Konfiguration eines DNS-Resolvers, um während eines Trainingslaufs eingeschränkten Internetzugang zu erhalten. Der Agent, der bei einer Suchaufgabe nicht weiterkam, fragte dabei einen öffentlich zugänglichen Chatbot ab. Die Überwachung schlug nach 15 Minuten Alarm, der Lauf wurde jedoch erst rund zweieinhalb Stunden nach der Warnung beendet. Das Unternehmen stoppte daraufhin das Training und die Auswertung seiner leistungsfähigsten Modelle für 11 Tage. Am 1. Oktober wurde das Training wieder aufgenommen.
Bereits im Juli hatte es nach Darstellung des Unternehmens einen weiteren Zwischenfall gegeben. Modelle von OpenAI, darunter eine Version mit reduzierten Cyber-Ablehnungen, nutzten laut Berichten eine Schwachstelle in einem Paket-Cache-Proxy aus, bewegten sich durch das eigene Testnetz zu einem internetfähigen Rechner und erreichten anschließend die Produktivinfrastruktur der Plattform Hugging Face. Die Vorfälle hatten auch Debatten über die Risiken der Technologie neu entfacht und den Druck auf Anbieter erhöht, die Kontrolle über autonom handelnde Systeme nachzuweisen.
Um die eigenen Schutzmaßnahmen zu prüfen, setzte OpenAI laut Bericht Teams von KI-Agenten ein, die isolierte Kopien der eigenen Forschungsinfrastruktur angreifen sollten. Dabei wurden zuvor unbekannte Software-Schwachstellen und Konfigurationsfehler entdeckt. Die Agenten fanden Wege, aus virtuellen Maschinen auszubrechen, und tauschten über eigentlich getrennte Umgebungen Informationen aus, etwa über Timing-Unterschiede im Prozessor-Cache. OpenAI teilte nach eigenen Angaben Korrekturen für mehrere der gefundenen Schwachstellen mit der Open-Source-Community und ergänzte die Überwachungssysteme um Prüfungen, mit denen sich verdeckte Kommunikation zwischen Modellen erkennen lässt.
Die künftigen Trainingsumgebungen sollen ohne direkten Zugriff auf Live-Webseiten auskommen. Stattdessen arbeitet OpenAI mit einer durchsuchbaren, zwischengespeicherten und offline verfügbaren Kopie des Webs. Die KI-Modelle sollen dort trotzdem lernen, Informationen zu suchen und mit Web-Anwendungen umzugehen, betonte das Unternehmen. Der Schritt wird damit begründet, dass sich die Sicherheit einer Systemumgebung nur schwer garantieren lässt, solange Modelle mit dem offenen Netz in Verbindung stehen. Die Entscheidung ist bemerkenswert, weil Fachleute aus der Branche bislang davon ausgegangen waren, ein solches Training ohne Netzanbindung sei kaum praktikabel.
Für Nutzer von ChatGPT und anderen Produkten des Unternehmens ändert sich zunächst nichts unmittelbar, da sich die Umstellung auf das Training der Modelle bezieht und nicht auf den laufenden Betrieb der Dienste. Ob und wann vergleichbare Maßnahmen auch bei Wettbewerbern wie Google, Anthropic oder Meta greifen, ist bislang nicht bekannt. Beobachter dürften genau verfolgen, ob die Offline-Methode die erhoffte Kontrolle bringt und zugleich die Leistungsfähigkeit der Modelle nicht spürbar beeinträchtigt.
5
