Anthropic blockiert KI-Zugriffe mit möglichem Bezug zu Biowaffen-Forschung
Die KI-Firma Anthropic hat nach eigenen Angaben mehrere Versuche von Forschern unterbunden, ihre Claude-Modelle für mögliche Biowaffen-Forschung zu nutzen. Die Fälle werfen Fragen zur Abgrenzung von medizinischer und militärischer Forschung auf.
Die KI-Firma Anthropic hat in den vergangenen Monaten nach eigenen Angaben mehrere Versuche von Wissenschaftlern blockiert, ihre Claude-Modelle für Forschung mit möglichem Bezug zur Entwicklung von Biowaffen zu nutzen. Wie das Unternehmen mitteilte, handelt es sich um fünf Fälle, in denen Forscher versuchten, heimlich auf die KI-Systeme zuzugreifen. Die Vorfälle werfen ein Schlaglicht auf die wachsende Sorge, dass Künstliche Intelligenz für die Entwicklung biologischer Waffen missbraucht werden könnte.
Nach Darstellung von Anthropic suchten die Forscher keine konkrete wissenschaftliche Hilfe, sondern eher organisatorische Unterstützung, etwa beim Verfassen von Papieren. In einem Fall sei versucht worden, mit Hilfe von Claude einen Förderantrag für die Erforschung eines Virus zu verfassen. Dabei habe es sich um sogenannte Gain-of-Function-Forschung gehandelt, bei der die Übertragbarkeit eines Erregers erhöht wird. Diese Methode wird in Laboren genutzt, um Gegenmittel zu finden, kann aber auch der Entwicklung von Biowaffen dienen.
In einem weiteren Fall habe ein Wissenschaftler versucht, mit Claude einen Plan für die Erforschung einer Vogelgrippe-Variante zu entwerfen, die sich auf Säugetiere übertragen ließe. Auch hier betonte das Unternehmen, dass solche Forschung zwar der Prävention dienen könne, zugleich aber gefährliches Wissen schaffe, das für die Waffenentwicklung genutzt werden könnte. Ein weiterer Forscher habe Claude bei der Erstellung vierteljährlicher Fortschrittsberichte zur Erforschung eines Toxins einsetzen wollen.
Anthropic räumte ein, dass die Ziele solcher Anfragen schwer zu ermitteln seien, da entsprechende Forschung sowohl medizinischen als auch militärischen Zwecken dienen könne. Die KI-Modelle seien grundsätzlich darauf ausgelegt, Hilfestellung bei der Entwicklung biologischer Waffen zu verweigern. Bei Forschung, die sowohl der Medizin als auch militärischen Zwecken dienen könne, sei es jedoch manchmal schwierig, eine klare Trennlinie zwischen harmlosen und bösartigen Absichten zu ziehen.
Die Versuche zeigten, dass Wissenschaftler aus blockierten Regionen und mit Verbindungen zu dortigen staatlichen Stellen versuchten, heimlich auf Künstliche Intelligenz amerikanischer Entwickler zuzugreifen. Weder die Forschungseinrichtungen noch die Länder, aus denen sie stammen, wurden genannt. Der Konkurrent des ChatGPT-Entwicklers OpenAI betonte, dass die Ziele solcher Anfragen schwer zu ermitteln seien.
Der Bericht von Anthropic ist Teil einer wachsenden Debatte über die Sicherheit von KI-Systemen. Unternehmen stehen vor der Herausforderung, missbräuchliche Nutzung zu verhindern, ohne legitime Forschung einzuschränken. Die Fälle zeigen, dass Akteure gezielt versuchen, Sicherheitsvorkehrungen zu umgehen. Anthropic will mit der Veröffentlichung des Berichts Transparenz schaffen und das Bewusstsein für die Risiken schärfen.
