Wegen Bedenken um die nationale Sicherheit hat die US-Administration den Zugriff auf neue KI-Systeme gestoppt. Das Unternehmen Anthropic wehrt sich.

Das KI-Unternehmen Anthropic hat den Zugriff auf seine erst vor kurzem vorgestellten Modelle Fable 5 und Mythos 5 unterbunden. Eine entsprechende Anweisung kam von der US-Regierung, die sich auf die nationale Sicherheit berief. Laut der Direktive soll der Zugang für alle Nicht-US-Bürger zu den KI-Systemen verhindert werden, wie die Firma bekannt gab.

Von dieser Sperre sind laut den Angaben auch Ausländer betroffen, die sich in den Vereinigten Staaten aufhalten, und sogar Angestellte von Anthropic ohne amerikanische Staatsbürgerschaft. Als Konsequenz aus der Verfügung musste der Zugang für sämtliche Anwender kurzfristig gekappt werden, wie es in einer Mitteilung heißt. Anthropic zufolge vermutet die Regierung, eine Methode entdeckt zu haben, um softwareseitige Einschränkungen zu umgehen.

Besondere Kompetenzen der neuen KI-Systeme

Die Technologie, die dem Modell Mythos zugrunde liegt, ist besonders effektiv bei der Identifizierung von Software-Schwachstellen, die teils über Jahrzehnte unbemerkt blieben. Diese Kompetenz wurde bislang von amerikanischen Behörden und Partnerfirmen eingesetzt, um ebenjene Sicherheitslücken zu schließen. Von Anfang an bestand jedoch die Befürchtung, dass eine solche Künstliche Intelligenz bei den falschen Akteuren zu einer bedrohlichen Cyber-Waffe werden könnte.

Das erst in dieser Woche präsentierte Modell Fable 5 nutzt die Technologie von Mythos als Basis. Allerdings sind bei Fable 5 die Fähigkeiten in den Bereichen Cybersicherheit und Biotechnologie deaktiviert. Bei Mythos 5 handelt es sich um die nicht-öffentliche Vollversion, deren Einsatz weiterhin auf Behörden und ausgesuchte Unternehmenspartner zur Absicherung ihrer IT-Infrastruktur beschränkt bleiben sollte.

Unklarheit über das tatsächliche Ausmaß der Bedrohung

Anthropic hob hervor, von der Regierung bislang nur unvollständige Auskünfte bekommen zu haben. Das Unternehmen hat einen Bericht analysiert, der nach eigener Einschätzung der Grund für die Anordnung sein dürfte. Die Fachleute von Anthropic gelangten dabei zu dem Ergebnis, dass es sich um eine begrenzte Möglichkeit handelt, die KI zur Überprüfung und Korrektur spezifischer Programmcodes zu nutzen.

Vergleichbare Fähigkeiten besäßen auch Modelle von Wettbewerbern, beispielsweise GPT-5.5 vom Konkurrenten OpenAI. Anthropic äußerte Unverständnis darüber, dass aus diesem Grund eine Software für Millionen von Anwendern gesperrt wird. Das Unternehmen unterstrich außerdem, dass die Sicherheitsmechanismen von Fable 5 umfassend geprüft worden seien.

Anthropic in Auseinandersetzung mit US-Behörden

Die aktuelle Lage ist insofern bemerkenswert, als sich der Chef von Anthropic, Dario Amodei, erst kürzlich dafür aussprach, der Regierung die Befugnis zum Stoppen potenziell riskanter KI-Software zu erteilen. Anthropic pocht jedoch darauf, dass solche Maßnahmen auf der Grundlage transparenter Prozesse und technischer Fakten erfolgen müssen, was im jetzigen Fall nicht gegeben sei.

Die Firma hatte in der jüngeren Vergangenheit wiederholt Auseinandersetzungen mit der US-Regierung. So beharrte das Unternehmen trotz erheblichen Drucks darauf, dass seine KI-Technologie nicht für autonome Waffensysteme oder zur Massenüberwachung innerhalb der USA verwendet werden darf. Infolgedessen stufte das Pentagon Anthropic als Risiko für die Lieferkette ein, was die Nutzung der Software in Regierungsbehörden erheblich erschweren kann. Dagegen hat die Firma geklagt. Die außergewöhnlichen Fähigkeiten von Mythos im Bereich der Cybersicherheit machten Anthropic jedoch wieder zu einem wichtigen Akteur für die US-Regierung. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.