Anthropic, ein Konkurrent von OpenAI, hat eine Unterbrechung bei der Schaffung von besonders fortschrittlicher Künstlicher Intelligenz vorgeschlagen. In einem Blogbeitrag kommunizierte die Firma: „Wir glauben, dass es gut für die Welt wäre, die Option zu haben, die Entwicklung besonders fortgeschrittener Modelle zu verlangsamen oder zu pausieren“. Man verfolge die Absicht, während dieser Phase soziale Rahmenbedingungen zu justieren sowie die Forschung für die Sicherheit von KI zu intensivieren.

Dabei gesteht Anthropic zu, dass eine derartige Maßnahme die Zustimmung der bedeutenden KI-Entwicklungsfirmen voraussetzen würde. In dem Sektor ist dafür bis jetzt allerdings keine Neigung ersichtlich. Die Konzerne wetteifern stattdessen mit Vorhaben, hohe dreistellige Milliardenbeträge in die KI-Infrastruktur, etwa in gigantische Rechenzentren, zu investieren.

Alleingänge im Wettbewerb ausgeschlossen

Dario Amodei, der Vorstandsvorsitzende von Anthropic, hob schon im Januar beim Weltwirtschaftsforum in Davos hervor, dass der technologische Wettstreit mit China eine Drosselung der Entwicklungsgeschwindigkeit kompliziere. Eine Abmachung, die sich durchsetzen ließe, sei schwer zu realisieren. Das Unternehmen weist eine unilaterale Unterbrechung zurück, weil dies nur die führende Position am Markt verlagern würde.

Das Forschungsinstitut von Anthropic schlägt als greifbaren Schritt die gemeinsame Erarbeitung eines Überwachungssystems mit anderen Beteiligten vor. Jenes System soll den Entwicklungsfirmen die Gewissheit bieten, dass sämtliche Beteiligten ein eventuelles Moratorium befolgen und kein Akteur sich im Verborgenen einen Vorsprung erarbeitet.

Risiko durch selbstoptimierende KI

Der Anlass für diese Initiative ist laut Angaben von Anthropic die rasante Weiterentwicklung von KI-Modellen, speziell im Hinblick auf ihre Kompetenz zur Selbstoptimierung und Evolution. Wenn sie diese Fähigkeit erlangten, würde sich die Gefahr erhöhen, dass die Menschheit die Herrschaft über die Künstliche Intelligenz einbüßt. Das Unternehmen mahnte, dieser Entwicklungsschritt könnte zügiger eintreten, als zahlreiche Organisationen darauf eingestellt wären.

Schon vor einiger Zeit sprach sich auch der Technologie-Milliardär Elon Musk für eine halbjährige Unterbrechung der KI-Forschung aus, um Gefahren präventiv zu begegnen. Es wurde allerdings nachträglich publik, dass er zeitgleich die Etablierung eines persönlichen KI-Unternehmens forcierte.

Das Unternehmen Anthropic, welches die KI-Anwendung Claude hervorbringt, agiert oft als Warner und verlangt eine schärfere Regulierung des Sektors. Unter Präsident Donald Trump kam aus dem Weißen Haus der Vorwurf, dies würde die amerikanische Wirtschaft im weltweiten Konkurrenzkampf schwächen. Jüngst erlangte Anthropic Aufmerksamkeit, nachdem seine Software mit dem Namen „Claude Mythos Preview“ in unterschiedlichen Anwendungen Sicherheitsdefizite aufdeckte, die teils über Dekaden unbemerkt blieben. (dpa/red)

Dieser Inhalt wurde mit Hilfe von KI erstellt.