Anthropic aktualisiert die KI-Sicherheitsrichtlinie: Was hat sich geändert?

Anthropics Responsible Scaling Policy in Version 3.4 ist am 8. Juli 2026 in Kraft getreten. Das Dokument beschreibt, wie das Unternehmen reagieren will, wenn die Fähigkeiten eines Modells wichtige Risikoschwellen erreichen. Es geht also nicht um eine neue Funktion für Endnutzer, sondern um Regeln und Nachweise, die hinter der Entwicklung und Veröffentlichung leistungsfähiger Systeme stehen sollen.

Die neue Fassung überarbeitet die Schwelle für Risiken durch automatisierte Forschung und Entwicklung. Außerdem erläutert sie den internen Zugang zu Risikoberichten, die Kennzeichnung wesentlicher Schwärzungen in öffentlichen Berichten und die Möglichkeit, externe Prüfungen auf mehrere Fachleute zu verteilen. Die praktische Frage lautet: Wer sieht die Belege, wenn ein System leistungsfähiger wird, und welche Entscheidung folgt daraus?

Ein Risikobericht macht aus einer allgemeinen Sorge einen überprüfbaren Prozess. Wenn ein Modell bei automatisierter Forschung, Cyber-Aufgaben oder lang laufenden Werkzeugketten besser wird, reicht die Aussage „das Modell ist leistungsfähiger“ nicht aus. Es braucht Tests, bekannte Grenzen, Verantwortliche und eine Verbindung zwischen den Ergebnissen und der Entscheidung über Training, Einführung, Begrenzung oder Monitoring.

Anthropic erklärt, dass interne Berichte mindestens 200 Mitarbeitenden zugänglich sein sollen und öffentliche Berichte wichtige Schwärzungen kenntlich machen müssen. Das ist ein schwieriger Ausgleich. Zu wenig Zugang macht Aufsicht symbolisch, zu viele unkontrollierte Details können neue Risiken schaffen. Eine belastbare Sicherheitsarbeit muss beide Seiten erklären und darf Transparenz nicht nur als Schlagwort verwenden.

Externe Prüfungen können Annahmen hinterfragen, die vom Entwicklerteam selbst getroffen wurden. Nach der neuen Richtlinie dürfen verschiedene Prüfer unterschiedliche unredigierte Abschnitte bewerten, sofern jeder Abschnitt mindestens einmal durch eine geeignete externe Person geprüft wird. Das ist bei komplexen Berichten sinnvoll, in denen Sicherheit, Modellverhalten, Governance und Betrieb unterschiedliche Fachkenntnisse verlangen.

Externe Beteiligung ist trotzdem keine automatische Garantie. Prüfer brauchen relevanten Zugang, Unabhängigkeit, ausreichend Zeit und einen Weg, wie ihre Erkenntnisse Entscheidungen tatsächlich beeinflussen. Der sinnvolle Kreislauf lautet: testen, dokumentieren, prüfen, den Plan verändern und erneut prüfen, wenn sich Modellfähigkeiten oder Bedrohungen verändern.

Die meisten Nutzer werden wegen dieser Richtlinienänderung keinen neuen Knopf sehen. Auswirkungen können sich in der Freigabe neuer Fähigkeiten, in Sicherheitsvorgaben, in Zugangsmodellen und in der Dokumentation eines Releases zeigen. Unternehmen sollten bei der Auswahl eines Modells deshalb nicht nur Preis und Benchmark betrachten. Die Fähigkeit eines Anbieters, Risiken zu erklären, zu begrenzen und zu überwachen, gehört ebenfalls zur Zuverlässigkeit.

Die Änderung zeigt, dass der Wettbewerb um Frontier-Modelle auch ein Wettbewerb um Governance wird. Entscheidend ist nicht nur, wer ein starkes System baut, sondern wer es nachvollziehbar, prüfbar und kontrollierbar betreiben kann. Quelle: Anthropic, Responsible Scaling Policy Version 3.4 — https://www.anthropic.com/responsible-scaling-policy