Am 15. Oktober 2024 hat Anthropic eine bedeutende Aktualisierung seiner Responsible Scaling Policy (RSP) veröffentlicht, die das Risiko-Management für fortschrittliche KI-Systeme optimieren soll. Mit dieser neuen Fassung strebt das Unternehmen nach einem flexibleren Ansatz zur Bewertung und Steuerung von KI-Risiken, während es weiterhin fest entschlossen ist, keine KI-Modelle zu entwickeln oder einzusetzen, ohne ausreichende Schutzmaßnahmen getroffen zu haben. Die Verbesserungen umfassen verfeinerte Prozesse zur Bewertung von Fähigkeiten und der Wirksamkeit von Sicherheitsmaßnahmen sowie eine verstärkte interne und externe Governance.

Die Herausforderungen und Chancen von fortschrittlicher KI

Anthropic unterstreicht das transformative Potenzial von Frontier-AI-Modellen, die unser Leben in vielerlei Hinsicht verbessern könnten – von wissenschaftlichen Durchbrüchen bis hin zu neuen kreativen und innovativen Bereichen. Allerdings gehen mit diesen Technologien auch erhebliche Risiken einher, die sorgfältig untersucht und effektiv abgesichert werden müssen. Um diesen Herausforderungen gerecht zu werden, hat Anthropic bereits im September 2023 die erste Version seiner RSP veröffentlicht. Die jetzt überarbeitete Version berücksichtigt die Erfahrungen des letzten Jahres und neue technologische Fortschritte.

Das Grundgerüst der neuen Responsible Scaling Policy

Anthropics aktualisierte RSP basiert auf dem Prinzip des proportionalen Schutzes: Sicherheitsmaßnahmen, die je nach potenziellem Risiko skaliert werden. Diese Schutzmaßnahmen werden durch sogenannte AI Safety Level Standards (ASL) unterteilt, die sich mit der zunehmenden Leistungsfähigkeit der Modelle verschärfen.

• ASL-1: Gilt für Modelle mit einfachen Fähigkeiten, wie z. B. Schachspiel-Bots.
• ASL-2 bis ASL-4+: Erhöhte Sicherheitsstandards, wenn Modelle komplexere Aufgaben bewältigen können.

Aktuell arbeiten alle Modelle von Anthropic unter den Best Practices von ASL-2, aber das Unternehmen hat zwei Schlüsselbereiche identifiziert, in denen höhere Sicherheitsstufen notwendig werden könnten:

1. Autonome KI-Forschung und Entwicklung

Wenn ein Modell komplexe Forschungsaufgaben, die normalerweise menschliches Expertenwissen erfordern, eigenständig durchführen kann, könnten fortgeschrittene Sicherheitsstandards (ASL-4 oder höher) notwendig werden. Ziel ist es, eine unkontrollierte Beschleunigung der KI-Entwicklung zu verhindern.

2. Chemische, biologische, radiologische und nukleare (CBRN) Waffen

Sollte ein Modell in der Lage sein, Einzelpersonen mit Grundkenntnissen bei der Entwicklung oder dem Einsatz solcher Waffen zu unterstützen, werden strenge Sicherheits- und Einsatzkontrollen erforderlich. Dies bedeutet den Einsatz von ASL-3-Standards mit verstärkten Zugriffskontrollen und einem umfassenden Monitoring.

Neuerungen in der Umsetzung und Aufsicht

Anthropic hat mehrere Maßnahmen eingeführt, um die Umsetzung der Richtlinien zu verbessern:

• Fähigkeitsbewertungen: Routinemäßige Bewertungen von Modellfähigkeiten, um festzustellen, ob die aktuellen Schutzmaßnahmen ausreichend sind.
• Sicherheitsbewertungen: Regelmäßige Überprüfungen der Wirksamkeit der Sicherheits- und Einsatzmaßnahmen.
• Dokumentation: Prozesse zur Dokumentation von Bewertungen, inspiriert von Methoden aus Hochsicherheitsindustrien.
• Interne und externe Aufsicht: Neben internem Stress-Testing wird auch Feedback von externen Experten eingeholt.

Durch die Erfahrungen aus dem ersten Jahr der RSP-Umsetzung konnte Anthropic wertvolle Lehren ziehen. Beispielsweise gab es in einigen Fällen kleinere Verzögerungen bei Bewertungen oder fehlende Klarheit bei der Dokumentation, die jedoch keinen nennenswerten Einfluss auf die Sicherheit hatten. Diese Erfahrungen haben dazu beigetragen, die Richtlinien flexibler und die Compliance-Prozesse transparenter zu gestalten.

Zukunftsvision: Weiterentwicklung der Sicherheitsmaßnahmen

Angesichts der rasanten Fortschritte im Bereich der KI betont Anthropic die Notwendigkeit, Sicherheitsmaßnahmen kontinuierlich weiterzuentwickeln. Dies betrifft sowohl die Politiken, die Bewertungsmethodik als auch die Forschung zu potenziellen Risiken. Zusätzlich gibt es personelle Veränderungen: Jared Kaplan, Mitbegründer und Chief Science Officer, übernimmt die Rolle des Responsible Scaling Officer und führt damit die Arbeit von Sam McCandlish fort.

Anthropic lädt zudem Experten dazu ein, an der Weiterentwicklung dieser Sicherheitsprogramme mitzuwirken. Stellen für das Risikomanagement-Team, den Frontier Red Team, die Trust & Safety-Abteilung und andere Teams sind aktuell ausgeschrieben.

Fazit: Ein Vorbild für KI-Risikomanagement

Anthropics überarbeitete Responsible Scaling Policy ist nicht nur ein interner Leitfaden, sondern dient auch als Modell für andere Unternehmen, die eigene Risikomanagementstrategien entwickeln möchten. Durch den aktiven Austausch über ihre Erfahrungen trägt Anthropic zur Etablierung von Best Practices in der KI-Branche bei.

Während die Entwicklung von KI immer schneller voranschreitet, bleibt die Sicherheit und verantwortungsvolle Skalierung dieser Systeme eine der zentralen Aufgaben, der sich Anthropic mit wachsender Sorgfalt widmet.

Quellen:

• Anthropic’s Responsible Scaling Policy: https://www.anthropic.com/news/announcing-our-updated-responsible-scaling-policy