Stell Dir vor, Du bringst einem brillanten Experten eine neue Fähigkeit bei, nur um festzustellen, dass er dabei einen Teil seines alten Wissens vergisst. Genau dieses Problem, bekannt als „katastrophales Vergessen“, plagt die Entwicklung von Künstlicher Intelligenz seit Jahren. Doch eine bahnbrechende Studie des MIT vom September 2025 enthüllt nun einen verblüffend einfachen Grundsatz, warum eine bestimmte Trainingsmethode – Reinforcement Learning (RL) – diesem Vergessen auf wundersame Weise widersteht.

Das Problem ist drängend: Wir wollen KI-Modelle, die sich kontinuierlich verbessern und an neue Aufgaben anpassen, ohne ihre hart erlernten Fähigkeiten zu verlieren. Bisher schien das ein unlösbarer Kompromiss zu sein. Die neue Studie stellt jedoch fest: Während das gängige Supervised Fine-Tuning (SFT) Wissen oft „überschreibt“, bewahrt Reinforcement Learning die ursprünglichen Fähigkeiten signifikant besser – selbst bei identischer Leistung bei der neuen Aufgabe.

In diesem Artikel tauchen wir tief in die „RL’s Razor“-Theorie ein. Du erfährst nicht nur, warum RL die überlegene Methode für lebenslang lernende KI ist, sondern auch, wie eine simple Messgröße – die KL-Divergenz – das Vergessen vorhersagt. Wir entschlüsseln die Technik, zeigen Dir praktische Implikationen und geben Dir die Werkzeuge an die Hand, um das Fine-Tuning Deiner eigenen Modelle zu revolutionieren.

Auch bei dem – jetzt schon wieder „altem Modell“ Kimi 1.5 aus Chine hat Reinforcement Learning maßgeblich zum Erfolg beigetragen.

RL’s Razor – Das Wichtigste in Kürze

• Das Kernproblem: „Katastrophales Vergessen“ tritt auf, wenn KI-Modelle beim Erlernen neuer Aufgaben alte Fähigkeiten verlieren.
• Die MIT-Entdeckung: Reinforcement Learning (RL) erhält früheres Wissen deutlich besser als Supervised Fine-Tuning (SFT), selbst bei gleicher Performance auf der neuen Aufgabe.
• RL’s Razor Prinzip: Unter allen möglichen Lösungen für eine neue Aufgabe bevorzugt RL instinktiv diejenige, die der ursprünglichen Wissensbasis des Modells am ähnlichsten bleibt.
• Die „Vergessens-Formel“: Die KL-Divergenz zwischen dem alten und neuen Modell, gemessen an der neuen Aufgabe, ist ein extrem genauer Vorhersagewert für den Grad des Vergessens.
• Der Mechanismus: RL ist „On-Policy“, d.h. es lernt aus seinen eigenen generierten Antworten. Das führt zu konservativen, graduellen Anpassungen statt radikalen Sprüngen wie beim SFT.
• Praktische Relevanz: Für die Entwicklung von langlebigen, sich kontinuierlich verbessernden KI-Agenten ist die Minimierung der KL-Divergenz ein entscheidender Faktor, der über den Erfolg entscheidet.
• Zukünftige Methode: Die Erkenntnisse ermöglichen die Entwicklung neuer Trainingsmethoden, die die Effizienz von SFT mit dem Gedächtnisschutz von RL kombinieren.

Das große Problem „Katastrophales Vergessen“: Warum KI beim Lernen vergisst

In der KI-Entwicklung ist das Fine-Tuning ein Standardverfahren. Man nimmt ein riesiges, vortrainiertes Basismodell (Foundation Model) wie GPT-4 oder Llama 3 und passt es auf eine spezielle Aufgabe an – sei es die Beantwortung medizinischer Fragen oder das Schreiben von Code. Der gängigste Ansatz hierfür ist das Supervised Fine-Tuning (SFT). Dabei füttert man das Modell mit Tausenden von Beispielen für korrekte Ein- und Ausgaben.

Das Problem: SFT ist wie ein Bulldozer. Es zwingt das Modell, sich einer neuen Verteilung von „richtigen“ Antworten anzupassen. Dabei werden oft die fein justierten neuronalen Verbindungen, die das breite Allgemeinwissen des Modells repräsentieren, rücksichtslos überschrieben. Das Resultat: Das Modell brilliert in der neuen Aufgabe, kann aber plötzlich einfache Fragen nicht mehr beantworten oder hat grundlegende Fähigkeiten verloren. Dieses Phänomen wird als katastrophales Vergessen bezeichnet und ist eine der größten Hürden auf dem Weg zu wirklich intelligenten, anpassungsfähigen Systemen.

Die überraschende Entdeckung des MIT: RL schlägt SFT im Gedächtnistest

Forscher des renommierten Improbable AI Lab am MIT haben in ihrer Arbeit „RL’s Razor“ (September 2025) SFT und Reinforcement Learning (RL) direkt miteinander verglichen. Anstatt dem Modell wie bei SFT starre Antworten vorzugeben, gibt man ihm beim RL nur ein Ziel und eine Belohnung für das Erreichen dieses Ziels. Das Modell muss selbst herausfinden, wie es dorthin gelangt.

Die Ergebnisse, dargestellt in sogenannten Pareto-Frontier-Diagrammen, sind eindeutig.

• Beim Supervised Fine-Tuning (SFT) zeigt sich ein klarer Kompromiss: Je besser das Modell in der neuen Aufgabe wird (z.B. mathematisches Denken), desto schlechter schneidet es bei alten Aufgaben ab (z.B. Allgemeinwissen, Logik). Die Kurve fällt steil ab.
• Beim Reinforcement Learning (RL) ist das Bild völlig anders: Das Modell verbessert seine Leistung bei der neuen Aufgabe erheblich, während die Leistung bei alten Aufgaben nahezu konstant bleibt. Die Kurve verläuft flach.

Dieser Unterschied war über verschiedene Domänen hinweg konsistent – von Sprachmodellen, die wissenschaftliche Fragen beantworten oder Werkzeuge benutzen lernten, bis hin zu Robotik-Modellen, die das Greifen von Objekten trainierten. RL lernt Neues, ohne Altes zu opfern.

Das Geheimnis ist gelüftet: Die „Vergessens-Formel“ der KI

Die entscheidende Frage war: Warum vergisst RL weniger? Die Forscher testeten Dutzende von Hypothesen – von Änderungen in den Modellgewichten bis hin zu Aktivierungsmustern der Neuronen. Nichts konnte den Unterschied konsistent erklären. Bis sie auf eine Messgröße aus der Informationstheorie stießen: die Kullback-Leibler-Divergenz (KL-Divergenz).

Deep-Dive: Was ist KL-Divergenz? Stell Dir vor, Du hast zwei Würfel. Ein fairer Würfel (jede Seite hat eine Wahrscheinlichkeit von 1/6) und ein gezinkter Würfel (die 6 kommt mit 50% Wahrscheinlichkeit). Die KL-Divergenz ist eine Zahl, die misst, wie „überraschend“ es ist, die Ergebnisse des gezinkten Würfels zu sehen, wenn man eigentlich die Ergebnisse des fairen Würfels erwartet. Sie misst also den „Abstand“ oder die „Unähnlichkeit“ zwischen zwei Wahrscheinlichkeitsverteilungen. Eine KL-Divergenz von Null bedeutet, die Verteilungen sind identisch.

Die Forscher entdeckten das empirische Vergessensgesetz:

Der Grad des katastrophalen Vergessens wird präzise durch die KL-Divergenz zwischen dem Basismodell und dem feinjustierten Modell vorhergesagt, gemessen an den Daten der neuen Aufgabe.

Einfach ausgedrückt: Je stärker sich das Antwortverhalten des Modells auf die neuen Fragen ändert (hohe KL-Divergenz), desto mehr vergisst es von seinem alten Wissen. Diese Formel funktionierte über alle Methoden und Hyperparameter hinweg und entpuppte sich als der wahre Taktgeber des Vergessens.

RL’s Razor: Ockhams Rasiermesser für Künstliche Intelligenz

Mit dem Vergessensgesetz hatten die Forscher das „Was“, aber noch nicht das „Warum“. Die Antwort fanden sie im Kernprinzip von RL und nannten es RL’s Razor, in Anlehnung an Ockhams Rasiermesser (das Prinzip, das die einfachste Erklärung bevorzugt).

RL’s Razor besagt: Von allen möglichen Wegen, eine neue Aufgabe erfolgreich zu lösen, bevorzugt Reinforcement Learning implizit den Weg, der dem ursprünglichen Verhalten des Modells am nächsten kommt (also die KL-Divergenz minimiert).

SFT hingegen kann das Modell zu einer beliebigen, weit entfernten Lösung ziehen, solange diese den vorgegebenen Beispielen entspricht. Dies führt zu einer großen KL-Divergenz und damit zu massivem Vergessen. RL ist von Natur aus konservativ.

Schritt-für-Schritt: Wie On-Policy-Lernen das Vergessen verhindert

Der technische Grund für dieses konservative Verhalten liegt im „On-Policy“-Charakter von RL.

1. Aktion generieren (On-Policy): In jedem Trainingsschritt generiert das RL-Modell eine eigene Antwort auf eine Aufgabe, basierend auf seinem aktuellen Wissen.
2. Feedback erhalten: Das System gibt eine Belohnung (z.B. 1 für „richtig“, 0 für „falsch“).
3. Wahrscheinlichkeiten anpassen: Das Modell erhöht die Wahrscheinlichkeit für Aktionen, die zu einer Belohnung führten, und verringert sie leicht für andere.
4. Konservative Updates: Da das Modell von seinen eigenen Proben lernt, sind die Updates immer relativ zu seinem aktuellen Zustand. Es kann keine riesigen Sprünge machen, weil es unwahrscheinliche Aktionen gar nicht erst in Betracht zieht. Es verschiebt seine Verteilung nur graduell.

Beim SFT (Offline-Lernen) ist es anders:

1. Feste Antwort vorgeben: Das Modell erhält eine feste, „perfekte“ Antwort aus einem Datensatz.
2. Fehler berechnen: Das Modell berechnet den massiven Fehler zwischen seiner eigenen (vielleicht ganz anderen) Antwort und der perfekten Antwort.
3. Radikales Update: Das Modell wird gezwungen, seine Gewichte drastisch zu ändern, um sich der perfekten Antwort anzunähern, selbst wenn diese meilenweit von seinem bisherigen Verständnis entfernt war. Dies verursacht die hohe KL-Divergenz.

Um dies zu beweisen, konstruierten die Forscher ein „Orakel-SFT“, bei dem sie die SFT-Zieldaten so wählten, dass sie die KL-Divergenz minimierten. Das Ergebnis: Dieses spezielle SFT vergaß sogar noch weniger als RL. Das beweist: Nicht RL ist magisch, sondern die Minimierung der KL-Divergenz ist der Schlüssel.

Vergleichsmatrix: RL vs. SFT – Der ultimative Showdown beim Fine-Tuning

Dimension	Reinforcement Learning (RL)	Supervised Fine-Tuning (SFT)
Lernmethode	On-Policy (lernt aus eigenen Aktionen)	Offline (lernt aus festem Datensatz)
Wissenserhalt	Sehr hoch, minimales Vergessen	Niedrig, hohes Risiko für katastrophales Vergessen
KL-Divergenz	Gering, bevorzugt KL-minimale Lösungen	Potenziell sehr hoch, abhängig von den Zieldaten
Updates	Graduell und konservativ	Potenziell radikal und sprunghaft
Flexibilität	Hoch, findet eigene Lösungen für ein Ziel	Niedrig, auf die vorgegebenen Beispiele beschränkt
Ideal für	Kontinuierliches Lernen, langlebige Agenten	Schnelle Anpassung an eng definierte Aufgaben
Hauptvorteil	Bewahrt Allgemeinwissen	Einfachheit und Geschwindigkeit der Implementierung

Experten-Einblick: Was die Forscher wirklich sagen

Die Autoren der Studie, Idan Shenfeld, Jyothish Pari und Pulkit Agrawal, fassen ihre Erkenntnisse prägnant zusammen:

„Zusammengenommen legen diese Ergebnisse eine neue Perspektive auf das Post-Training nahe: Um eine kontinuierliche Anpassung ohne Vergessen zu erreichen, sollten Algorithmen explizit darauf abzielen, die KL-Divergenz vom Basismodell zu minimieren. Dieses Prinzip öffnet die Tür zur Entwicklung zukünftiger Trainingsmethoden, die die Fähigkeit von RL, Vorwissen zu bewahren, mit der Effizienz von SFT kombinieren und so Foundation Models ermöglichen, die wirklich ein Leben lang lernen können.“ [Shenfeld et al., 2025]

Fallstudie: Von Sprachmodellen bis zu Robotern – RL’s Razor in Aktion

Die Gültigkeit von RL’s Razor wurde in mehreren anspruchsvollen Szenarien bestätigt:

• LLM, Mathe-Logik: Ein Qwen-Modell wurde auf mathematische Denkaufgaben trainiert. Während SFT die allgemeinen Fähigkeiten des Modells zerstörte, konnte das RL-Modell seine Mathe-Skills verbessern und gleichzeitig seine Leistung in Benchmarks wie MMLU oder HumanEval beibehalten.
• LLM, Tool-Nutzung: Beim Training zur Nutzung externer Tools (wie APIs) zeigte RL eine deutlich bessere Bewahrung der ursprünglichen Sprachfähigkeiten.
• Robotik, Pick-and-Place: Ein OpenVLA-Robotikmodell lernte, eine Dose aufzuheben. Das mit RL trainierte Modell behielt seine Fähigkeit, andere Aufgaben (z.B. Schubladen öffnen) auszuführen, während das SFT-Modell diese vergaß.

Tools & Ressourcen: So setzt Du RL’s Razor in die Praxis um

Um die Theorie in die Tat umzusetzen, benötigst Du das richtige technische Rüstzeug. Die folgenden Tools und Frameworks sind der Industriestandard für das Fine-Tuning von Foundation Models mit Reinforcement Learning und die Überwachung der kritischen KL-Divergenz.

RL-Frameworks für Foundation Models

• Hugging Face TRL (Transformer Reinforcement Learning): Die führende Bibliothek, um Transformer-Modelle (wie Llama, Mistral, GPT) mit RL-Algorithmen wie PPO oder DPO zu trainieren. Sie ist direkt in das Hugging-Face-Ökosystem integriert.
• RLlib (Ray): Ein hoch skalierbares, Framework-agnostisches RL-Framework. Ideal für komplexe Anwendungen und verteilte Trainings-Setups, die über einfache LLM-Anpassungen hinausgehen.
• TRLX: Eine spezialisierte Open-Source-Bibliothek für das RLHF-Training von großen Sprachmodellen im Bereich von 6B bis 30B+ Parametern, optimiert für Geschwindigkeit und Skalierbarkeit.
• Stable-Baselines3: Eine einfach zu bedienende Bibliothek für klassische RL-Algorithmen. Gut geeignet für den Einstieg und für nicht-LLM-basierte Probleme, wie sie in der Robotik vorkommen.
• PEFT (Parameter-Efficient Fine-Tuning): Zwar kein reines RL-Tool, aber essenziell. Diese Hugging-Face-Bibliothek ermöglicht Techniken wie LoRA, die den Trainingsaufwand drastisch reduzieren und oft in Verbindung mit TRL verwendet werden.

Monitoring und Analyse der KL-Divergenz

• Weights & Biases (W&B): Das Standard-Tool zur Visualisierung und Überwachung von Machine-Learning-Experimenten. Du kannst damit Metriken wie die KL-Divergenz zwischen den Modellverteilungen über den Trainingsverlauf hinweg live plotten.
• TensorBoard: Die Open-Source-Alternative von TensorFlow, die auch mit PyTorch funktioniert. Bietet ebenfalls umfangreiche Möglichkeiten zur Visualisierung von Metriken und Modellgraphen.
• MLflow: Eine Open-Source-Plattform zur Verwaltung des gesamten ML-Lebenszyklus, einschließlich Experiment-Tracking, Modell-Registry und Deployment.

Wichtige Datensätze und Umgebungen

• Hugging Face Hub: Die primäre Quelle für tausende von Datensätzen, die für SFT und als Basis für RL-Belohnungsmodelle genutzt werden können.
• SimplerEnv: Die in der Studie verwendete Simulationsumgebung für Robotik-Aufgaben, ideal zum Testen von RL-Strategien in kontrollierten Szenarien.
• Open-Reasoner-Zero / SciKnowEval / ToolAlpaca: Die in der Studie genannten Datensätze für Mathe, Wissenschafts-Q&A und Tool-Nutzung, die sich hervorragend für die Replikation der Ergebnisse eignen.

Kosten-Nutzen-Analyse: Lohnt sich der Aufwand für Reinforcement Learning?

Die Entscheidung für RL anstelle von SFT ist nicht nur eine technische, sondern auch eine strategische. Der höhere initiale Aufwand zahlt sich langfristig durch robustere und wertvollere Modelle aus. Hier ist eine direkte Gegenüberstellung:

Investition / Kosten (Aufwand)	Langfristiger Nutzen (Return on Investment)
Höhere Rechenkosten: RL erfordert „On-Policy“-Sampling, was rechenintensiver ist als das einmalige Durchlaufen eines SFT-Datensatzes.	Drastisch verlängerte Modell-Lebensdauer: Das Modell behält seinen Wert über viele Updates hinweg, was teure komplette Re-Trainings von Grund auf überflüssig macht.
Gesteigerte Komplexität: Die Implementierung von Belohnungsfunktionen und stabilen RL-Trainingsschleifen erfordert mehr Fachwissen als ein einfaches SFT-Skript.	Massiv reduziertes Risiko: Ein Modell, das sein Allgemeinwissen nicht vergisst, ist zuverlässiger und produziert weniger unvorhersehbare, potenziell schädliche Fehler im produktiven Einsatz.
Aufwändigeres Tuning: RL-Algorithmen haben oft mehr Hyperparameter und können instabiler sein, was eine sorgfältigere Abstimmung erfordert.	Erhalt des „Generalist“-Status: Der größte Wert eines Foundation Models ist seine breite Wissensbasis. RL bewahrt dieses Kapital, während SFT es oft vernichtet.
Bedarf an Online-Feedback: Im Idealfall benötigt RL ein Live-Feedback-System (z.B. menschliche Bewerter oder automatisierte Tests), um die Belohnungen zu generieren.	Strategischer Vorteil für kontinuierliches Lernen: Nur Modelle, die nicht vergessen, können die Basis für echte, sich kontinuierlich verbessernde KI-Agenten sein – ein entscheidender Wettbewerbsvorteil.

Fazit der Analyse: Reinforcement Learning ist eine Investition in die Zukunft und Nachhaltigkeit eines KI-Modells. Während SFT kurzfristig schnelle Ergebnisse liefert (taktischer Gewinn), sichert RL den langfristigen Wert und die Zuverlässigkeit des Modells (strategischer Sieg).

Die 5 häufigsten Fehler beim Fine-Tuning, die zum Vergessen führen

Basierend auf den Erkenntnissen von RL’s Razor lassen sich typische Fehler identifizieren, die Du vermeiden solltest:

1. Blindes Vertrauen in SFT: SFT für komplexe Anpassungen zu nutzen, ohne das Risiko des Vergessens zu überwachen.
2. Ignorieren der KL-Divergenz: Keine Metriken zu verwenden, um die Veränderung der Modellverteilung zu messen.
3. Zu aggressive Lernraten: Hohe Lernraten bei SFT zwingen das Modell zu radikalen Updates, was die KL-Divergenz explodieren lässt.
4. Zu enge Trainingsdaten: Ein SFT-Datensatz, der nur eine sehr spezifische Art von Antworten enthält, zwingt das Modell in eine unnatürliche, weit entfernte Verteilung.
5. Keine Evaluation von altem Wissen: Nur die Leistung auf der neuen Aufgabe zu messen und zu ignorieren, was auf dem Weg verloren ging.

Ausblick: Der Weg zu lebenslang lernenden KI-Agenten

Die Entdeckung von RL’s Razor ist mehr als nur eine technische Feinheit. Sie ist ein fundamentaler Baustein für die nächste Generation von KI. Die Vision sind langlebige KI-Agenten, die uns über Jahre hinweg unterstützen, sich an unsere Bedürfnisse anpassen, neue Fähigkeiten erlernen und sich an veränderte Umgebungen anpassen – alles, ohne ihr Fundament zu verlieren.

Statt statischer Modelle, die nach dem Training „eingefroren“ werden, ermöglicht dieser Ansatz dynamische Systeme, die sich organisch weiterentwickeln. Zukünftige Trainingsalgorithmen könnten SFT und RL hybridisieren, indem sie zum Beispiel SFT-Daten verwenden, aber die Updates durch eine KL-Regularisierung einschränken, um das Beste aus beiden Welten zu vereinen.

Häufig gestellte Fragen zu RL’s Razor und KI-Vergessen

H2: Häufig gestellte Fragen zu Reinforcement Learning und katastrophalem Vergessen

Was ist der Hauptunterschied zwischen Reinforcement Learning (RL) und Supervised Fine-Tuning (SFT)? Beim SFT gibst Du dem Modell genaue Beispiele für richtige Antworten vor (offline). Beim RL gibst Du nur ein Ziel und eine Belohnung vor, und das Modell muss durch Ausprobieren selbst den besten Weg finden (on-policy).

Ist RL immer besser als SFT? Nicht unbedingt. SFT ist oft schneller und einfacher zu implementieren, wenn es um eine sehr eng definierte Aufgabe geht und der Erhalt von Allgemeinwissen keine Priorität hat. Wenn es jedoch um eine kontinuierliche Verbesserung und den Erhalt von Fähigkeiten geht, ist RL laut dieser Studie klar überlegen.

Was ist die KL-Divergenz in einfachen Worten? Die KL-Divergenz misst, wie sehr sich das Antwortverhalten eines KI-Modells nach dem Training von seinem ursprünglichen Verhalten unterscheidet. Eine geringe KL-Divergenz bedeutet eine kleine, konservative Änderung, während eine hohe Divergenz eine radikale Veränderung anzeigt.

Kann ich die KL-Divergenz beim Training selbst messen? Ja, es ist rechenintensiv, aber möglich. Man kann die Wahrscheinlichkeiten, die das Basismodell und das feinjustierte Modell für eine Reihe von Antworten ausgeben, vergleichen und daraus die KL-Divergenz berechnen. Dies kann als wichtige Monitoring-Metrik dienen.

Gilt RL’s Razor auch für sehr große Modelle wie GPT-5? Die Studie hat Modelle bis zur 7-Milliarden-Parameter-Größe getestet. Obwohl weitere Forschung an noch größeren Modellen nötig ist, deutet die fundamentale Natur des Prinzips darauf hin, dass es auch für Frontier-Modelle gilt, da das Problem des katastrophalen Vergessens dort ebenfalls besteht.

Bedeutet das, dass Methoden wie DPO (Direct Preference Optimization) auch weniger vergessen? DPO und ähnliche Methoden sind oft Hybride. Sie nutzen Offline-Daten (wie SFT), aber ihre Verlustfunktion enthält implizit oder explizit einen Term, der dem des RL ähnelt und oft eine Referenz zum Basismodell beibehält. Daher ist zu erwarten, dass sie besser abschneiden als reines SFT, aber reines On-Policy-RL könnte immer noch im Vorteil sein.

Was ist der nächste Schritt in der Forschung? Der nächste Schritt ist die Entwicklung von praktischen, effizienten Trainingsalgorithmen, die das Prinzip der KL-Minimierung explizit umsetzen. Ziel ist es, die Stabilität und den Wissenserhalt von RL mit der Geschwindigkeit und Einfachheit von SFT zu kombinieren.

Fazit: Ein neues Paradigma für das KI-Training

Die Studie „RL’s Razor“ des MIT liefert eine ebenso elegante wie wirkungsvolle Erklärung für ein seit langem bestehendes Problem in der KI. Die Erkenntnis, dass weniger Veränderung (im Sinne der KL-Divergenz) zu mehr Wissen führt, ist ein Paradigmenwechsel. Sie verschiebt den Fokus von der reinen Maximierung der Leistung auf einer neuen Aufgabe hin zu einem ausgewogenen Ansatz, der die Integrität des ursprünglichen Modells respektiert.

Für Entwickler und KI-Praktiker bedeutet dies, dass die Wahl der Fine-Tuning-Methode weitreichende Konsequenzen hat. Reinforcement Learning ist nicht nur eine weitere Technik im Werkzeugkasten, sondern ein strategisches Instrument zur Schaffung robusterer, zuverlässigerer und letztlich intelligenterer Systeme. Die explizite Überwachung der KL-Divergenz während des Trainings könnte zum neuen Goldstandard werden, um sicherzustellen, dass unsere KI-Modelle wachsen, ohne ihre Wurzeln zu verlieren.

Der Weg zu wirklich lebenslang lernenden Agenten ist noch lang, aber mit RL’s Razor haben wir einen klaren und messbaren Kompass in der Hand. Die Zukunft der KI wird nicht nur darin bestehen, neue Dinge zu lernen, sondern auch darin, die Kunst zu beherrschen, nicht zu vergessen.

Quellen und weiterführende Literatur

1. Originalstudie: Shenfeld, I., Pari, J., & Agrawal, P. (2025). RL’s Razor: Why Online Reinforcement Learning Forgets Less. arXiv:2509.04259 [cs.LG]. Verfügbar unter: https://arxiv.org/abs/2509.04259

#KI #AI #ArtificialIntelligence #KuenstlicheIntelligenz #ReinforcementLearning #CatastrophicForgetting #LLM #Tech2025 #RLsRazor #KINEWS24