Transcendence – KI-Modelle können ihre Trainingsdaten übertreffen, sagen Forscher

Forscher von Harvard, UC Santa Barbara und Princeton haben entdeckt, dass KI-Modelle ihre menschlichen Trainer übertreffen können. Diese „Transzendenz“ wurde am Beispiel des Schachspiels demonstriert. Dabei wurde ein Modell namens „ChessFormer“ entwickelt, das besser als alle Spieler in seinem Trainingsdatensatz spielte. Das musst Du wissen – Transcendence – KI-Modelle können ihre Trainingsdaten übertreffen, sagen Forscher Transzendenz: KI-Modelle können ihre Trainer übertreffen. ChessFormer: Ein transformatorbasiertes Modell, trainiert auf Schachspiele. Leistung: ChessFormer erzielte höhere ELO-Werte als seine Trainingsdaten. Niedrigtemperatur-Sampling: Schlüssel zur Verbesserung der KI-Leistung. Datenvielfalt: Wesentlich für den Erfolg der Transzendenz. Die Forscher trainierten mehrere ChessFormer-Modelle mit Spielen von Spielern verschiedener Stärkeklassen. Bei niedrigen Temperaturen erzielten diese Modelle signifikant bessere Ergebnisse, indem sie nur die wahrscheinlichsten Züge auswählten. Dies führte zu einer Art Mehrheitsentscheidung, die Fehler einzelner Experten ausglich. Interessanterweise konnte das Modell, das mit stärkeren Spielern trainiert wurde, seine Trainer nicht übertreffen, was auf eine mangelnde Fehlerdiversität zurückzuführen ist. Zusätzlich stellte die Studie fest, dass niedrige Sampling-Temperaturen die Leistung der KI steigerten, indem sie die wahrscheinlichsten Züge auswählten und somit strategische Konsistenz erzielten. Die Forscher identifizierten auch potenzielle Anwendungsgebiete in anderen Bereichen wie Medizin und Finanzwesen, wo ähnliche Prinzipien angewendet werden könnten, um bessere Ergebnisse zu erzielen. Diese Studie zeigt, dass KI-Modelle nicht nur menschliche Experten nachahmen, sondern in bestimmten Bereichen sogar übertreffen können. Dies liegt jedoch nicht an neuen Denkprozessen, sondern an der Reduktion von Fehlern durch das Sampling-Verfahren. #KI #Transzendenz #ChessFormer #AIResearch #Harvard #UCSB #Princeton ArXiv, Studien-Paper-PDF