Llama 2 ist noch stärker
Es ist soweit! Meta hat sein neuestes Sprachmodell LLaMA 2 LLM vorgestellt. Was du darüber wissen musst:
Dieses Modell wurde mit 40% mehr Daten trainiert als sein Vorgänger LLaMA 1 und hat doppelt so viel Kontextlänge. Damit bietet es eine viel stabilere Basis für alle, die es weiterentwickeln wollen.
Es gibt drei Modelgrößen: 7B, 13B und 70B Parameter.
Leistung über die Grenzen hinweg
LLaMA 2 hat andere Open-Source-Modelle in verschiedenen Benchmarks übertroffen. Es wurde an bekannten Benchmarks wie MMLU, TriviaQA und HumanEval getestet. Zu den Konkurrenten gehörten LLaMA 1, Falcon und das MPT-Modell von MosaicML.
Klare technische Spezifikationen
Meta liefert auch ein 76-seitiges technisches Spezifikationsdokument mit, das sehr offen beschreibt, wie das Modell trainiert und angepasst wurde. Im Vergleich dazu sind die Details von OpenAI zu GPT-4 eher spärlich.
Meta und Microsoft: Eine liebevolle Partnerschaft
Ebenfalls ein sehr spannender Aspekt: Meta hat eine enge Verbindung zu Microsoft:
Microsoft ist unser bevorzugter Partner für Llama 2, verkündet Meta in ihrer Pressemitteilung, und “ab heute wird Llama 2 im Azure AI Modellkatalog verfügbar sein, was Entwicklern, die Microsoft Azure verwenden, zugute kommt.”
Es ist offensichtlich, dass Microsoft erkennt, dass Open-Source eine große Sache ist. Sie wollen nicht alle ihre Eier in einen Korb legen, obwohl sie massiv in OpenAI investiert haben.
Ein Schlag für OpenAI
Die Partnerschaft von Meta mit Microsoft ist ein Warnschuss für OpenAI. Man beachte die Formulierung in der Pressemitteilung:
“Mit dieser erweiterten Partnerschaft unterstützen Microsoft und Meta einen offenen Ansatz, um einen erweiterten Zugang zu grundlegenden KI-Technologien für Unternehmen weltweit zu ermöglichen. Es sind nicht nur Meta und Microsoft, die an den demokratischen Zugang zu heutigen KI-Modellen glauben. Wir haben eine breite Palette von Unterstützern auf der ganzen Welt, die diesen Ansatz auch befürworten.”
All dies unterstreicht die Vorteile von Open Source: “erweiterter Zugang”, “demokratischer Zugang”, “Unterstützer auf der ganzen Welt”.
Der nächste Schritt im Open-Source-Krieg
Die Auseinandersetzung zwischen Open-Source und Closed-Source hat gerade eine neue Wendung genommen. Meta hat nicht nur LLaMA 1 für den kommerziellen Gebrauch freigegeben, sie haben ein besseres Modell veröffentlicht und gleichzeitig eine starke Zusammenarbeit mit Microsoft angekündigt. Es gibt Gerüchte, dass OpenAI in der Zukunft ein Open-Source-Modell veröffentlichen wird – jetzt ist der Ball in ihrem Spielfeld.
Quelle: Meta
Download Llama2