Am 18. Oktober 2024 hat Meta’s Fundamental AI Research (FAIR)-Team eine Reihe neuer Forschungsarbeiten, Modelle und Datensätze veröffentlicht, die den Weg für fortschrittliche maschinelle Intelligenz (Advanced Machine Intelligence, AMI) ebnen und gleichzeitig die offene Wissenschaft sowie die Reproduzierbarkeit unterstützen. Dieser Schritt markiert einen bedeutenden Fortschritt in der Entwicklung von Künstlicher Intelligenz (KI) und zielt darauf ab, die Forschungsgemeinschaft sowie Entwickler mit neuen Werkzeugen und Ressourcen auszustatten, um die AI-Entwicklung voranzutreiben.

Kernpunkte der Veröffentlichung:

• Meta Segment Anything 2.1 (SAM 2.1): Ein Update des Segment Anything Model (SAM) 2 für Bilder und Videos, das verbesserte Leistung und neue Entwicklerwerkzeuge bietet.
• Meta Spirit LM: Ein multimodales Sprachmodell, das Text und Sprache nahtlos integriert.
• Layer Skip: Ein innovativer Ansatz zur Beschleunigung von großen Sprachmodellen (Large Language Models, LLMs).
• SALSA: Ein Forschungsansatz zur Validierung der Sicherheit in post-quantitativen Kryptographie-Standards.
• Meta Lingua: Eine Plattform zur effizienten und skalierbaren Modelltrainingsunterstützung.
• Meta Open Materials 2024: Ein offener Datensatz und Modelle zur Unterstützung der Entdeckung neuer Materialien.
• MEXMA: Ein vortrainierter, mehrsprachiger Satzencoder, der die Repräsentation auf Token- und Satzebene verbessert.

Diese neuen Forschungsergebnisse und Modelle sind Teil von Meta’s langfristiger Vision, die fortschrittliche maschinelle Intelligenz zu entwickeln und die Wissenschaftsgemeinschaft zu unterstützen. Im Folgenden werfen wir einen detaillierten Blick auf die einzelnen Veröffentlichungen und deren potenzielle Auswirkungen auf die Forschung.

Meta Segment Anything Model 2.1 (SAM 2.1)

Das Meta Segment Anything Model (SAM) hat sich seit seiner Einführung zu einem der vielseitigsten Werkzeuge für die Bild- und Videosegmentierung entwickelt. In nur 11 Wochen wurde SAM 2 mehr als 700.000 Mal heruntergeladen und für zahlreiche Anwendungen verwendet – von medizinischen Bildern bis hin zur Meteorologie. Mit SAM 2.1 wird die Leistung weiter verbessert, insbesondere in Bereichen, in denen SAM 2 bisher Schwierigkeiten hatte, wie z. B. bei der Segmentierung kleiner oder optisch ähnlicher Objekte.

Verbesserungen von SAM 2.1:

• Zusätzliche Datenaugmentation: Neue Techniken zur Simulation von visuell ähnlichen Objekten und kleinen Objekten.
• Bessere Handhabung von Okklusion: Das Modell wurde mit längeren Bildsequenzen trainiert, um die Fähigkeit zur Erkennung verdeckter Objekte zu verbessern.
• Neue Entwickler-Suite: Enthält Code für das Modelltraining und den Web-Demo-Quellcode, um eine benutzerfreundliche Weiterentwicklung zu ermöglichen.

Diese Fortschritte eröffnen Forschern und Entwicklern neue Möglichkeiten, SAM 2.1 für ihre spezifischen Anwendungsfälle weiter anzupassen und zu optimieren. Besonders in der medizinischen Bildverarbeitung und anderen bildintensiven Disziplinen kann SAM 2.1 erhebliche Verbesserungen in der Effizienz und Genauigkeit bieten.

Meta Spirit LM: Text- und Sprachintegration auf einem neuen Level

Große Sprachmodelle (LLMs) sind in den letzten Jahren für die Text-zu-Sprache- und Sprach-zu-Text-Transformation weit verbreitet worden. Das Problem liegt jedoch oft in der Diskrepanz zwischen der Textgenerierung und der natürlichen Sprachwiedergabe. Meta Spirit LM ist das erste open-source multimodale Sprachmodell von Meta, das Text und Sprache nahtlos miteinander verknüpft und eine natürlicher klingende Sprache generiert.

Key Features von Meta Spirit LM:

• Zwei Versionen: Die „Base“-Version verwendet phonetische Tokens, während die „Expressive“-Version zusätzlich Tonhöhen- und Stil-Token verwendet, um emotionale Nuancen wie Freude, Wut oder Überraschung zu erkennen und zu erzeugen.
• Cross-Modality-Generation: Meta Spirit LM kann sowohl Texte als auch gesprochene Inhalte verarbeiten und über Modalitäten hinweg lernen.

Dieses Modell eröffnet eine Vielzahl neuer Anwendungsmöglichkeiten, insbesondere in Bereichen, in denen der Ausdruck und die Bedeutung von Sprache entscheidend sind, wie z. B. in der menschlichen Kommunikation, virtuellen Assistenten und der automatisierten Kundenbetreuung.

Layer Skip: Beschleunigte Leistung für große Sprachmodelle

Einer der größten Nachteile großer Sprachmodelle (LLMs) ist ihre enorme Rechenleistung und der damit verbundene Energieverbrauch. Layer Skip bietet eine Lösung zur Optimierung der Inferenzzeiten, ohne dass auf spezialisierte Hardware zurückgegriffen werden muss. Dieser Ansatz ermöglicht es, nur einen Teil der Modellschichten zu durchlaufen und frühzeitig die endgültige Ausgabe zu bestimmen.

Vorteile von Layer Skip:

• Verbesserte Geschwindigkeit: Beschleunigung der Generationszeit um bis zu 1,7x, indem unnötige Schichten übersprungen werden.
• Robuste Leistung: Trotz des Überspringens von Schichten bleiben die Genauigkeit und die Konsistenz der Modellaktivierungen erhalten.

Durch diese Fortschritte können Unternehmen und Entwickler die Effizienz ihrer LLM-Anwendungen drastisch verbessern, ohne dabei Einbußen bei der Genauigkeit zu riskieren. Dies ist besonders wertvoll für Anwendungen, die in Echtzeit arbeiten, wie etwa Chatbots oder maschinelles Übersetzen.

SALSA: Sicherung der Zukunft mit Post-Quanten-Kryptographie

Mit der wachsenden Bedrohung durch Quantencomputer, die in der Lage sein könnten, herkömmliche Verschlüsselung zu brechen, wird die Post-Quanten-Kryptographie (PQC) immer wichtiger. Meta’s neuester Ansatz, SALSA, konzentriert sich auf die Validierung der Sicherheit von PQC-Standards, die auf der komplexen „Learning with Errors“-Methode (LWE) basieren.

Wichtige Fortschritte von SALSA:

• Angriffe auf NIST-Standards: SALSA demonstrierte den ersten maschinellen Lernangriff auf den von der NIST vorgeschlagenen Standard für PQC (Kyber), indem es in der Lage war, spärliche Geheimnisse zu knacken.
• Forschungsunterstützung: Durch das Teilen von SALSA erhofft sich Meta, die Forschungsgemeinschaft zu motivieren, weiter an der Verbesserung der Kryptographie zu arbeiten und Schwachstellen zu erkennen.

Dieser Ansatz hilft dabei, die Sicherheit von Kryptographie-Standards zu gewährleisten und aufrechtzuerhalten, die für den Schutz sensibler Daten in einer zunehmend digitalisierten Welt entscheidend sind.

Meta Lingua: Effiziente Trainingsplattform für Sprachmodelle

Die Forschung an KI erfordert oft die Fähigkeit, Sprachmodelle schnell zu trainieren und zu experimentieren. Meta Lingua wurde entwickelt, um diese Prozesse zu beschleunigen und zu vereinfachen. Es handelt sich um eine leichtgewichtige und selbstständige Codebasis, die es Forschern ermöglicht, ihre Modelle effizient zu trainieren.

Vorteile von Meta Lingua:

• Modular und flexibel: Meta Lingua ist so gestaltet, dass es mit minimaler Einrichtung einsatzbereit ist und es Forschern ermöglicht, sich auf ihre Experimente zu konzentrieren, anstatt sich mit technischen Hürden auseinanderzusetzen.
• PyTorch-Unterstützung: Durch die Integration mehrerer PyTorch-Funktionen bietet Meta Lingua eine flexible und leistungsstarke Umgebung für maschinelles Lernen.

Dieses Tool ist besonders für Forschungsinstitute und Entwickler nützlich, die eine flexible und leicht erweiterbare Plattform für die Entwicklung und das Training von Sprachmodellen benötigen.

Meta Open Materials 2024: Neue Horizonte für Materialwissenschaften

Die Entdeckung neuer Materialien ist ein aufwändiger Prozess, der oft Jahrzehnte dauern kann. KI kann jedoch dazu beitragen, diesen Prozess erheblich zu beschleunigen. Meta hat mit Meta Open Materials 2024 ein umfassendes Datenset und Modelle veröffentlicht, um die Forschung in den Materialwissenschaften zu unterstützen.

Highlights von Meta Open Materials 2024:

• Umfangreicher Datensatz: 100 Millionen Trainingseinheiten machen es zu einem der größten offenen Datensätze für Materialforschung.
• Platzierung in Rankings: Meta Open Materials belegt Spitzenplätze in der Matbench-Discovery-Liste, was seine hohe Effizienz und Nützlichkeit unterstreicht.

Dieser Datensatz bietet Forschern die Möglichkeit, schneller neue Materialien zu entdecken und könnte die Entwicklung neuer Technologien in Bereichen wie Elektronik und erneuerbare Energien beschleunigen.

MEXMA: Verbessertes Cross-Lingual-Encoding

Mehrsprachige Modelle sind von entscheidender Bedeutung, um globale Anwendungen zu unterstützen. MEXMA ist ein neuartiger Ansatz, der sowohl Token- als auch Satzrepräsentationen in mehrsprachigen Modellen verbessert.

Merkmale von MEXMA:

• Token- und Satzziele: Während frühere Ansätze sich nur auf Satzebene konzentrierten, nutzt MEXMA auch Token-Level-Informationen, um die Encoder-Leistung zu optimieren.
• 80 Sprachen: MEXMA deckt 80 Sprachen ab und ist damit ein starkes Werkzeug für globale Sprachverarbeitung.

Mit seiner Fähigkeit, Sprachen effizient zu kodieren und zu übertragen, ist MEXMA ein bedeutender Fortschritt für Übersetzungsdienste und mehrsprachige KI-Anwendungen.

Schlussfolgerung und Ausblick

Die von Meta FAIR veröffentlichten neuen Forschungsergebnisse und Modelle markieren einen bedeutenden Schritt in Richtung fortgeschrittener maschineller Intelligenz. Durch die Bereitstellung dieser offenen Ressourcen unterstützt Meta die globale Forschungsgemeinschaft und fördert Innovationen, die in zahlreichen Branchen transformative Veränderungen herbeiführen könnten. Von der Segmentierung in Bildern und Videos über die Sprachverarbeitung bis hin zur Materialforschung und Kryptographie bieten diese Werkzeuge wertvolle Möglichkeiten für Entwickler, Wissenschaftler und Unternehmen.

Der Ansatz von Meta, KI und offene Wissenschaft voranzutreiben, zielt darauf ab, die Kluft zwischen Forschung und Praxis zu schließen. Diese Entwicklungen werden nicht nur die Forschung beschleunigen, sondern auch eine Grundlage für zukünftige technologische Fortschritte in vielen Bereichen schaffen.

Meta Segment Anything Model 2.1 (SAM 2.1):

• Download SAM 2.1 und den SAM 2 Developer Suite: Hier herunterladen

Meta Spirit LM:

• Paper lesen: Hier lesen
• Code herunterladen: Hier herunterladen
• Modell-Gewichte herunterladen: Hier herunterladen

Layer Skip:

• Paper lesen: Hier lesen
• Code herunterladen: Hier herunterladen
• Modell-Gewichte herunterladen: Hier herunterladen

SALSA: Validierung der Sicherheit in der Post-Quanten-Kryptographie:

• Paper lesen: Hier lesen
• Code herunterladen: Hier herunterladen

Meta Lingua:

• Code herunterladen: Hier herunterladen

Meta Open Materials 2024:

• Code herunterladen: Hier herunterladen
• Modelle herunterladen: Hier herunterladen
• Datensatz herunterladen: Hier herunterladen

MEXMA:

• Paper lesen: Hier lesen
• Code herunterladen: Hier herunterladen
• Modell herunterladen: Hier herunterladen

Self-Taught Evaluator:

• Paper lesen: Hier lesen
• Modell herunterladen: Hier herunterladen
• Synthetic Data herunterladen: Hier herunterladen
• Codebase herunterladen: Hier herunterladen

Diese Links bieten Zugang zu den veröffentlichten Forschungsergebnissen und Ressourcen von Meta FAIR.