Qualcomm und Meta arbeiten zusammen
Qualcomm und Meta arbeiten zusammen, um das sogenannte neue Großsprachmodell Llama 2 auf Qualcomm-Chips auf Handys und PCs ab 2024 laufen zu lassen. Sie haben heute bekannt gegeben, dass diese Technologie Anwendungen wie intelligente virtuelle Assistenten ermöglichen wird.
Bisher liefen große Sprachmodelle (LLMs) hauptsächlich auf großen Serverfarmen und auf Nvidia-Grafikprozessoren. Sie benötigen viel Rechenleistung und Daten, was den Nvidia-Aktienkurs stark in die Höhe getrieben hat. Aber der KI-Boom hat die Unternehmen, die Prozessoren für Handys und PCs herstellen, wie Qualcomm, weitgehend verpasst. Der Aktienkurs von Qualcomm ist bisher im Jahr 2023 nur etwa 10% gestiegen.
Qualcomm auf der KI-Welle
Mit der Ankündigung vom Dienstag deutet Qualcomm an, dass es seine Prozessoren als gut geeignet für KI positionieren möchte, jedoch “am Rand”, also auf einem Gerät, anstatt “in der Cloud”. Wenn große Sprachmodelle auf Handys statt in großen Rechenzentren laufen können, könnten die hohen Kosten für den Betrieb von KI-Modellen sinken und zu besseren und schnelleren Sprachassistenten und anderen Apps führen.
Qualcomm wird Metas Open-Source Llama 2-Modelle auf Qualcomm-Geräten verfügbar machen. Es glaubt, dass dies Anwendungen wie intelligente virtuelle Assistenten ermöglichen wird. Llama 2 von Meta kann viele der gleichen Dinge wie ChatGPT tun, kann aber in ein kleineres Programm verpackt werden, was den Betrieb auf einem Handy ermöglicht.
Meta’s Llama und die Open-Source-Welt
Meta’s Llama ist bemerkenswert, weil Meta seine “Gewichte” veröffentlicht hat. Das sind Zahlen, die dabei helfen zu bestimmen, wie ein bestimmtes KI-Modell funktioniert. Durch das Veröffentlichen dieser Daten können Forscher und letztlich auch kommerzielle Unternehmen die KI-Modelle auf ihren eigenen Computern verwenden, ohne um Erlaubnis fragen oder bezahlen zu müssen. Andere bemerkenswerte LLMs, wie OpenAI’s GPT-4 oder Google’s Bard, sind Closed-Source, und ihre Gewichte sind streng gehütete Geheimnisse.
Qualcomm hat in der Vergangenheit eng mit Meta zusammengearbeitet, insbesondere an Chips für seine Quest-Virtual-Reality-Geräte. Es hat auch einige KI-Modelle auf seinen Chips laufen lassen, allerdings eher langsam, wie zum Beispiel den Open-Source-Bildgenerator Stable Diffusion.
Quelle: CNBC