Qualcomm und Meta werden es ermöglichen, dass das neue große Sprachmodell des sozialen Netzwerkunternehmens, Llama 2, ab 2024 auf Qualcomm-Chips in Smartphones und PCs laufen kann, wie die Unternehmen heute bekannt gaben.  Bisher liefen LLMs vor allem in großen Serverfarmen auf Nvidia-Grafikprozessoren, aufgrund des enormen Bedarfs an Rechenleistung und Daten, was die Aktien von Nvidia in diesem Jahr um mehr als 220% steigen ließ. Doch der KI-Boom hat Unternehmen, die modernste Prozessoren für Smartphones und PCs herstellen, wie Qualcomm, weitgehend verpasst. Der Aktienkurs von Qualcomm stieg bisher in 2023 um etwa 10%, während der NASDAQ einen Gewinn von 36% verzeichnete. Dieser Schritt könnte nun den Weg ebnen, um KI-Modelle auf den Endgeräten selbst auszuführen, anstatt sie vollständig in die Cloud zu verlagern.

Edge Computing: Die Vision hinter der Kooperation

Die Vision hinter der Kooperation besteht darin, KI-Modelle direkt auf Smartphones, Laptops und anderen Geräten auszuführen - ein Konzept, das als "Edge Computing" bekannt ist. Dieser Ansatz bietet mehrere entscheidende Vorteile. Durch die Ausführung von KI-Modellen auf den Geräten selbst entfällt die Verzögerung durch Datenübertragung in die Cloud, was zu einer schnelleren Leistung führt. Darüber hinaus bietet die lokale Verarbeitung auf dem Gerät eine verbesserte Privatsphäre und Sicherheit, da sensible Informationen nicht über das Internet gesendet werden müssen. Nicht zuletzt wird auch die Kosteneffizienz gesteigert, da weniger Abhängigkeit von teuren Cloud-Servern besteht.

Qualcomms TPU: Optimale Hardware für KI-Berechnungen

Die Chips von Qualcomm enthalten eine "Tensor Processing Unit" oder TPU, die sich für die Arten von Berechnungen eignet, die KI-Modelle erfordern. Allerdings ist die Rechenleistung, die auf einem mobilen Gerät verfügbar ist, im Vergleich zu einem mit modernsten GPUs ausgestatteten Rechenzentrum recht begrenzt.

Meta's Llama 2: Leistungsstarke Funktionen in kompaktem Format

Meta's Llama 2 kann viele ähnliche Funktionen wie der beliebte ChatGPT ausführen, allerdings hat es den entscheidenden Vorteil, in einem kleineren Programm verpackt zu sein, sodass es problemlos auf einem Smartphone betrieben werden kann.

Transparenz in der KI-Welt: Meta's Llama 2 enthüllt seine "Gewichtungen"

Ein weiterer Schlüsselfaktor ist, dass Meta ihre Llama 2 "Gewichtungen", eine Reihe von Zahlen, die das Modell steuern, veröffentlicht hat. Dies ermöglicht es Forschern und Unternehmen, die KI-Modelle kostenlos auf ihren eigenen Computern zu nutzen, ohne auf eine geschlossene, teure Lösung angewiesen zu sein. Das ist ein großer Unterschied zu anderen führenden Sprachmodellen, wie OpenAI's GPT-4 und Google's Bard, die ihre "Gewichtungen" als streng gehütetes Geheimnis betrachten.

Gemeinsame Erfolge von Qualcomm und Meta

Die Zusammenarbeit von Qualcomm und Meta ist nicht neu, sie haben bereits erfolgreich bei Chips für Meta's Quest Virtual Reality-Geräte zusammengearbeitet. Qualcomm hat auch KI-Modelle auf seinen Chips demonstriert, darunter den quelloffenen Bildgenerator Stable Diffusion.