NPUs – die Grundlage für KI-Anwendungen der unterschiedlichsten Art

In der Welt der Technologie haben namhafte Unternehmen wie Apple, Samsung, AMD und auch Intel ihre eigenen spezialisierten Chips entwickelt, die als Neural Processing Units (NPUs) bekannt sind. Diese Entwicklung verdeutlicht die Bedeutung solcher Chips, die vor allem in Anwendungen der Künstlichen Intelligenz (KI) zum Einsatz kommen. Doch was genau kann eine NPU? Der Wunsch vieler Hersteller, eigene NPUs zu entwickeln, wirft Fragen nach deren Nutzen auf – nicht nur aus technischer Sicht, sondern auch im Hinblick auf praktische Anwendungen im Alltag. Darüber hinaus stellt sich die Frage, ob NPUs möglicherweise sogar die GPUs in ihrer Rolle ablösen könnten.

In diesem Blogbeitrag werden wir die Rolle und die Zukunft der NPUs näher beleuchten.

Was ist eine NPU?

Die Neural Processing Unit (NPU) ist ein spezialisierter Prozessor, ähnlich einer CPU oder GPU, der jedoch nicht für Grafikdarstellung oder generelle Rechenaufgaben konzipiert ist. Seine Hauptfunktion liegt in der schnellen und effizienten Bearbeitung von Machine-Learning-Tätigkeiten. Diese Spezialisierung führt nicht nur zu einer erheblichen Leistungssteigerung, sondern dient auch dazu, die Belastung von CPU und GPU zu verringern. Dies wird möglich durch die Optimierung der NPU für die spezifischen mathematischen Operationen, die im Machine Learning häufig vorkommen.

Wie Grafikprozessoren setzt auch die NPU auf Parallelverarbeitung, um zahlreiche kleinere Aufgaben simultan zu bewältigen, allerdings mit einem noch höheren Grad an Spezialisierung. Infolgedessen übertrifft die NPU Grafikprozessoren nicht nur in Sachen Effizienz, sondern kann bei bestimmten Berechnungen eine bis zu 10.000-fache Geschwindigkeitssteigerung erzielen.

Ein Blick in die Geschichte von NPUs

Die Ursprünge des neuronalen Prozessors reichen bis ins Jahr 1988 zurück, als erstmals die Nutzung neuronaler Netzwerke zur optischen Buchstabenerkennung diskutiert wurde. Schon in den frühen 1990er Jahren experimentierte Intel mit Prototypen wie dem ETANN 80170NX und dem Ni1000, die vorrangig für Workstations und den wissenschaftlichen Bereich gedacht waren. Der Durchbruch für diese Technologie kam jedoch erst in den 2010er Jahren, markiert durch die Vorstellung des DianNao-Prozessors im Jahr 2014, der als Vorläufer der modernen NPUs gilt und dessen Name auf Chinesisch „Elektrisches Hirn“ bedeutet. Die Leistung dieser Technologie wurde in nachfolgenden Modellen wie DaDianNao, ShiDianNao und PuDianNao weiter gesteigert. Der erste AI-Beschleuniger in Smartphones wurde 2018 mit dem Qualcomm Snapdragon 855 eingeführt.

Bereits 2012 nutzte man zwei GPUs, um das neuronale Netzwerk AlexNet zu betreiben, und auch heute sind GPUs aufgrund ihrer Leistungsfähigkeit eine beliebte Wahl für umfangreiche oder industrielle KI-Systeme, wie das Beispiel des IBM Supercomputers Summit im Oak Ridge National Laboratory zeigt, der 27.648 Nvidia Tesla V100 Grafikkarten beinhaltet. Während NPUs heutzutage in den meisten Endgeräten verbaut werden, integrieren auch Grafikkarten zunehmend spezielle AI-Beschleuniger, wie etwa die Tensor-Kerne von Nvidia, um die Effizienz und Leistung bei KI-Aufgaben zu erhöhen.

NPU vs. GPU vs. CPU – die Unterschiede im Überblick

Während die CPU die breite Palette allgemeiner und diverser Aufgaben bewältigt und die GPU spezifisch für komplexe Grafikberechnungen zuständig ist, fokussiert sich die NPU auf die Verarbeitung von KI- und Machine-Learning-Prozessen. NPUs sind im Vergleich zu GPUs in der Regel energieeffizienter, allerdings erreichen sie momentan noch nicht die Leistungsfähigkeit von GPUs, die zunehmend auch für KI-bezogene Grafikaufgaben optimiert werden.

Der Trade-off zwischen Energieeffizienz und Leistung bleibt somit eine Herausforderung. Es zeichnet sich jedoch ab, dass in der Zukunft möglicherweise Prozessor-Hybride entwickelt werden, die die Stärken mehrerer Prozessortypen in sich vereinen, um sowohl Energieeffizienz als auch hohe Leistungsfähigkeit zu bieten.

NPUs – eine Technologie mit Potential

Derzeit ist der praktische Nutzen von NPUs noch begrenzt, doch bieten sie bereits spürbare Vorteile in Sachen Leistung und Energieeffizienz, insbesondere in Systemen, bei denen Hardware und Software aus einem Guss sind – man denke hier exemplarisch an Apple. Die eigentliche Stärke von NPUs dürfte sich allerdings erst in naher Zukunft voll entfalten. Angesichts der Tatsache, dass KI-basierte Anwendungen zunehmend an Bedeutung gewinnen und nicht als vorübergehender Trend anzusehen sind, stehen wir möglicherweise am Anfang einer Entwicklung, in der NPUs eine zentrale Rolle einnehmen werden.

Es ist zwar herausfordernd, in einem so dynamischen Bereich wie KI genaue Prognosen zu stellen, doch mit der wachsenden Integration generativer KI in Apps und Software könnten NPUs zunehmend an Bedeutung gewinnen. Zudem ist zu erwarten, dass Betriebssysteme wie Microsoft Windows immer ausgefeiltere Mechanismen entwickeln, um KI-bezogene Aufgaben effizient auf CPU, GPU und NPU zu verteilen, wodurch die Verarbeitung dieser Aufgaben deutlich effizienter gestaltet werden könnte.

Sie möchten Windows 11 online günstig kaufen und für die Zukunft gerüstet sein? Bei Softwarekaufen24 finden Sie die Betriebssysteme von Microsoft zu einem herausragenden Preis-Leistungs-Verhältnis.