NTT und Red Hat haben im Rahmen der IOWN-Initiative gemeinsam mit NVIDIA und Fujitsu eine wegweisende Lösung entwickelt, die Echtzeit-Datenanalysen mit Künstlicher Intelligenz am Edge optimiert. Unternehmen können von den zahlreichen Vorteilen dieser Lösung profitieren, darunter eine schnellere Verarbeitung großer Datenmengen, eine niedrigere Latenz und reduzierter Stromverbrauch. Diese innovative Lösung wurde als Proof of Concept anerkannt und ermöglicht es Unternehmen, ihre Effizienz zu steigern und neue Wachstumsmöglichkeiten zu erschließen.
Inhaltsverzeichnis: Das erwartet Sie im Artikel
Edge-Computing-Fähigkeiten verbessern Latenz und Bandbreite von KI-Analysen
Mit dem Fortschritt von KI, Sensortechnologie und Netzwerkinnovationen gewinnen KI-Analysen am Edge zunehmend an Bedeutung. Die steigende Anzahl von Datenquellen stellt jedoch eine Herausforderung dar, da eine effiziente und schnelle Verarbeitung erforderlich ist. Die Implementierung solcher Analysen kann komplex sein und hohe Wartungskosten verursachen. Durch die Entwicklung von Edge-Computing-Fähigkeiten können die KI-Analysen näher an den Sensoren durchgeführt werden, was zu einer Verringerung der Latenz und einer Erhöhung der Bandbreite führt. Dies ermöglicht eine effiziente Verarbeitung von Echtzeit-Datenanalysen.
Die Lösung besteht aus dem IOWN All-Photonics Network (APN) sowie verschiedenen Technologien, die die Datenpipeline in der IOWN Data-Centric Infrastructure (DCI) beschleunigen. NTT verwendet eine beschleunigte Datenpipeline für KI, die Remote Direct Memory Access (RDMA) über APN nutzt, um große Mengen an Sensordaten effizient zu erfassen und zu verarbeiten. Mithilfe von Red Hat OpenShift, einer Container-Orchestrierungstechnologie, können Workloads in der beschleunigten Datenpipeline über entfernte und geografisch verteilte Rechenzentren hinweg flexibel verwaltet werden. Diese Lösung ermöglicht eine effiziente Stromnutzung und niedrige Latenz für Echtzeitanalysen mit KI am Edge.
Die Echtzeit-KI-Analyse-Plattform wurde im Rahmen des Proof of Concept in Yokosuka City mit installierten Sensoren und dem entfernten Rechenzentrum in Musashino City getestet. Dabei konnte die Latenz bei KI-Inferencing-Workloads im Vergleich zu herkömmlichen Methoden um 60 Prozent reduziert werden. Gleichzeitig wurde der Stromverbrauch der KI-Analysen um 40 Prozent im Vergleich zu traditionellen Technologien gesenkt. Dank der Skalierbarkeit der GPUs kann die Lösung eine größere Anzahl von Kameras unterstützen, ohne dass die CPU zum Flaschenhals wird. Es wird erwartet, dass der Stromverbrauch bei Verwendung von 1.000 Kameras um weitere 60 Prozent reduziert werden kann.
Effiziente Datenpipeline verbessert KI-Inferencing und reduziert Netzwerkprotokoll-Overhead
- Eine effiziente Datenpipeline für KI-Inferencing, die große Mengen Sensordaten verarbeitet und den Protokoll-Overhead reduziert
- Die Lösung basiert auf Red Hat OpenShift und ermöglicht groß angelegte Echtzeit-KI-Datenanalysen, die die Implementierung von Hardware-basierten Beschleunigern vereinfachen
- Für das KI-Inferencing werden NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs genutzt
Reduzierter Overhead: Effiziente Datensammlung großer Datenmengen
- Mit dieser Lösung wird der Verwaltungsaufwand für die Erfassung großer Datenmengen erheblich verringert
- Dank der verbesserten Datensammlung über verschiedene Standorte hinweg können KI-Analysen schneller durchgeführt werden
- Unternehmen können durch die Nutzung von erneuerbaren Energien wie Solar- oder Windenergie ihre Abhängigkeit von fossilen Brennstoffen verringern
- Videokameras als Sensoren erhöhen die Sicherheit im Gebietsmanagement
Die IOWN-Initiative hat durch die Zusammenarbeit von NTT und Red Hat eine wegweisende Lösung hervorgebracht, die Unternehmen dabei unterstützt, ihre KI-gestützten Technologien nachhaltig zu skalieren. Die Lösung ermöglicht eine effiziente Verarbeitung großer Datenmengen mit geringerer Latenz und niedrigerem Stromverbrauch. Durch die flexible Verwaltung von Workloads über verschiedene Standorte hinweg können Unternehmen ihre Effizienz steigern und neue Möglichkeiten für Wachstum und Innovation erschließen. Weitere Informationen zu dieser Lösung sind in der Session des IOWN Global Forum auf dem MWC in Barcelona am 29. Februar 2024 erhältlich.
Vorteile für Unternehmen: Lösung reduziert Latenz und Stromverbrauch bei KI-Analysen
Die Entwicklung dieser Lösung für Echtzeit-Datenanalysen mit KI am Edge bringt zahlreiche Vorteile für Unternehmen mit sich. Durch die effiziente Verarbeitung großer Datenmengen und die Reduzierung von Latenz und Stromverbrauch ermöglicht die Lösung schnellere und kostengünstigere KI-Analysen. Zudem bietet sie Flexibilität bei der Verwaltung von Workloads über verschiedene Standorte hinweg und ermöglicht die Nutzung erneuerbarer Energien. Mit dieser wegweisenden Lösung können Unternehmen ihre Effizienz steigern und neue Möglichkeiten für Wachstum und Innovation erschließen.
