Skalierbare KI/ML-Infrastrukturen : NVIDIA-GPUs in Container-Systemen - Expertenwissen zur Evaluierung, Automatisierung und für die Praxis

Oliver Liebel

ISBN 10: 3836273934 / ISBN 13: 9783836273930

Editore: Rheinwerk Verlag Gmbh Jan 2023, 2023

Riguardo questo articolo

Neuware - Wie Sie abseits der Hypes resiliente, hochautomatisierte und autoskalierbare Systeme für Produktiv-Workloads aufbauen, zeigt Ihnen Oliver Liebel in diesem Wegweiser. Sie erfahren, wie Sie NVIDIAs Datacenter-GPUs nahtlos in Hypervisoren und moderne Container-Infrastrukturen integrieren, sie Operator-gestützt mit Kubernetes bzw. OpenShift verwalten und daraus praxistaugliche Setups machen.Betrachtet wird der ganze Infrastruktur-Stack: Von On-Premises-Installationen auf vSphere oder Cloud-Setups auf GCP und AWS über Plattform-Automation per IaaS/IaC sowie den GPU- und Network-Operatoren bis hin zu einem Ausblick auf AI End-to-End-Tool-Stacks.Aus dem Inhalt:KI/ML: Grundlagen und Use CasesInfrastruktur planen: On-Premises, Cloud oder Hybrid Technischer Background: KI/ML mit NVIDIA-GPUsGPU-Modi: Passthrough-MIG vs. MIG-backed vGPU vs. vGPUNVIDIA-GPUs auf vSphere On-Prem implementierenNVIDIA AI EnterpriseKI/ML-Cluster mit Kubernetes und OpenShiftGPU-spezifische OperatorenGPU-Cluster mit OpenShiftVon CI/CD über GitOps zu MLOpsML-Pipelines & AI End-to-End.

Codice articolo 9783836273930

Dati bibliografici

• Titolo: Skalierbare KI/ML-Infrastrukturen : NVIDIA-GPUs in Container-Systemen - Expertenwissen zur Evaluierung, Automatisierung und für die Praxis
• Editore: Rheinwerk Verlag Gmbh Jan 2023
• Data di pubblicazione: 2023
• Lingua: Tedesco
• ISBN 10: 3836273934
• ISBN 13: 9783836273930
• Rilegatura: Buch
• Condizione: Neu
• Dimensioni: 248 L x 199 A x 32 P (millimetri) 248 millimetri di larghezza per 199 millimetri di altezza per 32 millimetri di profondità
• Peso: 1134 grammi

Descrizione articolo

Riassunto

Leistungsstarke Infrastrukturen für moderne KI/ML-Modelle

Wie Sie abseits der Hypes resiliente, hochautomatisierte und autoskalierbare Systeme für Produktiv-Workloads aufbauen, zeigt Ihnen Oliver Liebel in diesem Wegweiser. Sie erfahren, wie Sie NVIDIAs Datacenter-GPUs nahtlos in Hypervisoren und moderne Container-Infrastrukturen integrieren, sie Operator-gestützt mit Kubernetes bzw. OpenShift verwalten und daraus praxistaugliche Setups machen.

Betrachtet wird der ganze Infrastruktur-Stack: Von On-Premises-Installationen auf vSphere oder Cloud-Setups auf GCP und AWS über Plattform-Automation per IaaS/IaC sowie den GPU- und Network-Operatoren bis hin zu einem Ausblick auf AI End-to-End-Tool-Stacks.

Aus dem Inhalt:

• KI/ML: Grundlagen und Use Cases
• Infrastruktur planen: On-Premises, Cloud oder Hybrid?
• Technischer Background: KI/ML mit NVIDIA-GPUs
• GPU-Modi: Passthrough-MIG vs. MIG-backed vGPU vs. vGPU
• NVIDIA-GPUs auf vSphere On-Prem implementieren
• NVIDIA AI Enterprise
• KI/ML-Cluster mit Kubernetes und OpenShift
• GPU-spezifische Operatoren
• GPU-Cluster mit OpenShift
• Von CI/CD über GitOps zu MLOps
• ML-Pipelines & AI End-to-End

Informazioni sull?autore

Dipl.-Ing. Oliver Liebel ist LPI-zertifizierter Linux-Enterprise-Experte und offizieller Business Partner von SUSE und Red Hat. Als Dozent, Autor, Berater und Projektleiter ist er seit vielen Jahren für namhafte Unternehmen, internationale Konzerne und Institutionen auf Landes- und Bundesebene tätig. Dabei blickt er auf 25 Jahre Berufserfahrung zurück.