VMware Cloud på AWS får virtualiserede GPU'er, da firmaet samarbejder med Nvidia

Tech / VMware Cloud på AWS får virtualiserede GPU'er, da firmaet samarbejder med Nvidia 2 minutter læst

Nvidia



Da AI og maskinlæring er en stadig mere uundværlig del af moderne computing, forbliver Nvidias forretningsgrundlag stærke. De har stået i spidsen for deres indsats for at være en fremtrædende styrke i serverforretningen, der skaber partnerskaber med flere teknologiske virksomheder. For nylig annoncerede Nvidia og VMware en binding, som vil bringe Nvidias vGPU (Virtual GPU Technology) til VMwares vSphere-stack på AWS.

GPU'er er designet med dataparallel computing i tankerne, hvilket fremskynder vektor- og matrixoperationer. Dette gør dem ideelle til AI-arbejdsbelastninger.



Tidligere begrænset til kun CPU, kan AI-arbejdsbelastninger nu let implementeres i virtualiserede miljøer som VMware vSphere med nye vComputeServer software og NVIDIA NGC . Gennem vores partnerskab med VMware , denne arkitektur hjælper organisationer med problemfrit at migrere AI-arbejdsbelastninger på GPU'er mellem kundedatacentre og VMware Cloud på AWS.



- ANNE HECHT (Nvidia)



GPU-accelererede arbejdsbelastninger køres ofte på fysiske servere med en enkelt lejer, men med vComputeServer kan virksomheder køre AI-arbejdsbelastninger i et virtualiseret miljø, hvilket giver mere fleksibilitet og monetære besparelser (op til en bestemt skala). Nvidia understøtter allerede et par KVM-baserede hypervisorer, herunder Red Hat og Nutanix. VMwares vSphere er den seneste tilføjelse.

Funktionerne i vComputeServer inkluderer:

  • GPU-ydeevne: Op til 50 gange hurtigere dyb læringstræning end kun CPU, svarende til at køre GPU på bare metal.
  • Avanceret beregning: Fejlkorrektionskode og dynamisk sidepension forhindrer datakorruption for arbejdsniveau med høj nøjagtighed.
  • Live migration: GPU-aktiverede virtuelle maskiner kan migreres med minimal forstyrrelse eller nedetid.
  • Øget sikkerhed: Virksomheder kan udvide sikkerhedsfordelene ved servervirtualisering til GPU-klynger.
  • Multi-lejer isolation : Arbejdsbelastninger kan isoleres for sikkert at understøtte flere brugere på en enkelt infrastruktur.
  • Styring og overvågning : Administratorer kan bruge de samme hypervisor-virtualiseringsværktøjer til at styre GPU-servere med synlighed på værts-, virtuel maskine- og app-niveau.
  • Bredt udvalg af understøttede GPU'er: vComputeServer understøttes på NVIDIA T4 eller V100 GPU'er samt Quadro RTX 8000 og 6000 GPU'er og tidligere generationer af Pascal-arkitektur P40, P100 og P60 GPU'er.

- Nvidia



VMware vSphere-brugere får også Nvidia GPU Cloud-support, som er en GPU-accelereret cloudplatform optimeret til dyb læring og videnskabelig computing. Anne Hecht fra Nvidia skriver “ NVIDIA NGC , vores hub til GPU-optimeret software til dyb læring, maskinindlæring og HPC, tilbyder over 150 containere, foruddannede modeller, træningsscripts og workflows for at fremskynde AI fra koncept til produktion, herunder RAPIDS , vores CUDA-accelererede datavidenskabssoftware ”.

VMware-partnerskab i tråd med den seneste indkøb

VMware vil erhverve Bitfusion, som vil tilføje en masse værdi til sin vSphere cloud-platform. Som vi diskuterede tidligere i artiklen, kan virtualisering tilbyde virksomheder en masse fordele med et minimalt præstationshit. Med Bitfusions teknologi vil virksomheder være i stand til at bevæge sig væk fra bare metal-servere og virtualisere deres GPU'er, da et sådant arrangement kan resultere i bedre udnyttelse af tilgængelige ressourcer. Med accelereret computing, der tager de centrale scener, vil virksomheder søge efter måder at virtualisere deres hardwarestak, VMware er godt klar over dette, og de bevæger sig for at gøre vSphere-platformen vital i datacentre.

Mærker nvidia