PNY NVIDIA H200 NVL PCIe 141GB HBM3e Accelerator

Kai standartiniai GPU pasiekia atminties ribas, PNY NVIDIA H200 NVL PCIe įsikiša su milžiniška 141GB HBM3e atmintimi ir 6.7 TB/s pralaidumu, gerokai pranokdamas įprastus 80GB greitintuvus. Sukurtas NVIDIA Hopper architektūros pagrindu, jis turi 4-osios kartos Tensor Core ir PCIe 5.0 x16 sąsają, todėl yra galingas įrankis AI mokymui, didelio masto inferencijai ir HPC modeliavimui. Ši dviejų lizdų, pilno aukščio, pilno ilgio kortelė suteikia duomenų centro klasės skaičiavimo galią standartiniams serveriams be egzotiškos infrastruktūros.

Svarbiausi bruožai

• NVIDIA Hopper architektūra su 4-osios kartos Tensor Core
• 141GB HBM3e atmintis su 6.7 TB/s pralaidumu
• PCI Express 5.0 x16 sąsaja greitam ryšiui su pagrindine sistema
• Iki 7 MIG egzempliorių efektyviam kelių vartotojų GPU dalijimuisi
• 4-osios kartos NVLink palaikymas kelių GPU mastelio keitimui per tiltus
• Pasyvus aušinimas, skirtas sistemų oro srauto aplinkoms

Kasdieniniame naudojime

Šis GPU pagreitina reikliausias AI ir HPC darbo krūvius. 141GB atminties talpa leidžia laikyti didžiulius modelius ir duomenų rinkinius visiškai ant greitintuvo, pašalinant brangų perkėlimą į pagrindinės sistemos atmintį. Multi-Instance GPU (MIG) technologija padalija GPU į iki septynių izoliuotų egzempliorių, todėl skirtingos komandos ar užduotys gali saugiai ir efektyviai dalintis aparatine įranga. PCIe 5.0 sąsaja užtikrina greitą duomenų mainą su pagrindine sistema, o dviejų lizdų formos faktorius tinka standartiniams serveriams. Pasyvus aušinimas priklauso nuo tvirto korpuso oro srauto, todėl kortelė veikia tyliai ir patikimai duomenų centrų aplinkose.

Pilnos specifikacijos

• GPU architektūra: NVIDIA Hopper H200
• Atminties talpa: 141 GB HBM3e
• Atminties pralaidumas: 6.7 TB/s
• Atminties sąsaja: 6144 bitų
• Sąsaja: PCI Express 5.0 x16
• Tensor Core: 4-osios kartos
• FP8 Tensor Core našumas (retas): 3958 TFLOPS
• FP16 Tensor Core našumas (retas): 1979 TFLOPS
• FP64 našumas: 67 TFLOPS
• Šilumos projektinė galia (TDP): iki 700 W
• Formos faktorius: dviejų lizdų, pilno aukščio, pilno ilgio (FHFL) PCIe kortelė
• Aušinimo sprendimas: pasyvus (reikalauja sistemos oro srauto)
• Multi-Instance GPU (MIG): iki 7 GPU egzempliorių
• NVLink tarpusavio ryšys: 4-osios kartos NVLink
• Maitinimo jungtys: 2x 16 kontaktų (12VHPWR)
• Tranzistoriai: 80 milijardų
• Gamybos procesas: TSMC 4N Custom Process

Baigiamoji pastaba

Duomenų centrams ir įmonėms, kurioms reikia maksimalios atminties talpos ir pralaidumo standartiniame PCIe formos faktoriuje, PNY NVIDIA H200 NVL yra patrauklus pasirinkimas. Jo pasyvus aušinimas reikalauja tinkamo serverio oro srauto, tačiau atlygis yra tyli, didelio tankio skaičiavimo sistema, pasirengusi reikliausioms AI ir HPC užduotims.