NVIDIA

NVIDIA H100

80GB HBM3 Hopper Architecture — the enterprise benchmark for large-scale training and inference with NVLink scale-out

สงวนและใช้งานตามต้องการ ปรับใช้ในประเทศไทย

$2.85/hr per GPU

ราคาทั้งหมดเป็น USD ไม่รวมภาษี

เปรียบเทียบโมเดล GPU

Deploys high-density NVIDIA H100 SXM5 8-GPU HGX nodes with NVLink 4 interconnect and full root access in Tier III regional infrastructure — optimized for enterprise foundation model training, distributed fine-tuning, and high-throughput inference.

หน่วยความจำ
80GB HBM3
3.35 TB/s bandwidth
สถาปัตยกรรม
Hopper
Family · NVIDIA Hopper
การประมวลผล (FP16)
7.9 PFLOPS (8-GPU, FP16 tensor)
BF16: 7.9 PFLOPS (8-GPU, BF16 tensor) · FP8: 15.8 PFLOPS (8-GPU, FP8 tensor)
การเชื่อมต่อ
NVLink 4 (900 GB/s) / NDR InfiniBand
TDP · 700W

ไฮไลต์

  • Enterprise HGX H100 SXM5 architecture with native NVSwitch all-to-all GPU mesh
  • NVLink 900GB/s in-node connectivity for multi-GPU training
  • Production-ready CUDA, NCCL, and TensorRT-LLM stack for distributed LLM workloads

สแต็กซอฟต์แวร์

CUDA 12.x
PyTorch 2.x
Triton
vLLM
TensorRT-LLM
NCCL

สถานการณ์ที่เหมาะสมที่สุด

  • Large-scale LLM training and fine-tuning
  • High-throughput inference (TensorRT-LLM / vLLM)
  • Mixed-precision scientific computing

พร้อมใช้งาน NVIDIA H100 แล้วหรือยัง?

ปรับใช้เซิร์ฟเวอร์เฉพาะภายในไม่กี่วัน หรือพูดคุยกับวิศวกรฝ่ายขายของเราเรื่องการกำหนดค่าแบบกำหนดเอง

ขอใบเสนอราคาติดต่อเรา