NVIDIA

NVIDIA RTX PRO 6000

96GB GDDR7 Blackwell-architecture GPU — high-density inference and AIGC acceleration

สงวนและใช้งานตามต้องการ ปรับใช้ในประเทศไทย

$1.45/hr per GPU

ราคาทั้งหมดเป็น USD ไม่รวมภาษี

เปรียบเทียบโมเดล GPU

Deployed as high-density physical bare-metal infrastructure by TATC, the RTX PRO 6000 features 96GB of high-capacity GDDR7 memory and 1.8 TB/s bandwidth, optimized for large-scale LLM inference, AIGC workflows, and model fine-tuning where NVLink scale-out is not required.

หน่วยความจำ
96GB GDDR7
1.8 TB/s bandwidth
สถาปัตยกรรม
Blackwell
Family · NVIDIA RTX PRO
การประมวลผล (FP16)
~4.03 PFLOPS (8-GPU, FP16 tensor, est.)
BF16: 2.01 PFLOPS (8-GPU, BF16 tensor) · FP8: 8.06 PFLOPS (8-GPU, FP8 tensor)
การเชื่อมต่อ
100G RoCE High-Speed Fabric
TDP · 600W

ไฮไลต์

  • Cost-effective entry point for high-VRAM CUDA inference
  • Holds 70B–200B quantised models entirely in VRAM
  • Seamless integration with Hugging Face transformers ecosystem

สแต็กซอฟต์แวร์

CUDA 12.x
PyTorch 2.x
Triton
vLLM

สถานการณ์ที่เหมาะสมที่สุด

  • LLM inference (70B-class models fully in VRAM)
  • AIGC image / video generation
  • Small-model fine-tuning

พร้อมใช้งาน NVIDIA RTX PRO 6000 แล้วหรือยัง?

ปรับใช้เซิร์ฟเวอร์เฉพาะภายในไม่กี่วัน หรือพูดคุยกับวิศวกรฝ่ายขายของเราเรื่องการกำหนดค่าแบบกำหนดเอง

ขอใบเสนอราคาติดต่อเรา