HPE ProLiant DL384 Gen12

HPE ProLiant DL384 Gen12

Achieve next-level performance for mixed, memory intensive and AI workloads like
fine tuning and inference with Retrieval Augmented Generation (RAG).

บรรลุประสิทธิภาพขั้นต่อไปสำหรับงานที่หลากหลาย งานที่ใช้ใช้หน่วยความจำสูง แลงานประมวลผล AI เช่น การปรับแต่งและการค้นคืนข้อมูล

องค์กรของคุณต้องการเซิร์ฟเวอร์เพื่อเพิ่มประสิทธิภาพสำหรับการประมวลผล AI ในยุคของการเร่งการประมวลผลและ Generative AI ด้วย NVIDIA GH200 Grace Hopper™ Superchip ที่มีประสิทธิภาพสูงหรือไม่?

HPE ProLiant DL384 Gen12 มอบหน่วยความจำที่สอดคล้องกันและแบนด์วิธของหน่วยความจำที่ยอดเยี่ยม โดยรองรับ Superchip ได้สูงสุดถึงสองตัวต่อเซิร์ฟเวอร์ และยังมี NVIDIA GH200 NVL2 ซึ่งช่วยให้ทีมสามารถทำงานกับโมเดลที่ใหญ่ขึ้นได้อย่างรวดเร็วและมีประสิทธิภาพในด้านต้นทุนมากขึ้น ด้วยความร่วมมือกับ NVIDIA — HPE ยังคงนำนวัตกรรมมาสู่การปรับปรุงโครงสร้างพื้นฐานที่น่าประทับใจ เพื่อช่วยให้ลูกค้าใช้งานการประมวลผลแบบขยายและเร่งความเร็วสำหรับงาน Generative AI

ด้วยประสิทธิภาพของ Superchip ในงาน AI ของคุณ HPE ProLiant DL384 Gen12 มอบประสิทธิภาพที่ยอดเยี่ยมต่อ GPU กับผลิตภัณฑ์กลุ่ม HPE ProLiant ทำให้การขยายตัวเพื่อตอบสนองความต้องการข้อมูลและการประมวลผลที่เร่งความเร็วเป็นเรื่องง่าย เพื่อเตรียมศูนย์ข้อมูลของคุณสำหรับงานที่หลากหลายและการค้นคืนข้อมูล (RAG) ในโลกผสมผสานสมัยใหม่ได้อย่างเชื่อถือได้

 

View the solution brief

What’s New

  • The first HPE ProLiant rack mount server with the NVIDIA GH200 Grace Hopper™ Superchip.
  • Support for dual NVIDIA GH200 Grace Hopper™ Superchip with NVIDIA GH200 NVL2.
  • The GH200 NVL2 fuses two Grace CPUs and two Hopper GPUs in an innovative architecture to deliver 8 petaflops of AI performance into a single node.
  • The GH200 NVL2 offers up to 3.5X more GPU memory capacity and 3X more bandwidth than the NVIDIA H100 Tensor Core GPU in a single server for compute- and memory-intensive workloads. 
  • Train, tune, and deploy generative AI models with confidence.
  • เซิร์ฟเวอร์ที่ติดตั้งแบบแร็ครุ่นแรกที่มาพร้อมกับ NVIDIA GH200 Grace Hopper™ Superchip
  • รองรับ dual NVIDIA GH200 Grace Hopper™ Superchip พร้อม NVIDIA GH200 NVL2
  • GH200 NVL2 ได้ผสาน 2 Grace CPUs และ 2 Hopper GPUs ในสถาปัตยกรรมที่เป็นนวัตกรรมเพื่อมอบประสิทธิภาพในงาน AI ถึง 8 petaflops ในโหนดเดียว
  • GH200 NVL2 มอบความจุหน่วยความจำ GPU สูงสุดถึง 3.5 เท่า และแบนด์วิธมากกว่า 3 เท่าจาก NVIDIA H100 Tensor Core GPU ในเซิร์ฟเวอร์เดียว สำหรับงานที่ต้องการการประมวลผลและหน่วยความจำสูง
  • ให้คุณฝึก ปรับแต่ง และใช้ Generative AI ได้อย่างมั่นใจ

Key Features

ปรับปรุงโครงสร้างพื้นฐานของคุณสำหรับอนาคตของ AI

  • HPE ProLiant DL384 Gen12 มาพร้อมกับ NVIDIA GH200 Grace Hopper™ Superchip ที่เพิ่มพื้นที่หน่วยความจำและแบนด์วิธอย่างมากเมื่อเปรียบเทียบกับเซิร์ฟเวอร์ Superchip ที่มีชิปเดียว
  • ด้วยหน่วยความจำที่รวดเร็วสูงสุดถึง 1.2 TB การเชื่อมต่อที่มีแบนด์วิธสูงระหว่าง NVIDIA Grace CPU และ Hopper GPU สามารถช่วยนักวิทยาศาสตร์และนักวิจัยค้นพบโซลูชันที่ไม่เคยมีมาก่อนสำหรับปัญหาที่ซับซ้อน โดยสามารถจัดการกับโมเดล LLM ที่ใหญ่ขึ้นและสนับสนุนแอปพลิเคชันที่ใช้ข้อมูลหลายเทราไบต์ได้อย่างง่ายดาย
  • บรรลุประสิทธิภาพที่ดีกว่าต่อเงินที่ลงทุนในด้านการอนุมานโดยการเชื่อมต่อ GH200 Superchip สองตัวด้วย NVLink™ ในโหนดเดียวเพื่อสร้างนวัตกรรม เพิ่มการใช้ทรัพยากร ใช้ประโยชน์จากข้อมูลเพื่อเพิ่มประสิทธิภาพ และปรับปรุงผลตอบแทนจากการลงทุน (ROI)
  • สถาปัตยกรรมที่เป็นนวัตกรรมช่วยให้มีความล่าช้าตอบสนองที่ต่ำลงและสามารถทำให้การประมวลผลที่ต้องการทรัพยากรมากทำงานได้ง่ายขึ้นในโหนดที่น้อยลง ซึ่งช่วยลดต้นทุนที่เกี่ยวข้องกับการดูแลรักษาโครงสร้างพื้นฐานที่กระจายซับซ้อนและระบบปฏิบัติการหลายระบบ

ปลดล็อกคุณค่าเพิ่มเติมและเร่งผลลัพธ์ AI เพื่อข้อมูลเชิงลึกและนวัตกรรมที่ดียิ่งขึ้น

  • ด้วยการสนับสนุน NVIDIA InfiniBand, Ethernet และ BlueField adapters สมัยใหม่ HPE ProLiant DL384 Gen12 มอบการเชื่อมต่อที่เชื่อถือได้ (reliable) มีความล่าช้าต่ำ (low latency) และการเชื่อมต่อความเร็วสูง (high-speed interconnect) เพื่อการอนุมานที่รวดเร็วขึ้น

  • ปรับแต่งประสิทธิภาพและเร่งการทำงานจากศูนย์ข้อมูลไปยังคลาวด์โดยการใช้เซิร์ฟเวอร์ HPE ProLiant ที่ออกแบบมาโดยเฉพาะสำหรับโลกไฮบริด

  • เมื่อกระบวนการต่างๆ เพิ่มขึ้นเรื่อยๆ กลายเป็นการสนับสนุนด้วย AI และขับเคลื่อนด้วยข้อมูล การใช้สถาปัตยกรรมที่เป็น AI-native เพื่อใช้ประโยชน์จากการการปฏิวัติ AI (AI Revolution) และช่วยให้ลูกค้าสามารถนำ AI ไปใช้ในกระบวนการทางธุรกิจของตนได้อย่างง่ายดาย

     

การจัดการที่ยืดหยุ่นทำให้คุณควบคุมได้

  • อ้างอิงจาก HPE ProLiant ที่มีชื่อเสียงอยู่แล้วนั้น HPE ProLiant DL384 Gen12 มอบประสบการณ์ที่สม่ำเสมอในผลิตภัณฑ์กลุ่ม HPE ProLiant พร้อมระบบการจัดการและเฟิร์มแวร์ HPE iLO เพื่ออำนวยความสะดวกในการสร้างความน่าเชื่อถือและความปลอดภัยที่แข็งแกร่งด้วยเทคโนโลยี Silicon Root of Trust จาก HPE
  • ซอฟต์แวร์ HPE Integrated Lights-Out 6 (iLO 6) ที่รวมอยู่ใน HPE ProLiant ช่วยเพิ่มความปลอดภัยเมื่อคุณกำหนดค่า ตรวจสอบ และอัปเดต HPE ProLiant Gen12 ของคุณได้อย่างราบรื่นจากทุกที่ในโลก
View the infographic
Specifications
  • Processor family
    NVIDIA Grace CPU and Hopper GPU
  • Power supply type
    N+N redundant power supplies
    Up to 4 HPE 1800W-2200W Flex Slot Titanium Hot Plug Power Supply Kit
  • Expansion slots
    Up to four high speed PCIe Gen5 x16 devices,
    Up to four PCIe Full Height Half Length (FHHL) slots, or
    Up to two PCIe FHHL and two OCP 3.0
  • System fan features
    6 hot plug redundant fans
  • Storage controller
    HW RAID controllers are not supported this generation for either the M.2 or EDSFF NVMe drives.
  • Infrastructure management
    HPE iLO Standard with intelligent provisioning (embedded), HPE iLO Advanced.

  • Warranty
    3/3/3: Server Warranty includes three years of parts, three years of labor, and three years of onsite support coverage.

    Additional information regarding worldwide limited warranty and technical support is available at: https://h20564.www2.hpe.com/hpsc/wc/public/home.
    Additional HPE support and service coverage, to supplement the product warranty, is available. For more information, visit https://www.hpe.com/support

  • Drive supported
    Up to 8 EDSFF NVMe Gen5 drives.

View QuickSpecs