Der Inferenzserver Atlas 800I A2 verwendet einen effizienten 8-Modul-Inferenzansatz und bietet starke KI-Inferenzfunktionen. Es bietet Vorteile in Bezug auf Rechenleistung, Speicherbandbreite und Konnektivität und kann in großem Umfang auf generative große Modellinferenzen angewendet werden, z. B. intelligenter Kundenservice, Textgenerierung, Wissensakkumulation und andere Szenarien zur Inhaltsgenerierung. Es unterstützt die NPU-Verbindung, um die Effizienz großer Modellinferenzen zu verbessern.

1. Funktionen

1.1 Kernhardwarekonfiguration

• Prozessoren und Beschleunigungskarten:
• CPU: Ausgestattet mit 4 Kunpeng 920-Prozessoren (unterstützt 48/64 Kerne, mit Taktraten von 2,6/3,0 GHz).
• NPU (AI-Prozessor): Basierend auf dem Huawei Ascend 910 AI-Prozessor mit integriertem HCCS-NPU-Modul.
• Speicherkapazität: 64 GB pro Beschleuniger, insgesamt 512 GB Beschleunigerspeicher (HBM-Typ); Der Systemspeicher unterstützt bis zu 32 DDR4-DIMM-Steckplätze.
• Bandbreite und Bus:
• Beschleunigerspeicherbandbreite: 800 GB/s (pro NPU).
• Bandbreite der Beschleunigerverbindung: bis zu 392 GB/s (oder 512 GB/s über PCIe 4.0 x16 NPU-CPU-Verbindung).
• Unterstützte Datentypen: FP32, FP16 und INT8.

1.2 System und Kühlung

• Formfaktor und Gewicht: 4U-Rack-Einheit mit voller Tiefe; Abmessungen: 175 × 447 × 790 mm (H x B x T); Gewicht: ca. 90 kg.
• Kühldesign: Luftkühlung von vorne nach hinten mit 8 Hot-Swap-fähigen Lüftermodulen mit N+1-Redundanz.
• Maximaler Stromverbrauch des Systems: 10,4 kW.

1.3 Software-Ökosystem

• Software-Stack: Vollständig kompatibel mit Huawei CANN, MindSpore, MindIE, AscendCL und dem PyTorch-Adapter für Ascend; unterstützt gängige Inferenz-Frameworks wie vLLM, vLLM-Ascend und MindIE Turbo.
• Virtualisierungsfunktionen: Unterstützt Huawei vNPU-Rechenressourcenpartitionierung, Geräte-Passthrough und Container-Bereitstellung über den Ascend-Software-Stack. Typische Anwendungsszenarien

• Large Language Model (LLM)-Inferenz auf Unternehmensniveau, generative KI-Dienste, Retrieval-Augmented Generation (RAG), intelligenter Kundenservice, Inhaltsgenerierung, Wissensverarbeitung und KI-Inferenzdienste mit hohem Durchsatz.

2. Technische Spezifikationen

Produkte	Atlas 800I A2 Inferenzserver
Bilden	4U-KI-Server
CPU	4 * Kunpeng 920
Erinnerung	32 DDR4-Speichersteckplätze, bis zu 3200 MT/s , und ein einzelner Speicherstick unterstützt 16/32/64 GB Kapazität
Lokaler Speicher	8 * 2,5 SATA+2 * 2,5 NVMe 4 * 2,5 SATA + 6 * 2,5 NVMe
RAID-Unterstützung	Unterstützt RAID 0/1/10/5/50/6/60
Internes Netzwerk	Ein optionales, vollständig vernetztes NPU-Modell mit einer gesamten Konnektivitätsbandbreite von 392 GB/s
Externe Netzwerke	8 * 200GE QSFP-Schnittstellen mit direktem Ausgang, RoCE-Protokoll
PCIe-Schnittstelle	Unterstützt bis zu 3 PCIe 4.0-Erweiterungssteckplätze
Stromversorgung	Vier im laufenden Betrieb austauschbare 2,6-kW-Leistungsmodule, die 2+2-Redundanz unterstützen
Stromversorgung	200 ~ 240 V Wechselstrom 240V DC
Kühlmethode	Windkühlung
Lüfter	Unterstützt 8 Hot-Swap-fähige Lüftermodule und N+1-Redundanz
Temperatur der Betriebsumgebung	5℃～35℃（41℉～95℉）
Strukturmaße	175 mm (Höhe) * 447 mm (Breite) * 790 mm (Tiefe)

Etikett:

Shenzhen Peng Jin Technology Co., Ltd.

Tel:+8615899753550

Wechat:pjk2018666

Gesprächspartner:Linda Lin