Servidor de inferencia Atlas 800 para entrenamiento de IA (Modelo: 3000)

El servidor de inferencia Atlas 800 (modelo: 3000) admite hasta 8 Atlas 300I/V Pro, lo que proporciona potentes capacidades de análisis de video e inferencia en tiempo real, ampliamente utilizadas en escenarios de inferencia de IA del lado central.

1. Modelos clave y características principales

1.1 Servidores de inferencia Atlas 800 (p. ej., modelo 3000/Atlas 800I A2/Atlas 800I A3)

• Procesadores centrales: Desarrollados por procesadores Huawei Kunpeng 920 o procesadores AI de la serie Ascend (como el Ascend 910C).
• Funciones principales: centradas en inferencia en tiempo real, servicios de IA generativa, inferencia de modelos de lenguaje grande (LLM), servicio al cliente inteligente y análisis de vídeo/imágenes. 
• Rendimiento y configuración: Admite memoria de aceleración de gran ancho de banda y procesamiento de datos de IA/vídeo multicanal; Cuenta con refrigeración por aire eficiente y fuentes de alimentación redundantes intercambiables en caliente.

1.2 Servidores de capacitación Atlas 800 (p. ej., modelo 9000/modelo 9010)

• Procesadores centrales: basados ​​en procesadores Kunpeng 920 y Ascend 910 AI (o configurados con procesadores Intel).
• Funciones principales: diseñadas específicamente para el desarrollo de modelos de aprendizaje profundo y escenarios de entrenamiento de IA a gran escala. 
• Características clave: Ofrece alta densidad informática, eficiencia energética superior, gran ancho de banda de red y una arquitectura de montaje en rack de 4U que es fácil de escalar y administrar.

1.3 Ecosistema de software

• Proporciona soporte integral para la arquitectura informática de hardware y software de IA de pila completa de Huawei, incluidos CANN, MindSpore, MindIE y AscendCL, al tiempo que garantiza la compatibilidad con marcos convencionales como PyTorch.

2. Especificaciones técnicas