Carte d'inférence Al haute performance Huawei 300i Pro Duo

La carte d'inférence Atlas 300I Pro intègre « un processeur à usage général, un cœur d'IA et un codec » en un seul, offrant de puissantes fonctions d'inférence d'IA et de récupération de cible. Il présente des avantages tels qu'une puissance de calcul puissante, une efficacité énergétique ultra-élevée, une récupération de fonctionnalités hautes performances et un démarrage sécurisé, ce qui le rend largement applicable dans de nombreux scénarios d'IA tels que la reconnaissance OCR, l'analyse vocale, les recommandations de recherche et la modération de contenu.

1. Spécifications clés

• Processeur IA : 1 x processeur Ascend série 310P (8 cœurs Da Vinci AI, 8 cœurs de processeur développés par Huawei)
• Puissance de calcul de l'IA : 140 TOPS (INT8) / 70 TFLOPS (FP16)
• Mémoire : 24 Go LPDDR4X avec ECC, largeur de 384 bits, débit de 4 266 Mbit/s et bande passante totale de 204,8 Go/s.
• Processeur hôte : 8 cœurs à 1,9 GHz
• Codec vidéo/image : décodage/encodage matériel pour H.264, H.265 et JPEG
• Interface : PCIe 4.0 x16 (rétrocompatible avec Gen 3.0/2.0/1.0)
• Facteur de forme et puissance : carte PCIe HHHL, 169,5 mm x 68,9 mm, puissance de la carte 72 W, poids 280 g
• Virtualisation : peut être partitionné en jusqu'à 7 NPU virtuels

2. Cas d'utilisation courants

L'Atlas 300I Pro est conçu principalement pour l'analyse vidéo haute densité en périphérie et dans les centres de données (prenant en charge jusqu'à 256 canaux de vidéo HD en temps réel), la reconnaissance OCR, l'analyse vocale, les recommandations de recherche et la modération de contenu. Il se distingue du modèle Atlas 300I Duo à double puce et s'appuie sur l'écosystème logiciel CANN propriétaire de Huawei plutôt que sur NVIDIA CUDA.

3. Spécifications techniques