Système d'inférence IA MIC-743-AT

Le système d'inférence IA MIC-743-AT d'Advantech est équipé du module NVIDIA^® Jetson T5000™ et offre des performances pouvant atteindre 2070 TFLOPS (FP4). Ce système est doté d'une architecture de processeur SMP 64 bits Arm^® Neoverse V3AE à 14 cœurs, de 128 Go de mémoire LPDDR5X et d'un SSD de 1 To préinstallé. Le système d'inférence IA MIC-743-AT intègre 2560 cœurs NVIDIA^® CUDA^®, 96 cœurs Tensor de 5e génération et une fréquence MAXN de 1,57 GHz. Ce système prend en charge le HDMI, l'USB 3.2 Gen 2, le M.2 AEkey (Wi-Fi^®) et le M.2 Bkey (LTE). Le système d’inférence IA MIC-743-AT est livré avec NVIDIA Jetpack™ 7.0 installé et prend en charge de multiples cas d’utilisation pour de grands modèles d’IA dans les applications d’IA générative. Ce système gère des charges de travail d’IA exigeantes, y compris les grands modèles de langage (LLM), les modèles de vision-langage (VLM) et l’analyse vidéo en périphérie.