NVIDIA L4 24 Go Review La carte d'inférence IA polyvalente

Aug 03, 2023

Aujourd'hui, nous avons droit à une revue amusante, en jetant un œil au NVIDIA L4. Bien qu'il ne s'agisse en aucun cas du GPU le plus rapide de NVIDIA, le L4 sera une carte populaire. Nous le savons, car il s’agit en fait d’une mise à jour du NVIDIA Tesla T4 (à l’époque ils portaient encore la marque « Tesla ») que nous avons examiné en 2019. Le NVIDIA T4 a été très populaire, et nous nous attendons à ce que le L4 le soit également en s’appuyant sur un format éprouvé.

Avant de passer à l’examen, nous voulions simplement remercier rapidement PNY de nous avoir fourni une carte à examiner. Les GPU NVIDIA sont très populaires et PNY est le partenaire majeur de NVIDIA pour les cartes professionnelles. Sur ce, passons au matériel.

Le NVIDIA L4 est un GPU mi-hauteur discret. C'est peut-être la caractéristique la plus importante de la carte puisqu'elle permet d'installer la carte sur toutes sortes de serveurs.

La plaque arrière est une autre caractéristique petite mais importante. Ceux-ci sont souvent installés dans des colonnes montantes qui sont retirées pour maintenance. La présence de la plaque arrière permet de garantir que la carte reste en sécurité pendant le service.

Avec l'Ampère de NVIDIA et les éléments de conception ultérieurs, la carte dorée est facilement reconnaissable. Le refroidissement passif sur la carte à faible consommation permet également de garantir qu'elle peut être utilisée dans un large éventail de systèmes puisqu'elle peut uniquement utiliser le flux d'air du châssis.

Puisqu'il s'agit d'un GPU conçu principalement pour l'inférence d'IA (bien qu'il existe d'autres cas d'utilisation de GPU de centre de données qu'il dessert), nous n'avons pas de sorties d'affichage. Comme ces cartes sont densément regroupées dans les serveurs en raison de leur petite taille, avoir plus de sorties d'affichage peut être un problème dans certains systèmes d'exploitation, comme nous l'avons constaté il y a de nombreuses années avec des systèmes GPU 8x.

Le nouveau design comporte des trous de montage de support de rétention sur le devant de la carte. Un élément qui n'est pas présent est un connecteur d'alimentation GPU. Le fait d'être uniquement alimenté par un emplacement PCIe est une autre fonctionnalité qui permet à cette classe de GPU de s'intégrer facilement dans de nombreux types de serveurs.

Ensuite, étant donné la popularité du NVIDIA (Tesla) T4, nous voulions faire un rapide côte à côte afin que vous puissiez voir les différences étant donné que la facilité d'intégration dans les serveurs est une fonctionnalité majeure.

Voici les deux cartes. Nous n'avions pas de T4 avec un support à profil bas. Les quatre que nous avons trouvés étaient tous de pleine hauteur. Les supports à profil bas ont tous été installés dans des centres de données.

Voici la face arrière. Nous pouvons voir que le NVIDIA L4 a beaucoup moins de marque NVIDIA que l’ancien « NVIDIA Tesla T4 ».

Les deux sont de taille similaire, cependant, les nervures du L4 semblent élargir légèrement le devant de la carte.

Voici un aperçu de la vue du flux d'air si cela peut vous aider. On peut voir que la nouvelle carte a une solution thermique améliorée.

Passons ensuite aux spécifications clés, puis aux performances et à la puissance.