Nvidia lance Tesla T4, la carte la plus rapide pour les centres de données

Nvidia a annoncé son nouveau GPU pour l'apprentissage automatique et l'inférence dans les centres de données. La nouvelle carte Tesla T4 est basée sur l'architecture Turing et est le successeur du modèle Tesla P4 actuel, qui couvre pratiquement tous les principaux fournisseurs de cloud computing.

Nvidia Tesla T4 veut révolutionner les centres de données

Nvidia fait valoir que les Tesla T4 sont nettement plus rapides que les P4. Pour l'inférence de langue, par exemple, T4 est 34 fois plus rapide que l'utilisation d'un processeur et plus de 3, 5 fois plus rapide que P4. Le débit maximal pour Tesla P4 est de 260 TOPS pour les opérations sur 4 bits et de 65 TOPS pour les opérations en virgule flottante. Le T4 est sur une carte PCI-e 75 watts de profil standard.

Nous vous recommandons de lire notre article sur les détails de l'architecture Turing de Nvidia.

Plus important encore, Nvidia a conçu ces puces spécifiquement pour l'inférence de l'IA, ce qui fait de Tesla T4 un GPU si efficace pour faire des inférences est le nouveau Tensor Core de Turing. Jensen Huang a déjà parlé du nouveau Tensor Core et de ce qu'il peut faire pour les opérations de jeu, de rendu et d'IA. Au total, la puce comprend 320 Tensor Core Turing et 2 560 CUDA cores.

En plus de la nouvelle puce, Nvidia déploie également une mise à jour de son logiciel TensorRT pour optimiser les modèles d'apprentissage en profondeur. Cette nouvelle version comprend également le serveur d'inférence TensorRT, un microservice entièrement conteneurisé pour l'inférence de centre de données qui se connecte de manière transparente à une infrastructure Kubernetes existante.

Turing est l'une des architectures Nvidia les plus innovantes, même sur le marché des jeux où il permettra pour la première fois d'utiliser le lancer de rayons en temps réel pour améliorer la finition graphique des jeux les plus avant-gardistes.

Techpowerup font