Slide, le nouvel algorithme d'apprentissage en profondeur développé par Intel
Table des matières:
Il y a quelques jours, Intel Labs et Rice University ont annoncé SLIDE, un algorithme innovant d'apprentissage en profondeur qui exploite le matériel d'aujourd'hui beaucoup plus efficacement.
SLIDE, le nouvel algorithme d'apprentissage en profondeur développé par Intel
Avec SLIDE, l'efficacité du processeur pour la formation en profondeur des modèles d'IA traditionnels est considérablement améliorée. Les travaux de recherche ont montré qu'un ensemble de plates - formes avec 44 cœurs Xeon et un ensemble de plates-formes d'une valeur de 100000 USD pris en charge par 8 cartes d'accélération NVIDIA Volta V100 ont effectué la même tâche de formation en 3, 5 fois moins de temps qu'avec tout autre algorithme.
SLIDE n'a pas besoin d'un GPU car il a une approche fondamentalement différente de l'apprentissage en profondeur. La technique de formation standard de «rétropropagation» pour les réseaux de neurones profonds nécessite une multiplication matricielle, une charge de travail idéale pour les GPU. Avec SLIDE, Shrivastava, Chen et Medini ont transformé la formation des réseaux neuronaux en un problème de recherche qui pourrait être résolu avec des tables de hachage.
Cela réduit radicalement la charge de travail de SLIDE par rapport à la formation de rétropropagation. Une plate-forme GPU haut de gamme comme celles proposées par Amazon, Google et d'autres pour les services d'apprentissage en profondeur basés sur le cloud possède huit Tesla V100 et coûte environ 100000 $, a déclaré Shrivastava.
Visitez notre guide sur les meilleurs processeurs du marché
Fait intéressant, Intel a également déclaré que sa plate-forme n'avait pas été entièrement optimisée car DLBoost n'était pas activé. Cependant, le modèle exact des processeurs Xeon utilisés pour compléter les 44 cœurs n'a pas été annoncé. En spéculant, il pourrait s'agir de deux Xeon Platinum 6238 de 22 cœurs et de 44 threads, bien qu'ils puissent également être des modèles inédits qui n'ont pas été annoncés.
Il semble que l'avenir de l'informatique passe par l'IA et le deep learning, un segment bien utilisé par Intel et Nvidia. Nous vous tiendrons informés.
▷ Super apprentissage en profondeur
Qu'est-ce que le nouveau Deep Learning Super Sampling et quels avantages apportera-t-il aux jeux vidéo? ✅ Tout ce que vous devez savoir?
Facebook présente un nouvel algorithme basé sur les sondages
Facebook présente un nouvel algorithme basé sur des sondages. En savoir plus sur ce changement dans le réseau social qui va changer le flux qu'il contient.
Intel nervana est le premier processeur d'apprentissage en profondeur d'Intel
Le PDG d'Intel a annoncé aujourd'hui dans un article de blog ce qui sera le premier processeur de réseau neuronal de l'entreprise, Intel Nervana.
