Distributed training strategies for a computer vision deep learning algorithm on a distributed GPU cluster
Visualitza/Obre
10.1016/j.procs.2017.05.074
Inclou dades d'ús des de 2022
Cita com:
hdl:2117/105599
Tipus de documentComunicació de congrés
Data publicació2017
EditorElsevier
Condicions d'accésAccés obert
Llevat que s'hi indiqui el contrari, els
continguts d'aquesta obra estan subjectes a la llicència de Creative Commons
:
Reconeixement-NoComercial-SenseObraDerivada 3.0 Espanya
ProjectePROCESADO DE INFORMACION HETEROGENEA Y SEÑALES EN GRAFOS PARA BIG DATA. APLICACION EN CRIBADO DE ALTO RENDIMIENTO, TELEDETECCION, MULTIMEDIA Y HCI. (MINECO-TEC2013-43935-R)
PROCESADO DE INFORMACION HETEROGENEA Y SEÑALES EN GRAFOS PARA BIG DATA. APLICACION EN CRIBADO DE ALTO RENDIMIENTO, TELEDETECCION, MULTIMEDIA Y HCI. (MINECO-TEC2013-43935-R)
PROCESADO DE INFORMACION HETEROGENEA Y SEÑALES EN GRAFOS PARA BIG DATA. APLICACION EN CRIBADO DE ALTO RENDIMIENTO, TELEDETECCION, MULTIMEDIA Y HCI. (MINECO-TEC2013-43935-R)
Abstract
Deep learning algorithms base their success on building high learning capacity models with millions of parameters that are tuned in a data-driven fashion. These models are trained by processing millions of examples, so that the development of more accurate algorithms is usually limited by the throughput of the computing devices on which they are trained. In this work, we explore how the training of a state-of-the-art neural network for computer vision can be parallelized on a distributed GPU cluster. The effect of distributing the training process is addressed from two different points of view. First, the scalability of the task and its performance in the distributed setting are analyzed. Second, the impact of distributed training methods on the final accuracy of the models is studied.
CitacióCampos, V., Sastre, F., Yagües, M., Bellver, M., Giro, X., Torres, J. Distributed training strategies for a computer vision deep learning algorithm on a distributed GPU cluster. A: International Conference on Computational Science. "Procedia Computer Science". Zurich: Elsevier, 2017, p. 315-324.
ISBN1877-0509
Versió de l'editorhttp://www.sciencedirect.com/science/article/pii/S1877050917306129
Col·leccions
- GPI - Grup de Processament d'Imatge i Vídeo - Ponències/Comunicacions de congressos [317]
- Computer Sciences - Ponències/Comunicacions de congressos [574]
- CAP - Grup de Computació d'Altes Prestacions - Ponències/Comunicacions de congressos [784]
- Departament d'Arquitectura de Computadors - Ponències/Comunicacions de congressos [1.954]
- Departament de Teoria del Senyal i Comunicacions - Ponències/Comunicacions de congressos [3.327]
Fitxers | Descripció | Mida | Format | Visualitza |
---|---|---|---|---|
1-s2.0-S1877050917306129-main.pdf | 576,6Kb | Visualitza/Obre |