An adaptive gradient-search based algorithm for discriminative training of hmm's
Visualitza/Obre
An Adaptive Gradient-Search Based Algorithm for Discriminative Training of HMM's.pdf (294,0Kb) (Accés restringit)
Sol·licita una còpia a l'autor
Què és aquest botó?
Aquest botó permet demanar una còpia d'un document restringit a l'autor. Es mostra quan:
- Disposem del correu electrònic de l'autor
- El document té una mida inferior a 20 Mb
- Es tracta d'un document d'accés restringit per decisió de l'autor o d'un document d'accés restringit per política de l'editorial
Estadístiques de LA Referencia / Recolecta
Inclou dades d'ús des de 2022
Cita com:
hdl:2117/15675
Tipus de documentComunicació de congrés
Data publicació1998
EditorRobert H. Mannel and Jordi Robert-Ribes
Condicions d'accésAccés restringit per política de l'editorial
Tots els drets reservats. Aquesta obra està protegida pels drets de propietat intel·lectual i
industrial corresponents. Sense perjudici de les exempcions legals existents, queda prohibida la seva
reproducció, distribució, comunicació pública o transformació sense l'autorització del titular dels drets
Abstract
Although having revealed to be a very powerful tool in acoustic modelling, discriminative training presents a major drawback: the lack of a formulation guaranteeing convergence in no matter which initial conditions, such as the Baum-Welch algorithm in maximum likelihood training. For this reason, a gradient descent search is usually used in this kind of problem. Unfortunately, standard gradient descent algorithms rely heavily on the election of the learning rates. This dependence is specially cumbersome because it represents that, at each run of the discriminative training procedure, a search should be carried out over the parameters ruling the algorithm. In this paper we describe an adaptive procedure for determining the optimal value of the step size at each iteration. While the calculus and memory overhead of the algorithm is negligible, results show less dependence on the initial learning rate than standard gradient descent and, using the same idea in order to apply self-scaling, it clearly outperforms it.
CitacióNogueiras, A.; Mariño, J.; Monte, E. An adaptive gradient-search based algorithm for discriminative training of hmm's. A: 5th International Conference on spoken language processing (ICSLP'98). "ICSLP'98 Proceedings". Sidney: Robert H. Mannel and Jordi Robert-Ribes, 1998, p. 2979-2982.
ISBN1 876346 17 5
Versió de l'editorhttp://nlp.lsi.upc.edu/papers/nogueiras98.pdf
Fitxers | Descripció | Mida | Format | Visualitza |
---|---|---|---|---|
An Adaptive Gra ... tive Training of HMM's.pdf | 294,0Kb | Accés restringit |