Embeddability and rate identifiability of Kimura 2-parameter matrices
Cita com:
hdl:2117/334314
Tipus de documentArticle
Data publicació2020-03-01
Condicions d'accésAccés obert
Tots els drets reservats. Aquesta obra està protegida pels drets de propietat intel·lectual i
industrial corresponents. Sense perjudici de les exempcions legals existents, queda prohibida la seva
reproducció, distribució, comunicació pública o transformació sense l'autorització del titular dels drets
ProjecteBarcelona Graduate School of Mathematics (BGSMath) (MINECO-MDM-2014-0445)
GEOMETRIA Y TOPOLOGIA DE VARIEDADES, ALGEBRA Y APLICACIONES (MINECO-MTM2015-69135-P)
GEOMETRIA Y TOPOLOGIA DE VARIEDADES, ALGEBRA Y APLICACIONES (MINECO-MTM2015-69135-P)
Abstract
Deciding whether a substitution matrix is embeddable (i.e. the corresponding Markov process has a continuous-time realization) is an open problem even for 4×4 matrices. We study the embedding problem and rate identifiability for the K80 model of nucleotide substitution. For these 4×4 matrices, we fully characterize the set of embeddable K80 Markov matrices and the set of embeddable matrices for which rates are identifiable. In particular, we describe an open subset of embeddable matrices with non-identifiable rates. This set contains matrices with positive eigenvalues and also diagonal largest in column matrices, which might lead to consequences in parameter estimation in phylogenetics. Finally, we compute the relative volumes of embeddable K80 matrices and of embeddable matrices with identifiable rates. This study concludes the embedding problem for the more general model K81 and its submodels, which had been initiated by the last two authors in a separate work
Descripció
The final publication is available at Springer via http://dx.doi.org/10.1007/s00285-019-01446-0
CitacióCasanellas, M.; Fernández-Sánchez, J.; Roca, J. Embeddability and rate identifiability of Kimura 2-parameter matrices. "Journal of mathematical biology", 1 Març 2020, vol. 80, núm. 4, p. 995-1019.
ISSN0303-6812
Versió de l'editorhttps://link.springer.com/article/10.1007%2Fs00285-019-01446-0
Fitxers | Descripció | Mida | Format | Visualitza |
---|---|---|---|---|
K2-Arxiv.pdf | 570,2Kb | Visualitza/Obre | ||
Article k2.pdf | Post print | 758,9Kb | Visualitza/Obre |