Neural ordinary differential equations: analysis and implementation
Visualitza/Obre
171755.pdf (1,080Mb) (Accés restringit)
Estadístiques de LA Referencia / Recolecta
Inclou dades d'ús des de 2022
Cita com:
hdl:2117/372834
Tipus de documentProjecte Final de Màster Oficial
Data2022-06-28
Condicions d'accésAccés restringit per decisió de l'autor
Tots els drets reservats. Aquesta obra està protegida pels drets de propietat intel·lectual i
industrial corresponents. Sense perjudici de les exempcions legals existents, queda prohibida la seva
reproducció, distribució, comunicació pública o transformació sense l'autorització del titular dels drets
Abstract
Neural Ordinary Differential Equations (NODE) have emerged as a novel approach to deep learning, where instead of specifying a discrete sequence of hidden layers, it parameterizes the derivative of the hidden state using a neural network. The solution to the underlying dynamical system is a flow, and various works have explored the universality of flows, in the sense of being able to approximate any analytical function. In this thesis we present preliminary work aimed at identifying families of systems of ordinary differential equations (SODE) that are universal, in the sense that they encompass most of the systems of differential equations that appear in practice. Once one of these (candidate) universal SODEs is found, we define a process that generates a family of NODEs whose flows are precisely the solutions of the universal SODEs found above. We present three candidates for universal SODE family: 1) the generalized Lotka-Volterra (LV) families of differential equations; 2) the Riccati dynamical systems; and 3) the S-systems. We present the NODE models built upon each one of these dynamical systems and a description of their appropriate flows together with some preliminary implementations of these processes and results on learning some analytical functions.
MatèriesMachine learning, Neural networks (Computer science), Aprenentatge automàtic, Xarxes neuronals (Informàtica)
TitulacióMÀSTER UNIVERSITARI EN INNOVACIÓ I RECERCA EN INFORMÀTICA (Pla 2012)
Col·leccions
Fitxers | Descripció | Mida | Format | Visualitza |
---|---|---|---|---|
171755.pdf | 1,080Mb | Accés restringit |