7.1.
Conclusiones
En el primer capítulo de este documento se expusieron una serie de objetivos que se impusieron para poder evaluar el éxito de este proyecto. Dichos objetivos se han desarrollado en cada uno de los experimentos realizados y en cada capítulo correspondiente se han evaluado. En este punto se va a realizar una visión más global del proyecto acerca de los resultados obtenidos, así como las aportaciones personales que se han incluido en el trabajo y las lecciones aprendidas durante el desarrollo del proyecto.
Los experimentos realizados en base a la aplicación del dropout como técnica de regularización de redes neuronales para poder mitigar el overfitting se han podido concluir como exitosos. Con dichos experimentos se han podido cumplir cada uno de los objetivos impuestos para este apartado. Hemos podido comprobar como esta técnica funciona perfectamente tanto en datos simulados como en datos reales. La técnica es simple en cuanto a su implementación en la programación, pero durante el desarrollo de estos experimentos se han encontrado varios factores teóricos que la han convertido en un reto a superar. Estos factores han sido, por ejemplo, el sobredimensionamiento de los modelos de las redes neuronales implementadas, la elección del parámetro de dropout rate o el ajuste de todos los hiperparámetros del modelo que influyen de forma directa en la aplicación de dicha técnica. Además, como aporte personal a este punto, se ha realizado un análisis del parámetro principal de la técnica, el dropout rate, para ver cómo influye en los resultados finales. Toda la teoría de las redes neuronales que se ha aplicado en esta parte del proyecto se ha podido comprobar y verificar y por lo tanto podemos concluir que nuestra técnica es satisfactoria.
El punto principal de este proyecto es la aplicación de la técnica del dropout como cuantificador de incertidumbre de los modelos de redes neuronales. Es por ello, que se ha realizado un estudio más exhaustivo. Dicho estudio ha completado todos los objetivos previamente desarrollados, llegando a la conclusión de que el resultado de esta técnica es válido y que cumplimenta toda la teoría ligada a las redes neuronales. Se ha podido comprobar que la incertidumbre se cuantifica correctamente tanto en datos simulados como en un conjunto de datos reales. Además, se ha podido ver que la variación de los hiperparámetros influye en la precisión del modelo a la hora de realizar las predicciones y que esta precisión es cuantificada correctamente por nuestro método. Como aportación personal en este punto, se ha realizado un estudio estadístico sobre la precisión que tiene este método de cuantificación de la incertidumbre. Los resultados han sido satisfactorios, ya que hemos podido ver que no realiza mediciones dispares entre sí para el cálculo sobre el mismo modelo entrenado un número dado de repeticiones.
Este proyecto, ha sido desarrollado en su totalidad en el programa de Rstudio, por lo que todo ha sido programado para obtener los resultados expuestos. La filosofía de este proyecto ha sido que cada experimento tenga su propio fichero donde se encuentran cuatro subcarpetas. Estas subcarpetas contienen los resultados, las gráficas, los modelos definidos de redes neuronales y los programas desarrollados.
CONCLUSIONES Y FUTURAS LINEAS DE INVESTIGACION
Esta estructura ha sido implementada de esta forma ya que proporciona una mejor comprensión y una repetitividad de cada experimento en un futuro por personas ajenas a este proyecto. Por lo tanto, podemos decir que nuestro proyecto es extrapolable a cualquier función y conjunto de datos reales. Además, como tenemos un total de catorce experimentos, cada uno con su programa específico, debemos asegurarnos de que sea entendible para cualquier persona ajena al proyecto.
Por esto se han desarrollado por cada experimento general un manual de calidad referente al estudio de la mitigación del overfitting y al estudio de la cuantificación de la incertidumbre. En cada uno se explica todo lo que una tercera persona debe de saber previamente a utilizar cada uno de los programas. Este punto tiene vital importancia para las futuras líneas de investigación ya que permitirá ahorrar tiempo en intentar entender lo que el programa quiere reproducir y la forma que tiene de hacerlo. Por lo tanto, podemos decir que esta parte del proyecto se ha desarrollado de forma satisfactoria y que tiene una finalidad práctica y vital en futuros proyectos.
Este proyecto tiene su base en la comprobación de la teoría de las redes neuronales en general y en particular en la demostración de las dos aplicaciones derivadas de la técnica del dropout. La aportación personal que se le ha dado a este proyecto es la creación de un entorno de pruebas mediante la ejecución de programas independientes. Además, se ha desarrollado una documentación sobre este entorno de pruebas que implica que nuestro proyecto pueda ser reproducible en el futuro. Además, durante la realización del proyecto se ha tenido la necesidad de utilizar un recurso software y hardware cuya implementación en Rstudio no está definida en ningún informe, libro o sitio web oficial. Ante esta situación se ha reunido la información recogida y creado un manual de instalación.
Durante la realización de este trabajo, se ha podido aprender un lenguaje nuevo de programación desde cero, ya que no se tenía las nociones que se disponía en otros. Es por esto por lo que se ha aportado una nueva competencia que será muy importante en un futuro laboral. Además, se ha tenido la posibilidad de utilizar servidores con una capacidad computacional muy superior a la de un ordenador normal y ha ayudado a poder realizar el trabajo en una cantidad de tiempo menor. Por último, la aplicación del dropout como cuantificador de incertidumbre de los modelos es una técnica que se ha desarrollado en los tres últimos años, por lo que la documentación que existe es muy limitada. Esto ha ayudado a desarrollar enormemente una capacidad de síntesis de información siendo más selectiva y pudiendo poder relacionar conceptos de diferentes fuentes de información.
En conclusión, este proyecto ha aportado muchas competencias nuevas. Además, durante su ejecución se ha disfrutado y trabajado con ganas e ilusión al poder realizar un proyecto basado en programación y machine learning. En términos de resultados del proyecto se pueden dar por satisfactorios todos ellos ya que se han cumplido cada uno de los objetivos definidos al inicio del trabajo.
7.2.
Futuras líneas de investigación
Después de haber analizado todo el trabajo que se han realizado y con la intención de poder continuar investigando en la teoría que se basa este proyecto es necesario definir algunas líneas futuras de trabajo en las que centras las nuevas investigaciones. A continuación, se van a listar las ideas más importantes que han surgido durante el proyecto y que pueden ser abordadas por futuros estudiantes.
1. Comparación de la efectividad en la mitigación del overfitting entre el dropout y otros métodos de regularización de redes neuronales.
2. Aplicación del dropout en redes neuronales convolucionales y recurrentes.
3. Cálculo de la incertidumbre mediante la aplicación de redes neuronales bayesianas. 4. Análisis de los factores que influyen en el cálculo de la incertidumbre en las redes
neuronales bayesianas.
5. Comparación de resultados en el cálculo de incertidumbre entre el método del dropout y las redes neuronales bayesianas.
6. Comparación de resultados en el cálculo de incertidumbre entre el método del dropout y otras técnicas como por ejemplo el remuestro de datos de entrada.
7. Cálculo de la incertidumbre mediante la técnica del dropout en redes neuronales convolucionales y recurrentes.