Fontenla-Romero, ÓscarPampín Rodríguez, AbelUniversidade da Coruña. Escola Politécnica de Enxeñaría de Ferrol2024-10-112024-10-112024http://hdl.handle.net/2183/39572[Resumen]: En los últimos años los modelos de Inteligencia Artificial (IA) han aumentado de tamaño en pasos agigantados, aupados por unos resultados y casos de uso cada vez mejores y más refinados; con todo, los algoritmos actuales de estos modelos se centran, como único objetivo, en conseguir la máxima eficacia en la resolución del problema asignado, pero no tienen en cuenta la eficiencia energética del modelo conjunto. Se ha comprobado que estos modelos, y la infraestructura necesaria para ellos, tienen un impacto muy importante en el consumo de recursos eléctricos e hídricos, por lo que es necesario incluir este enfoque en su desarrollo y reducir tales impactos. Un planteamiento reciente en la IA es el llamado Aprendizaje Federado, que permite entrenar modelos de manera colaborativa en múltiples dispositivos sin necesidad de centralizar sus datos y preservando su privacidad. Dicha técnica se presenta como una alternativa que solventa las desventajas de las técnicas centralizadas corrientes, que requieren grandes silos de información y un mayor consumo energético y temporal para su entrenamiento. El Aprendizaje Federado, por otro lado, es distribuido, eficiente y privativo por diseño, por lo que es un incentivo para la convergencia de las nuevas tecnologías de la información como IoT y las operativas propias de la Industria 4.0. En este Trabajo Final de Grado se ha abordado el desarrollo, análisis y experimentación de métodos de aprendizaje federado desde una perspectiva verde, en sintonía con la manifestación de interés del Programa Nacional de Algoritmos Verdes [8] publicado por el Ministerio de Asuntos Económicos y Transformación Digital [9]. Específicamente, hemos contribuido y mejorado el método de entrenamiento regularizado y encriptado para redes neuronales de una sola capa que ha sido desarrollado por la UDC en entornos federados (FedHEONN) [12], y experimentado con su implementación en dispositivos embebidos y simulados. Como tal, hemos aplicado un método de ensamblaje conocido como Random Patches al algoritmo para contrastar su rendimiento frente la versión original, además de implementar la capacidad de realizar un entrenamiento incremental por lotes, con el objetivo de lograr un algoritmo más versátil y de mayor capacidad de representación; obteniendo resultados satisfactorios y acompañando estos apartados con un estudio de la eficacia de estas técnicas en comparación con su versión original y otro tipo de modelos. Por último, desarrollamos también la paralelización de ciertos procesos clave del algoritmo de entrenamiento de FedHEONN, con el objetivo de reducir los tiempos globales de ejecución, a la par que se construye una API para servidor y cliente/s que proporciona los medios para su uso entre varios dispositivos conectados a la red, simulando un escenario federado realista.[Resumo]: Nos últimos anos os modelos de Intelixencia Artificial (IA) aumentaron de tamaño en pasos axigantados, levados por uns resultados e casos de uso cada vez mellores e máis refinados; con todo, os algoritmos actuais destes modelos céntranse, como único obxectivo, en conseguir a máxima eficacia na resolución do problema asignado, pero non teñen en conta a eficiencia enerxética do modelo conxunto. Comprobouse que estes modelos, e a infraestrutura necesaria para eles, teñen un impacto moi importante no consumo de recursos eléctricos e hídricos, polo que é necesario incluír este enfoque no seu desenvolvemento e reducir tales impactos. Unha formulación recente na IA é a chamada Aprendizaxe Federada, que permite adestrar modelos de maneira colaborativa en múltiples dispositivos sen necesidade de centralizar os seus datos e preservando a súa privacidade. Dita técnica preséntase como unha alternativa que resolve as desvantaxes das técnicas centralizadas correntes, que requiren grandes silos de información e un maior consumo enerxético e temporal para o seu adestramento. A Aprendizaxe Federada, doutra banda, é distribuído, eficiente e privativo por deseño, polo que é un incentivo para a converxencia das novas tecnoloxías da información como IoT e as operativas propias da Industria 4.0. Neste Traballo Final de Grao abordouse o desenvolvemento, análise e experimentación con métodos de aprendizaxe federada dende unha perspectiva verde, en sintonía coa manifestación de interese do Programa Nacional de Algoritmos Verdes [8] publicado polo Ministerio de Asuntos Económicos e Transformación Dixital [9]. Especificamente, contribuímos e melloramos o método de adestramento regularizado e encriptado para redes neuronais dunha soa capa desenvolto pola UDC en contornas federadas (FedHEONN) [12], e experimentamos coa súa implementación en dispositivos embebidos e simulados. Como tal, aplicamos un método de ensamblaxe coñecido como Random Patches ao algoritmo para contrastar o seu rendemento fronte a versión orixinal, ademais de implementar a capacidade de realizar un adestramento incremental por lotes, co obxectivo de lograr un algoritmo máis versátil e de maior capacidade de representación; obtendo resultados satisfactorios e acompañando estes apartados cun estudo da eficacia destas técnicas en comparación coa versión orixinal e outro tipo de modelos. Por último, desenvolvemos tamén a paralelización de certos procesos crave do algoritmo de adestramento de FedHEONN, co obxectivo de reducir os tempos globais de execución, á vez que se constrúe unha API para servidor e cliente/s que proporciona os medios para o seu uso entre varios dispositivos conectados á rede, simulando un escenario federado realista.[Abstract]: In recent years, Artificial Intelligence (AI) models have increased in size inmensly, boosted by increasingly better and more refined results and use cases; however, the current algorithms of these models focus, as their sole objective, on achieving maximum effectiveness in solving the assigned problem, but do not take into account the energy efficiency of the joint model. It has been found that these models, and the infrastructure required for them, have a very significant impact on the consumption of electrical and water resources, so it is necessary to include this approach in their development in order to reduce such impacts. A recent approach in AI is the so-called Federated Learning, which allows models to be trained collaboratively on multiple devices without the need to centralize their data and preserving their privacy. This technique is presented as an alternative that overcomes the disadvantages of current centralized techniques, which require large information silos and greater energy and time consumption for its training. Federated Learning, on the other hand, is distributed, efficient and privative by design, making it an incentive for the convergence of new information technologies such as IoT and Industry 4.0 operations. This Final Degree Project has addressed the development, analysis and experimentation of federated learning methods within a green perspective, in line with the manifestation of interest of the National Green Algorithms Program [8] published by the Ministry of Economic Affairs and Digital Transformation [9]. Specifically, we have contributed to and improved the regularized and encrypted training method for single-layer neural networks that has been developed by UDC in federated environments (FedHEONN) [12], and experimented with its implementation on embedded and simulated devices. As such, we have applied an ensemble method known as Random Patches to the algorithm to contrast its performance against the original version, in addition to implementing the ability to perform incremental batch training, with the aim of achieving a more versatile algorithm and greater representation capacity, obtaining satisfactory results and accompanying these sections with a study of the efficiency of these techniques compared to its original version and other types of models. Finally, we also developed the parallelization of certain key processes of the FedHEONN training algorithm, with the aim of reducing the overall execution times, while building an API for server and client/s that provides a medium for its use among several devices connected to the network, simulating a realistic federated scenario.spaOs titulares dos dereitos de propiedade intelectual autorizan a visualización do contido deste traballo a través de Internet, así como a súa reproducción, gravación en soporte informático ou impresión para o seu uso privado e/ou con fins de estudo e de investigación. En ningún caso se permite o uso lucrativo deste documento. Estos dereitos afectan tanto ó resumo do traballo como o seu contido Los titulares de los derechos de propiedad intelectual autorizan la visualización del contenido de este trabajo a través de Internet, así como su repoducción, grabación en soporte informático o impresión para su uso privado o con fines de investigación. En ningún caso se permite el uso lucrativo de este documento. Estos derechos afectan tanto al resumen del trabajo como a su contenidoAprendizaje federadoInteligencia artificialbachelor thesisopen access