Title:
|
Incremental class representation learning for face recognition
|
Author:
|
Presas Valga, Eric
|
Other authors:
|
Sayrol Clols, Elisa; Morros Rubió, Josep Ramon |
Abstract:
|
Image classification is one of the most active challenging problems in computer vision field. Taking this to Deep Neural Networks with systems that are able to deal with large data sets as it can be ImageNet. Large Convolutional Networks as VGG-16 used in this work have recently demonstrated impressive classification performances. This work is focused on novel techniques for Incremental Learning stages for face recognition, which is an important open problem in artificial intelligence. The main challenge of this work is the development of incrementally learning systems that learn about more and more concepts over time. Most of the actual methods that use incremental learning in "online" or "offline" stages. This thesis focuses on "offline" incremental stages where the data available is distributed in batches of classes. Since the necessity to deal with a continuous training stages, some well-established methods for transfer learning are applied by the author to run the experiments. Preserving knowledge is the most challenge task to deal using incremental learning techniques. The actual research is on apply incremental learning in natural systems where for example, it is not considered to store all the old training data to make a new model when new data comes available. Another interesting concept for incremental learning systems is "lifelong" learning, which are related to the methods analyzed in this work since the system proposed also learn from a sequence of different tasks. The similarity of multi-task learning and "lifelong" learning is that they both use shared information across tasks to help learning, but also, multi-task learning is not able to grow the number of tasks over time preserving the knowledge. |
Abstract:
|
La clasificación de imágenes es una de las tareas más desafiantes en el campo de la visión por computador. Llevando esto al campo de las redes neuronales profundas utilizando sistemas que son capaces de gestionar datasets considerablemente grandes como puede ser ImageNet. Grandes redes convolucionales cómo puede ser VGG-16, que és la que se utilizarà en este trabajo, han demostrado muy buenos resultados. Este trabajo està focalizado en nuevas técnicas para aprendizaje incremental para el reconocimiento de caras, que \'{e}s un importante problema abierto en la inteligencia artificial. El mayor reto en este trabajo consiste en desarrollar dos sistemas incrementales que aprenden más conceptos a medida que pasa el tiempo. Muchos de estos métodos que utilizan el aprendizaje incremental en escenarios como "online" o "offline". Este trabajo está focalizado sobre todo en los sistemas incrementales que utilizan "offline" como método incremental de aprendizaje donde los datos son proporcionados por conjuntos separados de classes. Hay una necesidad clara de gestionar escenarios de aprendizaje continuo, y es por este motivo que métodos de transferencia de aprendizaje han estado estudiados y implementados por el autor del proyecto para tal de llevar a cabo la ejecución de experimentos. Una de las tascas más desafiantes es cómo gestionar y preservar el conocimiento obtenido para no olvidar. Cuando se habla de aprendizaje incremental, muchas veces va relacionado con el concepto de sistemas naturales donde por ejemplo, no esté contemplada la opci\'{o}n todas las muestras para el conocimiento adquirido para un futuro entrenamiento cuando haya clases disponibles para hacerlo. En cambio, el aprendizaje "online", se diferencia del "offline" durante el proceso de entrenamiento. Dónde se encarga de aprender de forma eficiente con datos que llegan de una forma incremental pero siempre corresponden a las mismas clases, dicho de otro modo, los sistemas que utilizan el aprendizaje "online" en la mayoría de trabajos propuestos, no se encargan de incrementar el nombre de clases. Otro concepto interesante para los sistemas de aprendizaje incremental es lo que se llama aprendizaje "lifelong", que también está relacionado con los métodos analizados en este trabajo, ya que el sistema propuesto también aprende de una secuencia de tascas distintas. También hay una similitud entre el aprendizaje para múltiples tascas y el aprendizaje "lifelong", que es que los dos métodos utilizan información compartida entre tascas para ayudar en el aprendizaje, de todas formas, los sistemas de aprendizaje para múltiples tascas tampoco puede augmentar el nombre de clases. |
Abstract:
|
La classificació d'imatges és una de les tasques més desafiants en el camp de la visi\'{o} per a computadors. Portant això al camp de les xarxes neuronals profundes utilitzant sistemes que s\'{o}n capa\c{c}os de gestionar datasets considerablement grans, com pot ser el de ImageNet. Grans xarxes convolucionals com pot ser VGG-16, que \'{e}s la que s'utilitzarà en aquest treball i que ha demostrat molt bons resultats. Aquest treball està focalitzat en noves tàcniques per aprenentatge incremental per al reconeixament de cares, que és un important problema obert en la inteligència artificial. El major repte en aquest treball és desenvolupar dos sistemes incrementals que aprenen més conceptes durant el temps. Molts dels actuals mètodes que utilitzen l'aprenentatje incrmental en escenaris com "online" o "offline". Aquest treball està focalitzat sobretot en els sistemes incrementals que utilitzen "offline" com a mètode incremental d'aprenentatge on les dades són proporcionades per conjunts de classes, on cada conjunt apareix en un moment diferent. Hi ha una necessitat per a gestionar amb escenaris d'aprenentatge continuu, i \'{e}s per això que mètodes de tranferència d'aprenentatje serán estudiats i implementats per l'autor del projecte per tal d'executar els experiments. Una de les tasques més desafiants és com gestionar i preservar el coneixament obtingut per tal de no oblidar. Quan es parla de aprenentatje incremental, molts cops està relacionat amb el concepte de sistemes naturals on per exemple, no està contemplada la possibilitat de guardar totes les mostres del coneixament adquirit per a un futur entrenament quan hi hagin noves classes disponibles. D'altra banda, l'aprenentatge "online" es diferencia del "offline" durant el procés d'entrenament. On s'encarrega d'apendre de forma eficient amb dades que arriben de forma incremental però sempre per les mateixes tasques, dit d'altre forma, els sistemes que utilitzen l'aprenentatge "online" en la majoria de treballs proposats, no s'encarreguen d'incrementar el nombre de classes. Un altre concepte interessant per als sistemes d'aprenentatge incremental és el que se'n diu aprenentatge lifelong, que també està relacionat amb els mètodes analitzats en aquest treball, ja que el sistema proposat també aprèn d'una seqüència de tasques diferents. També hi ha una similaritat entre l'aprenentatge per múltiples tasques i l'aprenentatge "lifelong", que és que els dos utilitzen informació compartida entre tasques per ajudar en l'aprenentatge, de totes formes, els sistemes d'aprenentatge per a múltiples tasques tampoc poden augmentar el nombre de classes. |
Subject(s):
|
-Àrees temàtiques de la UPC::Enginyeria de la telecomunicació -Machine learning -Robot vision -Computer vision -Deep Learning -Incremental Learning -Computer Vision -Aprenentatge automàtic -Visió artificial (Robòtica) -Visió per ordinador |
Rights:
|
S'autoritza la difusió de l'obra mitjançant la llicència Creative Commons o similar 'Reconeixement-NoComercial- SenseObraDerivada'
http://creativecommons.org/licenses/by-nc-nd/3.0/es/ |
Document type:
|
Bachelor Thesis |
Published by:
|
Universitat Politècnica de Catalunya
|
Share:
|
|