Identifying Data 2022/23
Subject (*) Machine Learning II Code 614G02021
Study programme
Grao en Ciencia e Enxeñaría de Datos
Descriptors Cycle Period Year Type Credits
Graduate 1st four-month period
Third Obligatory 6
Language
Spanish
Teaching method Face-to-face
Prerequisites
Department Ciencias da Computación e Tecnoloxías da Información
Coordinador
Eiras Franco, Carlos
E-mail
carlos.eiras.franco@udc.es
Lecturers
Cancela Barizo, Brais
Eiras Franco, Carlos
Fontenla Romero, Oscar
Sanchez Maroño, Noelia
E-mail
brais.cancela@udc.es
carlos.eiras.franco@udc.es
oscar.fontenla@udc.es
noelia.sanchez@udc.es
Web
General description Nesta asignatura cubriránse os métodos de aprendizaxe automática que abrangue a aprendizaxe profunda (Deep Learning). Daranse a coñecer algoritmos que solventan diversos problemas, como a clasificación, regresión, detección de anomalías e procesado de secuencias. Na vertente práctica, desenvolverase un proxecto que aplique técnicas de aprendizaxe profunda a un caso real.

Study programme competencies
Code Study programme competences
A1 CE1 - Capacidade para utilizar con destreza conceptos e métodos propios da matemática discreta, a álxebra lineal, o cálculo diferencial e integral, e a estatística e probabilidade, na resolución dos problemas propios da ciencia e enxeñaría de datos.
A3 CE3 - Capacidade para a análise de datos e a comprensión, modelado e resolución de problemas en contextos de aleatoriedade.
A24 CE24 - Comprensión e dominio dás principais técnicas básicas e avanzadas de aprendizaxe automática, incluíndo as dedicadas ao tratamento de grandes volumes de datos.
A25 CE25 - Capacidade para identificar a adecuación de cada unha das técnicas de aprendizaxe automática á resolución dun problema, incluíndo os aspectos relacionados coa súa complexidade computacional ou a súa capacidade explicativa, de acordo aos requisitos establecidos.
A26 CE26 - Coñecemento das ferramentas informáticas actuais no campo da aprendizaxe automática, e capacidade para seleccionar a máis adecuada para a resolución dun problema.
A28 CE28 - Comprensión e dominio dos fundamentos e técnicas para o procesado de datos escritos, tanto en linguaxe formal como en linguaxe natural.
B2 CB2 - Que os estudantes saiban aplicar os seus coñecementos ao seu traballo ou vocación dunha forma profesional e posúan as competencias que adoitan demostrarse por medio da elaboración e defensa de argumentos e a resolución de problemas dentro da súa área de estudo
B3 CB3 - Que os estudantes teñan a capacidade de reunir e interpretar datos relevantes (normalmente dentro da súa área de estudo) para emitir xuízos que inclúan unha reflexión sobre temas relevantes de índole social, científica ou ética
B7 CG2 - Elaborar adecuadamente e con certa orixinalidade composicións escritas ou argumentos motivados, redactar plans, proxectos de traballo, artigos científicos e formular hipóteses razoables.
B8 CG3 - Ser capaz de manter e estender formulacións teóricas fundadas para permitir a introdución e explotación de tecnoloxías novas e avanzadas no campo.
B9 CG4 - Capacidade para abordar con éxito todas as etapas dun proxecto de datos: exploración previa dos datos, preprocesado, análise, visualización e comunicación de resultados.
B10 CG5 - Ser capaz de traballar en equipo, especialmente de carácter multidisciplinar, e ser hábiles na xestión do tempo, persoas e toma de decisións.
C1 CT1 - Utilizar as ferramentas básicas das tecnoloxías da información e as comunicacións (TIC) necesarias para o exercicio da súa profesión e para a aprendizaxe ao longo da súa vida.
C4 CT4 - Valorar a importancia que ten a investigación, a innovación e o desenvolvemento tecnolóxico no avance socioeconómico e cultural da sociedade.

Learning aims
Learning outcomes Study programme competences
Coñecer as técnicas de aprendizaxe profunda A1
A3
A24
A28
B2
B3
B7
B8
B9
B10
C1
C4
Identificar as técnicas axeitadas de análise de datos segundo o problema A24
A25
A26
B2
B3
B7
Manexar as ferramentas e contornas de traballo máis actuais no ámbito da aprendizaxe automática A24
A26
A28
C4

Contents
Topic Sub-topic
Introducción ¿Por qué Deep Learning?
Redes profundas con alimentación hacia diante Teorema de aproximación universal das redes de neuronas.
Problema do desvanecimiento/explosión do gradiente.
Funcións de activación: funcións ReLU.
Aprendizaxe basada en gradiente.
Regularización para redes profundas Términos de penalización baseados na norma dos parámetros
Dropout
Batch Normalization
Aumentación de datos
Métodos de optimización para o adestramento de modelos profundos Descenso de gradiente estocástico (SGD)
Descenso de gradiente estocástico con Momentum
Algoritmos con paso de aprendizaxe adaptativo
Métodos de aprendizaxe de segundo orden
Estratexias de inicialización dos parámetros
Redes convolucionais Capas de convolución
Capas de Pooling
Arquitecturas
Transfer learning con redes preadestradas
Residual neural networks (ResNet) Dense Networks
Redes recurrentes Redes LSTM
Redes GRU
Autoencoders Autoenconders convolucionais
Denoising Autoencoders
Modelos probabilísticos/gráficos Redes bayesianas
Modelos de Markov
Redes de crenza profundas (Deep Belief Networks)
Aspectos avanzados da aprendizaxe profunda Attention models
Modelos xenerativos profundos
AutoML

Planning
Methodologies / tests Competencies Ordinary class hours Student’s personal work hours Total hours
ICT practicals A24 A25 A26 A28 B3 B10 C1 16 16 32
Supervised projects A16 A24 A25 A26 A1 A3 B2 B3 B7 B9 B10 C1 5 25 30
Objective test A24 A25 A1 A3 B7 3 21 24
Guest lecture / keynote speech A24 A25 A26 A1 A3 B2 B3 B8 C4 21 42 63
 
Personalized attention 1 0 1
 
(*)The information in the planning table is for guidance only and does not take into account the heterogeneity of the students.

Methodologies
Methodologies Description
ICT practicals Resolución de problemas prácticos mediante o uso das distintas técnicas que se explicarán nas clases de teoría
Supervised projects Elaboración, coa supervisión do profesor, dun proxecto no que se apliquen as técnicas aprendidas na asignatura para desenvolver un proxecto de análise de datos con aprendizaxe automática
Objective test Proba de avaliación escrita na que a/o estudante deberá demostrar os coñecementos adquiridos na asignatura
Guest lecture / keynote speech Impartición teórica da materia da asignatura. Alternaranse a exposición de novos conceptos teóricos coa revisión de exemplos e a resolución de exercicios

Personalized attention
Methodologies
ICT practicals
Supervised projects
Description
O profesor guiará o proceso de resolución dos problemas e solventará as dúbidas que xurdan no desenvolvemento.

A resolución de dúbidas e consultas farase nas horas de clase ou nas establecidas como titorías de cada profesor.

Assessment
Methodologies Competencies Description Qualification
ICT practicals A24 A25 A26 A28 B3 B10 C1 Esta parte corresponderase coa avaliación continua das prácticas. Na avaliación terase en conta a completitude dos traballos realizados durante as horas presencias, así como a sua entrega en tempo e forma e os coñecementos adquiridos. 15
Supervised projects A16 A24 A25 A26 A1 A3 B2 B3 B7 B9 B10 C1 Os alumnos deberán confeccionar e entregar proxectos de análise de datos sobre problema reais aplicando as técnicas de aprendizaxe automática aprendidas na asignatura. Os devanditos proxectos deberán ir acompañados dunha memoria na que se explique a solución proposta e se xustifiquen as decisións de diseño tomadas. 35
Objective test A24 A25 A1 A3 B7 No período de avaliación realizarase unha proba de coñecimientos teóricos e de resolución de problemas prácticos para avaliar a adquisición das competencias por parte do alumno. 50
 
Assessment comments
O alumno deberá obter unha nota mínima de 4 sobre 10 puntos na proba obxectiva e unha nota mínima de 4 sobre 10 nos traballos tutelados. Se non se acada esta nota mínima nalgún dos dous ditos apartados, a nota da materia será a menor das dúas. Satisfeitos estes requisitos, deberase acadar unha nota mínima de 5 no global da asignatura para superala.

As entregas correspondentes a tódolos traballos tutelados nas datas indicadas é obrigatoria para aprobar a materia.

Un/unha estudante considerarase presentado/a nunha convocatoria se fai a entrega dos traballos tutelados ou se se presenta á proba obxectiva.
 
O traballo entregado deberá ser orixinal do alumno. De acordo ao artigo 14, apartado 4, da normativa*, a entrega de traballos non orixinais ou con partes duplicadas (sexa por copias entre compañeiros ou por obtención doutras fontes...) levará unha nota global de SUSPENSO na convocatoria correspondente, tanto para o/a estudante que presente material copiado como a quen o facilitase.

* Normativa de avaliación, revisión e reclamación das cualificacións dos estudos de grao e máster universitario, aprobada polo Consello de Goberno da Universidade da Coruña o 19 de decembro de 2013.

Sobre a responsabilidade compartida dos traballos en grupo. 
Nas actividades que se levan a cabo en grupos, tales como os traballos tutelados, todos os membros do grupo serán responsables solidarios do traballo realizado e entregado, así como das consecuencias que se deriven do incumprimento das normas de autoría do mesmo. 

Segunda oportunidade e convocatorias posteriores
Na segunda oportunidade, mantense a nota obtida nos traballos tutelados. Aqueles/as estudantes que teñan que incorrer a esta oportunidade deberán realizar a proba obxectiva cos mesmos criterios de avaliación que na primeira oportunidade. Opcionalmente, con respecto ás prácticas, habilitarase unha entrega adicional para un traballo. A cualificación deste traballo substituirá a nota dos traballos tutelados da primeira oportunidade. A entrega dun novo traballo implica a perda da cualificación anterior independentemente de que esta fora superior. A parte correspondente ás prácticas de laboratorio non se poderá recuperar xa que son froito da avaliación continua do traballo durante os créditos da materia.

No caso de suspender a asignatura, os traballos tutelados con nota igual ou superior a 5 gardaranse para o curso posterior con calificación de aprobado (5). En cada curso, o alumno terá a opción de entregar unha nova práctica que sustituiría a nota da anterior. Os traballos non se gardarán máis de un curso.

Matrícula con dispensa académica
No caso dos alumnos con matrícula con dispensa académica os traballos tutelados deberán entregarse nas datas establecidas. É responsabilidade destes/as estudantes poñer en coñecimento do profesor a súa circunstancia.

Titorías
A maiores, as titorias considéranse unha parte importante dentro do desenvolvemento da asignatura. Están orientadas de tal maneira que os/as estudantes teñan e/ou poidan consultar distintas cuestións como: 
1. Posibilidades de desenvolvemento profesional 
2. Problemas no desenvolvemento das prácticas 
3. Maneiras de enfocar/organizar as prácticas 
4. Resolución de dubidas sobre as cuestións teóricas 

Debido a configuración baseada na non presencialidade das mesmas por parte dos centros, pedirase ós/ás estudantes que soliciten cita ós profesores responsables para realizar videochamadas por Teams dentro dos horarios de titorías do profesorado establecidos en espazos.udc.es.

Sources of information
Basic Ian Goodfellow, Yoshua Bengio, Aaron Courville (2016). Deep Learning. MIT Press
François Chollet (2018). Deep Learning with Python. Manning Publications
Daphne Koller, Nir Friedman (2009). Probabilistic Graphical Models Principles and Techniques. MIT Press

Complementary Aston Zhang, Zachary C. Lipton, Mu Li, Alexander J. Smola (2021). Dive in Deep Learning . Ebook
Eugene Charniak (2019). Introduction to Deep Learning. A project-based guide to the basics of deep learning. MIT Press

O libro Dive in Deep Learning pódese obter gratuitamente en http://d2l.ai/


Recommendations
Subjects that it is recommended to have taken before
Machine Learning I/614G02019
Linear Algebra/614G02001
Multivariable Calculus /614G02006
Probability and Basic Statistics/614G02003

Subjects that are recommended to be taken simultaneously

Subjects that continue the syllabus
Machine Learning III/614G02026
Image, Video and Audio Processing/614G02028
Natural Language Processing and Text Mining/614G02043

Other comments


(*)The teaching guide is the document in which the URV publishes the information about all its courses. It is a public document and cannot be modified. Only in exceptional cases can it be revised by the competent agent or duly revised so that it is in line with current legislation.