Wierk - Wydział Informatyki, Elektroniczne Ramy Kwalifikacji

Karta Przedmiotu

Politechnika Białostocka									Wydział Informatyki
Kierunek studiów		Data Science							Poziom i forma studiów				pierwszego stopnia stacjonarne
Grupa przedmiotów / specjalność									Profil kształcenia				ogólnoakademicki
Nazwa przedmiotu		Uczenie głębokie						E	Kod przedmiotu				DS1S5UGL
Nazwa przedmiotu		Uczenie głębokie						E	Rodzaj zajęć				obowiązkowy
Formy zajęć i liczba godzin		W	Ć	L	P	Ps	T	S	Semestr				5
Formy zajęć i liczba godzin		30				30			Punkty ECTS				5
Program obowiązuje od											2025/2026
Przedmioty wprowadzające		Uczenie maszynowe 2 (DS1S4UM2),
Cele przedmiotu		Przekazanie zaawansowanej wiedzy z zakresu uczenia głębokiego (ang. deep learning), architektur sieci neuronowych i ich zastosowań. Rozwój praktycznych umiejętności projektowania, implementacji i optymalizacji systemów deep learning w rzeczywistych zastosowaniach. Odniesienia do frameworka edukacyjnego mikrokompetencji SFIA: Machine Learning (MLNG) - poziom 3: implementacja i dostrajanie modeli uczenia maszynowego Data Science (DATS) - poziom 3: ocena i porównywanie modeli, interpretacja wyników Data Engineering (DENG) - poziom 2: przygotowanie i przetwarzanie danych dla modeli ML Programming/Software Development (PROG) - poziom 2: implementacja algorytmów i modeli
Ramowe treści programowe		Podstawy głębokich sieci neuronowych. Sieci konwolucyjne. Rekurencyjne sieci neuronowe. Zaawansowane modele sieci. Techniki optymalizacji modeli głębokich. Dwukierunkowe rekurencyjne sieci neuronowe. Architektury generatywne. Kontrola procesu generacji. Generatywne modele głębokie. Zaawansowane techniki treningu. Zaawansowane techniki treningu. Architektury typu transformer. Wdrożenia produkcyjne modeli deep learning. Kompresja i kwantyzacja modeli.
Inne informacje o przedmiocie		przedmiot ma związek z prowadzoną na Uczelni działalnością naukową
Wyliczenie:		Nakład pracy studenta związany z:											Godzin ogółem	W tym kontaktowych	W tym praktycznych
		udziałem w wykładach											30	30
		udziałem w innych formach zajęć											30	30	30
		indywidualnym wsparciem merytorycznym procesu uczenia się, udziałem w egzaminie i zaliczeniach organizowanych poza planem zajęć											4	4
		przygotowaniem do egzaminu											10
		przygotowaniem do bieżących zajęć											51		51
										Razem godzin:			125	64	81
										Razem punktów ECTS:			5	2.6	3.2
Zakładane kierunkowe efekty uczenia się													Wiedza	Umiejętności	Kompetencje społeczne
													DS1_W03	DS1_U06
													DS1_W07	DS1_U08
													DS1_W09	DS1_U09
													DS1_W16	DS1_U17
														DS1_U19
Cele i treści ramowe sformułował(a)			dr hab. inż. Małgorzata Krętowska										Data:		29/05/2025
Realizacja w roku akademickim								2027/2028
Treści programowe
		Wykład
		1.	Wprowadzenie do uczenia głębokiego.
		2.	Rekurencyjne sieci neuronowe. Modele z pamięcią długoterminową (LSTM) i jednostka rekurencyjna bramkowana (GRU).
		3.	Dwukierunkowe rekurencyjne sieci neuronowe (Bidirectional RNN).
		4.	Architektury transformer. Mechanizy samodzielnego zwracania uwagi (self-attention) i multi-head attention.
		5.	Deep learning w przetwarzaniu języka naturalnego: positional encoding, architektura encoder-decoder.
		6.	Generatywne modele głębokie (Generative Deep Learning, GAN, VAE).
		7.	Modele dyfuzji (diffusion models). Architektury generatywne. Kontrola procesu generacji.
		8.	Zaawansowane techniki treningu. Regularyzacja, normalizacja, inicjalizacja.
		9.	Techniki optymalizacji. Learning rate scheduling.
		10.	Interpretacja modeli głębokich. Techniki wizualizacji modeli.
		11.	Attribution methods. Metody ataków adwersarialnych (adversarial attacks) i sposoby zabezpieczania się.
		12.	Wdrożenia produkcyjne modeli deep learning. Kompresja modeli.
		13.	Kwantyzacja modeli.
		14.	Optymalizacja wdrożeń produkcyjnych.
		15.	Monitorowanie wdrożonych modeli.
		Pracownia specjalistyczna
		1.	Implementacja podstawowych architektur: sieci feed-forward; CNN; transfer learning.
		2.	Implementacja RNN/LSTM.
		3.	Transformery.
		4.	Transformery.
		5.	Zaawansowane architektury: architektury generatywne.
		6.	Optymalizacja modeli: techniki treningu; regularyzacja; fine-tuning.
		7.	Optymalizacja modeli: techniki treningu; regularyzacja; fine-tuning.
		8.	Wdrażanie modeli: kompresja; kwantyzacja; optymalizacja inferencji.
		9.	Wdrażanie modeli: kompresja; kwantyzacja; optymalizacja inferencji.
		10.	Projekt końcowy: implementacja zaawansowanego systemu deep learning; optymalizacja i wdrożenie.
		11.	Projekt końcowy: implementacja zaawansowanego systemu deep learning; optymalizacja i wdrożenie.
		12.	Projekt końcowy: implementacja zaawansowanego systemu deep learning; optymalizacja i wdrożenie.
		13.	Projekt końcowy: implementacja zaawansowanego systemu deep learning; optymalizacja i wdrożenie.
		14.	Projekt końcowy: implementacja zaawansowanego systemu deep learning; optymalizacja i wdrożenie.
		15.	Zaliczenie zajęć.
Metody dydaktyczne (realizacja stacjonarna)
		W	wykład problemowy; wykład konwersatoryjny; wykład z prezentacją multimedialną
		Ps	zadania projektowe w grupach; projekt końcowy; dyskusja rozwiązań
Metody dydaktyczne (realizacja zdalna)
		W	wykład problemowy; wykład konwersatoryjny; wykład z prezentacją multimedialną
		-
Forma zaliczenia
		W	egzamin pisemny z pytaniami otwartymi
		Ps	opracowanie zadań projektowych realizowanych w grupach
Warunki zaliczenia
		W	Uzyskanie min. 30% z każdego E1-E2, a po spełnieniu tego warunku ostateczna ocena wynika z sumy uzyskanych punktów. Kryteria oceny: [ 0 – 50]% punktów – 2.0 (50 – 60]% punktów – 3.0 (60 – 70]% punktów – 3.5 (70 – 80]% punktów – 4.0 (80 – 90]% punktów – 4.5 (90 – 100]% punktów – 5.0
		Ps	Uzyskanie min. 30% z każdego E3-E4, a po spełnieniu tego warunku ostateczna ocena wynika z sumy uzyskanych punktów. Kryteria oceny: [ 0 – 50]% punktów – 2.0 (50 – 60]% punktów – 3.0 (60 – 70]% punktów – 3.5 (70 – 80]% punktów – 4.0 (80 – 90]% punktów – 4.5 (90 – 100]% punktów – 5.0
Symbol efektu		Zakładane efekty uczenia się											Odniesienie do efektów uczenia się zdefiniowanych dla kierunku studiów
Symbol efektu		Zakładane efekty uczenia się											Wiedza	Umiejętności	Kompetencje społeczne
	Wiedza: student zna i rozumie
E1		zaawansowane architektury i metody deep learning											DS1_W03 DS1_W07 DS1_W09 DS1_W16
E2		zasady projektowania i optymalizacji głębokich sieci neuronowych											DS1_W09 DS1_W16
	Umiejętności: student potrafi
E3		projektować i implementować złożone systemy deep learning												DS1_U06 DS1_U08 DS1_U09 DS1_U17 DS1_U19
E4		optymalizować proces uczenia i wdrażania modeli												DS1_U09 DS1_U17 DS1_U19
Symbol efektu		Sposób weryfikacji efektu uczenia się										Forma zajęć na której zachodzi weryfikacja
E1		egzamin pisemny										W
E2		egzamin pisemny										W
E3		ocena sprawozdania i projektu										Ps
E4		ocena sprawozdania i projektu										Ps
Literatura podstawowa
		1.	I. Goodfellow., Y. Bengio, A. Courville, Deep Learning, MIT Press, 2016
		2.	S.J. Prince, Understanding Deep Learning, Cambridge University Press, 2023
		3.	F. Chollet, Deep Learning with Python, Manning, 2017
		4.	J. M. Tomczak, Deep Generative Models, Springer, 2022
		5.	C. Molnar, Interpretable Machine Learning, Independently Published, 2020
Literatura uzupełniająca
		1.	A. Géron, Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow, O'Reilly Media, 2019
		.	-
Koordynator przedmiotu:		dr hab. Marek J. Drużdżel, dr hab. inż. Jacek Grekow, dr hab. inż. Małgorzata Krętowska, dr inż. Urszula Kużelewska, dr inż. Tomasz Łukaszuk											Data:		03/03/2025