Karta Przedmiotu
| Politechnika Białostocka | Wydział Informatyki | ||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Kierunek studiów | Data Science |
Poziom i forma studiów |
pierwszego stopnia stacjonarne |
||||||||||||||||||||||||
| Grupa przedmiotów / specjalność |
Profil kształcenia | ogólnoakademicki | |||||||||||||||||||||||||
| Nazwa przedmiotu | Etyka oraz zarządzanie AI i danymi | Kod przedmiotu | DS1S7EAI | ||||||||||||||||||||||||
| Rodzaj zajęć | obowiązkowy | ||||||||||||||||||||||||||
| Formy zajęć i liczba godzin | W | Ć | L | P | Ps | T | S | Semestr | 7 | ||||||||||||||||||
| 30 | 20 | Punkty ECTS | 5 | ||||||||||||||||||||||||
| Program obowiązuje od | 2025/2026 | ||||||||||||||||||||||||||
| Przedmioty wprowadzające | |||||||||||||||||||||||||||
| Cele przedmiotu |
Przekazanie wiedzy o etycznych aspektach systemów AI i zarządzaniu danymi, z uwzględnieniem regulacji prawnych i dobrych praktyk branżowych. Rozwój umiejętności identyfikacji i rozwiązywania problemów etycznych w projektach oraz systemach AI oraz implementacji systemów zarządzania danymi. Odniesienia do frameworka edukacyjnego mikrokompetencji SFIA: AI and Data Ethics (AIDE) - poziom 4: identyfikacja i rozwiązywanie problemów etycznych w AI, promowanie etycznego podejścia Governance (GOVN) - poziom 4: projektowanie i wdrażanie systemów zarządzania AI i danymi Information Security (SCTY) - poziom 3: implementacja zasad bezpieczeństwa i prywatności danych Data Management (DATM) - poziom 3: zarządzanie jakością danych i metadanymi Risk Management (BURM) - poziom 3: identyfikacja i zarządzanie ryzykiem w systemach AI |
||||||||||||||||||||||||||
| Ramowe treści programowe |
Podstawy etyki w kontekście sztucznej inteligencji i zarządzania danymi. Problematyka stronniczości algorytmów, prywatności danych oraz transparentności systemów AI. Standardy i frameworki zarządcze dla systemów AI i danych, w tym ISO 42001 i ISO 38505. Zarządzanie jakością danych i metadanymi. Powiązania między ESG a systemami AI. Społeczne aspekty rozwoju sztucznej inteligencji, w tym wpływ na rynek pracy i wykluczenie cyfrowe. Regulacje prawne oraz dobre praktyki branżowe. Praktyczne wdrażanie ram etycznych i standardów zarządzania w organizacjach. Analiza i audyt systemów AI pod kątem etycznym. Projektowanie rozwiązań zgodnych z zasadą privacy by design. Implementacja systemów zarządzania AI i danymi zgodnych ze standardami. Tworzenie polityk i procedur zarządczych. |
||||||||||||||||||||||||||
| Inne informacje o przedmiocie | treści przedmiotu odwołują się do zasad zrównoważonego rozwoju | ||||||||||||||||||||||||||
| przedmiot ma związek z prowadzoną na Uczelni działalnością naukową | |||||||||||||||||||||||||||
| Wyliczenie: | Nakład pracy studenta związany z: | Godzin ogółem |
W tym kontaktowych |
W tym praktycznych |
|||||||||||||||||||||||
| udziałem w wykładach | 30 | 30 | |||||||||||||||||||||||||
| udziałem w innych formach zajęć | 20 | 20 | 20 | ||||||||||||||||||||||||
| indywidualnym wsparciem merytorycznym procesu uczenia się, udziałem w zaliczeniach organizowanych poza planem zajęć | 4 | 4 | |||||||||||||||||||||||||
| przygotowaniem do zaliczenia wykładu | 10 | ||||||||||||||||||||||||||
| wykonaniem projektu | 30 | 30 | |||||||||||||||||||||||||
| przygotowaniem do bieżących zajęć | 31 | 31 | |||||||||||||||||||||||||
| Razem godzin: | 125 | 54 | 81 | ||||||||||||||||||||||||
| Razem punktów ECTS: | 5 | 2.2 | 3.2 | ||||||||||||||||||||||||
| Zakładane kierunkowe efekty uczenia się | Wiedza | Umiejętności | Kompetencje społeczne |
||||||||||||||||||||||||
| DS1_W13 (H1_W03) | DS1_U12 (H1_U02) | DS1_K02 (H1_K02) | |||||||||||||||||||||||||
| DS1_W14 (H1_W02) | DS1_U10 | DS1_K03 (H1_K01) | |||||||||||||||||||||||||
| DS1_W18 (H1_W01) | DS1_U11 | DS1_K01 | |||||||||||||||||||||||||
| DS1_W11 | DS1_U15 | DS1_K05 | |||||||||||||||||||||||||
| DS1_W12 | DS1_U17 | ||||||||||||||||||||||||||
| DS1_W17 | DS1_U18 | ||||||||||||||||||||||||||
| DS1_W21 | DS1_U20 | ||||||||||||||||||||||||||
| DS1_U21 | |||||||||||||||||||||||||||
| Cele i treści ramowe sformułował(a) | - | Data: | 29/05/2025 | ||||||||||||||||||||||||
| Realizacja w roku akademickim | 2028/2029 | ||||||||||||||||||||||||||
| Treści programowe | |||||||||||||||||||||||||||
| Wykład | |||||||||||||||||||||||||||
| 1. | Podstawy etyki AI. Odpowiedzialność algorytmiczna. Wartości w systemach AI. Etyczne frameworks dla AI | ||||||||||||||||||||||||||
| 2. | Stronniczość algorytmów (bias i fairness) w AI. Źródła i typy bias. Metody detekcji i minimalizacji bias. Audyt algorytmów i testy w trakcie trenowania modelu | ||||||||||||||||||||||||||
| 3. | Prywatność i ochrona danych. GDPR i inne regulacje. Dane osobowe w systemach AI oraz procesie uczenia i działania. Podejście „privacy by design” | ||||||||||||||||||||||||||
| 4. | Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce | ||||||||||||||||||||||||||
| 5. | Standardy i frameworki zarządcze, których celem jest podniesienie jakości oprogramowania, systemów AI oraz jakości danych. Bezpieczeństwo informacji i rozwiązania chmurowe - rodzina standardów ISO 27XXX | ||||||||||||||||||||||||||
| 6. | Zarządzanie danymi i ich jakością jako podejście data governance. Zarządzanie metadanymi (metadata management). Pochodzenie danych i dekodowanie pochodzenia danych (data lineage). Obszar data privacy | ||||||||||||||||||||||||||
| 7. | Standard systemu zarządzania sztuczną inteligencją ISO 42001. Wymagania i wytyczne dotyczące ustanawiania, wdrażania, utrzymywania i ulepszania systemów zarządzania sztuczną inteligencją (4h) | ||||||||||||||||||||||||||
| 8. | Zarządzanie danymi w kontekście technologii IT. Standard ISO 38505. Strategie i polityki zarządzania danymi zgodne ze standardami i ramami najlepszych praktyk. ESG a systemy AI. Governance w AI. Podejście w modelu governance. Zarządzanie ryzykiem i incydentami. Audyt systemów AI. Standardy i certyfikacje | ||||||||||||||||||||||||||
| 9. | Etyka w specyficznych domenach AI. Etyka wielkich modeli językowych (LLM). Etyka systemów wizji komputerowej (computer vision). Etyka systemów autonomicznych (autonomous systems ethics) | ||||||||||||||||||||||||||
| 10. | Społeczny wpływ AI. Cyfrowe wykluczenie (digital divide). Wpływ na rynek pracy. Zrównoważony rozwój w obszarze systemów AI. Odpowiedzialny rozwój AI. Zaliczenie wykładu | ||||||||||||||||||||||||||
| Pracownia specjalistyczna | |||||||||||||||||||||||||||
| 1. | Analiza porównawcza istniejących ram zarządzania AI (np. IBM AI Ethics, Google Responsible AI, EU AI Act) | ||||||||||||||||||||||||||
| 2. | Wyjaśnialność AI - metody i narzędzia: Implementacja i analiza porównawcza metod XAI (LIME, SHAP, Integrated Gradients) | ||||||||||||||||||||||||||
| 3. | Tworzenie dokumentacji modelu (Model Card) zgodnie z praktykami wyjaśnialnej AI | ||||||||||||||||||||||||||
| 4. | Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych | ||||||||||||||||||||||||||
| 5. | Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych (4h) | ||||||||||||||||||||||||||
| 6. | Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych (4h) | ||||||||||||||||||||||||||
| 7. | Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych | ||||||||||||||||||||||||||
| 8. | Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych | ||||||||||||||||||||||||||
| 9. | Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych | ||||||||||||||||||||||||||
| 10. | Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych. Zaliczenie pracowni | ||||||||||||||||||||||||||
| Metody dydaktyczne (realizacja stacjonarna) |
|||||||||||||||||||||||||||
| W | wykład problemowy; wykład konwersatoryjny; wykład z prezentacją multimedialną | ||||||||||||||||||||||||||
| Ps | zadania projektowe w grupach; dyskusja rozwiązań | ||||||||||||||||||||||||||
| Metody dydaktyczne (realizacja zdalna) |
|||||||||||||||||||||||||||
| W | wykład problemowy; wykład konwersatoryjny; wykład z prezentacją multimedialną | ||||||||||||||||||||||||||
| - | |||||||||||||||||||||||||||
| Forma zaliczenia | |||||||||||||||||||||||||||
| W | zaliczenie pisemne z pytaniami testowymi | ||||||||||||||||||||||||||
| Ps | ocena zrealizowanych zadań | ||||||||||||||||||||||||||
| Warunki zaliczenia | |||||||||||||||||||||||||||
| W | Uzyskanie min. 30% z każdego E1-E3, a po spełnieniu tego warunku ostateczna ocena wynika z sumy uzyskanych punktów. Kryteria oceny: [ 0 – 50]% punktów – 2.0 (50 – 60]% punktów – 3.0 (60 – 70]% punktów – 3.5 (70 – 80]% punktów – 4.0 (80 – 90]% punktów – 4.5 (90 – 100]% punktów – 5.0 |
||||||||||||||||||||||||||
| Ps | Uzyskanie min. 30% z każdego E4-E7, a po spełnieniu tego warunku ostateczna ocena wynika z sumy uzyskanych punktów. Kryteria oceny: [ 0 – 50]% punktów – 2.0 (50 – 60]% punktów – 3.0 (60 – 70]% punktów – 3.5 (70 – 80]% punktów – 4.0 (80 – 90]% punktów – 4.5 (90 – 100]% punktów – 5.0 |
||||||||||||||||||||||||||
| Symbol efektu | Zakładane efekty uczenia się | Odniesienie do efektów uczenia się zdefiniowanych dla kierunku studiów | |||||||||||||||||||||||||
| Wiedza | Umiejętności | Kompetencje społeczne |
|||||||||||||||||||||||||
| Wiedza: student zna i rozumie | |||||||||||||||||||||||||||
| E1 | zasady etycznego rozwoju systemów AI i zarządzania danymi | ||||||||||||||||||||||||||
| E2 | regulacje i standardy dotyczące systemów AI i danych | ||||||||||||||||||||||||||
| E3 | metody implementacji frameworków (ram), standardów ISO i zasad governance dla systemów AI i danych | ||||||||||||||||||||||||||
| Umiejętności: student potrafi | |||||||||||||||||||||||||||
| E4 | identyfikować i rozwiązywać problemy etyczne w systemach AI i zarządzaniu danymi | ||||||||||||||||||||||||||
| E5 | wdrażać standardy i ramy zarządzania systemami AI i danymi w podmiotach gospodarczych i administracji | ||||||||||||||||||||||||||
| E6 | implementować zasady privacy by design | ||||||||||||||||||||||||||
| Kompetencje społeczne: student jest gotów do | |||||||||||||||||||||||||||
| E7 | gotów do promowania etycznego podejścia w rozwoju i wdrażaniu systemów AI | ||||||||||||||||||||||||||
| Symbol efektu | Sposób weryfikacji efektu uczenia się | Forma zajęć na której zachodzi weryfikacja | |||||||||||||||||||||||||
| E1 | zaliczenie pisemne | W | |||||||||||||||||||||||||
| E2 | zaliczenie pisemne | W | |||||||||||||||||||||||||
| E3 | zaliczenie pisemne | W | |||||||||||||||||||||||||
| E4 | ocena projektów realizowanych w grupach | Ps | |||||||||||||||||||||||||
| E5 | ocena projektów realizowanych w grupach | Ps | |||||||||||||||||||||||||
| E6 | ocena projektów realizowanych w grupach | Ps | |||||||||||||||||||||||||
| E7 | ocena projektów realizowanych w grupach | Ps | |||||||||||||||||||||||||
| Literatura podstawowa | |||||||||||||||||||||||||||
| 1. | J. Reis, M. Housley, Inżynieria danych w praktyce: kluczowe koncepcje i najlepsze technologie, Helion, Gliwice, 2023 | ||||||||||||||||||||||||||
| 2. | D. Stephenson, Big Data, nauka o danych i AI bez tajemnic: podejmuj lepsze decyzje i rozwijaj swój biznes!, Helion, Gliwice, 2020 | ||||||||||||||||||||||||||
| 3. | D. Vaughan, Umiejętności analityczne w pracy z danymi i sztuczną inteligencją: wykorzystywanie najnowszych technologii w rozwijaniu przedsiębiorstwa, Helion, Gliwice, 2021. | ||||||||||||||||||||||||||
| 4. | J. Schaich Borg, V. Conitzer , W. Sinnott-Armstrong, Moralna AI: czy bać się sztucznej inteligencji, Prószyński i S-ka, Warszawa, 2024 | ||||||||||||||||||||||||||
| 5. | R. V. Yampolskiy (red.), Sztuczna inteligencja: bezpieczeństwo i zabezpieczenia, Wydawnictwo Naukowe PWN, Warszawa, 2020 | ||||||||||||||||||||||||||
| Literatura uzupełniająca | |||||||||||||||||||||||||||
| 1. | H. Lee, I. Sohn, Big Data w przemyśle: jak wykorzystać analizę danych do optymalizacji kosztów procesów?, Wydawnictwo Naukowe PWN, Warszawa, 2016 | ||||||||||||||||||||||||||
| 2. | H. Fry, Hello World: being human in the age of algorithms, W.W. Norton & Company, New York, 2019 | ||||||||||||||||||||||||||
| 3. | B. Gontar (red.), Zarządzanie danymi w organizacji, Wydawnictwo Uniwersytetu Łódzkiego, Łódź, 2019 | ||||||||||||||||||||||||||
| Koordynator przedmiotu: | dr inż. Paweł Tadejko | Data: | 30/05/2025 | ||||||||||||||||||||||||