Przekazanie wiedzy o etycznych aspektach systemów AI i zarządzaniu danymi, z uwzględnieniem regulacji prawnych i dobrych praktyk branżowych. Rozwój umiejętności identyfikacji i rozwiązywania problemów etycznych w projektach oraz systemach AI oraz implementacji systemów zarządzania danymi.

Odniesienia do frameworka edukacyjnego mikrokompetencji SFIA:
AI and Data Ethics (AIDE) - poziom 4: identyfikacja i rozwiązywanie problemów etycznych w AI, promowanie etycznego podejścia
Governance (GOVN) - poziom 4: projektowanie i wdrażanie systemów zarządzania AI i danymi
Information Security (SCTY) - poziom 3: implementacja zasad bezpieczeństwa i prywatności danych
Data Management (DATM) - poziom 3: zarządzanie jakością danych i metadanymi
Risk Management (BURM) - poziom 3: identyfikacja i zarządzanie ryzykiem w systemach AI

Podstawy etyki w kontekście sztucznej inteligencji i zarządzania danymi. Problematyka stronniczości algorytmów, prywatności danych oraz transparentności systemów AI. Standardy i frameworki zarządcze dla systemów AI i danych, w tym ISO 42001 i ISO 38505. Zarządzanie jakością danych i metadanymi. Powiązania między ESG a systemami AI. Społeczne aspekty rozwoju sztucznej inteligencji, w tym wpływ na rynek pracy i wykluczenie cyfrowe. Regulacje prawne oraz dobre praktyki branżowe.
Praktyczne wdrażanie ram etycznych i standardów zarządzania w organizacjach. Analiza i audyt systemów AI pod kątem etycznym. Projektowanie rozwiązań zgodnych z zasadą privacy by design. Implementacja systemów zarządzania AI i danymi zgodnych ze standardami. Tworzenie polityk i procedur zarządczych.

Wykład:
1. Podstawy etyki AI. Odpowiedzialność algorytmiczna. Wartości w systemach AI. Etyczne frameworks dla AI
2. Stronniczość algorytmów (bias i fairness) w AI. Źródła i typy bias. Metody detekcji i minimalizacji bias. Audyt algorytmów i testy w trakcie trenowania modelu
3. Prywatność i ochrona danych. GDPR i inne regulacje. Dane osobowe w systemach AI oraz procesie uczenia i działania. Podejście „privacy by design”
4. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce
5. Standardy i frameworki zarządcze, których celem jest podniesienie jakości oprogramowania, systemów AI oraz jakości danych. Bezpieczeństwo informacji i rozwiązania chmurowe - rodzina standardów ISO 27XXX
6. Zarządzanie danymi i ich jakością jako podejście data governance. Zarządzanie metadanymi (metadata management). Pochodzenie danych i dekodowanie pochodzenia danych (data lineage). Obszar data privacy
7. Standard systemu zarządzania sztuczną inteligencją ISO 42001. Wymagania i wytyczne dotyczące ustanawiania, wdrażania, utrzymywania i ulepszania systemów zarządzania sztuczną inteligencją (4h)
8. Zarządzanie danymi w kontekście technologii IT. Standard ISO 38505. Strategie i polityki zarządzania danymi zgodne ze standardami i ramami najlepszych praktyk. ESG a systemy AI. Governance w AI. Podejście w modelu governance. Zarządzanie ryzykiem i incydentami. Audyt systemów AI. Standardy i certyfikacje
9. Etyka w specyficznych domenach AI. Etyka wielkich modeli językowych (LLM). Etyka systemów wizji komputerowej (computer vision). Etyka systemów autonomicznych (autonomous systems ethics)
10. Społeczny wpływ AI. Cyfrowe wykluczenie (digital divide). Wpływ na rynek pracy. Zrównoważony rozwój w obszarze systemów AI. Odpowiedzialny rozwój AI. Zaliczenie wykładu

Pracownia specjalistyczna:
1. Analiza porównawcza istniejących ram zarządzania AI (np. IBM AI Ethics, Google Responsible AI, EU AI Act)
2. Wyjaśnialność AI - metody i narzędzia: Implementacja i analiza porównawcza metod XAI (LIME, SHAP, Integrated Gradients)
3. Tworzenie dokumentacji modelu (Model Card) zgodnie z praktykami wyjaśnialnej AI
4. Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych
5. Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych (4h)
6. Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych (4h)
7. Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych
8. Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych
9. Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych
10. Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych. Zaliczenie pracowni

programowanie z użyciem komputera,   wykład z prezentacją multimedialną,   praca w grupach,   dyskusja panelowa,  

Wykład: zaliczenie pisemne z pytaniami testowymi
Pracownia specjalistyczna: ocena zrealizowanych zadań

1. J. Reis, M. Housley, Inżynieria danych w praktyce: kluczowe koncepcje i najlepsze technologie, Helion, Gliwice, 2023
2. D. Stephenson, Big Data, nauka o danych i AI bez tajemnic: podejmuj lepsze decyzje i rozwijaj swój biznes!, Helion, Gliwice, 2020
3. D. Vaughan, Umiejętności analityczne w pracy z danymi i sztuczną inteligencją: wykorzystywanie najnowszych technologii w rozwijaniu przedsiębiorstwa, Helion, Gliwice, 2021.
4. J. Schaich Borg, V. Conitzer , W. Sinnott-Armstrong, Moralna AI: czy bać się sztucznej inteligencji, Prószyński i S-ka, Warszawa, 2024
5. R. V. Yampolskiy (red.), Sztuczna inteligencja: bezpieczeństwo i zabezpieczenia, Wydawnictwo Naukowe PWN, Warszawa, 2020

1. H. Lee, I. Sohn, Big Data w przemyśle: jak wykorzystać analizę danych do optymalizacji kosztów procesów?, Wydawnictwo Naukowe PWN, Warszawa, 2016
2. H. Fry, Hello World: being human in the age of algorithms, W.W. Norton & Company, New York, 2019
3. B. Gontar (red.), Zarządzanie danymi w organizacji, Wydawnictwo Uniwersytetu Łódzkiego, Łódź, 2019