Przekazanie wiedzy o etycznych aspektach systemów AI i zarządzaniu danymi, z uwzględnieniem regulacji prawnych i dobrych praktyk branżowych.
Rozwój umiejętności identyfikacji i rozwiązywania problemów etycznych w projektach oraz systemach AI oraz implementacji systemów zarządzania danymi.

Odniesienia do frameworka edukacyjnego mikrokompetencji SFIA
- AI and Data Ethics (AIDE) - poziom 4: identyfikacja i rozwiązywanie problemów etycznych w AI, promowanie etycznego podejścia
- Governance (GOVN) - poziom 4: projektowanie i wdrażanie systemów zarządzania AI i danymi
- Information Security (SCTY) - poziom 3: implementacja zasad bezpieczeństwa i prywatności danych
- Data Management (DATM) - poziom 3: zarządzanie jakością danych i metadanymi
- Risk Management (BURM) - poziom 3: identyfikacja i zarządzanie ryzykiem w systemach AI

Wykład
1. Podstawy etyki AI. Odpowiedzialność algorytmiczna. Wartości w systemach AI. Etyczne frameworks dla AI
2. Stronniczość algorytmów (bias i fairness) w AI. Źródła i typy bias. Metody detekcji i minimalizacji bias. Audyt algorytmów i testy w trakcie trenowania modelu
3. Prywatność i ochrona danych. GDPR i inne regulacje. Dane osobowe w systemach AI oraz procesie uczenia i działania. Podejście „privacy by design". Techniki anonimizacji. Podejście privacy-preserving AI
4. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce
5. Transparentność i wyjaśnialność AI. Wyjaśnialne (interpretowalne) uczenie maszynowe. Prawo do wyjaśnienia. Metody XAI (Explainable AI) w praktyce
6. Standardy i frameworki zarządcze, których celem jest podniesienie jakości oprogramowania, systemów AI oraz jakości danych. Bezpieczeństwo informacji i rozwiązania chmurowe - rodzina standardów ISO 27XXX.
7. Zarządzanie danymi i ich jakością jako podejście data governance. Zarządzanie metadanymi (metadata management). Pochodzenie danych i dekodowanie pochodzenia danych (data lineage). Obszar data privacy
8. Zarządzanie danymi i ich jakością jako podejście data governance. Zarządzanie metadanymi (metadata management). Pochodzenie danych i dekodowanie pochodzenia danych (data lineage). Obszar data privacy
9. Standard systemu zarządzania sztuczną inteligencją ISO 42001. Wymagania i wytyczne dotyczące ustanawiania, wdrażania, utrzymywania i ulepszania systemów zarządzania sztuczną inteligencją
10. Zarządzanie danymi w kontekście technologii IT. Standard ISO 38505. Strategie i polityki zarządzania danymi zgodne ze standardami i ramami najlepszych praktyk
11. ESG a systemy AI. Governance w AI. Podejście w modelu governance. Zarządzanie ryzykiem i incydentami. Audyt systemów AI. Standardy i certyfikacje
12. Etyka w specyficznych domenach AI. Etyka wielkich modeli językowych (LLM). Etyka systemów wizji komputerowej (computer vision). Etyka systemów autonomicznych (autonomous systems ethics)
13. Zaliczenie wykładu

Pracownia
1. Analiza wybranych ram i standardów zarządzania AI i danymi. Studium przypadku wybranych standardów ISO (27001, 42001, 38505) (2h)
2. Analiza porównawcza istniejących ram zarządzania AI (np. IBM AI Ethics, Google Responsible AI, EU AI Act) (2h)
3. Wyjaśnialność AI - metody i narzędzia: Implementacja i analiza porównawcza metod XAI (LIME, SHAP, Integrated Gradients) (6h)
4. Przygotowanie dashboardu wyjaśnialności dla modelu klasyfikacyjnego (2h)
5. Tworzenie dokumentacji modelu (Model Card) zgodnie z praktykami wyjaśnialnej AI. (2h)
6. Data Governance - projektowanie i implementacja: Opracowanie katalogu metadanych dla systemu analitycznego. Tworzenie polityki klasyfikacji danych. (4h)
7. Projektowanie procesów data lineage (śledzenia pochodzenia danych) z wykorzystaniem narzędzi open source. Implementacja procedur zarządzania jakością danych z elementami automatyzacji. (4h)
8. Studium przypadku systemów AI z udokumentowanymi problemami fairness. (2h)
9. Fairness i bias w systemach AI: Audyt modelu ML pod kątem stronniczości z wykorzystaniem bibliotek fairness-toolbox. Implementacja metod debiasing dla modeli klasyfikacyjnych. (2h)
10. Zaliczenie pracowni

dyskusja panelowa,   burza mózgów,   dyskusja związana z wykładem,   metoda przypadków,   klasyczna metoda problemowa,   wykład konwersatoryjny,   wykład problemowy,   wykład informacyjny,  

W zaliczenie pisemne z pytaniami otwartymi
Ps opracowanie zadań projektowych realizowanych w grupach

1 Reis J., Housley M., Inżynieria danych w praktyce: kluczowe koncepcje i najlepsze technologie, Helion, Gliwice, 2023
2 Stephenson D., Big Data, nauka o danych i AI bez tajemnic: podejmuj lepsze decyzje i rozwijaj swój biznes!, Helion, Gliwice, 2020
3 Vaughan D., Umiejętności analityczne w pracy z danymi i sztuczną inteligencją: wykorzystywanie najnowszych technologii w rozwijaniu przedsiębiorstwa, Helion, Gliwice, 2021
4 Schaich Borg J., Conitzer V., Sinnott-Armstrong W., Moralna AI: czy bać się sztucznej inteligencji, Prószyński i S-ka, Warszawa, 2024
5 Yampolskiy R. V. (red.), Sztuczna inteligencja: bezpieczeństwo i zabezpieczenia, Wydawnictwo Naukowe PWN, Warszawa, 2020

1 Lee H., Sohn I., Big Data w przemyśle: jak wykorzystać analizę danych do optymalizacji kosztów procesów?, Wydawnictwo Naukowe PWN, Warszawa, 2016
2 Fry H., Hello World: being human in the age of algorithms, W.W. Norton & Company, New York, 2019
3 Gontar B. (red.), Zarządzanie danymi w organizacji, Wydawnictwo Uniwersytetu Łódzkiego, Łódź, 2019