Cel kształcenia i wykaz literatury

Główny cel kształcenia: Zdobycie wiedzy i umiejętności w zakresie identyfikacji, analizy i zarządzania zagrożeniami związanymi ze sztuczną inteligencją.

Ogólne informacje o zajęciach: W ramach przedmiotu studenci będą poznawać różnorodne zagrożenia związane ze sztuczną inteligencją. Omówione zostaną m.in. zasady etyki w dziedzinie, regulacje prawne, manipulacje danymi, ataki generowane przez algorytmy i ochrona przed nimi, ochrona prywatności oraz kontrola.

Wykaz literatury, wymaganej do zaliczenia zajęć

Literatura wykorzystywana podczas zajęć wykładowych

1	Ian Goodfellow, Yoshua Bengio, and Aaron Courville	Deep Learning, https://www.deeplearningbook.org/	MIT Press.	2016
2	Richard Szeliski	Computer Vision - Algorithms and Applications, https://szeliski.org/Book/	Springer-Verlag London.
3		EU artificial intelligence law, EU AI Act	https://artificialintelligenceact.eu/.	2024
4	Peter S. Park, Simon Goldstein, Aidan O'Gara, Michael Chen, Dan Hendrycks	AI Deception: A Survey of Examples, Risks, and Potential Solutions	https://arxiv.org/abs/2308.14752.	2023
5	Natali Helberger, Nicholas Diakopoulos	ChatGPT and the AI Act	Internet Policy Review, 12(1). https://doi.org/10.14763/2023.1.1682 .	2023
6	Matthew G. Gaber, Mohiuddin Ahmed, and Helge Janicke.	Malware Detection with Artificial Intelligence: A Systematic Literature Review.	ACM Comput. Surv. 56, 6, Article 148 (June 2024), 33 pages. https://doi.org/10.1145/3638552.	2024
7	Zhibo Wang, Jingjing Ma, Xue Wang, Jiahui Hu, Zhan Qin, and Kui Ren.	Threats to Training: A Survey of Poisoning Attacks and Defenses on Machine Learning Systems.	ACM Comput. Surv. 55, 7, Article 134 (July 2023), 36 pages. https://doi.org/10.1145/3538707.	2023
8	Lee, Peter, Sebastien Bubeck, and Joseph Petro	Benefits, Limits, and Risks of GPT-4 as an AI Chatbot for Medicine	New England Journal of Medicine 388.13 (2023): 1233-1239..	2023
9	De Angelis, L., Baglivo, F., Arzilli, G., Privitera, G. P., Ferragina, P., Tozzi, A. E., & Rizzo, C.	De Angelis, Luigi, et al. "ChatGPT and the rise of large language models: the new AI-driven infodemic threat in public health	Frontiers in Public Health, 11, 1166120..	2023

Literatura wykorzystywana podczas zajęć ćwiczeniowych/laboratoryjnych/innych

1	Ian Goodfellow, Yoshua Bengio, and Aaron Courville	AI Deception: A Survey of Examples, Risks, and Potential Solutions	https://arxiv.org/abs/2308.14752..
2	Zhibo Wang, Jingjing Ma, Xue Wang, Jiahui Hu, Zhan Qin, and Kui Ren.	Threats to Training: A Survey of Poisoning Attacks and Defenses on Machine Learning Systems.	ACM Comput. Surv. 55, 7, Article 134 (July 2023), 36 pages. https://doi.org/10.1145/3538707..	2023
3	Ian Goodfellow, Yoshua Bengio, and Aaron Courville	Deep Learning, https://www.deeplearningbook.org/	MIT Press..	2016

Literatura do samodzielnego studiowania

1

LI, Bo, et al.

Trustworthy ai: From principles to practices.

ACM Computing Surveys, 2023, 55.9: 1-46..

2023

Wymagania wstępne w kategorii wiedzy/umiejętności/kompetencji społecznych

Wymagania formalne: Student wpisany na 7 semestr studiów inżynierskich

Wymagania wstępne w kategorii Wiedzy: Podstawowa wiedza z zakresu metod uczenia maszynowego.

Wymagania wstępne w kategorii Umiejętności: Umiejętność programowania w języku obiektowym (Python lub C++)

Wymagania wstępne w kategorii Kompetencji społecznych: Uczciwość, komunikatywność, umiejętność radzenia sobie z emocjami i ze stresem, odpowiedzialność i szacunek do innych.

Efekty kształcenia dla zajęć

MEK	Student, który zaliczył zajęcia	Formy zajęć/metody dydaktyczne prowadzące do osiągnięcia danego efektu kształcenia	Metody weryfikacji każdego z wymienionych efektów kształcenia	Związki z KEK	Związki z PRK
01	zna podstawowe zasady etyki w dziedzinie oraz regulacje prawne.	wykład	sprawdzian pisemny	K_W06++ K_K01++	P6S_KK P6S_UU P6S_WK
02	zna podstawowe zagrożenia związane z manipulacją danymi.	wykład, laboratorium	sprawdzian pisemny	K_W03+ K_W06+ K_U03++ K_U07+	P6S_UO P6S_UW P6S_WG P6S_WK
03	zna zagadnienia związane z atakami z użyciem algorytmów sztucznej inteligencji i ochroną przed nimi oraz zagadnienia identyfikacji i zwalczania zagrożeń.	wykład, laboratorium	sprawdzian pisemny	K_W03+ K_W06+ K_U07+	P6S_UW P6S_WG P6S_WK
04	zna zagadnienia związane z uczeniem metod sztuczniej inteligencji na danych osobowych.	wykład, laboratorium	sprawdzian pisemny	K_W03+ K_W06+ K_W12++	P6S_WG P6S_WK
05	zna zagadnienia związane z kontrolą nad algorytmami sztucznej inteligencji.	wykład, laboratorium	sprawdzian pisemny	K_W03+ K_W06+ K_W12+ K_U07+	P6S_UW P6S_WG P6S_WK
06	potrafi zastosować w praktyce zagadnienia z obszaru zagrożeń związanych ze sztuczną inteligencją.	projekt zespołowy	prezentacja projektu, raport pisemny	K_W03+ K_W06+ K_U03++ K_K01+ K_K07++	P6S_KK P6S_KO P6S_UO P6S_UU P6S_WG P6S_WK

Uwaga: W zależności od sytuacji epidemicznej, jeżeli nie będzie możliwości weryfikacji osiągniętych efektów uczenia się określonych w programie studiów w sposób stacjonarny w szczególności zaliczenia i egzaminy kończące określone zajęcia będą mogły się odbywać przy użyciu środków komunikacji elektronicznej (w sposób zdalny).

Treści kształcenia dla zajęć

Sem.	TK	Treści kształcenia	Realizowane na	MEK
7	TK01	Etyka: zasady etyki w dziedzinie, odpowiedzialność za treści i przejrzystość działania, dyskryminacja i uprzedzenia, regulacje prawne, wpływ na rynek pracy.	W01	MEK01
7	TK02	Analiza dyskryminacji w algorytmach, manipulacja danymi: generowanie fałszywych treści, np. deepfakes, analiza i wykrywanie fałszywych treści; skutki społeczne i polityczne; ochrona przed dezinformacją.	W01, W02, W03, L01, L02	MEK02
7	TK03	Ataki generowane przez algorytmy sztucznej inteligencji i ochrona przed nimi, sztuczna inteligencja w identyfikacji i zwalczaniu zagrożeń, ataki adversarialne na modele.	W04, W05, L03, L04	MEK03
7	TK04	Prywatność: uczenie na danych osobowych, identyfikacja preferencji, skutki, ochrona prywatności, strategie anonimizacji danych.	W06, L05, L06	MEK04
7	TK05	Kontrola: utrata kontroli nad algorytmami sztucznej inteligencji, systemy autonomiczne i militarne, regulacje i strategie.	W07, L07	MEK05
7	TK06	Projekt z zakresu zagrożeń związanych ze sztuczną inteligencją.	Projekt	MEK06

Nakład pracy studenta

Forma zajęć	Praca przed zajęciami	Udział w zajęciach	Praca po zajęciach
Wykład (sem. 7)		Godziny kontaktowe: 15.00 godz./sem.	Uzupełnienie/studiowanie notatek: 5.00 godz./sem. Studiowanie zalecanej literatury: 15.00 godz./sem.
Laboratorium (sem. 7)	Przygotowanie do laboratorium: 5.00 godz./sem. Przygotowanie do kolokwium: 10.00 godz./sem.	Godziny kontaktowe: 15.00 godz./sem.	Dokończenia/wykonanie sprawozdania: 5.00 godz./sem.
Projekt/Seminarium (sem. 7)		Godziny kontaktowe: 15.00 godz./sem..	Wykonanie projektu/dokumentacji/raportu: 30.00 godz./sem. Przygotowanie do prezentacji: 5.00 godz./sem.
Konsultacje (sem. 7)		Udział w konsultacjach: 2.00 godz./sem.
Zaliczenie (sem. 7)	Przygotowanie do zaliczenia: 15.00 godz./sem.

Sposób wystawiania ocen składowych zajęć i oceny końcowej

Forma zajęć	Sposób wystawiania oceny podsumowującej
Wykład	Ocena z testu pisemnego.
Laboratorium	Ocena sprawozdań.
Projekt/Seminarium	Ocena uzyskana z projektu.
Ocena końcowa	Średnia ważona ocen.

Przykładowe zadania

Wymagane podczas egzaminu/zaliczenia
(-)

Realizowane podczas zajęć ćwiczeniowych/laboratoryjnych/projektowych
(-)

Inne
(-)

Czy podczas egzaminu/zaliczenia student ma możliwość korzystania z materiałów pomocniczych : nie

Treści zajęć powiazane są z prowadzonymi badaniami naukowymi: tak

1	K. Cymerys; M. Oszust	Attraction–Repulsion Optimization Algorithm for Global Optimization Problems	2024
2	M. Oszust; I. Stępień	No-Reference Image Quality Assessment of Magnetic Resonance images with multi-level and multi-model representations based on fusion of deep architectures	2023
3	M. Oszust; I. Stępień	TIQA-PSI: Toolbox for perceptual Image Quality Assessment of Pan-Sharpened Images	2023
4	M. Bielecka; A. Bielecki; R. Obuchowicz; M. Oszust; A. Piórkowski; I. Stępień	Blind image quality assessment of magnetic resonance images with statistics of local intensity extrema	2022
5	M. Oszust; D. Warchoł	Augmentation of Human Action Datasets with Suboptimal Warping and Representative Data Samples	2022
6	M. Oszust; D. Warchoł	Efficient Augmentation of Human Action Recognition Datasets with Warped Windows	2022
7	M. Oszust; D. Warchoł	Time Series Augmentation with Time-Scale Modifications and Piecewise Aggregate Approximation for Human Action Recognition	2022
8	M. Oszust; I. Stępień	A Brief Survey on No-Reference Image Quality Assessment Methods for Magnetic Resonance Images	2022
9	M. Oszust; I. Stępień	No-Reference Quality Assessment of Pan-Sharpening Images with Multi-Level Deep Image Representations	2022
10	S. Dippel; V. Grossmann; R. Kiko; R. Koch; M. Oszust; M. Pastell; L. Schmarje; J. Stracke; A. Valros; N. Volkmann; C. Zelenka	Is one annotation enough? - A data-centric image classification benchmark for noisy and ambiguous label estimation	2022
11	J. Krupski; M. Oszust	Isolated Sign Language Recognition with Depth Cameras	2021
12	K. Cymerys; M. Oszust; G. Sroka	A hybridization approach with predicted solution candidates for improving population-based optimization algorithms	2021
13	M. Oszust	Enhanced Marine Predators Algorithm with Local Escaping Operator for Global Optimization	2021
14	M. Oszust; G. Sroka	Approximation of the Constant in a Markov-Type Inequality on a Simplex Using Meta-Heuristics	2021
15	M. Oszust; M. Rajchel	No-reference image quality assessment of authentically distorted images with global and local statistics	2021
16	R. Obuchowicz; M. Oszust; A. Piórkowski; I. Stępień	Fusion of Deep Convolutional Neural Networks for No-Reference Magnetic Resonance Image Quality Assessment	2021
17	K. Kamycki; T. Kapuściński; M. Oszust	Data Augmentation with Suboptimal Warping for Time-Series Classification	2020
18	M. Bielecka; A. Bielecki; R. Obuchowicz; M. Oszust; A. Piórkowski	Magnetic resonance image quality assessment by using non-maximum suppression and entropy analysis	2020
19	R. Obuchowicz; M. Oszust; A. Piórkowski	Interobserver variability in quality assessment of magnetic resonance images	2020
20	R. Obuchowicz; M. Oszust; A. Piórkowski	No-reference image quality assessment of magnetic resonance images with high-boost filtering and local features	2020
21	M. Oszust	Członkostwo w komitecie redakcyjnym czasopisma „SIGNAL IMAGE AND VIDEO PROCESSING”	2019
22	M. Oszust	Local Feature Descriptor and Derivative Filters for Blind Image Quality Assessment	2019
23	M. Oszust	No-Reference Image Quality Assessment with Local Gradient Orientations	2019
24	M. Oszust	No-Reference quality assessment of noisy images with local features and visual saliency models	2019
25	T. Kapuściński; J. Marnik; M. Oszust; D. Warchoł; M. Wysocki	Układ wspomagający komunikowanie się osób głuchoniemych z osobami słyszącymi i sposób wspierania takiego komunikowania się	2019