Lehre: Sichere KI-Systeme
6037
Vorlesung:
Sicherheit von KI-Systemen / Security of AI-Systems
(SoSe 21)
Zeiten
Mi. 10:00 - 12:00 (wöchentlich) k.A.,
Termine am Montag, 19.07.2021 10:00 - 12:00, Montag, 27.09.2021 12:00 - 14:00, Ort: (AM) HS 10
Erster Termin
Mittwoch, 14.04.2021 10:00 - 12:00 Uhr
Beschreibung
Security of AI-systems examines how IT-Security goals (including Safety and Privacy aspects), like Integrity, Confidentiality, Reliability, and others can be defined and used for the design and operation of secure IT-systems that employ artificial intelligence technology (AI-systems). We will discuss different artificial intelligence methods (keywords: machine learning, symbolic vs. non-symbolic, neural-networks, deep-learning, unsupervised/supervised learning) to analyse which IT-Security problems could arise and where they originate from (keywords: training, training data, input-privacy, confidentiality of the algorithm or trained network, adversarial learning). For the problems identified the course will discuss potential solutions that increase the IT-Security of the AI-system itself; i.e. the security target of the course is the IT-system that employs artificial intelligence functions, not using artificial intelligence as a tool for solving security problems.
///
Sicherheit von KI-Systemen untersucht wie man IT-Sicherheitsziele (Integrität, Vertraulichkeit, Verlässlichkeit und weitere) für den Entwurf und den Betrieb von IT-Systemen mit Funktionen aus der künstlichen Intelligenz (KI) definiert, analysiert und sicherstellt. Hierbei wird jeweils auf die verschiedenen KI-Lösungsverfahren (Stichworte: machine learning, symbolic/non-symbolic, neural-networks, deep-learning, unsupervised/supervised learning) eingegangen, um dann methodisch zu analysieren welche IT-Sicherheitsziele und –probleme hierbei bestehen und woher sie stammen (Stichworte: training, training data, input-privacy, confidentiality of the algorithm or trained network, adversarial learning). Für die identifizierten
IT-Sicherheitsprobleme werden dann mögliche Lösungen diskutiert, welche die IT-Sicherheit des KI-Systems selbst erhöhen.
Voraussetzungen
Empfohlene Voraussetzungen / Recommended prerequisites
VL Advanced IT-Security
VL Privacy Enhancing Techniques
VL Advanced Topics in Data Science
VL Context Recognition Architectures
Lernorganisation
Due to the COVID-19 crisis the lecture will be "online", details will be announced via StudIP.
Literatur
Wird vom Dozenten bekannt gegeben / announced during the lecture
Hinweise zur Anrechenbarkeit
M.Sc. Informatik PO 2013: Wahlmodul im Schwerpunkt IT-Security and Reliability / compulsory elective module with a focus on IT Security and Reliability Wahlmodul im Schwerpunkt Intelligente Technische Systeme / elective module with a focus on Intelligent Technical Systems PO 2016: Modulgruppe „IT-Security and Reliability” / focus “IT-Security and Reliability”
Sonstiges
Due to the COVID-19 crisis the lecture will be "online", details will be announced via StudIP.
Ich bin damit einverstanden, dass beim Abspielen des Videos eine Verbindung zum Server von Vimeo hergestellt wird und dabei personenbezogenen Daten (z.B. Ihre IP-Adresse) übermittelt werden.
Ich bin damit einverstanden, dass beim Abspielen des Videos eine Verbindung zum Server von YouTube hergestellt wird und dabei personenbezogenen Daten (z.B. Ihre IP-Adresse) übermittelt werden.
Video anzeigen
