AI Hacking

Künstlerisch-experimentelle Codes gezielt für die eigene Strategie und gegen das Funktionieren von state-of-the-art KI-Modellen einzusetzen, nennt man eine Adversarial Attack. Man hackt hierbei Künstliche Neuronale Netze, um ihre Funktionsweisen offenzulegen und neue ästhetische Erfahrungen zu generieren. Ziel ist es, die kulturellen Konsequenzen dieser Technologien zu diskutieren und neue Ansätze für ein verändertes Bewusstsein im Umgang mit Technik zu erproben.

Populär wurde die Forschung an Adversarial Attacks durch gezielte Störungen von Neuronalen Computer Vision Systeme. Szegedy et al. führten im Jahr 2014 eine so genannte “intriguing property of neural networks” ein: Das Hinzufügen eines Noise-Layers in Bildern konnte neuronale Bildklassifizierungssysteme zu einer Fehlklassifizierung verleiten, während die Bildstörung für den Menschen nicht wahrnehmbar war.

Das Seminar ist offen für alle, die schon Programmiererfahrung (egal in welcher Sprache) mitbringen. Wir arbeiten im Seminar ausschließlich mit der Programmiersprache Python. In Python zu programmieren, kann sich in dem im WS wöchentlich stattfindenden Grundlagenseminar „Plunging into Code“ angeeignet werden.

Ziel des Seminars ist es, zu lernen, sich praktisch durch die technischen Frameworks zu navigieren, so dass am Ende jede*r Studierende nicht nur die Tools und Methoden des Adversarial Hacking kennt, sondern auch dazu in der Lage ist, damit eigenständig Projekte zu entwickeln.