Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und „Explainable AI“ (XAI)

Organisationseinheit

Institut für Informationssicherheit und Verlässlichkeit (KASTEL)

Ihre Aufgaben

Die Forschungsgruppe „Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software und Hardware. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von künstlicher Intelligenz.

In beiden Kernbereichen der Forschungsgruppe (Sicherheit von KI und KI für IT-Sicherheit) können Methoden der erklärbaren künstlichen Intelligenz (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel:

• Erkennen und Vorbeugen von Angriffen auf Computersysteme
  • Analyse von Angriffen und Schadcode
  • Schwachstellensuche und Fuzz Testen (Fuzzing)
• Erkennung von Angriffen auf künstliche Intelligenz
  • Hintertüren in ML Modellen ("ML Backdoors")
  • Auslösen von Fehlverhalten ("Adversarial Examples")
  • Datendiebstahl ("Model Stealing" und "Membership Inference")

Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartigen Angriffen, ist vor allem die Entwicklung von robusten XAI Methoden zukünftig essentiell. Zum Beispiel:

• Eingabe- bzw. Modellmanipulationen und „Data Poisoning“
• "Fairwashing" von XAI-Ausgaben
• Zertifizierbar/ Beweisbar robuste XAI-Methoden

Wir suchen Sie für eine Promotionsstelle, um Forschung auf Spitzenniveau zu betreiben. Promovierende werden in die "KIT Graduate School Cyber Security" aufgenommen.

Darüber hinaus verfügt die Arbeitsgruppe über enge Kontakte zu nationalen und internationalen Forschungsinstituten. Wir betreiben außerdem eine eigene dedizierte Server-/Recheninfrastruktur zur Unterstützung unserer Forschung und statten unsere Mitarbeiter·innen mit der besten Hardware aus.

Eintrittstermin

zum nächstmöglichen Zeitpunkt / as soon as possible

Ihre Qualifikation

• Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet.
• Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen.
• Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Entgelt

EG 13 TV-L, sofern die fachlichen und persönlichen Voraussetzungen erfüllt sind.