Hacking LLMs

Künstliche Intelligenz und große Sprachmodelle (LLMs) revolutionieren unsere digitale Welt – und öffnen zugleich neue Angriffsflächen. In diesem intensiven Kurs lernen Sie praxisnah, wie moderne KI-Systeme angegriffen und abgesichert werden können. Anhand realistischer Beispiele analysieren Sie Schwachstellen, führen selbst Angriffe durch und lernen, wie man robuste Gegenmaßnahmen entwickelt.

• OWASP Top 10 for LLMs and Gen AI
• Manipulation durch Sprache – Prompt Injection verstehen, durchführen und abwehren
• Unsichere Ausgabe gezielt ausnutzen – Gefährliches Vertrauen in Modellantworten erkennen
• Daten an der Quelle vergiften – Training Data Poisoning und seine weitreichenden Folgen
• Modelle außer Gefecht setzen – Denial-of-Service-Angriffe auf LLMs praktisch anwenden
• Lieferketten als Schwachstelle – Supply Chain Attacks im KI-Ökosystem
• Vertrauliche Daten entlocken – Sensitive Information Disclosure durch geschickte Prompts
• Plugins als Einfallstor – Insecure Plugin Design verstehen und absichern
• Wenn KI zu viel darf – Risiken durch Excessive Agency in autonomen Systemen
• Blindes Vertrauen vermeiden – Übermäßige Abhängigkeit (Overreliance) erkennen und reduzieren

Für Entwickler, Sicherheitsforscher, Red Team-Mitglieder und alle, die LLMs sicher einsetzen oder gezielt testen wollen. Grundkenntnisse in Python und KI sind von Vorteil, aber nicht zwingend notwendig. Ebenso willkommen sind alle, die einfach großen Spaß daran haben, moderne KI-Systeme kreativ auszutricksen und ihre Grenzen praktisch auszuloten.

Vorausgesetzt werden Neugier, technisches Interesse und keine Scheu, auch die dunklen Seiten der KI zu beleuchten. Grundkenntnisse in Python und KI sind von Vorteil, aber nicht zwingend notwendig.

Technische Grundlagen erwerben Sie in den Kursen Large Language Models – ChatGPT, Gemini, Llama & Co. oder  ChatGPT – Programmierung & Problemlösung mit KI-Unterstützung.