Dangerous Reactivity: Why AI Output Is the New XSS

Kurzfassung

Vue-Entwickler:innen kennen eine goldene Regel: Niemals v-html auf Nutzereingaben anwenden. Diese oder eine ähnliche Regel ist auch in anderen Frameworks bekannt. Doch wenn wir Large Language Models (LLMs) in unsere Anwendungen integrieren, machen wir oft einen fatalen Fehler: Wir behandeln die Ausgabe der KI als vertrauenswürdige Quelle. Das ist doch in Ordnung, oder? Nun ja, nicht automatisch.

Werfen wir einen Blick auf OWASP LLM05 und darauf, wie „Improper Output Handling“ die Sicherheit unserer Komponenten beeinflusst. Anhand von Beispielen sehen wir, wie sichere Eingaben Modelle austricksen und Schwachstellen wie XSS und Injection-Angriffe verursachen können. Am Ende weißt Du, wie Du gegenüber KI „professionell pessimistisch“ bleibst: Du lernst, LLM-Daten zu bereinigen, Markdown sicher zu rendern und KI-generierte Inhalte im Griff zu behalten. Komm in meine Session und lass uns Technologie mit der nötigen Vorsicht angehen – ich freue mich darauf!

Folien

Aufzeichnungen