KI-Security und KI-Auditing: Sicherheitsrisiken und Schutzmaßnahmen für moderne KI-Systeme

Der Vortrag „KI-Security & KI-Auditing“ diskutiert die sicherheitstechnischen Herausforderungen moderner KI-Architekturen wie Retrieval Augmented Generation (RAG), Agentic RAG und autonome KI-Agenten. Während diese Technologien zunehmend in Unternehmen eingesetzt werden, bleibt ihre Absicherung oft lückenhaft.

Der Vortrag beleuchtet typische Angriffsszenarien, Schwachstellen und technische Schutzmaßnahmen. Darüber hinaus wird diskutiert, welche Implementierungsfehler zu Sicherheitsrisiken führen können. Der zweite Teil des Vortrags widmet sich der Auditierung von KI-Systemen und beleuchtet Methoden zur Erfüllung der Compliance-Anforderungen, die nach dem AI Act einzuhalten sind.

Lernziele

1. Identifizierung von Sicherheitsrisiken bei modernen KI-Systemen wie RAG,Agentic RAG und AI Agents.
2. Praxistaugliche Schutzmaßnahmen und effektive Absicherung von modernen KI-Systemen.
3. Complianceanforderungen und Auditierung von KI-Systemen.