Human Factor & KI-Awareness “KI – Freund und Feind zugleich”
Viktor del Razo aus der BITMi-Fachgruppe IT-Sicherheit ist am 21. Mai bei den it-sa IT-Security Talks und spricht um 11 Uhr zum Thema ” 11 Uhr “KI-Agenten: Zwischen treuen Begleitern und bösartigen Insidern”.
Die Vortragsagenda zu unserem IT Security Talk im Mai
09:00 – 09:30 Uhr
Human Oversight: Der Faktor Mensch in der KI-Sicherheit – Eine Strategie zur Risikominderung oder ein neuer Angriffsvektor?
Human Oversight wird als Absicherung gegen verschiedene Risiken beim Einsatz von KI-Systemen propagiert und im EU AI Act als Kernanforderung für Hochrisiko KI-Systeme aufgeführt. Um tatsächlich gegen Risiken absichern zu können, muss diese menschliche Aufsicht allerdings sowohl effektiv als auch sicher sein. Der Vortrag von Matthias Heck bietet eine Einführung in die Sicherheitsperspektive von Human Oversight sowie einen Einblick in potenzielle Angriffsvektoren und entsprechende Härtungsstrategien, um eine sichere Human Oversight zu ermöglichen.
09:30 – 10:00 Uhr
Shadow AI – Wenn Mitarbeitende heimlich KI nutzen
Immer mehr Mitarbeitende nutzen KI-Tools ohne Freigabe der IT. Der Vortrag von Ali Tschakari beleuchtet Risiken wie Datenabfluss, Prompt-Leaks oder Modelltraining mit Unternehmensdaten und zeigt, wie Organisationen Governance-Strukturen für den sicheren KI-Einsatz aufbauen können.
10:00 Uhr – 10:30 Uhr
Phishing und Deepfakes durch KI oder Gefahren von Vibe Coding
10:30 – 11:00 Uhr
KI und Recht von Dr. Thomas Lapp
11:00 – 11:30 Uhr
KI-Agenten: Zwischen treuen Begleitern und bösartigen Insidern
KI-Agenten erledigen komplexe Aufgaben schnell und kompetent. Doch Kompetenz ohne Leitplanken ist ein strategisches Risiko. Wir analysieren, wie aus nützlicher Autonomie ein unkontrollierter „Schatten-Entscheider“ wird und welche strukturellen Rahmenbedingungen nötig sind, um KI-Agenten sicher in die Unternehmensorganisation zu integrieren. Im Fokus stehen dabei umsetzbare Sicherheitsmechanismen, mit denen sich KI-Agenten im Unternehmen implementieren und deutlich gesicherter sowie kontrollierter steuern lassen.