Adversarial Attacks

Adversarial Attacks im Überblick

Adversarial Attacks sind gezielte Manipulationen von Eingabedaten, die KI-Modelle zu falschen Vorhersagen verleiten – oft mit minimalen, für Menschen unsichtbaren Änderungen. Ein Bild eines Pandas wird mit winzigem Rauschen versehen und das Modell klassifiziert es plötzlich als Gibbon. Ein Stoppschild mit aufgeklebten Streifen wird vom autonomen Fahrzeug nicht erkannt. Diese Verwundbarkeit ist fundamental und betrifft alle Modell-Typen – von Bildklassifikatoren bis zu LLMs.

Adversarial Attacks sind gezielte Manipulationen, die KI-Modelle täuschen. Kleine Änderungen an den Eingabedaten – oft für Menschen unsichtbar – führen zu komplett falschen Vorhersagen.

Klassisches Beispiel:

Original-Bild: Panda 🐼 → Modell: "Panda" (99% Confidence)
+ minimales Rauschen (für Menschen unsichtbar)
Manipuliertes Bild: Panda 🐼 → Modell: "Gibbon" (99% Confidence)

Warum funktioniert das?

ML-Modelle lernen andere Muster als Menschen. Sie nutzen subtile Pixel-Kombinationen, die durch gezielte Störungen manipuliert werden können.

Technisch betrachtet

Angriffstypen

FGSM (Fast Gradient Sign Method)

import torch

def fgsm_attack(image, epsilon, gradient):
    """Einfacher Adversarial Attack"""
    # Richtung des Gradienten
    sign_gradient = gradient.sign()
    
    # Perturbation hinzufügen
    perturbed_image = image + epsilon * sign_gradient
    
    # Auf gültigen Bereich clippen
    perturbed_image = torch.clamp(perturbed_image, 0, 1)
    
    return perturbed_image

Verteidigungsstrategien

1. Adversarial Training: Mit Adversarial Examples trainieren
2. Input Preprocessing: Rauschen entfernen, Kompression
3. Ensemble Methods: Mehrere Modelle, Mehrheitsentscheidung
4. Certified Defenses: Mathematische Garantien für Robustheit
5. Detection: Adversarial Inputs erkennen und ablehnen

Angriffe auf LLMs

Auch Sprachmodelle sind anfällig:

• Prompt Injection: Versteckte Anweisungen
• Jailbreaks: Sicherheitsrichtlinien umgehen
• Backdoor Attacks: Trigger-Phrasen im Training verstecken