Autoscaling

Einfach erklärt

Autoscaling passt die Anzahl deiner Server automatisch an die aktuelle Last an. Mehr Nutzer = mehr Server. Weniger Nutzer = weniger Server (und Kosten).

Ohne Autoscaling:

Feste Kapazität: immer gleich viele Server

Niedrige Last:  viele Ressourcen idle, unnötige Kosten
Peak:           zu wenig Kapazität, langsam oder fehleranfällig

Mit Autoscaling:

Niedrige Last:  wenige Instanzen → kosteneffizient
Normale Last:   passende Kapazität → stabil
Peak:           zusätzliche Instanzen → bessere Performance

Technischer Deep Dive

Kubernetes HPA

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: api-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: api
  minReplicas: 2
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 70
    - type: Resource
      resource:
        name: memory
        target:
          type: Utilization
          averageUtilization: 80

KEDA für Event-driven Scaling

apiVersion: keda.sh/v1alpha1
kind: ScaledObject
metadata:
  name: queue-worker
spec:
  scaleTargetRef:
    name: worker-deployment
  minReplicaCount: 0  # Scale to Zero!
  maxReplicaCount: 50
  triggers:
    - type: rabbitmq
      metadata:
        queueName: tasks
        queueLength: "10"  # 1 Worker pro 10 Messages

AWS Auto Scaling

# Terraform
resource "aws_autoscaling_group" "api" {
  name                = "api-asg"
  min_size            = 2
  max_size            = 20
  desired_capacity    = 5
  
  launch_template {
    id      = aws_launch_template.api.id
    version = "$Latest"
  }
}

resource "aws_autoscaling_policy" "scale_up" {
  name                   = "scale-up"
  autoscaling_group_name = aws_autoscaling_group.api.name
  policy_type            = "TargetTrackingScaling"
  
  target_tracking_configuration {
    predefined_metric_specification {
      predefined_metric_type = "ASGAverageCPUUtilization"
    }
    target_value = 70.0
  }
}

Scaling-Strategien

Strategie	Trigger	Use Case
CPU-basiert	CPU-Auslastung über Zielwert	Compute-intensive Workloads
Memory-basiert	Memory-Auslastung über Zielwert	Memory-intensive Apps
Request-basiert	Requests/Sekunde	Web-APIs
Queue-basiert	Queue-Länge	Async Workers
Schedule-basiert	Uhrzeit	Vorhersehbare Patterns
Custom Metrics	Business-Metriken	Spezifische Anforderungen

Cooldown und Stabilisierung

# Kubernetes HPA Behavior
behavior:
  scaleDown:
    stabilizationWindowSeconds: 300  # 5 Min warten
    policies:
      - type: Percent
        value: 10
        periodSeconds: 60  # Max 10% pro Minute runter
  scaleUp:
    stabilizationWindowSeconds: 0  # Sofort hoch
    policies:
      - type: Percent
        value: 100
        periodSeconds: 15  # Schnell hochskalieren

Kosten-Optimierung

Strategie: geeigneter Instanz-Mix für Autoscaling

- Basis-Last: stabile Kapazität für planbare Nachfrage
- Peaks: flexible oder unterbrechbare Kapazität, wenn Workload das erlaubt
- Steuerung: Limits, Budgets und Alerts gegen unerwartete Skalierungskosten