Skalierung von Systemen: Wenn Algorithmen an ihre Grenzen stoßen.

Ich erinnere mich noch genau an den Herbst 2019. Wir hatten gerade ein System für einen Logistikdienstleister implementiert, das Routen in Echtzeit optimieren sollte. In der Testphase lief alles perfekt – die Algorithmen verarbeiteten etwa 500 Anfragen pro Minute. Doch am Montagmorgen nach dem Roll-out passierte es: Die Last stieg innerhalb von zehn Minuten auf das Zehnfache. Die CPU-Auslastung schoss auf 98%, und plötzlich begannen die Instanzen nacheinander wegzubrechen. Es war kein Fehler im Code, es war ein klassischer Skalierungsfehler in der Infrastruktur.

— „Ein System, das nicht horizontal wachsen kann, ist in der modernen Welt der Automatisierung bereits am Tag seiner Geburt veraltet.“

Wir saßen zu dritt vor den Monitoren und beobachteten, wie die Warteschlangen im Message Broker immer länger wurden. Das Problem war die Datenbank-Sperre. Unser System war darauf ausgelegt, Daten sequenziell zu schreiben, was bei 500 Anfragen funktionierte, aber bei 5.000 zum Flaschenhals wurde. Wir mussten das gesamte Sharding-Konzept mitten im Betrieb umstellen. Es war eine harte Lektion darüber, dass man Skalierbarkeit nicht „später“ hinzufügen kann. Man muss sie von der ersten Zeile Code an einplanen, besonders wenn man mit lokaler KI-Infrastruktur arbeitet.

Die drei Säulen der vertikalen und horizontalen Skalierung

Wenn wir heute über Skalierung sprechen, unterscheiden wir strikt zwischen der Erhöhung der Ressourcen einer einzelnen Maschine und dem Hinzufügen weiterer Knoten zum Cluster. In der Praxis hat sich gezeigt, dass vertikale Skalierung (Scale-up) sehr schnell an physikalische und finanzielle Grenzen stößt. Ein Server mit 2 TB RAM kostet unverhältnismäßig mehr als zehn Server mit jeweils 128 GB. Deshalb setzen wir konsequent auf horizontale Strategien.

• [01] Stateless Services: Jede Anfrage muss unabhängig sein. Wenn der Server keine Sitzungsdaten speichert, kann jeder beliebige Knoten im Cluster die nächste Anfrage übernehmen.
• [02] Asynchrone Verarbeitung: Aufgaben, die nicht sofort ein Ergebnis liefern müssen, werden in Queues ausgelagert. Das entlastet die API und verhindert Timeouts.
• [03] Datenbank-Partitionierung: Die Aufteilung der Last auf mehrere Datenbank-Instanzen (Sharding) verhindert, dass ein einzelner Schreibvorgang das gesamte System blockiert.