Ein Rechner, ein Arbeitstag: Was eine DGX Spark bei uns nebenbei erledigt

„Brauchen wir dafür nicht ein Rechenzentrum?“ Das ist die häufigste Frage, die wir im Beratungsgespräch hören, sobald es um lokale KI geht. Die ehrliche Antwort: Nein. Unser kompletter KI-Alltag läuft auf Hardware, die auf einen Schreibtisch passt – kompakt, leise, ohne Serverraum. Eine Maschine mit 128 GB Unified Memory genügt, um Kundenservice, E-Mail-Verarbeitung, Übersetzungen und Wissensdatenbank parallel zu bedienen. In diesem Teil unserer Reihe schauen wir uns an, was so ein Rechner an einem ganz normalen Arbeitstag tatsächlich leistet.

Stell Dir einen Dienstag vor: Was gleichzeitig läuft

Es gibt keinen „KI-Modus“, den Du extra einschaltest. Die Systeme laufen mit, während das Tagesgeschäft weiterläuft. Genau darin liegt der Unterschied zu einem Demo-Video: Es geht nicht um einen einzelnen Benchmark, sondern um Dutzende kleine Aufgaben, die sich über den Tag verteilen.

• Website-Chat und Kundenservice-Bot: Der Antwortbeginn liegt bei etwa 0,1 Sekunden. Für Besucher:innen fühlt sich das an, als würde jemand sofort mitschreiben.
• E-Mail-Verarbeitung: Impressumsdaten zieht das System in rund 2,7 Sekunden aus einer Mail. Eine komplette Bestellung mit allen Positionen aus einer Kunden-Mail in etwa 1,7 Sekunden.
• Artikel-Zuordnung im Einkauf: 114 von 114 Testfällen korrekt, im Schnitt rund 0,14 Sekunden pro Fall.
• Produkttext-Übersetzungen in vier Sprachen: etwa 4 Sekunden pro Text.
• Nebenbei: Volltext-Einbettungen für die Wissensdatenbank, Textentwürfe fürs ERP, Zusammenfassungen.

Warum die Antwortzeiten immer kürzer werden

Ein schöner Beleg dafür, dass sich Optimierung auszahlt: Dasselbe Modell brauchte im Juni über die Einstiegs-Engine noch rund 6,7 Sekunden für eine Übersetzung, ein deutlich größeres Modell sogar 19,2 Sekunden. Heute stehen wir bei etwa 4,4 Sekunden – bei gleicher oder besserer Qualität. Der Grund ist kein neuer Wunderschip, sondern das Zusammenspiel aus Engine-Wechsel und Quantisierung.

Genau hier trennt sich Theorie von Praxis. Wer nur auf die Größe eines Modells schaut, übersieht, dass die Serving-Engine und die Kompression der Gewichte direkt auf die Antwortzeit einzahlen. Mehr dazu findest Du in unserem Vergleich der Engines – dort haben wir Ollama, vLLM und SGLang auf der DGX Spark gegenübergestellt.

Das ehrliche Lastprofil: wenig Durchschnitt, harte Spitzen

Wir wollen Dir nichts schönrechnen. Im Schnitt laufen bei uns wenige Anfragen pro Stunde. Das klingt nach Unterforderung – bis die Spitzen kommen. In einem 5-Sekunden-Fenster hatten wir schon bis zu 9 gleichzeitige Anfragen. Genau in diesen Momenten entscheidet sich, ob Deine Nutzer:innen eine Antwort sehen oder einen Ladebalken.

Deshalb ist die wichtigste Frage nicht „Wie schnell ist das Modell?“, sondern „Wie sieht Deine Spitzenlast aus?“. Ein System, das im Mittelwert glänzt, aber unter Last in die Knie geht, hilft Dir im Tagesgeschäft nicht. Diese Dimensionierung ermitteln wir durch Messung, nicht durch Schätzung.

Warum bei uns zwei Maschinen stehen

Ein einzelner Rechner reicht für den Produktivbetrieb. Sobald Du aber produktiv und experimentell arbeiten willst, wird es eng. Bei uns läuft deshalb eine zweite DGX Spark ausschließlich für Tests und Bildgenerierung. Neue Modelle im Wochentakt ausprobieren, ohne die Produktion zu gefährden – das ist der eigentliche Luxus, den sich ein Mittelständler heute leisten kann.

On-Premise heißt: Deine Daten bleiben im Haus

Alle genannten Aufgaben verarbeiten personenbezogene Daten: Mails, Bestellungen, Chats. Läuft das über eine Cloud-KI, brauchst Du in der Regel einen Auftragsverarbeitungsvertrag, klare Löschfristen und ein gutes Gefühl bei jedem Datenabfluss. On-Premise entfällt dieser ganze Komplex – die Daten verlassen Dein Haus nicht. Wie viel das organisatorisch wert ist, haben wir in unserer Analyse zu lokaler KI statt Cloud und Appliance aufgeschrieben.

Für wen sich der Schreibtisch-Rechner lohnt

• Mittelstand mit echtem Datenaufkommen: Bestellungen, Rechnungen, Support-Anfragen – alles, was heute manuell durch Hände läuft.
• Teams mit Datenschutzauflagen: Überall dort, wo personenbezogene Daten nicht in fremde Clouds wandern dürfen.
• Neugierige ohne Risiko: Wer KI erst ausprobieren will, bevor er Prozesse umstellt, fährt mit einer eigenen Maschine planbarer als mit monatlichen Cloud-Kontingenten.

Für den Eigenbetrieb empfehlen wir die Lenovo ThinkStation PGX GB10 mit NVIDIA GB10 Grace Blackwell Superchip, 128 GB LPDDR5X und 1 TB NVMe-SSD, vorinstalliert mit NVIDIA DGX OS. Details findest Du in unseren Produktinformationen zur GB10-Workstation.

Fazit: Keine Rechenzentrums-Frage mehr

On-Premise-KI für einen Mittelständler ist 2026 keine Frage von Quadratmetern und Klimaanlagen. Eine Maschine trägt Deinen Alltag – vorausgesetzt, sie ist auf Deine Lastspitzen dimensioniert. Und weil sich das nicht schätzen lässt, laden wir Dich ein, es gemeinsam zu messen: in unserem Showroom in Recklinghausen oder per Testgerät, das Du vor dem Kauf ausprobierst.

Du willst wissen, welche Konfiguration zu Deinen Anforderungen passt? Dann sprich mit unserem Team – wir schauen uns Deine Prozesse an und sagen Dir ehrlich, ob eine oder zwei Maschinen die richtige Wahl sind.

Aktuelles rund um lokale KI