Wir hatten ja schon darüber geschrieben, dass ASUS nun die ersten Modelle seines GB10 in Europa auszuliefern plant. Während dort aber unsere Bestellungen – und wohl auch die der großen Distributionen storniert wurden, kommen nun die nächsten Hersteller an den Markt und haben Liefertermine für Ende November.
Über Jahrzehnte waren wir ja treuer Partner von Fujitsu, die nun nur noch Infrastruktur-Server machen und laut internen Gerüchten die Computersparte mit Lenovo vereint haben. Auf der Suche nach einem neuen Partner hatten wir uns daher auch Lenovo (neben anderen) angeschaut, und es zeigt sich, dass der IBM-Nachfolger wirkliches Potential hat.
Laptops und Computer, die wir bislang einsetzen, sind sehr stabil und haben auch sehr gute Geschwindigkeiten. Die Verfügbarkeit ist meist hoch. Und jetzt zeigt sich wieder ein Vorteil bei Lenovo – diese werden als eine der ersten die neuen Asus-Supercomputer mit GB10-Prozessor ausliefern. Wir haben bereits vorbestellt und können daher hoffentlich auch liefern. Im Gegensatz zu den Mitbewerbern gibt es auch schon echte Foto’s!
Und wir haben ihn im Shop: https://www.karley.de/index.php?route=product%2Fsearch&search=thinkstationhttps://www.karley.de/index.php?route=product%2Fsearch&search=thinkstation
Für was ist so eine LENOVO ThinkStation PGX GB10 eigentlich gedacht?
In Europa haben wir dank (oder wegen) der hohen Datenschutzbestimmungen hohe Hürden, Daten mit KI’s zu bearbeiten. Viele Firmen arbeiten dabei in Grauzonen, wenn sie US-KI-Rechenzentren mit persönlichen Daten füttern. Es ist nicht klar, wie die Daten gespeichert werden, und dass im Zweifel der US-Staat darauf Zugriff hat, wissen wir alle. Ein lokaler abgeschotteter KI Computer hat hier den Vorteil, dass man ihn so konfigurieren kann, dass keine Daten abfließen. Natürlich ist das kein Freifahrtschein und man muss gut überlegen, wie oder ob man die Daten dann lokal speichert und bei einer Löschungsanfrage wieder herausbekommt – aber da gibt es Möglichkeiten. Wollte man also datenschutzkonform arbeiten, konnte man entweder sündhaft teure Beschleunigerkarten kaufen – die sich aber die wenigsten Firmen (außer im wissenschaftlichen Bereich oder in Konzerngröße) leisten können und benötigen, oder man hat Grafikkarten genutzt. Ein Problem bei Grafikkarten ist aber der geringe Speicher, den diese zur Verfügung stellen – meist nur 12 / 16GB. Das ist für Spiele toll – aber für KI-Modelle ist genau dieser Speicher wichtig und sollte für bessere Modelle größer sein. Und genau für diese KMU, die heute auch einen KI-Bedarf haben – sind diese Rechner gedacht. So kann man intern einen Chat laufen lassen, der ähnlich wie ein Abonnement sehr schnell Mails zusammenfasst oder andere Aufgaben in der Überwachung etc. lokal übernimmt. Bei den Preisen lohnt sich die Investition je nach Mitarbeiterzahl schon nach einem Jahr, ist günstiger als Abonnements und garantiert DSGVO-konform (bei richtiger Einrichtung). Dabei ist der Stromverbrauch moderat und die Stellfläche minimal.
Gerne verraten wir dir auch einmal, was du mit einer lokalen KI so alles anstellen kannst.
Beschleunigt durch den NVIDIA® GB10 Grace Blackwell Superchip und den NVIDIA AI Software-Stack bringt die LENOVO ThinkStation PGX GB10 1 Petaflop-Performance mit 128 GB LPDDR5x Unified System Memory.
Und wenn das nicht genug ist, schalte einfach 2 Einheiten zusammen mit NVIDIA® NVLink™-C2C eine ultraschnelle CPU-GPU-Kommunikation dank ConnectX-7 Networking für den Betrieb im Dual-Setup
Neben diesen ganzen Vorteilen hat es noch mehr – nämlich die mitgelieferte Software:
NVIDIA® AI Software Stack ist ideal für die Entwicklung, Ideal für KI-Prototyping, Tuning und Inferenz
Auch hat NVIDIA mit seinen Open-Source-Modellen mittlerweile extrem gute Modelle zur Verfügung, die man auf seine CRM-Daten oder Telefonanlage oder Überwachungskameras loslassen kann.
Es wird zunächst 2 Modelle geben:
- Für KI-Einsteiger und kleine Firmen
- Die 1TB-Version eignet sich für einzelne oder kleine KI-Modelle und ist perfekt für einfache Projekte.
- Für Projekte mit hohen Speicheranforderungen
- Die 4TB-Version ist prädestiniert für Großprojekte oder wenn viele Modelle und Datensätze gespeichert werden müssen
Verbinde zwei LENOVO ThinkStation PGX GB10, um sofort die doppelte KI-Leistung von 2000 TOPS nutzen zu können und dann auch den Speicher zu verdoppeln. (Verbindung durch QSFP-Kabel). Man ist also sehr einfach ausbaufähig!
Wir sind sehr gespannt, denn eine lokale KI hat einfach Vorteile:
- Kein Verstoß gegen die DSGVO, bei richtiger Konfiguration
- Keine Daten gelangen nach außen
- Nicht abhängig von den Kapazitäten Anderer
Was macht die Karley alles mit KI?
Wie viele wissen programmieren wir schon seit Jahren unser eigenes ERP – die WK5. Diese hilft uns Abläufe nachvollziehbar zu gestalten und flexibel zu sein. So nutzen wir interne KI-Systeme für die Zusammenfassung von Kommunikation als Notizen, die Berechnung von Verbräuchen, das Analysieren von Rechnungen und Aufträgen zur automatischen Verbuchung. Zuordnung von Zahlungen zu Aufträgen und Rechnungen, Analyse von Fehlbeständen, Analyse von Problemen im Vertrieb, Warnsystem in der Reparaturbearbeitung, Unterstützung in der Programmierung und einiges mehr!
Wenn auch Du besondere Projekte im Hinterkopf hast, die du gerne realisieren möchtest, aber keinen Ansatz hast, wie man mit einer KI solche Projekte umsetzt, dann kontaktiere uns gerne. Wir machen schon seit Längerem auch Beratung für andere Firmen und setzen mit unserer Programmierung KI-Projekte sinnvoll um. Dabei wird im Vor-Projekt immer auch die Machbarkeit und der mögliche Nutzen analysiert!
