Workstation Für LLM Entwicklung und office?
Ich war auf der suche nach einem dual CPU motherboard und bin Schluss endlich dazu gekommen mir das asus sage c621e zuholen
Ich nutze das board aktuell eigentlich nur zum finetuning von LLMs
Bei dem Versuch Office Anwendungen zu nutzen bin ich auf mehrere Probleme gestoßen und wollte fragen ob es eine Möglichkeit gibt unter windows profiele anzulegen die begrenzen wie viel ram / GPUs verwendet werden und welche CPU verwendet wird / wie viele Kerne
Die Probleme sind zu hoher Stromverbrauch für office Nutzung und zu hohe wärme Entwicklung mit längeren Ladezeiten für CPU lästige Anwendungen ( single core) habe ich gerechnet aber bei 2 bis 7 Sekunden bis Firefox öffnet ist doch zu viel
Fals es keine Möglichkeit gibt trotzdem danke der Laptop tuts auch ;)
2 Antworten
Ich war auf der suche nach einem dual CPU motherboard und bin Schluss endlich dazu gekommen mir das asus sage c621e zuholen
Warum?
- Also warum unbedingt Dual CPU?
- Warum so eine verhältnismäßig alte Plattform?
Selbst wenn Scaleable Xeon die beste Option für dich gewesen wäre, da bekommt man auch günstige HP Workstations inkl CPUs für weniger Geld
Ich nutze das board aktuell eigentlich nur zum finetuning von LLMs
Wäre das Geld dann nicht besser in einer Grafikkarte investiert gewesen?
Oh oder in einem Ryzen AI MAX mit 128GB RAM ... Von denen lassen sich 96GB für GPU/NPU dedizieren und das ganze ist dann immernoch deutlich energieeffizienter, und gar nicht mal so teuer.
Die Probleme sind zu hoher Stromverbrauch für office Nutzung
Was zu erwarten ist, bei einer alten Dual CPU Plattform.
und zu hohe wärme Entwicklung
Was zu erwarten ist wenn man eine solche Plattform mit Windows nutzt
mit längeren Ladezeiten für CPU lästige Anwendungen ( single core) habe ich gerechnet aber bei 2 bis 7 Sekunden bis Firefox öffnet ist doch zu viel
Es ist halt eine alte Workstation Plattform (die grob auf Skylake basiert) in einer Dual CPU Konfiguration.
Ich kann mich nur wiederholen, ich behaupte Dual CPU war für deinen Zweck ein Fehler.
Ansich kann ich mich nur krabat693 anschließen auch wenn du CPU/ RAM basiertes Training betreibst reicht ein neuerer gaming PC aus auch das Deepseek R1 model kann man mit fp16 noch auf einem normalen PC finetunen und wenn das aus ram gründen nicht reicht wechselt man halt zu int8 was bei normaler Verwendung keinen großen Verlust mitbringt (für Privatnutzer / abhängig vom model)