Workstation Für LLM Entwicklung und office?

2 Antworten

Ich war auf der suche nach einem dual CPU motherboard und bin Schluss endlich dazu gekommen mir das asus sage c621e zuholen

Warum?

  • Also warum unbedingt Dual CPU?
  • Warum so eine verhältnismäßig alte Plattform?

Selbst wenn Scaleable Xeon die beste Option für dich gewesen wäre, da bekommt man auch günstige HP Workstations inkl CPUs für weniger Geld

Ich nutze das board aktuell eigentlich nur zum finetuning von LLMs

Wäre das Geld dann nicht besser in einer Grafikkarte investiert gewesen?

Oh oder in einem Ryzen AI MAX mit 128GB RAM ... Von denen lassen sich 96GB für GPU/NPU dedizieren und das ganze ist dann immernoch deutlich energieeffizienter, und gar nicht mal so teuer.

Die Probleme sind zu hoher Stromverbrauch für office Nutzung

Was zu erwarten ist, bei einer alten Dual CPU Plattform.

und zu hohe wärme Entwicklung

Was zu erwarten ist wenn man eine solche Plattform mit Windows nutzt

mit längeren Ladezeiten für CPU lästige Anwendungen ( single core) habe ich gerechnet aber bei 2 bis 7 Sekunden bis Firefox öffnet ist doch zu viel

Es ist halt eine alte Workstation Plattform (die grob auf Skylake basiert) in einer Dual CPU Konfiguration.

Ich kann mich nur wiederholen, ich behaupte Dual CPU war für deinen Zweck ein Fehler.

Ansich kann ich mich nur krabat693 anschließen auch wenn du CPU/ RAM basiertes Training betreibst reicht ein neuerer gaming PC aus auch das Deepseek R1 model kann man mit fp16 noch auf einem normalen PC finetunen und wenn das aus ram gründen nicht reicht wechselt man halt zu int8 was bei normaler Verwendung keinen großen Verlust mitbringt (für Privatnutzer / abhängig vom model)

Woher ich das weiß:Hobby