Kann mich hier nur ntech anschliessen. Eventuell reicht ein Raspberry Pi Cluster bereits für deine Ansprüche. Günstig, leise, skalierbar.
Für unter 500 findet man aber auch gute alte Enterprise-Server, welche aufgrund von Garantieverfall günstig verscherbelt werden.
Enterprise Server haben eben auch Nachteile. Oftmals sehr laut, brauchen viel Strom und nur limitiert erweiterbar. Bieten dafür aber höhere Verfügbarkeit und IPMI Unterstützung. Zuverlässig sind DL380 ab der G8 Serie sowie die Dell r700 und höher.
Für unter 500 kannst du dir aber auch einen guten Server bauen. Habe mir für rund 300 ein System gebaut mit 14 Kernen, 64 GB Ram, 4 TB Speicher. Braucht kaum Strom und super leise, da normales Desktop Gehäuse.
Hatte zuvor auch einen DL380 G7, dieser war mir aber viel zu laut.