Kann hier nur @Nicalion Recht geben, ich vermute dass es an nicht kompatiblen Mods liegt. Verwende Modpacks, sind einfacher handzuhaben und machen bei der Installation auf Server und Spieler-PC keine bis kaum Probleme. Eine weitere Option ist ebenfalls die Möglichkeit, dass Mods welche nicht auf Servern installiert sein sollten, Probleme bereiten. Optifine wäre zum Beispiel so ein Problememacher. Falls es nicht die Mods sind, werden es wohl die ausgewählten RAM sein. Viele Modpacks brauchen immerhin bis zu 6GB Ram (wir reden hier von gut abgestimmten Packs mit 200 Mods oder mehr).
Aber ohne CrashReport lässt sich nur wenig über den Fehler aussagen.