Also ich habe das Problem jetzt gelöst.
Ich sag noch mal wie falls andere das gleiche Problem haben.
Ich bin in meine Datenbank (phpMyAdmin) und habe dort unter "wpoptions" den Eintag "permalinkstructure" (bei mir auf Seite 2) gelöscht.
Dann habe ich noch die .htaccess Datei gelöscht und jetzt funktioniert es wieder.
Ist zwar keine Dauerhafte Lösung, wenn man Permalinks benutzen möchte, aber so kann ich jetzt ein Backup meiner Datenbank machen, ohne den Fehler mitzuschleppen und ich kann an meinem Projekt weiterarbeiten.