Deine Beschreibung erinnert mich ein weing an einige Romane, wie die Blutschule von Fitzek, in der es auch relativ real zuging, aber doch Elemente wie ein magoscher Spiegel etc... eingebaut wurden.
Da ich nicht weiß, ob sich deine Geschichte eher auf den Täter/Bösewicht bezieht, oder auf die Ermittlungen oder änliches ist es schwer zu sagen ob es in die Katergorie Psychothriller hinein passen würde.
Ansonsten ist es auch gar kein Problem deinen Roman auch im deutschen den Stempel "Mystery" aufzudrücken, was nicht unbedingt SiFi oder Fantasy heißen muss. Die Kategorie "Mysterie" ist sehr umfassend und exisitiert auch in Deutschland.
Im Notfall, mach ein Krimi raus, schreib "Mystery/Krimi" oder erschafe ein ganz neues, eigenes Genre, es gibt viele Möglichkeiten.
Im letzten Zweifelsfalle, bespreche dich doch mit deinem Editor/Lektor, oder wenn du Selfpuplisher bist, frage andere Literaturagenten einfach mal an, ob sie dir helfen können. (Was ich natürlich auch machen würde, könntest du mir nähere Infos zu der Reihe geben)
Hoffe ich konnte dir helfen :)