Gibt es eine Software, die unerwünschte E-Mails an den Absender zurück leitet?

Nein - wäre auch sinnfrei, da viele SPAMmer falsche Emailadressen oder Adressen unbeteiligter Leute nutzen.
Im Zweifel würdest Du daher selbst zum SPAMmer.

Selbst wenn, sobald du diese Software nutzt, weiß der Spamer ja gleich das die/deine E-Mail Adresse aktiv ist. Das ist dann auch nicht wirklich hilfreich.

Der beste Weg wird da wohl der Spam Ordner sein, der mehr oder weniger regelmäßig gelöscht wird.

Spam-Mails werden von entsprechend präparierten Mailservern versendet, die Antwortmails generell nicht akzeptieren, schon gar nicht ihre eigenen versendeten Mails. Das wäre also sowieso völlig umsonst. Und ebenso werden per Malware gehackte Privat-PCs für den Mailversand missbraucht, so dass dann ahnungslose Leute plötzlich diese Mails im Postfach hätten.

Spam filtert man und erstellt ggf. eigene Filterregeln, wenn der Spamfilter des eigenen Providers nicht gut genug funktioniert.