Solange die Gleichspannung anliegt, fließt der Strom fröhlich ohne viel Auswirkungdurch die Spule. (Der ohmsche Widerstand der Drähte gilt)
Ein sich ändernder Strom erzeugt allerdings ein magnetisches Feld. (Induktion)
Wird die Stromquelle abgetrennt, kommt der Stromfluss zum erliegen, da gewissermaßen nichts mehr "anschiebt". Allerdings braucht das magnetische Feld, das mit dem Strom zusammenhängt, eine gewisse Zeit, sich abzubauen, und wird nach und nach schwächer (geht natürlich recht schnell, wie schnell genau hängt von der Induktivität ab)
Nachdem sich das Magnetfeld ändert - es wird ja immer schwächer - schiebt es den Strom "noch an".
Beim Einschalten passier übrigens das gleiche in umgekehrter Richtung: die Induktion wirkt dem Einschaltstrom entgegen, weshalb es ein wenig braucht, bis die volle Spannung anliegt.
Eine andere Perspektive ist die Energie: Beim Anschalten speichert das Magnetische Feld Energie, es braucht ein wenig, sich aufzubauen. Diese Energie wird beim Abschalten wieder frei.
Ist der Kreislauf dann so einfach getrennt, führt das innerhalb einer Schaltung zu Spannungsspitzen/Kapazitäten (weil der Strom, den die Spule erzeugt nicht abfließen kann), die ggf andere Bauteile beschädigen können. Deshalb sollte man das nur zu Versuchszwecken machen. Aber Spulen werden eh meistens mit Wechselspannung verwendet - wo man sich die Induktion zunutze macht, zB ein Schwingkreis. Jeder Funk, Wlan, Mobilfunk usw. basiert darauf, wobei je nach Frequenz unterschiedliche Technologien verwendet werden.