Und wie erkennt man , wann man was benutzen soll.

... durch langes Üben.

Keiner kann Dir eine Regel für Deine eigenen Erkennungsfähigkeiten geben, ob etwas tatsächlich über den "Kurzweg" einer binomischen Formel faktorisiert werden kann oder ob man über die Nullstellen einer der quadratischen Gleichung gehen muss.