Man hört immer wieder, dass die Mathematik die Sprache der Physik sei. Das bedeutet, dass die Mathematik den Formalismus und die Fähigkeiten besitzt, ein Problem oder eine Fragestellung zu formulieren, zu überprüfen, zu diskutieren und eventuell zu verifizieren. Es ist in etwa so ähnlich, wie eine Diskussion zwischen zwei Menschen. Der bedeutende Unterschied ist, dass es keine subjektive Lösung eines solchen Streits gibt, sondern aufgrund des rein logischen Aufbaus der Mathematik möglich ist, absolut sicher zwischen "Richtig" und "Falsch" zu unterscheiden.
Die Mathematik bildet hierbei die absolute Basis aller anderen Wissenschaften. Ihre Grundlage bilden dabei die so genannten Axiome. Das sind vereinfacht gesagt Behauptungen, die weder bewiesen noch abgeleitet werden können. Es sind Forderungen auf denen alles andere aufbaut. Ausgehend von diesen diversen Axiomen hat sich die Mathematik in den letzten Jahrhundert wie jede andere Wissenschaft weiterentwickelt. Naturwissenschaften wie die Physik sind weniger abstrakt. Dabei geht es darum, Naturphänomene zu erkennen, beschreiben, verstehen und zu erklären. Mit Hilfe der Mathematik werden diese Gesetze dann in Gleichungen gepackt, die Zusammenhänge darstellen. Der wichtige Unterschied ist aber, dass die Mathematik quasi aus nichts entstanden ist, während sich die Physik mit Dingen beschäftigt, die "real" sind.
Falls sich deine Frage lediglich auf die Schulfächer bezieht, ist die Antwort natürlich etwas anders: Im Fach Mathematik wird nur die Anwendung der von der Mathematik entwickelten Techniken eingeübt. Tatsächlich wäre es passender, das Unterrichtsfach "Fortgeschrittenes Rechnen und grundlegende Mathematik" oder so ähnlich zu nennen. Im Fach Physik geht es dann vor allem darum, die wichtigsten und grundlegendsten Naturerscheinungen zu verstehen und zu beschreiben. Dazu gehört dann oftmals das Rechnen einfacher Aufgaben. Dieses Rechnen zeigt dann natürlich einen großen Überlapp mit dem Fach Mathematik.