warum reflektieren schallwellen besser bei einer glatten oberflächen als bei einer rauen?

Tun sie nicht.

Wenn wir von der gleichen Art von Oberfläche ausgehen, dann reflektiert eine ebene Oberfläche einheitlich in eine Richtung während eine in sich mehrfach versetzte Oberfläche in unterschiedliche Richtungen streut. Das Reflexionsvermögen ist aber erst einmal das gleiche.

Fraglich wird es, wenn "rau" meint, dass die Oberfläche sehr feine Strukturen hat oder aber Strukturen in der Größe der Wellenlänge des Schalls. Im ersten Fall werden die "Fuseln" einer rauen Oberfläche vom Schall bewegt, verwandeln die Bewegung aber in innere Verformung und dabei Wärme, s. d. der Schall real "umgewandelt" und "verschluckt" wird. Im zweiten Fall kann die Struktur so angelegt werden, dass eine negative Rückkopplung erfolgt, s. d. der Schall teilweise aufgehoben wird.

die meisten rauen Oberflächen, die es so gibt, sind gleichzeitig weich, und das ist der Unterschied. Erst wenn die Rauhigkeit in die Größenordnung der Wellenlänge kommt (mehrere cm bis mehrere m) erfolgt Anpassung (Umsetzung Schallschnelle/Schalldruck) und damit eine Erhöhung der Transmission, also Verringerung der Reflektion (die Wände schalltoter Räume sind so).

Schallwellen bestehen aus zusammengedrückter und entspannter Luft.
Diese Wellen kann man sich auch als Fläche vorstellen die sozusagen weiter transportiert wird.
Gelangt diese Fläche auf rauhen Untergrund wird sie nicht mehr als Fläche reflektiert sondern ein Teil in verschiedene Richtungen zerstreut.
Damit wird der Schallpegel leiser

warum nicht?! das gleiche, warum Licht besser reflektiert... es ist die Oberfläche, die reflektiert. wenn das Licht oder der Ton auf einer rauen Oberfläche überall reflektiert werden, werden sie geschwächt...

Manche rauen Oberflächen werfen den Schall auf sich selbst oder verschlucken ihn.