wie hoch sind denn die Kosten bei der GEMA und wie werden die errechnet?

Die Frage ist ein bischen ungenau - vielleicht hilft Dir das hier weiter:
Oben/rechts gibt es einen Tariffinder.

In einem Prospekt der GEMA heißt es: "Stark vereinfacht heißt dies: Praktisch jede Situation ist öffentlich, in der zwei oder mehr Personen gemeinsam Musik hören. Davon ausgenommen ist natürlich der Fall, dass diese Personen alle miteinander befreundet oder verwandt sind. Eine Vereinsfeier oder ein Betriebsfest beispielsweise sind deshalb öffentlich. Die private Party ist es dagegen nicht" Quelle: http://www.gema.de/uploads/txmmsdownloads/gemakundenbroschuere_ad.pdf
Teile also der GEMA mit, dass diese Hochzeit eine private Feier war, an der nur Verwandte und Freunde teilgenommen haben. Beziehe dich dabei auf diesen Prospekt, aus dem ich zitiert habe. Damit müsstest du dann Ruhe haben und nichts zahlen müssen.
Viel Erfolg.