Wenn sich das Universum ausdehnt, wohin dehnt es sich aus bzw. was befindet sich auf der anderen Seite?

Wenn es eine "andere Seite" gäbe, wäre sie per definitionem Teil des Universums, da die Begrifflichkeit "andere Seite" nur im Sinne von "Raum" gedacht werden kann und mit Universum der gesamte Raum gemeint ist.

(Wenn sich es sich jetzt in Deinem Kopf zu drehen beginnt, dann geht es Dir wie mir).

Der Urknall war keine Explosion im Raum, die das Universum in den Raum ausdehnt, sondern eine Singularität, mit der Raum und Zeit erst entstanden sind. Seither dehnt sich der Raum als Ganzes aus, darum ist der "Ort" des Urknalls heute überall, so wie die Galaxien, deren Abstände voneinander sich heute zusammen mit dem Raum vergrößern - eine Bewegung, deren Zurückverfolgung zu Abständen gleich null in der Vergangenheit führt, wobei alle Orte gleichberechtigt sind.

Die gängigen Metriken des Universums sind die möglichen Lösungen der Feldgleichungen unter bestimmten Voraussetzungen (Homogenität und Isotropie*): positive Krümmung (wie eine Kugeloberfläche, endlich aber ohne Grenze), negative Krümmung (wie eine Sattelfläche, unendlich) und der Grenzfall, Krümmung null (wie eine Ebene, unendlich).

Der derzeitige Stand der Messungen deutet auf Krümmung null oder auf ein extrem großes positiv gekrümmtes Universum (sog. flaches Universum) hin.  Sehen können wir ohnehin nur Objekte bis zum Partikelhorizont in ca 46 Mrd LJ Entfernung. Ein Ende im Sinne einer Wand gibt es in keinem Fall, und damit auch keinen "Raum außerhalb des Raumes, in den sich das Universum ausdehnt" - es dehnt sich einfach nur aus, und auch Unendliches kann sich ausdehnen, s. Hilberts Hotel.

https://www.youtube.com/watch?v=XTsaZRKx9UI

*) diese Voraussetzungen werden möglicherweise durch aktuelle Beobachtungen sehr großer Strukturen (Big Ring, s. https://www.uclan.ac.uk/news/big-ring-in-the-sky etc) in Zukunft relativiert, dann wären auch noch andere Lösungen möglich.

Unklar.

Zudem: Du stellst dir das sich aussehende Universum wie ein Luftballon vor, der aufgepustet wird.

Es ist aber keineswegs sicher, dass das Universum sowas wie eine Grenze (so wie beim Luftballon) hat.

Es könnte auch unendlich in seiner Ausdehnung sein und in ihm entsteht fortwährend neuer Raum, der die Dinge auseinander treiben lässt.

Wenn letzteres zutrifft, gibt es womöglich sowas wie eine andere Seite gar nicht in die sich das Universum hinein ausdehnt.

Vielleicht ist außerhalb des Universums buchstäblich "nichts".

Und das Universum breitet sich ins "Nichts" aus und verdrängt daher auch "nichts".

Es gibt keine andere Seite, das Universum schafft seinen eigenen Raum, es dehnt sich also quasi in sich selbst aus, was auch der Grund, weshalb sich z.B. Galaxien (außerhalb der lokalen Gruppe) generell immer von uns wegbewegen, je größer der Abstand, desto schneller die Fluchtbewegung. Es gab beim Urknall auch keinen Überraum, der Raum ist erst mit dem Urknall entstanden.