Kann man eine Anzeige von Youtube bekommen, wenn man eine Software entwickelt hat, dessen Funktion und Benutzeroberfläche Youtube ähnelt?

Wenn das Logo oder der Name geklaut werden, ja. Die Ähnlichkeit ist kein Problem, ist ja nicht patentiert. Den gleichen Namen zu verwenden, also die Plattform auch YouTube zu nennen ist ohne deren Zustimmung illegal. Die Ähnlichkeit der software ist kein Problem, sowie Spielmechaniken auch nachgemacht werden dürfen, solange keine Elemente (Bilder/ designs der buttons/Musik...), die die Entwickler selbst entworfen haben exakt kopiert werden. Wenn etwas open source im Internet oder so ist, darf man es dann also verwenden.

Experte bin ich aber nicht

Das Konzept, im Internet oder einer App videos anzubieten hat YouTube nicht erfunden und schützen kann man das auch nicht.

Erweckt die App oder Webseite jedoch den Anschein, Nutzer in die Irre zu führen, indem sie YouTube so ähnlich sieht, dass man sie kaum unterscheiden kann, dann könnte z.B. wegen unlauterem Wettbewerb geklagt werden.

Nein. Für bloße Ähnlichkeiten gibt es keine Rechtsgrundlage, gegen Mitbewerber vorzugehen.