Typisches Märklin-Problem. Es ist aber Einfach zu beheben. Der Trafo (Fahrpult) hat 4 Steckerbuchsen. 2 davon sin braun, je eine ist rot bzw. gelb. Die kleineren blauen Fahrpulte haben nur 1 braunen Anschluss. Das ändert aber nichts an der Anschlussverkabelung. An die Bahngleise gehören an den Mittelleiter, also die Punktkontaktschiene der rote Ausgang des Trafos und an den Schienenkörper Deiner (M-Gleise). Wenn Du ein "Anschlussgleis" von Märklin verwendest, sind die Kabelfarben bereits vorgegeben.
Die Beleuchtung von Häusern, Bahnsteig- und Weichenlaternen sowie Formsignalen erfolgt mit deren gelber Ader oder blau mit gelbem Stecker über den gelben Anschluss am Trafo. Häuser und Laternen haben meistens eine braune und gelbe Ader. Da die gelbe Ader bereits am gelben Anschluss des Trafos angeschlossen ist, werden die dann mit dem 2ten Kabel (braun) an der freien braunen Buchse angesteckt. So erhalten die Laternen und Häuser immer die 16 Volt~ Lichtspannung und der Fahrstrom (rot zu Braun) ist regel- und für die Richtungsumkehr schaltbar.
Was Dir passiert ist, Du hast die Lampen zwischen rot und gelb am Trafo angeschlossen. Im Trafo passiert nun folgendes. Der Regler auf Null: Es fließen die 16 V~ von Gelb nach rot und dann über die Schienenmasse nach braun. Öffnest Du den Regler, steigt bei rot die Spannung an und der Spannungsunterschied zu gelb sinkt ab. Das macht die Beleuchtung dunkler.
1 Trafo, 2 Weichenlaterne, 3 Formsignallaterne, 4 Bahnsteigleuchte, 5 Hausbeleuchtung.
gestrichelt rot Mittelleiter, Schwarz Schienen und Umriss von Bahnsteig und Haus,
Braun: Kabel für Schienenmasse und Bahnsteig- Hausbeleuchtung, Gelb: Kabel für Weichen- und Signallaterne, sowie Bahnsteig und Hausbeleuchtung, Rot: Fahrstromkabel Fahrpult zum Gleis.
Die blauen Kabel zur Weichen- und Signalstellung sind nicht berücksichtigt.
Sollen die Häuser und Bahnsteiglaternen schaltbar sein, empfiehlt es sich, in deren gelber Zuleitung einen Schalter (Schaltpult) zwischen zu schalten.
Check mal Deinen Aufbau anhand meiner stark vereinfachten Skizze durch. Lässt sich der Fehler so absolut nicht finden, schreib mich noch mal an. Dann steige ich in die tiefe Fehlersuche mit ein.