Das kommt stark darauf an. Gesetze sind oft kompliziert, und die Meinungen die im Internet dazu kursieren stammen meistens nicht von Menschen die sich mit der Materie auskennen.
Custom Firmware (CFW) auf einem Gerät wie dem 3DS zu installieren ist erstmal nicht illegal. Sowohl jemand der das privat mach als auch jemand der das geschäftlich macht hat nichts zu befürchten, die Firmware auf einem eigenen Gerät auszutauschen ist jedermanns gutes Recht. Du darfst ja auch Linux auf deinem Windows PC installieren, auch wenn Microsoft das wahrscheinlich nicht möchte.
Allerdings ist die Installation von CFW auf einem 3DS ein Verstoß gegen Nintendos AGB. Das hat keine signifikaten rechtlichen Implikationen, aber Nintendo kann auf dieser Grundlage dann sagen "mit Leuten wie dir machen wir keine Geschäfte mehr", dazu gehört dass jegliche Garantien verfallen und Nintendo dir theoretisch auch weitere Käufe oder andere Dienstleistungen bei ihnen verweigern könnte.
Dass die Preisdifferenz zwischen einer "gemoddeten" und einer "vanilla" Konsole da nicht groß ist ist auch keine Überraschung.
Die CFW ist kostenlos verfügbar und komplett opensource, und so einen 3DS zu Jailbreaken ist ein Prozess der vielleicht 15 Minten dauert. Da kann man keinen großen Aufpreis verlangen, für etwas was im Prinzip jeder ohne Ahnung mit einem Guide in ein paar Minuten selber hin bekommt.
So viel erstmal zum "modden" bzw. Jailbreaken an sich.
Was in Deutschland sehr wohl illegal ist, ist das Herstellen und Verbreiten von Raubkopien. Das Problem an diesen Konsolen ist rechtlich nicht dass sie "gemoddet" sind, sondern dass sie nicht selten auch mit Vorinstallierten Spielen kommen, die natürlich nicht durch Nintendo, welche das Copyright halten, abgesegnet sind. Das ist Verboten.
Der Verkäufer macht sich beim Verkauf von Raubkopien auf alle Fälle strafbar, und auch als Käufer könnte es theoretisch rechtliche Probleme geben (auch wenn es in der Praxis sehr selten ist)
Wenn du rechtlich auf der sicheren Seite sein willst kannst du dir einfach selbst einen 3DS kaufen und diesen mit dem Guide - https://3ds.hacks.guide/ selbst Jailbreaken.
Spiele kannst du darauf auch installieren, aber eben nur Dumps von originalen Cartridges die sich in deinem Besitz befinden. Das sind dann keine Raubkopien, sondern legale Sicherungskopien - zumindest wenn du sie selbst anfertigst (was mit einem 3DS aber relativ einfach ist)
(Es gibt dann noch eine Diskussion die man über das Umgehen von Kopierschutzmaßnahmen führen könnte, und darüber wann sie "wirksam" sind und ob sie mit "üblichen Mitteln" umgangen werden können. Da kommt es sehr darauf an wie man das Gesetz auslegt, und es gibt im Hinblick auf den 3DS bisher noch keinen Präzedenzfall in Deutschland diesbezüglich. Stand jetzt ist das Dumpen von Spielen auf alle Fälle nicht verfolgt und ob es strafbar ist steht erst nach einem Präzedenzfall fest. Es wäre aber eine absolute Schande, und absolut Konsumentenfeindlich wenn das tatsächlich verboten würde)