Matheprobleme sind auf YouTube zuhauf zu finden. Von Mathematikpolympiaden über Hypothesen, deren Beweise noch nicht gefunden wurden und Vieles mehr. Die Cantor'sche Kontinuumshyptohese wäre zum Beispiel was, es geht um die Betrachtung verschiedener Unendlichkeiten (natürliche Zahlen und reelle Zahlen spielen hierbei die zentrale Rolle). Der mathematische Hintergrund ist nicht zu fortgeschritten.
Andere, naheliegende Ideen sind meiner Meinung nach Inhalte aus dem ersten Semester Mathestudium. Inhaltlich nicht zu abgehoben, aber verlangen doch ein höheres Maß an Eigenstudium.
Dazu gehören unter anderem: Determinanten, Eigenwertprobleme (dazu die Anwendung in der Physik), Gruppentheorie, Folgen und Reihen etc.