Wann sollte man Vulkan, wann DX auswählen?

Das lässt sich pauschal so nicht sagen. Kommt auf das Spiel an, welche Hardware du verwendest, welches OS. Um da den richtigen Weg zu finden musst du dir Testberichte anschauen und auch selbst versuchen.

Wenn DX12 vorhanden ist, dann dx12 auswählen, bei allen anderen dx Versionen nimmste Vulkan.

Das ist meine Erfahrung mit Vulkan und dx.

Kommt auf das Spiel an.