Znam, zato sam i napomenul da probaš OpenGL kao Video Output, jer VLC po defaultu sve ima na Automatic - i to je onda veselje s trzanjem.

Pogotovo kad je u pitanju 4K HEVC 10bit HDR.
Ovo za DXVA Checker + DSF/MFT Viewer je čisto moja znatiželja, jer GTX 660 Ti službeno (hardverski) podržava dekodiranje samo H.264 materijala.