Za video:
Koristiš drugi codec, automatski slika može biti lošija ili bolja. Očito je kod tebe lošija. To je stvar codeca.
Za audio:
Jesi li pogledao u Options (F2) stavka pod Internal audio decoder kaj ti piše ?
Za trzanje:
Te koji preset koristiš ? Quality (3Ghz) zna imati problema prilikom playbacka sa matroskom.