Nisi izgenerirao modlajnove.
Ideš na online modeline generator:
http://www.sh.nu/nvidia/gtf.php
Upišeš rezoluciju i refresh rate, npr 1280 x 960, 85Hz
Dobiješ ovo:
# 1280x960 @ 85.00 Hz (GTF) hsync: 85.68 kHz; pclk: 149.43 MHz
Modeline "1280x960_85.00" 149.43 1280 1376 1512 1744 960 961 964 1008 -HSync +Vsync
Pejstaš to unutar Monitor sekcije u xorg.conf
Ako koristiš NVidia driver onda unutar Monitor sekcije pejstaš još i ovo:
Option "DDC" "False"
Time kažeš da X server koristi isključivo tvoj modeline (ovaj gore koji si napejstao), jer nvidia driver ima problema s prepoznavanjem/korištenjem modlajnova pa ga tako forsiraš.