для примера
в терминале набираем
gtf 1280 1024 75
1280 1024 это разрешение а 75 частота обновления
и получаем нужную нам modeline примерно такого содержания
# 1280x1024 @ 75.00 Hz (GTF) hsync: 80.17 kHz; pclk: 138.54 MHz
Modeline "1280x1024_75.00" 138.54 1280 1368 1504 1728 1024 1025 1028 1069 -HSync +Vsync
копируешь cвою Modeline и вставляешь её в xorg.conf в
Section "Monitor"
Только не забудь сделать , бекап файла xorg.conf, на всякий случай