У меня была схожая проблема. Чтобы добавить нужное разрешение я воспользовался утилитой gtf. Мне нужно было разрешение 1360 на 768 с частотой развертки 60. Для этого необходимо ввести в терминале:
gtf 1360 768 60
Получаем
# 1360x768 @ 60.00 Hz (GTF) hsync: 47.70 kHz; pclk: 84.72 MHz
Modeline "1360x768_60.00" 84.72 1360 1424 1568 1776 768 769 772 795 -HSync +Vsync
Теперь строку "Modeline" целиком со всеми значениями надо вставить в секцию "Monitor" вашего файла "xorg.conf", у меня это выглядит так:
Section "Monitor"
# HorizSync source: builtin, VertRefresh source: builtin
Identifier "Monitor0"
VendorName "Unknown"
ModelName "CRT-1"
Modeline "1360x768_60.00" 84.72 1360 1424 1568 1776 768 769 772 795 -HSync +Vsync
Option "DPMS"
EndSection
После этого перезапустить иксы и в настройках должно появиться нужное вам разрешение.
P.S. Проверено на проприетарном драйвере nvidia.