Во ты наковырялся
Смотрим:
В "ServerLayout" у тебя указано: использовать "Screen0", смотрим туда (самый низ файла), а там в "metamodes" и не пахнет разрешением большим, чем 1024х... Можешь его добавить и перегрузить иксы. Или вообще закомментировать эту строку..
Я бы на твоём месте сгенерил файл заново (в recovery mode):
dpkg-reconfigure xserver-xorg
выбирай драйвер nvidia, а монитор с доступными разрешениями по идее должен определиться, нет - укажешь их сам и HorizSync 30.0 - 81.0 / VertRefresh 56.0 - 75.0. После этого startx и смотри что получил. Старый файл можешь на вс. случай забэкапить, хотя кому нужна эта окрошка
Хотя бы один раз вопросы конфигуратора прочти, над ответами подумай... Потом уже будешь (или не будешь) "всегда соглашаться"...