Перезагрузиться в режиме восстановления (обычно второй пункт в меню загрузчика), зайти в рутовую консоль, удобнее будет с mc, если нет - apt-get install mc && mc, открыть файл xorg.conf и в секции
Section "Device"
в строке
Driver "frglx"
значение в кавычках заменить на "radeon".
После этого, вероятно, машинка стартанет со старым опенсурсным видеодрайвером. Хотя, конечно, если дело в неподдерживаемом монитором видеорежиме, то следует сначала смотреть секцию
Section "Monitor"
и строки
Option "PreferredMode" "1152x864"
Option "TargetRefresh" "100"
Где для LCD-дисплея частота не должна превышать 75, а разрешение - должно быть равным разрешению матрицы или меньше, для CRT параметры бывают разные, вам лучше знать свое железо.
Еще можно переименовать существующий xorg.conf в какой-нибудь xorg.conf.bad, а xorg.conf.backup - в xorg.conf, и перезапуститься.