М-да, у самого похожая карта, только mobility, всё работает. Чтобы окончательно убедиться, что дело в карте, а не в компизе:
1. Выполняете вторую команду:
sudo cp /etc/X11/xorg.conf.bak /etc/X11/xorg.conf
sudo gedit /etc/X11/xorg.conf
Удаляете всё и вставляете
Section "Device"
Identifier "ATI Radeon HD 5450"
Driver "fglrx"
EndSection
Перезагрузка.
Не помогает?
2.
Полностью удаляете fglrx, как написано
здесь, как будто вы хотите использовать открытые драйвера.
Внимательно устанавливаете, как написано
здесь.
Если и это не поможет, то что-то с compiz.