catalyst, в настройках смплеера есть такая второстепенная опция, "отрисовка слоями", много ещё того, смысл чего мне, по-крайней мере, неясен, точнее, смутно..., я там много чего менял, туда-сюда, не заметил радикальных изменений в качестве, у меня моник "трубка", подсевший уже, резкость-чёткость - далеко не на высоте, может то, что я воспринимаю как "прекрасно", на другом мониторе будет ужасно..)), можно ещё поколдовать с настройками самих смплеера/мплеера? я предположу, что дело не в дровах или содержании xorg.conf-а, а именно в этом)
Насчёт вар/логов всё правильно, на тупость намёка нет, там и смотришь, конечно, и то, что грузится по-дефолту, имхо, можно и вычеркнуть, а вот что добавить - хз, я бы доверился самой видяхе и nvidia-settings и чтобы она там сама записала, что ей надо.
Насчёт сайро-манагера: может вместо него компиз с дровами подружить?