Мне помогло добавление параметров --auto-servernum --server-num=1 при запуске xvfb:
sudo xvfb-run --auto-servernum --server-num=1 --server-args="-screen 0, 1024x768x24" /usr/ccapt/cutycapt/CutyCapt/ --url=http://habrahabr.ru --out=/var/www/habrahabr_ru.jpg