gnome-screenshot практически не настраивается (можно выбрать мимимум опций, про поддержку других форматов найти не удалось) см. на альтернативные программы:
scrot, формат выбирается по разрешению или опциями.
shutter - тоже наверное должно как-то выбираться, не пользовался.