Думаю, вопрос упрется в то, КАК направить видеопоток на скомпиленый вами энкодер.
Имхо, проще изменить привычке и пользоваться нативными
-xvidencopts mencoder'a или соответствующими опциями
ffmpeg.
Алсо, если желаете мышью,
Avidemux по части XviD имеет те же (ну почти) опции оптимизации кодирования.
Пользователь решил продолжить мысль 02 Января 2013, 19:55:49:
Можно запустить VirtualDub под wine и зарегистрировать в реестре то, что вы скомпилили. В каких ветвях, пардон, не помню. Хотя тут, имхо, уже проще установить виндовый XviD.
А еще есть VirtualDub под Линукс...
yaourt -Ss virtualdub
aur/virtualdub 1.9.11-1 (8)
Video editing software (uses the WIN32 API)
Если обратить внимание на содержимое скобок, становится ясно, что это тот же флаг, только в левой руке:
yaourt -Si virtualdub |grep Depends
Depends On : wine
Просто ради интереса: зачем вы собирали Xvid из сорцов, если на офсайте есть линк на deb-пакет?
Пользователь решил продолжить мысль 02 Января 2013, 20:45:18:
Мда, век живи - век учись. Признаться, стало откровением:
pacman -Qi xvidcore
Название : xvidcore
Версия : 1.3.2-1
URL : http://www.xvid.org/
...
Требуется пакетами : ffmpeg ffmpeg-compat gimp-gap gstreamer0.10-bad-plugins mencoder mplayer
...
Причина установки : Установлен как зависимость другого пакета
...
Описание : XviD is an open source MPEG-4 video codec
Вот, собсно, и ответ, зачем XviD в Линуксе...
Для использования юзайте Kmenc15, xvidenc etc... Очевидно, что ffmpeg и mencoder тоже используют эту библиотеку.
И вдогонку:
http://packages.ubuntu.com/quantal/libxvidcore4ЗЫ. Классный монолог получился...