FLV - это не вид кодирования видео, а контейнер.
Зеленое в железное нельзя переделать.
Можно склеить VOB-ы, а потом перекодировать в что нужно и уложить в контейнер FLV.
1 Однотипные VOB-ы позволяют склеивать себя командой cat 1файл.vob 2файл.vob сколькоугоднофайлов.vob > выходнфайл.vob
2 Импортируешь сразу выходнфайл.vob программой Audacity (она возьмет звук) ---> экспорт WAV. Далее, WAV ---> AAC с помощью neroAacEnc (лучше), но можно в AAC сразу из Audacity (хуже).
3 Импортируешь выходнфайл.vob программой Avidemux. Кодируешь в x264 двухпроходным кодироавнием или однопроходным с постоянным квантизером 26 (отличное качество) или 41 (заметные потери качества). Звук при этом отключить.
4 Полученные аудио и видео склеиваешь ffmpeg -i video.mkv -i audio.aac -vcodec copy -acodec copy выходн_файл.flv