handbrake не умеет конвертировать в AVI, из него давно убрали эту функцию, в нем осталась поддержка mp4 и mkv.
По теме: нужно узнать в инструкции по эксплуатации DVD плеера к телевизору, что он умеет воспроизводить.
AVI (видео кодек, аудио кодек), допустимые параметры видео и аудио.
Если неизвестно, то пробовать методом тыка.
AVI (xvid, mp3), видео 720x576, остальные параметры на свое усмотрение.
Можно через Avidemux или в WInFF сконвертировать.
Но, стопроцентной гарантии что сразу все воспроизведется - нет, если один конвертер не смог сделать рабочую версию видео, значит нужно пробовать другой.