В Nautilus миниатюры видео файлов формируются через /usr/bin/totem-video-thumbnailer или /usr/bin/ffmpegthumbnailer
Путь к исполнительному файлу и список форматов указывается в конфиге /usr/share/thumbnailers/totem.thumbnailer
Ну и по форматам, если у файла указано расширение вконце названия, тогда определяет формат по нему, если расширение не указано - тогда по содержимому файла (вначале кода двоичного файла указан формат).
Подсказки смотри здесь
http://forum.runtu.org/index.php/topic,1643.msg34301.html#msg34301Первое сообщение в теме там для Ubuntu 10.04, второе для Ubuntu 12.04