Более универсальное средство:
xdg-mime query filetype your_avi_file.avi
На выходе получаем для avi MIME-тип файла:
video/x-msvideo
Устанавливаем необходимое приложение, по умолчанию обрабатывающее файлы с MIME-типом video/x-msvideo:
xdg-mime default smplayer.desktop video/x-msvideo
Определить приложение, по умолчанию связанное с заданным MIME-типом, позволяет команда:
xdg-mime query default video/x-msvideo
На выходе получаем:
smplayer.desktop
Все вышесказанное справедливо для любых MIME-типов.