запуститите vlc через терминал и посмотрите что он туда пишет
Вот такое он пишет.
VLC media player 2.0.0 Twoflower (revision 2.0.0-0-g421a4fc)
[0x6e5108] main libvlc: Запуск vlc с интерфейсом по умолчанию. Используйте 'cvlc' для запуска vlc без интерфейса.
MKV/Ebml Parser: m_el[mi_level] == NULL
MKV/Ebml Parser: Up cannot escape itself
MKV/Ebml Parser: m_el[mi_level] == NULL
MKV/Ebml Parser: Up cannot escape itself
libva: VA-API version 0.32.0
Xlib: extension "XFree86-DRI" missing on display ":0".
libva: va_getDriverName() returns 0
libva: Trying to open /usr/lib/dri/nvidia_drv_video.so
libva: va_openDriver() returns 0
[0xd3c3e8] avcodec decoder: Using VA API version 0.32 for hardware decoding.
Ошибка сегментирования
Обнаружил, что вылетает проигрыватель не только при открытие mkv, но и с некоторыми mpeg тоже.