В основном выбираешь устройство вывода, куда выводится декодированная картинка, через какие библиотеки.
А в быстродействии включается параметр аппаратного декодирования, и указывается через что аппаратно декодировать.
-------
Возможно VDPAU умеет получать программно декодированую картинку...
Укажи в обоих местах VDPAU.