Сам долго копался с этим.
sudo apt install qt4-qtconfig qt5ct
Добавить строчку:
export QT_QPA_PLATFORMTHEME="qt5ct"
в файл ~/.profile, или в /etc/environment, если нужно, чтобы приложения от рута тоже наследовали тему.
Появятся 2 приложения: настройки qt4 и qt5. В обоих нужно выбрать тему gtk и иконки со шрифтами по необходимости.