KapellaSD, навскидку вырисовывается решение с применением скрипта, который бы мониторил состояние папки, куда ответственный пользователь будет кидать файлы. Исходное состояние: плеер у Вас запущен. В нем - все файлы текущей папки. В фоне работает скрипт. Пользователь добавил файл. Скрипт это заметил и вызвал команду:
vlc --started-from-file --playlist-enqueue "полный_путь_к_новому_файлу"
Можете проверить в своей системе - это приведет к добавлению файла к текущему плейлисту.
Но тут появится иная проблема: как удалить файл из плейлиста, если пользователь его в исходной папке удалил/переименовал. Воспроизведение у vlc в этом случае как минимум 1 раз стопырится с денмонстрацией ошибки (окно висит до действий пользователя, перехода на новый файл не происходит). Так что полумера, похоже что...