Определитесь, что вы понимаете под хостингом.
Если в интернет вещать, то нужно хранить перекодированное видео на сервере. Например в формате flv и использовать flow player для просмотра на стороне клиента. Муторно, но реально.
Перекодировать можно и пакетно через vlc.
Если делать video on demand, то можно опять-таки использовать vlc. Имхо очень сложно, там для интерактива используются lua скрипты, как я понял.
А можно просто просматривать файлы через smb шару. Но тут есть один неприятный момент, связанный с любовью проводника делать бесполезные превьюшки видео, что приводит к нелинейному чтению и замедлению работы сервера.