Есть же готовые решения, как платные, так и бесплатные. pfSense например, или Zentyal Development Edition какой-нить, который в принципе уже комбайн с AD, почтовым сервером и т.д., но при установке можно выбирать только нужные модули.
pfSense основан на FreeBSD, Zentyal на Ubuntu.
А если не брезгуете путём благородных флибустьеров (али денех не жалко), то Kerio Control. Хоть отдельной системой, хоть на виртуалку. Прекрасно уживается с Oracle VirtualBox или неканоничным Hyper-V.