Я бы посоветовал поставить:
htb - для ограничения скорости юзерам;
squid - биллинг, через прозрачное проксирование, и здесь же можно резать скорость, но 1-ым вариантом проще);
ipmasq, dnsmasq - для раздачи ip по мас и для облегчения настройки iptables;
+ ко всему можно прикрутить sarg для вывода отчетности.