Сам я f2b не пользовался, но думаю все можно решить с помощью iptables. К примеру:
iptables -N F2B
iptables -A INPUT -p tcp -m multiport --dports 80,21,22,443,8080 -m tcp --tcp-flags FIN,SYN,RST,ACK SYN -j F2B
iptables -A F2B -m recent --set --name f2b --rsource
iptables -A F2B -m recent --update --seconds 1 --hitcount 15 --name f2b --rsource -j DROP
iptables -A F2B -j RETURN
Можно и по другому.
Все равно открытие наружу портов, это приглашение для всякого рода неприятностей. Нужно по любому как-то их ограничивать.