После добавления правила:
iptables -A FORWARD -p tcp -s 192.168.X.Y -d 91.199.212.171 -j REJECT \
--reject-with tcp-reset
картина стала ясной.
Значения, которые указаны в правиле --limit 3/minute --limit-burst 3, вероятно, оптимальные. Oskar Andreasson непроверенные данные писать не будет.
Относительно плохого. Если такая запись присутствует значит что-то не так или снаружи или внутри хоста.
Относительно хорошего. Имеется такая запись и она в себе несет информацию, можно определиться с направлением поиска.
Всем доброго здоровья!