Обрати внимание на фильтрацию:
iptables -I FORWARD -s 10.0.0.0/24 -p tcp -m string --algo bm --string "
.youtube.com" -j DROP
Youtube пренаправляет по умолчанию на домен третьего уровня.
https://www.youtube.com/iptables -I FORWARD -s 10.0.0.0/24 -p tcp -m string --algo bm --string ".vk.com" -j DROP
А Vk.com делает наоборот оставляет на домене второго уровня.
По этому
тебе надо просто убрать точку перед доменом и он будет заблокирован.
Вообще не должна, но может быть проблема (надо будет проверить): будет ли блокировать все домены которые кончаются на "*****vk.com".
И на будущее с регулярными выражениями будь повнимательнее.