Для обеспечения безопасности RDP протокола (или любого другого, который торчит наружу в винде) можно нужно пользоваться IPBAN Это подобие fail2ban для винды.
pfsense прекрасно подойдет, конфигурируете его как шлюз для остальных машин, настраиваете vpn по желанию (IPsec,L2TP,OpenVPN) все довольно наглядно, через веб-интерфейс
можнонужно пользоваться IPBAN Это подобие fail2ban для винды.