Недавно тоже мучился, больше не с настройкой, а с поддержкой, которая упорно доказывала мне, что TP-Link 3420 не поддерживается, и я должен роутер у них приобрести. Ну да ладно.
Я некомпетентен в этой области, потому настраивал через веб-интерфейс (luci), по первому совету из гугла разделил свич на 2 VLAN'а, на одном поднял WAN и воткнул приставку, на другом ppp-соединение. Как ни странно, через 15 минут всё заработало :)
Настройка IPTV в OpenWRT Asus RT-N13U