Я не правил ISO. Я переписал net_tg3.v00 в корне USB флешки с инсталляцией. И все.
Конечно правка net_tg3.v00 может выльется в цирк, т.к. используется vmtar для архивирования net_tg3.v00, но можно попробовать поискать утилиты для vmtar. Я сам перепаковывал net_tg3.v00 в по ходу инсталляции, чтобы сохранить результат потребуется флешка размером не более 2Гб, отформатированная под FAT.
Установка ESXi 5.1 на NUC ( DC3217BY )