Исходники открытые, так что можно изучить и посмотреть как реализовано, чтобы потом использовать уже в чём-то своём. Сейчас я готовлю статью по аффинным преобразованиям. Потом может руки написать про триангуляции и генерацию процедурных мешей в целом.
Генерация меша комнаты не сказать, что что-то супер сложное. Там чуть-чуть пришлось покопаться, чтобы была возможность задавать толщину стен, а в остальном всё +- просто. Вот сам класс отвечающий за генерацию меша (всего 253 строки) (для триангуляции используется Poly2Mesh)
Расширение редактора Unity через Editor Window, Scriptable Object и Custom Editor