Как я создавал убийцу HTML

Или как создать текстовый редактор с подсветкой синтаксиса ЯГТР. Но тут я даже не знаю с какого края ухватиться.

Для начала можно попробовать посмотреть на генераторы парсеров по грамматикам — например, на pegjs. Далее можно попробовать свои силы в написании плагина к какому-нибудь редактору. В частности, например, для NetBeans-а еще нет подсветки pegjs, а сделать ее не очень сложно. Самое интересное, что на основе примера интеграции новой подсветки языка можно реализовать подсветку грамматики pegjs с помощью самого pegjs (если сначала портировать его на java. Впрочем, можно воспользоваться и другим парсер-комбинатором, но это не так эпично)! Я и сам хочу этим заняться, но пока поглощен другим проектом.

utf8=require'lua-utf8'

s=[[\пар(Этот текст будет \ж::class='bold'::(полужирным), а этот - \к(курсивом)\изо`align='center'`)]]


--хеш для тегов с телом
local complex_tags = {
	['пар']='p', ['ж']='b', ['к']='i'
}

--хеш для тегов без тела
local simple_tags = {
	['бр']='br', ['изо']='img'
}

--паттерны для разбора тегов, без начального символа "\" 
local complex_tag_pattern = [[:?:?([^:%)%(\]*):?:?(%b())]]
local simple_tag_pattern = [[:?:?([^:%)%(\]*):?:?]]

--рекурсивная функция в которой все и происходит 
local function pp(str)
	--обрабатываем теги без тела
	for ya_tag, html_tag in pairs(simple_tags) do
		str=utf8.gsub(str, [[\]]..ya_tag..simple_tag_pattern,
			function(attrs)
				local s = '<'..html_tag
				if #attrs>0 then s=s..' '..attrs end
				s=s..'>'
				return s
		end)
	end

	--тоже но уже для тегов с телом
	for ya_tag, html_tag in pairs(complex_tags) do
		str=utf8.gsub(str, [[\]]..ya_tag..complex_tag_pattern,
			function(attrs, body)
				local s = '<'..html_tag
				if #attrs>0 then s=s..' '..attrs end
				s=s..'>'..pp(utf8.sub(body, 2, -2))..'</'..html_tag..'>'
				return s
		end)
	end

	return str
end

--выводим результат
print(pp(s))

Насчет pre можно использовать подход LaTeX, ну или похожий на него

\начало пфт
Текст Предварительно Форматированного Текста
Следующая строка
\конец пфт