Насчёт aoTuV версии. Он сильно оптимизирован под низкие битрейты (q3 и ниже), на больших же оптимизации практически никак не проявляются. ИМХО, для вашего теста стоило брать Oggenc2.86 использующий libVorbis v1.3.1.
Не совсем понятна идея с f2f и одновременным использованием публичных серверов обмена ключами. Получается, что в конечном итоге все будут друг друга знать?
Ну, в Аегисабе (для которого я и пишу на Lua) для UTF-8 есть свой костыль. Про отдельные библиотеки тоже давно знаю, но хочется же, чтобы всё это было родное.
Только там один голый компилятор. Все зависимости придётся пересобирать самостоятельно. ffmpeg для w64, к примеру, собирается так:
./configure --enable-cross-compile --cross-prefix=x86_64-pc-mingw32- --prefix=/mingw/x86_64-pc-mingw32 --arch=x86_64 --enable-gpl --enable-postproc --enable-memalign-hack && make