Как я переписал Model Context Protocol на Go и получили 100K ops/sec (может и больше)

[NTDim1973]

ИИ переписал инструмент для ИИ )

[Elaugaste]

Ссылку на гитхаб не видно. На сколько знаю, уже давно есть несколько имплантации mcp для golang.

[zbot]

дружище! Я сейчас пытаюсь собрать контейнер в докере для запуска Qwen3-TTS, так вот gemini cli уже часа 3 лопатит и пересобиарет питоновские torch и flash-attn и прочее прочее... Сижу, смотрю краем глаза, слушаю кантри и балдею от того какой я программист и линуксист :-)

[opusmode]

Вы пытаетесь на alpine? Или python-slim? Неужели нет wheel?

[koolvn]

Flash attention собирать без 128Гб ram - это самоубийство (часа 3-4 будет собираться)
Лучше используй wheel готовый
типа https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.9cxx11abiTRUE-cp312-cp312-linux_x86_64.whl

torch < 2.10.0

[koolvn]

пока ждёшь можешь с моим ботом поиграться - https://t.me/pretender_tts_bot