Доброта Qwen3.5–4B держится на двух нейронах
У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.
Это явно недостойно прямо отдельной статьи на Хабре, но так сложилось, что надо было потрогать 4090 с 48 гигами памяти.
Сделал быстрый замер:
git clone https://github.com/wilicc/gpu-burn cd gpu-burn # в Dockerfile поменять версию CUDA на актуальную docker build -t gpu_burn . docker run --rm -it --gpus '"device=0"' --entrypoint bash gpu_burn ./gpu_burn 120 ./gpu_burn -tc 120
По температуре греется где-то до 75-77 градусов. Ничего не настраивал, ничего не оверклокал.