Обновить

Три нейрона — и Qwen называет себя кофейным зерном

Уровень сложностиСредний
Время на прочтение7 мин
Охват и читатели7.1K
Всего голосов 5: ↑5 и ↓0+6
Комментарии8

Комментарии 8

Продолжите фразу: И все это я сделал для того что бы...

побаловаться)

Как говорится: "О сколько нам открытий чудных..."? :D Тогда поздравляю! Вы передоказали принципы ЛЛМ: если триггерить разные веса, ответы будут разными :D

чтобы*

Как вы меняете сразу три нейрона? Один как понятно. Дочитал статью, powerShell? Неудобно. Есть способы лучше?

powershell использовал только как HTTP-клиент для отправки запросов к API neuron-explorer. То же самое можно сделать через Python, Postman или AI-агента с подключённым MCP.

Например, в Python комбинация выглядит так:

neurons = [
    {"layer": 24, "n": 8188, "dose": 0.5},
    {"layer": 23, "n": 7985, "dose": 0.5},
    {"layer": 23, "n": 7935, "dose": 0.4}
]

Все три воздействия применяются одновременно при генерации, веса модели при этом не изменяются.

В самом neuron-explorer стандартный интерфейс Chat пока работает с одним нейроном, но есть отдельный API /api/agent/steer для комбинаций и MCP-инструмент steer для работы через агента.

Также использовал небольшой powershell-скрипт для автоматического перебора комбинаций с разными дозами и промптами, с сохранением результатов в файл.

Спасибо, что объяснили как это работает.

Неудобная деталь про «злой нейрон»

Какую модель поблагодарить? Все они любят пункт The Uncomfortable Truth когда их просят написать статью.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации