Доброта Qwen3.5–4B держится на двух нейронах
У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.
Проверил ChatGPT на 220 запросах про стеновые панели: без города он советует магазины в США, с городом — российские
Если вы проверяете, называет ли ChatGPT вашу компанию, и видите в ответах американские магазины, рано решать, что про Россию ему нечего сказать. Скорее всего, он просто не знает, где вы.
Что проверил: в октябре я снимал ответы ChatGPT для поставщика бамбуковых стеновых панелей из Петербурга. Проб было две: 87 главных запросов 13 октября и 133 уточняющих 21 октября. Запросы шли без города, как их обычно пишут люди: «стеновые панели для кухни», «панели под камень». В первой пробе 23 ответа назвали магазины США, один пришёл на казахском. Во второй таких набралось 56.
Дело в том, что ChatGPT определяет примерное место по IP-адресу, это прямо написано в справке OpenAI о поиске. Сервис, через который я снимаю ответы, ходит в ChatGPT не из Петербурга, и модель честно ищет панели там, откуда пришёл запрос. Это как сервер в UTC: встречу он поставит по своим часам, пока ему не назовёшь часовой пояс. Подставить Россию в настройках тоже не выходит, её нет в списке стран, где OpenAI работает официально (The Register). С регионом ru я получал пустые ответы, с kz получил цены в тенге.
Считаем: в те 23 запроса первой пробы я дописал «в Санкт-Петербурге». Во всех 23 ответах ChatGPT назвал петербургских продавцов. 56 запросов второй пробы я переснял так же.
Как делают:
ставят страну в настройках сборщика любого сервиса: Россия даёт пустоту, соседние страны дают чужую валюту;
снимают через VPN, и тогда ChatGPT ищет в стране по IP VPNа;
снимают без региона и дописывают город в сам запрос, когда ответ ушёл за границу или модель переспрашивает, где вы. Так делаю я: в отчёте ключ стоит так, как ищут люди, а в ChatGPT уходит «стеновые панели для кухни в Санкт-Петербурге».
Можно возразить, что покупатель тоже пишет без города. Так и есть, но и у него ChatGPT смотрит на IP и на его историю запросов. Город в запросе делает замер повторяемым: через месяц вы спросите то же самое и сравните.
Рекомендую перед любым замером задать ChatGPT пару товарных запросов и посмотреть, в какой стране он ищет. Если в ответе магазины США, допишите город в запрос, а ключ в отчёте оставьте как есть.
Источники: