Доброта Qwen3.5–4B держится на двух нейронах
У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.

Почему ChatGPT - это тупик? Мнение «крестного отца» ИИ

Мы привыкли думать, что современные нейросети - вершина эволюции: они пишут код, сдают экзамены и сочиняют стихи. Но Ян Лекун, один из главных учёных в области ИИ, считает, что мы свернули не туда.
Проблема хорошо видна через парадокс Моравека. Машина может решить сложную теорему, но не понимает, что отпущенная чашка упадёт и разобьётся. Подросток учится водить машину за несколько десятков часов, а ребёнок постепенно строит модель физического мира без триллионов текстов для обучения.
LLM в основном угадывает следующее слово. Ребёнок же учится через зрение и слух, понимает, что предметы сохраняются, мир трёхмерен, а гравитация тянет вниз.
Решение, которое предлагает Лекун, - Objective-Driven AI, или ИИ, ведомый целью. Такой системе нужно переводить изображение в смысл, моделировать последствия действий и стремиться к результату, соблюдая правила безопасности.
Отдельно Лекун говорит об архитектуре JEPA - Joint-Embedding Predictive Architecture. Она выделяет главное, а не пытается прорисовать каждую деталь будущего. Это снижает лишние вычисления и приближает систему к тому, как человек воспринимает мир.
Если мы хотим получить настоящий сверхразум, ИИ должен понимать физический мир, планировать действия и предсказывать их последствия. Будущее может быть не за чат-ботами, а за системами со здравым смыслом.
На моем канале: https://t.me/ideasforai/731

У Qwen3.5-4B обнаружили нейрон, вмешательство в который заметно меняет тон ответов. Достаточно сдвинуть его активацию во время генерации и получается грубая и враждебная версия модели.
