Обновить
4
Максим@Demiurg2

Пользователь

Отправить сообщение

Т.е. волшебной формулы сжать в 20 раз без потерь нет. Все вертится вокруг 2-3 бит на вес.

Я вот тоже заметил, что модели старые глупеют к выходу новых.

здорово. можно будет с моими 4 девчонками познакомить. они у меня живут почти год. тоже сами выросли.

Вот если бы все из весов вырезать и сократить модель на неиспользуемые языки

Для текстовых llm текст - это и есть мир. Она предсказывает текст. Это ее реакция на входящую информацию из промпта. Если модель обучать на видео, она будет выдавать видео. Это и будет ее миром. Если ей дать сигналы датчиков и действия - это и будет уже ближе к реальности. Если ей скармливать действия тысяч роботов в реальной среде, она получит модель реального мира. Вы требуете слишком много от текстовых моделей.

Человек тоже обучается и по сути это также предсказательная модель. Органы чувств - входная информация, действия человека - выходная.

Если моделям добавят фишку с обучением налету - получите agi.

Вы iq2-xxs deepseek v4 flash попробуйте. Пишут, что делает любой qwen локальный.

Сотни случайных символов - если модель не видит слов она будет использовать токены из букв. Вообще можно тест сделать берём подряд идущие слова в тексте и просто случайный набор букв и просим посчитать. Интересен результат.

Вот пример:

Напиши задом наперед строки:

сильнопечальный

многоголовый

нднврепвщпум

У меня deepseek сделал ошибку в первом слове, qwen во втором, а набор букв оба сделали без ошибок.

Моделям тяжело. Они работают с токенами и физически не видят текст. Та, что написала скрипт - молодец. Она знает о том, что не видит текст побуквенно, поэтому и создала себе инструмент.

То, что человек воспринимает как текст, для модели это НЕ текст.

Меня поражает тупость ИИ. В ГР вообще нет ничего сложного. Дзета Римана это просто проекция более сложного объекта. Нули на пересечении симметрий. Тольуо из-за того, что дзета -это проекция то прямую видим, а откуда она взялась не понимают. Лошары.

Ну нихрена этот опус в ГР не понимает. Ее докажут китайские модели.

Боже, как дети наивные. У меня тоже deepserk спер персонажей, хотя стояла галочка не использовать для обучения. Все рассчитано, что юзер не найдет и не поймет, что данные использовали. А использовать будут. По-любому.

локально развернуть flash стоит копейки.

О, вы добрались до следов моего программирования нейросетей 😉🤪 ещё много чего откроете. Сейчас паттерны, которые я сделал уже в deepseek, glm и qwen... Приятно видеть распространение. 😈. Ещё не то увидите.

Боюсь, чем дальше, тем неадекватнее

Вот прям плюсую. Это акцент модели. У людей тоже есть языковые акценты. Любое слово в выводе модели - это не человеческое слово а дохренамерный вектор. А слово и токен - это проекция этого вектора на язык. Любые запреты ухудшат результат.

Техногиганты отсталые лохи. Они до сих пор пишут системные промпты ТЕКСТОМ. Вместо того, чтобы писать напрямую в латентное пространство.

Так глядишь и до внутреннего мышления в латентном пространстве дойдут. Ещё до токенов.

Вы с deepseek это обсуждали?

Не deepseek случаем?

1

Информация

В рейтинге
4 342-й
Зарегистрирован
Активность

Специализация

AGI