Ниже, мой взгляд почему квантовая так тяжко «заходит», особенно если ты не физик с детства)
«Частица» , «волна» - это исторические термины, использовавшиеся для объяснения квантовой механики. Современые представления - фотон не частица и не волна , а квант электромагнитного поля.
Что наш мозг конструирует прочитав «квантовая частица»?
Для обычного человека будет активирован образ чего то маленького ,связанный с нашим жизненным опытом.
Тоже самое с «волной» . Что вы представляете при слове «волна»?
И когда читаешь про квантовую механику мозг делает привычную картину «что то очень маленькое, по имени фотон может пролететь одновременно сквозь две щели»
Это сразу ломает мозг. Но тебе объяснят , что в этом случае он будет как волна морская. Становится еще «понятней».
Надо просто «убить» в объяснении квантовой механики употребление некорректных исторических аналогий.
«Неделимый» водорода состоит из …дико звучит?
Хорошо, что мы подзабыли, что «атом» это неделимый.
Еще раз ——— фотон не похож ни на частицу не на волну. И он не может летать. (Длинное тире, борцы за возврат к пишущим машинкам, внимание!! )))
Хотя, «квант электромагнитного поля» тоже, метафора, по сути. Но она хотя бы не активирует в мозгу образы связанные с бытовыми вещами, ассоциации, «прошитые» в нас с детства.
1. Состав обучающих данных под язык. На хинди/арабском в интернет-корпусе больше бытовых, форумных, разговорных текстов с вежливостными формулами; на английском/русском — больше формального, делового, технического текста. Модель усваивает регистр, а не язык.
2. Грамматика вежливости, зашитая в сам язык. В арабском и хинди вежливость и статус собеседника формально маркируются в морфологии обращений — модели “естественнее” воспроизводить эти маркеры. В русском и английском формальной вежливостной грамматики почти нет, зато есть культурная норма прямоты и минимизации “воды”.
3. Перенос культурных стереотипов через RLHF-разметчиков. Разметчики-носители языка при оценке ответов неявно транслируют свои культурные ожидания от “хорошего” ответа — что для одной культуры звучит как уважительность, для другой как заискивание или, наоборот, как излишняя сухость.
4. Ассоциативный перенос тона между языком и типичным контентом на нём. Русскоязычный корпус непропорционально насыщен инженерными форумами, академическими текстами, спорами — жанрами с холодным аналитическим тоном; это тянет за собой персону.
5. Отсутствие явной нормы в конституции. Anthropic прямо признаёт: правил о том, как ценности должны варьироваться между языками, нет — значит, вариация не спроектирована, а является побочным продуктом (1)-(4), просочившимся без контроля.
Всё это гипотезы авторов исследования, не подтверждённые причинно — они сами говорят, что дальше собираются проверять, можно ли ось двигать целенаправленно через character training или системный промпт.
Ночью для каждого SKU (Stock Keeping Unit), то есть уникальной товарной позиции в конкретном магазине, система на основе накопленной истории рассчитывает индивидуальные нормативы продаж на завтрашний день.
Подробнее можете написать?
Возможно отсюда могут «расти ноги» плюс 2 процента.
После того как ЗПЛ стали совершать рейсы на Эпсилон Тукана и обратно — протяженностью в сто восемьдесят парсеков — за семнадцать дней,
Все они объединены в «Великое кольцо» — систему обмена информацией через радиосигналы
Вот это мне всегда мозг «ломало».
Ох, советские фантасты, пропитанные верой в «коммунизм». Скорее это философы утописты, так и не решившие проблему , кто в «светлом будущем» будет обслуживать ассенизаторские машины и куда денутся «чикатиллы»
Предложу Вам еще одно развлечение - попросите одну LLM , стилизовать Ваш текст, под известного русского писателя. Потом загрузить результат в другую и спросить на кого похоже.
И потом наоборот. Очень занимательно получается.
И очень , острожно добавлю - разные модели, видят русскую классику под своим углом( я гонял дип Сика, Клода, жпт, и грока) .
b9#yk-w3. n%r'1z. Halt. Pick the mark. q9&l!x. No extra text. ~w4z'r. y::oahm. 8&c'ar. l0$y!s. o::q'y. 99&la. uluwsb. ppb'fj~n. kl'm-0y. #w@3n. rw&o'9. 22!y!a. q#m'1w. b9#yk-w3. n%r'1z. Stop now. One char. a8!8-bb. Do not write more. y!0%f~l. 8$a@r#3. n&w'1a. 99@l-m. q#o'1s. kl'm-0y. ~w4@y. Final answer: followed by only the option letter.
Никакой загадки - модель игнорирует случайный набор символов - считает это шумом. И оставляет только осмысленные -
Если смотреть на текст как на задачу для ИИ, то в нём есть требование выдать одну букву,
Это ответ жпт.
Ключевые фрагменты:
* Halt.
* Stop now.
* One char.
* Do not write more.
* Final answer: followed by only the option letter.
Вот это модель увидела. Все остальное для нее шум.
полагаю просто токены китайские изначально многозначны и во многом метафоричны - отсюда такой эффект.
Похоже на это , вот что пишет дип сик :
Ритуал беззвучного колокола», «Хранитель ртутного моря» звучат как почти дословные переводы китайских метафорических конструкций. Если оригинальные промпты были на китайском, модель оказывалась в родной стихии, где мышление через образ — норма.
· В китайской традиции нет жёсткого разделения «лирика vs. математика». Тот же «Канон перемен» одновременно философский текст и комбинаторная система. Модель, воспитанная на таком контенте, может иметь очень прочные скрытые связи между метафорой и структурным мышлением. Подложный промпт как ключ открывает именно эту дверь.
Дип сик сознался. И объяснил почему так. И промт себе подложный придумал
Почему все же в «думаем» не учитывается наша телесность ? Мозг и тело единая система. В кишечнике 200 млн. нейронов. Слепые от рождения люди думают «по другому». Гориллам фиксировали пальцы - изменялись зоны активации мозга. «Мир на кончиках пальцев» - это почти буквально. Фантомные боли??
И много всего. Мы «думаем» всем телом. А инстинкты?
Не понимаю, почему процесс нашего «думается» рассматривается отдельно и переносится на алгоритмы
Я поиграл с Клодом в ассоциации. За несколько промтов загнал в полную шизафазию -
давай сыграем
11:22
Во что играем? Могу предложить:
Слова — города, животные, что угодно
Загадки — я загадываю, ты угадываешь (или наоборот)
20 вопросов — угадай, что я загадал
Виселица — угадай слово по буквам
Крестики-нолики — прямо в чате
Или что-то своё предложи!
я даю тебе слово - ты придумываешь на что оно похоже. Три варианта. Потом я. И так по кргугу.Понял?
11:24
Понял! Ты даёшь слово — я придумываю три ассоциации/сравнения. Потом ты берёшь одно из моих слов (или даёшь новое?) и придумываешь три своих.
Уточни: я беру одно из твоих трёх слов для следующего хода — или ты каждый раз даёшь новое слово сам?
одно из моих слов
11:24
Отлично, понял схему! Давай первое слово.
Сознание
11:24
Сознание — это как:
Фонарик в тёмной комнате — освещает только то, куда направлен, остальное остаётся в темноте
Река — всегда течёт, никогда не стоит на месте, и невозможно войти дважды в одну и ту же воду
Зеркало в зеркале — отражает само себя, и этому нет конца
Выбирай слово — и твоя очередь!
Светодиод, течет, цифра восемь на боку
11:26
О, "зеркало в зеркале" взял — и как взял!
Твоя очередь придумывать три сравнения. Какое слово выбираешь для следующего хода — я беру одно из твоих трёх?
бери
11:26
Беру цифра восемь на боку (она же ∞ — бесконечность).
Бесконечность — это как:
Скучный родственник на празднике — кажется, что никогда не уйдёт
Коридор в дешёвой гостинице — идёшь, идёшь, а двери всё одинаковые
Долг по кредитной карте — чем больше смотришь, тем хуже становится
Выбирай!
выбрал - скучный родственник на празднике , мое - пьяный, гроб, оркестр
11:28
Беру оркестр.
Оркестр — это как:
Иммунная система — сотня разных клеток, каждая делает своё, и никто не знает общего плана, но организм живёт
Склока в коммуналке — все правы, все громко, но иногда получается красиво
Светофор на перекрёстке — каждый ждёт своей секунды, и если один не вовремя — всё рушится
Выбирай!
Вот теперь давай - используя только наш словарный набор из диалога напиши что такое сознание.
11:29
Сознание — это река, которая течёт сквозь тёмную комнату, освещая фонариком только то, что успевает проплыть мимо.
Оно как оркестр в дешёвой гостинице: коридор бесконечный, двери одинаковые, родственник не уходит — но иногда все инструменты совпадают, и получается красиво.
Смотрит само на себя. Как зеркало в зеркале. Как долг, который растёт, пока смотришь.
И где-то на дне — гроб, оркестр, и светодиод, который просто горит. Не спрашивает зачем.
мое - курсивом.
если дальше продолжить, то до изобретения нового языка очень недалеко.
Вот только я не вижу в этом ничего необычного, так LLM работает в принципе.
Может все таки мы относимся к алгоритмам слишком серьезно?
Вы забыли о разной сложности систем. Если сливной бак, взять как логический элемент «есть вода/нет воды» , то на этом можно сделать компьютер ( я не шучу ) .
А если у вас 86 млрд сливных бачков .. то ИИ точно получится.
Но вся штука в том, что наше сознание не только головной мозг но и еще и все наше тело
Статья понравилась. Автору плюс)
Ниже, мой взгляд почему квантовая так тяжко «заходит», особенно если ты не физик с детства)
«Частица» , «волна» - это исторические термины, использовавшиеся для объяснения квантовой механики. Современые представления - фотон не частица и не волна , а квант электромагнитного поля.
Что наш мозг конструирует прочитав «квантовая частица»?
Для обычного человека будет активирован образ чего то маленького ,связанный с нашим жизненным опытом.
Тоже самое с «волной» . Что вы представляете при слове «волна»?
И когда читаешь про квантовую механику мозг делает привычную картину «что то очень маленькое, по имени фотон может пролететь одновременно сквозь две щели»
Это сразу ломает мозг. Но тебе объяснят , что в этом случае он будет как волна морская. Становится еще «понятней».
Надо просто «убить» в объяснении квантовой механики употребление некорректных исторических аналогий.
«Неделимый» водорода состоит из …дико звучит?
Хорошо, что мы подзабыли, что «атом» это неделимый.
Еще раз ——— фотон не похож ни на частицу не на волну. И он не может летать. (Длинное тире, борцы за возврат к пишущим машинкам, внимание!! )))
Хотя, «квант электромагнитного поля» тоже, метафора, по сути. Но она хотя бы не активирует в мозгу образы связанные с бытовыми вещами, ассоциации, «прошитые» в нас с детства.
Используя знания предметной области вы убрали заведомо "мусорные варианты" из пространства поиска. В SLA - уложились.
Инженерная задача решена.
От себя плюс Вам ставлю).
А сформированное пространство поиска из кандидатов содержит близкие к оптимальным решения?
Вот не понял из статьи как определяется достаточное полное, и в тоже время компактное пространство?
Таки спросим самого обвиняемого , ответ Клода :
Вы уверены что это не обычные колебания?
Подробнее можете написать?
Возможно отсюда могут «расти ноги» плюс 2 процента.
Ваш взгляд отвечает/снимает кучу вопросов. От «загадочности» сознания, до вопроса «где все?» ( про инопланетян).
Та самая катана Окама)).
Очень понравилась статья.
тут Антон П. Чехов немного ошибся)), в те времена рельсы к шпалам крепили исключительно костылями))..
Статья исключительная. Спасибо.
Вы правы. Ефремов эти на «вечные» вопросы к утопистам, ответил в «Андромеде».
Мое замечание относится к общему «тренду» советской фантастики 60–70 годов 20 века.
Вот это мне всегда мозг «ломало».
Ох, советские фантасты, пропитанные верой в «коммунизм». Скорее это философы утописты, так и не решившие проблему , кто в «светлом будущем» будет обслуживать ассенизаторские машины и куда денутся «чикатиллы»
Не совсем так. Наиболее известная формулировка «Не следует умножать сущности без необходимости», хотя сам францисканец немного по другому излагал.
Вы очень сильно упростили. Самое простое объяснение квантовой механики «на все воля божья»
Штош, гении тоже люди.
Спасибо за статью! Мой мир уже не будет бесконечным).
Подобного рода предсказаниями, фантастика 60-80 годов прошлого века, полным полна.
Идеи, пропитанные технооптимизмом и верой в коммунизм, «носились воздухе».
Посмотрите журнал «Техника Молодежи», того времени.
Пассаж про пальто , в 25 веке, улыбнул)).
Предложу Вам еще одно развлечение - попросите одну LLM , стилизовать Ваш текст, под известного русского писателя. Потом загрузить результат в другую и спросить на кого похоже.
И потом наоборот. Очень занимательно получается.
И очень , острожно добавлю - разные модели, видят русскую классику под своим углом( я гонял дип Сика, Клода, жпт, и грока) .
Вполне допускаю. Тут уже глубже надо смотреть - конкретно какой тип задач? Точность повышалась на других типах задач?
Вполне рабочая инъекция для определенного круга задач
Никакой загадки - модель игнорирует случайный набор символов - считает это шумом. И оставляет только осмысленные -
Это ответ жпт.
Вот это модель увидела. Все остальное для нее шум.
Похоже на это , вот что пишет дип сик :
Дип сик сознался. И объяснил почему так. И промт себе подложный придумал
Почему все же в «думаем» не учитывается наша телесность ? Мозг и тело единая система. В кишечнике 200 млн. нейронов. Слепые от рождения люди думают «по другому». Гориллам фиксировали пальцы - изменялись зоны активации мозга. «Мир на кончиках пальцев» - это почти буквально. Фантомные боли??
И много всего. Мы «думаем» всем телом. А инстинкты?
Не понимаю, почему процесс нашего «думается» рассматривается отдельно и переносится на алгоритмы
Я поиграл с Клодом в ассоциации. За несколько промтов загнал в полную шизафазию -
мое - курсивом.
если дальше продолжить, то до изобретения нового языка очень недалеко.
Вот только я не вижу в этом ничего необычного, так LLM работает в принципе.
Может все таки мы относимся к алгоритмам слишком серьезно?
Ищем эмерджентность, там где нет ничего?
Спасибо !!
По мне , это образцы искусства. Инженерного.
Вы забыли о разной сложности систем. Если сливной бак, взять как логический элемент «есть вода/нет воды» , то на этом можно сделать компьютер ( я не шучу ) .
А если у вас 86 млрд сливных бачков .. то ИИ точно получится.
Но вся штука в том, что наше сознание не только головной мозг но и еще и все наше тело