То, что сознание это программа - очень сильное суждение. Можно поинтересоваться, на чём оно основано? Есть исследования сознания, прямо подтверждающие это?
У человека еще множество выученных автоматизмов, которые мы не воспринимаем таковыми. Например, банальная ходьба. Если вы очень пристально начнёте наблюдать как мы ходим, то заметите что волевым усилием мы направляем тело, как погонщик животное, а идёт оно само, движения стали автоматизмами.
Да, я пришёл к таким же выводам лет двадцать назад. И более того, движения не просто стали автоматизмами - они, в своей существенной части, всегда для нас таковыми и были, потому что мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов. До относительно недавнего времени люди вообще были не в курсе о тонкостях работы нервной системы. Практически все регуляции мозгом работы организма полностью или почти полностью автоматизированы изначально. Поднимая руку мы генерируем намерение, которому тело почему-то (хотя, не обязательно всегда) покорно подчиняется, но процессы, которые физически приводят к довольно точно отмеренному движению - остаются "за кадром".
Это может казаться но не являться таковым, потому что сознание высокоуровневая программа, которая "не видит" глубокие инфраструктурные слои аппаратного обеспечения.
Под непосредственностью субъективного опыта я не имею в виду, что мы прямо видим фундаментальную суть реальности, включая все инфраструктурные процессы и в таком духе.
К сожалению, в русском языке сознанием называют и то, что в англоязычной называют mind, и то, что называют consciousness. Ниже я буду использовать сознание в смысле mind.
Сознание это - эмпирически - субъективное персональное пространство с куда большим количеством измерений, чем 3: в нём взаимно независимо объединяются разные типы восприятия. Пять классических сенсорных ощущений это даже не пять отдельных измерений, а пять подпространств, т.к., например, только цвет требует непустой площади (2 измерения) плюс отдельные типа насыщенности, оттенка и т.д. Современная наука открыла ещё пару десятков сенсорных ощущений, работающих в более "фоновом" режиме, но воспринимаемых. И это не говоря о куда более богатых на параметрическое разнообразие эмоциях и мыслях.
В пространстве сознания мы имеем фокус - внимание. И мы можем направлять его достаточно произвольно как между различными типами восприятия, так и между деталями восприятия одного и того же типа.
Наше осознанное восприятие всегда направлено. Оно всегда о чём-то. Это фундаментальное свойство называется интенциональностью. Наиболее простые интенции - это, например, простые сенсорные рефлексии, когда мы взаимодействуем с объектами. Более сложные (и они "наслаиваются" друг на друга, включая друг друга и работая параллельно) - состояния суждения о чём-то, веры во что-то, любви к чему-то, припоминания чего-то и т.д. и т.п.
Всё это эмпирически доступно в явной форме, как вы истинно выразились "если очень пристально начнёте наблюдать".
Вот это пространство сознания и есть наша непосредственная реальность. Другой такой непосредственной у нас нет. Даже когда мы наблюдаем внешние объекты, на деле опыт внутренний. Буквально - если я, скажем, смотрю на монитор, я полагаю его вовне, но вижу внутри своего внимания. Все наши отсылки к внешней действительности - внутренние.
И никто по сей день не знает, как может механистическая машина типа мозга (если он является такой машиной) порождать нечто подобное нашему сознанию, лишённое внутри себя (а вовне его никто не наблюдал) всякой механистичности. Есть веские причины считать, что не может, но об этом и так уже много сказано под общим заголовком "трудная проблема сознания".
Но даже если предположить, что мозг какой-то магией (напр., заметаемой под коврик термина "эмерджентность") порождает сознание, а не, скажем, регулирует его содержания, пока сознание существует и (каким-то непостижимым пока образом - "психофизический парадокс") связано с телом - то даже с позиции физики мы замкнуты в мозге. Мы не получаем никаких непосредственных сигналов от внешней реальности - сенсорные раздражители типа света не попадают нам в сознание, изображение генерируется мозгом. Как и все остальные ощущения.
Т.е., даже с точки зрения физикалистического подхода мы находимся "в чёрном ящике", и можем только пытаться догадываться, что на самом деле "снаружи". Но так выходит, что наши внутренние восприятия динамически организовываются таким образом, что создают устойчивое впечатление внешнего физического мира. Дедуктивно доказать его существование невозможно. Но практика показывает, что если хочешь оставаться в нём подольше - надо учитывать его законы.
Тем временем непосредственной реальностью для нас остаётся исключительно реальность сознания. Можно в это не верить, потому что можно верить почти во всё, что угодно - чем люди и занимаются. Но если последовать предложению Гуссерля и хорошенько отработать феноменологическую редукцию - грубо говоря, осознанно на время отказаться (словами Гуссерля - "вынести за скобки") от всех своих мировоззренческих (особенно, метафизических) взглядов, то можно взглянуть на реальность своего сознания, как таковую, и начать отчётливо наблюдать его структуру.
И вне зависимости от роли мозга - всего вышеописанного нет и не может быть у LLM.
Так же пока нет времени ответить более подробно. Поэтому короткий комментарий.
значит любой информации полученной от интроспекции доверять не надо и все выводы полученные на основании интроспекции стоить игнорировать.
Интересно, что вы понимаете под интроспекцией.
Наше восприятие фундаментально интенционально. Внимание это динамическая функция высшего порядка. Динамическая, потому что может менять порядок восприятия. Можно определить нулевой порядок, когда содержание восприятия есть в "непосредственной близости" от внимания, но нет рефлексии.
Это, например, периферийное восприятие, которого не замечаешь, сосредоточившись на чём-то другом, но оно моментально повышает порядок до восприятия первого порядка - рефлексии - при обращении внимания.
Первопорядковое восприятие включает рефлексию - мы имеем уже не просто сырое восприятие, но его интерпретации, соответствующие нашему пониманию окружения и мира.
Допустим, вы переходите дорогу только на зелёный свет, и только когда убеждены, что он зелёный.
Когда мы видим, скажем, зелёный свет на пешеходном перекрёстке и на этом основании принимаем решение перейти дорогу, мы воспринимаем (отнюдь не только зрительно) композицию из сырого "цветового пятна" и абстрактных объектов "светофор" и "зелёный свет".
Интроспекция - это когда мы повышаем внимание до 2-го порядка. Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет". Но, поскольку вы предлагаете никогда не доверять выводам интроспекции, дорогу перейти у вас никогда не получится (согласно допущению выше).
Я никогда не утверждал, что интроспекции (и, в целом, восприятию) нужно доверять всегда и безусловно. Выше даже приводил пример с иллюзией преломления карандаша в стакане воды. Но если никогда не доверять, то далеко не уйти - ни в смысле перехода через дорогу, ни в смысле, например, научной работы, да и любой интеллектуальной деятельности, которая крайне неэффективна без активного использования интроспекции. А мы ей стихийно пользуемся всегда, когда необходимо действовать не спонтанно, а ясно осознавая происходящее.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт.
Погружаемся дальше в метафизику. У меня есть что сказать на тему реальности, но пока дефицит времени, завален работой. Сформулировать подробный ответ занимает часы.
Как разгружусь, попробую этим заняться.
P.S. Сегодня обсудил эту тему с начальником - пожилым немецким профессором, академическим селебрити в районе 2000-х на стыке математики и информатики, основавшим стартап-единорог уровня рокет-сайенс. Он кууууда лучше меня понимает устройство LLM и полностью согласился с тем, что работа LLM никак не похожа на человеческое мышление. А он никогда не соглашается ради того, чтобы польстить. Добавлю, что на работе мы постоянно используем LLM буквально на границе их возможностей - и на этих границах, когда LLM начинает безбожно косячить, отчётливо видно, что человек в этой ситуации принимал бы решения совершенно иначе.
P.P.S. Это не апелляция к авторитету - я сам не признаю авторитеты по важным для моего понимания темам. Просто была возможность, и не удержался от соблазна получить дополнительный фидбек.
любая модель у нас в голове — это какой-то язык, маппинг понятий из внешнего мира на «токены» в нашем мозгу.
Имхо, у вас довольно специфическое понимание того, что такое язык. Но ок. А вы обратили внимание на небольшую цитату из ссылки на исследование, приведённой мной выше? Вот мой кустарный перевод на русский:
"Несимволизированное мышление - опыт явной, дифференцированой мысли, который не включает в себя опыт слов, изображений или любых других символов - это часто происходящий, но малоизвестный феномен."
Но пусть будет по-вашему - картирование (маппинг) внешнего мира на детали (токены) модели у нас в уме. Т.е., эти "токены" для нас имеют смысл путём отсылки (референции) к явлениям внешнего мира.
Токены LLM для LLM не имеют подобного смысла. Они не отсылают LLM к внешнему миру. LLM чисто механистически вычисляет вероятность следующего токена на основе последовательности предыдущих. И вероятность эта базируется не на модели внешнего мира, которой у LLM нет, а на огромном текстовом корпусе.
Даже если предположить наличие у LLM способности к референции (что само по себе, имхо, абсурдно, т.к. референция подразумевает интенциональность, способность быть о чём-то - не для кого-то, а в себе), то референции токенов будут не к внешнему миру, а к чему-то вроде частоты встречи в тексте.
Мы объединяем, скажем, кошек и крокодилов в общую концепцию животных не потому, что они часто встречаются рядом, а потому что имеют специфические общие биологические формы, которые мы воспринимаем непосредственно.
LLM же "объединяет" кошку и крокодила в животное (вообще, не проверял - может, и не объединяет...) только если эти слова часто встречаются в похожих текстовых контекстах. Т.е., тут "общность" это не морфология или эволюция, а статистическая близость в текстовом корпусе. У нас, так сказать, перцептивная индукция - у LLM распределительная статистика текста. Если вы считаете, что это очень похоже, то я, пожалуй, сдамся. С моей точки зрения - совсем не похоже, но добавить к уже сказанному мне пока нечего.
И я его только что поддержал плюсом в карму и комментарий, и детальным ответом. А вас уже поддержал когда-то в другой раз. :)
Если что, я не ради спора per se, просто бывает любопытно обкатать какие-то мысли и идеи. Так что спасибо за участие.
Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Выделил курсивом слова, отражающие важную структуру нашего мышления. Есть мы, и нам мозг (или что-то другое, в зависимости от занимаемой метафизической позиции) чего-то рисует. Есть "верхний" уровень - грубо говоря, уровень пользователя, субъекта. Есть "нижний", инфраструктурный уровень.
Тут такое дело - "верхний" уровень даётся нам непосредственно. Это совершенно реальный непосредственный опыт. Через него и только через него мы воспринимаем вообще всё - от сырых сенсорных квалитативных данных, до их интерпретаций в виде всяких объектов, до абстрактных сущностей типа пропозиций.
И именно в этом непосредственном опыте мы выбираем свои метафизические взгляды - даже такие, согласно которым этого непосредственного опыта вообще не существует. Я хочу остановиться чуть подробнее на вот этом взгляде.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной. Но есть люди, которые почему-то хотят делать именно это. Одна из таких парадигм - элиминативный физикализм.
Частый аргумент - непосредственный опыт, со всем его мышлением, всякими прочими квалиа типа цвета, звука, запаха, эмоций, удовольствия, боли и т.д. - всё это иллюзия. А раз это иллюзия, то никакой важности у непосредственного опыта нет, и его можно просто не учитывать в исследованиях таких феноменов, как мышление. Мы просто будем считать, что существует только вот этот "нижний" уровень. (О котором мы знаем исключительно с "высоты" уровня нашего "иллюзорного" опыта, но это я уже ворчу.)
Такой подход, несомненно, соблазнителен тем, что радикально упрощает картину мира. Как осуществляется сознательное управление субъективными содержаниями типа мыслей? А никак, потому что нет никакого сознания. Да и восприятия мыслей, согласно парадигме иллюзии, тоже нет. Остаётся только нижний уровень - с ним и будем сравнивать LLM.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом. Ход с иллюзией имеет тенденцию быстро разваливаться, если начинать к нему внимательно присматриваться.
Лично я не считаю непосредственный субъективный опыт иллюзией - даже когда в этом опыте имеются реальные иллюзии. :) Опыт иллюзии это реальный опыт, иллюзорность заключается в интерпретации сырого восприятия. Напр., восприятие преломления карандаша, наполовину погруженного в воду - это реальное восприятие при ложности напрашивающихся (скажем, по наивности или от отуствия знакоства с оптикой) мыслей о том, что карандаш объективно сломан.
И, ни разу не отрицая наличие вот этого "нижнего" инфраструктурного уровня, я также не готов отрицать наличие и важность "верхнего" уровня, где мы осуществляем (ну или, по крайней мере, пытаемся) осознанные мыслительные операции. Этот "верхний" уровень также как минимум частично является инфраструктурным для выводов, которые мы делаем, и решений, которые принимаем.
Никто не знает, где конкретно этот уровень находится. В среде философов, которые (часто вынужденно, ввиду "трудной проблемы сознания" и ей подобных) признают реальность субъективного опыта, общепринято считать, что сам этот опыт не локализован в физическом пространстве. При достаточном опыте интроспекции это можно сделать для себя очевидным.
Этот "верхний" уровень фундаментален для нас, как субъектов. Без него мы буквально не существуем. Он играет критическую роль во всём, что мы осознанно делаем. И в нём находится та часть нашего мышления, с помощью которой мы разработали науки, технологии и вот - LLM.
Психофизический парадокс ставит лучшие умы человечества в тупик т.к., с одной стороны, мы имеем механизм - тело, а с другой немеханистический (цветом, запахом, звуком, вкусом, эмоцией или мыслью тележку не толкнуть, грубо говоря) субъективный опыт с возможностью сознательных операций на нём - сущность явно радикально другого типа. Мы с самого начала поставлены реальностью перед фактом психофизического единства, которого, по механистическим парадигмам, не должно быть в принципе.
С LLM не так. Это изначально чистый механизм. Для результатов его работы не требуются ни сознание, ни квалитативный субъективный опыт. Требуется физический конвейер в виде вычислительной техники и программный конвейер в виде так называемых "нейросетей" - там мало что похожего даже на физический мозг. И много-много-много данных для калибровки программного конвейера под достаточно успешную - для нашего субъективного восприятия - генерацию такого текста, который мы привыкли получать от себе подобных.
LLM это очень крутая технология. Вне сомнений. При всех (текущих) недостатках. Но откуда там взяться реальности субъективных опыта и мышления, присущих человеку?
LLM физически и программно это целиком и полностью "нижний" уровень. Причём, очень не похожий на биологический мозг по сумме принципов работы.
Т.е., даже если мы предположим, что наша субъективная реальность возникает вследствие работы мозга, напр., путём эмерджентности (о которой никто не знает, как она работает, т.к. никто не знает, как привести тип "механизм" к типу "не-механизм"), то различия между мозгом и LLM слишком сильны, чтобы априори предполагать появление у этого механизма "верхнего" уровня - квалитативного сознания.
Заканчивая эту простыню текста (простите), скажу, что - имхо - это тот случай, когда бремя доказательства на том, кто утверждает наличие, а не отсутствие. С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact. А утверждать, что у LLM мышление прямо похожее на человеческое - т.е., включая субъективные квалитативные мыслительные операции - это как при наличии очень натуралистичного шагающего манекена (напр., производного от Atlas) утверждать, что там есть устройство скелета и мыщц, как у человека, ну и всё остальное, включая мозг и сознание. Схожесть внешних признаков совершенно не подразумевает схожесть начинки. В случае с LLM эти внешние признаки - текст. И этого очень мало, чтобы делать далеко идущие выводы.
Ну а если не предполагать у LLM психофизическое единство между квалитативным опытом и программно-железячной механистической инфраструктуры - то там и нет мышления в том виде, как мы его знаем непосредственно.
если бы это было так, никаких проблем с воспроизводством мышления не было бы
Мышление - сложный процесс. Часть его - бессознательна и детерминирована процессами нервной системы. В бессознательном происходит инфракструктурная часть мыслительного процесса.
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
И вот эту квалитативную часть - в который мы, как субъекты, непосредственно мыслим - воспроизвести как раз и не получается. И есть все основания считать, что никогда не получится (см. "трудная проблема сознания" и прочее на эту тему).
Статистическая машина LLM имитирует мышление путём генерации внешних признаков - текста. И современные LLM делают это всё лучше и лучше. Но за счёт чего? За счёт колоссального - для человека - количества текстовых данных, на которых их "тренируют". И, кстати, мышление человека развивается совершенно иначе - в противном случае все мы уже детьми становились бы ходячими мультиэнциклопедиями. Наше мышление интенсивно развивается ещё до усвоения языка и, тем более, до знакомства с чтением.
а для вас не должно быть проблемой ответить на вопрос как часто вы двигаете глазами при чтении текста
Не проблема. Те движения, которые я замечаю - если включаю интроспекцию - минимум несколько раз в секунду. Те движения, которые не замечаю (и, соответственно, осознанно не могу ими управлять) - пишут, что может доходить и до сотни в секунду. Но эти бессознательные движения делаю не я - субъект, существующий только пока есть сознание (в том числе во сне) - а инфраструктура. Тем временем, в сообщении выше я писал именно об осознанном мышлении.
А почему вы спросили именно про движения глаз? Если каким-то образом отождествлять субъект со всеми физиологическими процессами организма, то более иллюстративно, имхо, что-то вроде вопроса о количестве функций, выполняемых печенью. Мне, чтобы посчитать хоть как-то, пришлось зайти на Википедию. А Gemini, выскакивающий теперь при поиске в Google, утверждает, что их больше 500 (без понятия, врёт или нет). Но я точно знаю, что лично я работу печени не выполняю. И, при этом, если печень это 100% механизм (биологический), то её работу должно быть принципиально возможно воспроизвести. Вот, функцию почек уже худо-бедно научились воспроизводить.
это не обязательно значит, что токенов нет. это может означать, что в этот момент используются другие токены, не связанные с русским/английским/… языками.
Я специально привёл пример, который вообще никак не связан с языками. Вы считаете, что любое мышление это непременно языковое мышление?
Есть свидетельства обратного. Я сам в шахматы давно не играю, но подсел на несколько паззлов в LinkedIn (Queens, Tango, Zip) и теперь каждый день имею очень легко наблюдаемый опыт не языкового мышления.
И, в принципе, кто играет в игры, где требуется скорость реакции + тактическое мышление (шутеры, например) тоже легко может убедиться, что мыслит, делает выводы и принимает решения вообще без участия языка. Потому что в моменте, даже если просто сматериться - теряешь время, за которое получишь хедшот. А думать приходится - держа уме объёмную карту местности, на лету анализируя и предугадывая поведение противников + планируя и корректируя собственное. И если противники это делают быстрее, то загонят в угол и размажут по стенке.
Пошёл порыться, что есть на эту тему современного. И вот, например:
"Unsymbolized thinking—the experience of an explicit, differentiated thought that does not include the experience of words, images, or any other symbols—is a frequently occurring yet little known phenomenon."
Вы считаете, что мышление человека как-то иначе устроено, и можете это доказать?
Исхожу из того, что у вас есть мышление - в том смысле, что вы способны мыслить и имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления. Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена? Где токен - некоторая минимальная единица текста (слово, часть слова или символ).
Даже когда мы "проговариваем" в процессе мышления, мы оперируем сразу целыми выражениями, в которых обозначающие слова ссылаются (референция) на объекты нашей мировоззренческой модели (от абстрактных до актуальных), что облегчает нам задачу выявления свойств, значения которых необходимы для получения желаемого результата.
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы, когда нет времени проговаривать свой анализ ситуации.
Наконец, наше мышление существенно квалитативно - в нём интенсивно используется воображение.
Также, наше мышление существенно интенционально - есть субъект, внимание которого динамически направлено на предметы мысли.
Интенциональность это когнитивная функция высшего порядка, и мы можем осознанно повышать порядок, чтобы, например, наблюдать за своим процессом мышления (интроспекция).
LLM в своей основе - статистический конвейер, механистически вычисляющий следующий токен. Где там найти квалитативные композиции из интенциональности и содержаний воображения? В своё время Лейбниц очень лаконично проиллюстрировал парадоксальность наличия квалитативного у механизма (парадокс "Мельница" в Монадологии, п. 17).
Но, как бы там ни было - если вы считаете, что процесс вашего мышления это процесс вычисления следующего токена, то вы должны иметь возможность наблюдать этот процесс, если имеете способность осознанно мыслить.
Только, я вас очерь прошу, не надо рассказывать, что в основе мышления человека лежит логика, это уже не смешно даже...
В основе правильного мышления лежит логика. И это действительно не смешно. Очень редко люди осваивают логику в целом, чтобы потом применять её на практике. Несколько чаще - осваивают некоторые подразделы логики в рамках обучения той или иной специальности (напр., схемотехника, программирование, юриспруденция). Но повсеместно (включая и тех, кто изучает теорию) - стихийно схватываем логику, релевантную предметной области, набивая шишки, запоминая успехи и обобщая конкретный опыт на любой этого же типа.
А как можно оценивать вещи типа курения и алкоголизма критериями добра и зла.Ладно бы если пользы вреда. И то есть вопросы.
Можно оценивать очень по-разному (в том числе и с точки зрения пользы/вреда самому себе), чем очень разные люди и занимаются.
Этика это раздел философии. Лично мне в философии интересны метафизика и эпистемология. Касательно этики - в своё время поработал над усвоением и адаптацией приемлемого для меня фреймворка, и он лично меня удовлетворяет. Но обсуждать его публично в деталях - особенно, на Хабре - я не буду.
Тут ведь надо бы начать с попытки сформулировать сами понятия добро и зло.
Это да, но тут хотя бы попытаться осмыслить уже имеющиеся попытки таких формулировок.
Потому как это очень разные вещи для разных людей..
Факт. Для большинства людей боль - зло. Но тут приходит какой-нибудь мазохист и просит плетей, ему от этого хорошо.
У евреев с этим относительно стройно - с одной стороны, признаётся фундаментальная персональная субъективность непосредственного добра и зла. И что если вот эту субъективность пускать на самотёк, будет анархия, хаос и всякое людоедство от метафорического до буквального. Поэтому, с другой стороны, это балансируется верой в то, что Абсолют дал набор регуляций, часть которых служит стабилизации социума (т.н. законы между человеком и человеком), а часть - достижению некоторого вневременного персонального блага (т.н. законы между человеком и Местом).
Там много интересного, кстати. Особенно, если учесть, что это осмысливалось тысячи лет назад. Например, закон "люби ближнего как себя" имплицирует закон "люби себя". И получается, что эгоизм, как таковой, это совсем не зло. Один раввин, с которым общались на тему этики, сказал примерно так: "Принципиально важно понимать, что нет плохих и злых действий. Важен контекст, мера. Убийство из-за спора за парковку - зло. Самооборона - добро. Секс с женой по взаимному согласию - добро. Секс как изнасилование - зло. Проявлять милосердие к милосердным - добро. Проявлять его к явным злодеям типа Гитлера или Чикатило - зло. И ещё важнее понимать, что мы не знаем и никогда не узнаем всех контекстов и мер, поэтому нам приходится учиться всю жизнь."
Но да, эти темы, определённо, не для Хабра. Любое подробное обсуждение этики крайне трудно отделить от религиозных подтекстов и контекстов, поэтому, наверное, лучше тут этого не делать.
Простите, на мой слух звучит как после "А теперь суд предоставляет слово обвиняемому". :)
Со мной что-то не так?
И тут вспомнилось "благими намерениями выстлана дорога в ад" Хайяма. Кто лучше - тот, кто хотел и не убил, или тот, кто не хотел и убил?
Мы шагаем по времени, и каждый шаг отправляет в будущее кучу не контролируемых нами последствий. О львиной доли которых мы не имеем ни малейшего представления, но при этом несём за них каузальную ответственность. Можно, например, не хотеть никого убивать, но в воспитательных целях (т.е., как бы во благо) - бить жену, детей, унижать подчинённых (ради правды и чтобы лучше пахали!) и т.д. И, внезапно, жена подаёт на развод, суд оставляет детей под опекой жены и выдаёт запрет на приближение к ним, а самое жуткое - некоторые подчинённые, уволившись от унижений, наложили на себя руки, но об этом уже никогда не узнаешь.
Так что, простите, но желания отдельно, а действия отдельно. Хороший человек это тот, вес добра действий которого за всю его жизнь превышает вес зла. И неважно, чего ему хотелось - важно, что он с этими хотелками делал. Проблема - нет (и, имхо, не будет) естественно общечеловеческого понимания, как считать вот эти веса добра и зла.
ведь человек понимает, что такое хорошо и что такое плохо
И тут бы назвать хотя бы одного... И доказать, что он действительно в любой ситуации это понимает. А вдогонку привести доказательство, что именно его система моральных координат есть этическая истина в последней инстанции. /s
Если бы человек в общем (т.е., все люди) всегда был способен различать между добром и злом, и всегда был способен выбирать добро - то история человечества, включая настоящее время, не была бы плотно и непрерывно пронизана чудовищными кровопролитиями, уже не говоря о бытовом насилии, грабежах, воровстве, наркомании, алкоголизме, курении и т.д. и т.п.
Логика это отдельная философская дисциплина, исследующая наиболее общие формы - пропозициональные. Эта область выходит за пределы актуальной реальности - любое текущее явление А имеет форму простой пропозиции "существует А", но не, например, условных и модальных пропозиций. Эмпирические науки используют логику, но не тождественны ей. Эмпирические измерения это, конечно, не логика.
Гипотетическая форма реальности, в которой нет вечности, априори имплицирует абсолютно беспричинное событие. Если мы не хотим признавать возможность абсолютно беспричинных событий, то открытие признаков Большого Взрыва не отменило вечность, а вывело её за горизонты наблюдаемой Вселенной (до этого научный мэйнстрим полагал саму Вселенную вечной). Если хотим... Ну, это дело личного выбора, конечно.
Гипотетическая форма реальности, в которой нет непрерывности, априори имплицирует фундаментальную безразмерность реального - в целом и в деталях. Можно, конечно, предположить иллюзорность размеров и расстояний, но это сразу имплицирует иллюзорность эмпирически наблюдаемой Вселенной. Но ещё хуже - сами иллюзии имеют вполне ненулевые размеры, иначе мы бы их не воспринимали (напр., актуальное восприятие цвета подразумевает ненулевую площадь). Поэтому ход с иллюзорностью не решает проблему тотального отсутствия непрерывности.
Но, опять же, это область не физики, а метафизики. В рамках конкретно прикладной части физики вообще нет необходимости утверждать существование чего-либо. Так сказать, подбираем подходящий мат. аппарат, считаем, измеряем. Записываем найденные закономерности для переиспользвания и дальнейших уточнений.
Правда, без метафизики у людей плохо получается разрабатывать теории (наверное, вообще не получается). Предположение о существовании чего-то или его отсутствии - это метафизическое суждение. Но оно может быть вполне полезным для физики, если сформулировано так, что имплицирует эмпирически проверяемые следствия. Но существуют и истинные метафизические суждения, не подлежащие эмпирической верификации. Всё то же утверждение о невозможности существования явлений с противоречивыми свойствами истинно, но эмпирически не верифицируемо.
Так же и с метафизическими суждениями о вечности и бесконечности - эмпирически они не верифицируемы. Но вполне можно априори исследовать возможные формы, имплицируемые такими суждениями, и исключить внутренне противоречивые и такие, которые имплицируют нежелательные следствия типа абсолютной беспричинности или композиции ненулевых объёмов из их отсутствия.
Тогда ступаем ниже, замена физических перемычек на машинный код это уже вайбкодинг.
We need to go deeper (с): вайбкодинг начался где-то между 2700 и 2300 гг до н. э. в Месопотамии с изобретения абака. А т.к. нейронные сети и в головах тогдашних сапиенсов обладали способностью галлюцинировать (особенно, под веществами), то и результаты не всегда были детерминированными.
Хотя... We need to go deeper! Вайбкодинг появился с появлением сознания, лишённого прямого управления физиологическими процессами, когда программирование рабочего дня стало осуществляться маловразумительными инструкциями типа "сначала точим палку, потом идём искать мамонта, потом тыкаем в мамонта палкой - и профит!". Или не профит, т.к. результат на любом этапе был совершенно не гарантирован. :)
Тут мне хочется осторожно добавить: с точки зрения вашей метафизической интерпретации современной физики.
Для физики вечность и бесконечность могут не иметь смысла. Но это не значит, что их нет.
Эмпирическая реальность необходимо должна подчиняться законам форм, которым она в целом и в деталях соответствует. Поэтому в науках так эффективны математика и логика. И поэтому, например, в реальности никогда нельзя будет найти невозможные объекты с противоречащими друг другу свойствами.
В глобальном аспекте, если мы принимаем темпоральную конечность реальности, то должно быть событие спонтанного возникновения из ничего. Без каких-либо причин. Это магия, причём самого плохого типа (абсолютная беспричинность конкретного события).
В локальном аспекте, если мы принимаем тотальное отсутствие в реальности непрерывности, то в лучшем случае всё реальное (напр., частицы, поля, пространство) должно состоять из точек нулевых размеров, т.е. из ничего. И это тоже очень плохая магия, т.к. в этом случае постулируется, что нечто состоит из ничего. И что если, грубо говоря, взять "побольше" ничего, то можно получить вполне конкретные ненулевые ништяки типа массы, гравитации, и т.д. и т.п.
Шикарная концепция! Во-первых, эмпирически фальсифицируема; во-вторых, всё объясняет.
Фальсифицируемость. Говорим жене, что она не более, чем вибрация. Если после этого голова начинает вибрировать от поступающих со стороны её рук вибраций по щекам - так и есть, всё вибрация!
Объяснительная сила. Вот определение вибрации из Википедии: "Вибра́ция — движение точки или механической системы, при котором происходят колебания характеризующих его скалярных величин; либо механические колебания упругих тел различной формы."
Это очень плохое определение, т.к. вызывает больше вопросов, чем даёт ответов. Причина - в нём называется слишком много разных сущностей, что вызывает непонимание, фрустрацию, гнев и панические атаки.
Но концепция тотальности вибрации решает все эти проблемы:
"Вибра́ция — вибрация вибрации или механической вибрации, при которой происходят вибрации характеризующих её скалярных вибраций; либо механические вибрации упругих вибраций различной вибрации."
Так гораздо понятнее! Правда, полноте понимания всё ещё препятствуют названия всяких непонятных свойств типа "механические", "скалярные" и т.д. Но это легко решается - ведь раз всё вибрация, то любое свойство - вибрируемость. Также и любое действие - вибрация. И тогда:
"Вибра́ция — вибрация вибрации или вибрирующей вибрации, при которой вибрируют вибрации вибрирующих её вибрирующих вибраций; либо вибрирующие вибрации вибрирующих вибраций вибрирующей вибрации."
Невозможно не испытывать глубочайшее чувство удовлетворения, граничащее с экстазом, при чтении этого пронзительного по своей наполненности определения.
Эту картину трансцендентальной ясности всё ещё портят чужеродные артефакты - "или", "при", "её", ";", "либо", ".", "—", а также пробелы и буквы. Но истинный адепт вибрации легко справится с этими мелкими препятствиями!
в начале 20-го века начали появляться концепции Мультивселенной, причём сразу две. Одна, вытекающая из многомировой интерпретации квантовой механики, и вторая, вытекающая из того факта, что где-то там, за пределами нашей наблюдаемой Вселенной, есть «ещё больше Вселенной» — пространство, которое навсегда остаётся за пределами нашей досягаемости, возможно, даже бесконечное его количество.
Обе являются микроскопическим подмножеством наиболее фундаментальной концепции - интепретации модальной логики через квантификацию по альтернативным мирам. Единороги принципиально возможны = существует некоторый мир, в котором есть единороги. Евклидовый круглый квадрат невозможен = ни в одном мире не существует евклидовых круглых квадратов. Фреймворк возможных миров стал настолько продуктивным для модальной логики, что Дэвид Льюис написал книгу о защите модального реализма, в которой аргументирует, что ради наиболее прямого и эффективного объяснегия логических модальностей, нужно войти в "философский рай" - признать все возможные миры актуально существующими: On the Plurality of Worlds.
Думаю, что огромная результативность работы шарашек (т.е. НИИ и КБ тюремного типа) доказывает высокую эффективность такого подхода. Именно таким образом были созданы советская авиационная, атомная и космическая промышленность и, в частности, впервые человечество вышло в космос.
Ага, а в долгосрочной перспективе СССР чудовищно отстал в научном и философском плане от цивилизации, где такое не практикуется (Европа + США). И Россия до сих пор догнать не может, если судить по количеству и качеству доступных переводов работ, в том числе и на фундаментальные темы.
Сам тот факт, что пыткой от человека можно добиться большего, чем ненаркотическим поощрением, на мой взгляд, очевиден
Вы в смысле, что под пытками почти любой признается во всём? Так это не его эффективность повышается, и не налогоплательщика, а, например, эффективность тов. майора в "раскрываемости" (не в реальной раскрываемости - в ней она как раз понижается, т.к. время тов. майора тратится не на работу).
Работать под пыткой человек не может, поэтому эффективность работы под пыткой нулевая. Человек, которого пытали, вне пыток будет работать только, если это практически буквально концлагерь. В концлагерях с пытками происходят бунты. Высока вероятность попыток личной мести. Хотя бы частичная успешность того и другого будет пропорциональна дающейся "работникам" свободы. При этом, чем больше ограничиваешь свободы, тем меньше работы может делать "работник", т.к. уменьшается диапазон возможных действий. Если учесть всё это, то в долгосрочной перспективе эффективность такого труда вызывает у меня огромный скептицизм.
В краткосрочной перспективе кнут (буквальный и метафорический) может, наверное, какое-то время подстёгивать к более высокой производительности, особенно там, где максимум "конвейерного" труда и минимум интеллектуального. В долгосрочной перспективе не представляю себе, как это возможно. Вы просили ссылки - см. выше.
Вербальное насилие это насилие. Дружественный поджопник (взаимное понимание и согласие + отсутствие травм) это не насилие. Да, некоторые любят играть в футбол на поджопники, даже болезненные. Но это, скорее, говорит об особенностях местной культуры, а не об эффективности чего бы то ни было.
Полностью согласен с тем, что вам отвечает @Kanut, не вижу смысла повторять.
Мне вот что стало интересно. На моё ироничное высказывание о физическом насилии на код ревью вы, вроде, неиронично написали, что в вашем опыте это не контрпродуктивно, а наоборот.
Боюсь спрашивать, что это за опыт (ещё раз, дружественные поджопники при взаимном согласии не в счёт), и где конкретно так работают. Но если реально бьют по лицу и устраивают порку - надеюсь, кто-нибудь догадается вызвать полицию.
Так вот, крайняя форма насилия - пытки и убийство. Искренне надеюсь, что у вас нет хорошего опыта по отношению к таким практикам на рабочем месте. А лучше, вообще никакого, не так ли? Но чисто теоретически: если, по-вашему, битьё и порка улучшают продуктивность в средне-долгосрочной перспективе - то как насчёт пыток? Убийств? В максимально брутальной форме (видите, ещё страх добавляется, как мотивирущй фактор, да?). Сдал нерадивый сотрудник плохой код в ревью - час электрошока (в нерабочие часы, естественно). Что-то упало в продакшене - сажать виновника на кол в конференц-зале под аплодисменты сотрудников. А каждому, кто не хлопал - отрезать ухо (ушами не печатают). Как лично вы думаете - будет такое работать, как долго и как эффективно?
Дисклеймер: в общем случае насилие это зло и уголовное преступление. Кроме крайних случаев типа самообороны. НЕ ДЕЛАЙТЕ НИ С КЕМ ОПИСАННОЕ В АБЗАЦЕ ВЫШЕ.
Вы действительно имеете в виду, что ваш опыт показывает: если людей бить по лицу и пороть - они лучше работают? Программисты?
Вспомнился мем с тов. майором за спиной разработчика, приказывающим "програмировай!". Это примерно так работает?
Возможно, если страна это концлагерь типа КНДР, где у людей выбор подчиниться или умереть, мотивация насилием как-то и работает...
Но в мирное время, в адекватной стране с выбором, в какую контору пойти... С полицией и судебной системой, наказывающими за насилие... Мне трудно представить себе людей, которые будут добровольно оставаться работать там, где их избивают для повышения продуктивности.
Скажите, а есть исследования, подтверждающие продуктивность такого подхода? На примере какой-нибудь крупной европейской фирмы, где сотрудников стимулируют публичной поркой, включая инженеров, а текучки кадров нет, и каждый выполняет свою работу качественно и быстро.
Со всем уважением к единичному опыту - мой опыт определённо противоположен. Но тоже единичен, конечно.
К слову, известное явление, когда загоняешь животное в угол, оно может броситься на обидчика, даже если он многократно превосходит его размерами. Лично наблюдал такое поведение.
По себе знаю (правда, у меня очень дерьмовый характер в этом плане), что если меня травить, то я буду огрызаться, и очень злобно. И никогда этого не забуду. Но если удастся сохранить хладнокровие, то смогу сделать хуже, чем огрызнуться - нанять адвоката, частного детектива и с ненулевыми шансами превратить жизнь обидчика в ад или хотя бы в адок.
Но слава Богу, живу в цивилизованном обществе, и максимум, с чем приходилось сталкиваться - с вербальной токсичностью отдельных самодуров. И в этих случаях либо они не задерживались в компании, либо я. И самое комфортное место работы - сейчас - состоит из команд, набранных из разных стран, включая Европу и США. Никто никого не оскорбляет, никто не переходит на личности. Но когда надо критикуют - предметно, а не личностно. И это прекрасно работает. Горизонтальные добовольные коммуникации между командами - ежедневное дело. Вертикальные коммуникации не вызывают отторжения. Менеджмент от непосредственного начальства до всяких CEO не ведёт себя высокомерно. Дружественный троллинг имеет место быть - но между теми, кто в теме.
Наверное, есть культуры, где вербальное и даже физическое насилие являются интегральной частью трудовой обстановки. Желаю себе никогда с ними не познакомиться.
То, что сознание это программа - очень сильное суждение. Можно поинтересоваться, на чём оно основано? Есть исследования сознания, прямо подтверждающие это?
Да, я пришёл к таким же выводам лет двадцать назад. И более того, движения не просто стали автоматизмами - они, в своей существенной части, всегда для нас таковыми и были, потому что мы никогда сознательно не контролируем, например, какие именно мышечные волокна раздражать специально подобранными сигналами нервной системы, и мы осознанно не посылает этих сигналов. До относительно недавнего времени люди вообще были не в курсе о тонкостях работы нервной системы. Практически все регуляции мозгом работы организма полностью или почти полностью автоматизированы изначально. Поднимая руку мы генерируем намерение, которому тело почему-то (хотя, не обязательно всегда) покорно подчиняется, но процессы, которые физически приводят к довольно точно отмеренному движению - остаются "за кадром".
Под непосредственностью субъективного опыта я не имею в виду, что мы прямо видим фундаментальную суть реальности, включая все инфраструктурные процессы и в таком духе.
К сожалению, в русском языке сознанием называют и то, что в англоязычной называют mind, и то, что называют consciousness. Ниже я буду использовать сознание в смысле mind.
Сознание это - эмпирически - субъективное персональное пространство с куда большим количеством измерений, чем 3: в нём взаимно независимо объединяются разные типы восприятия. Пять классических сенсорных ощущений это даже не пять отдельных измерений, а пять подпространств, т.к., например, только цвет требует непустой площади (2 измерения) плюс отдельные типа насыщенности, оттенка и т.д. Современная наука открыла ещё пару десятков сенсорных ощущений, работающих в более "фоновом" режиме, но воспринимаемых. И это не говоря о куда более богатых на параметрическое разнообразие эмоциях и мыслях.
В пространстве сознания мы имеем фокус - внимание. И мы можем направлять его достаточно произвольно как между различными типами восприятия, так и между деталями восприятия одного и того же типа.
Наше осознанное восприятие всегда направлено. Оно всегда о чём-то. Это фундаментальное свойство называется интенциональностью. Наиболее простые интенции - это, например, простые сенсорные рефлексии, когда мы взаимодействуем с объектами. Более сложные (и они "наслаиваются" друг на друга, включая друг друга и работая параллельно) - состояния суждения о чём-то, веры во что-то, любви к чему-то, припоминания чего-то и т.д. и т.п.
Всё это эмпирически доступно в явной форме, как вы истинно выразились "если очень пристально начнёте наблюдать".
Вот это пространство сознания и есть наша непосредственная реальность. Другой такой непосредственной у нас нет. Даже когда мы наблюдаем внешние объекты, на деле опыт внутренний. Буквально - если я, скажем, смотрю на монитор, я полагаю его вовне, но вижу внутри своего внимания. Все наши отсылки к внешней действительности - внутренние.
И никто по сей день не знает, как может механистическая машина типа мозга (если он является такой машиной) порождать нечто подобное нашему сознанию, лишённое внутри себя (а вовне его никто не наблюдал) всякой механистичности. Есть веские причины считать, что не может, но об этом и так уже много сказано под общим заголовком "трудная проблема сознания".
Но даже если предположить, что мозг какой-то магией (напр., заметаемой под коврик термина "эмерджентность") порождает сознание, а не, скажем, регулирует его содержания, пока сознание существует и (каким-то непостижимым пока образом - "психофизический парадокс") связано с телом - то даже с позиции физики мы замкнуты в мозге. Мы не получаем никаких непосредственных сигналов от внешней реальности - сенсорные раздражители типа света не попадают нам в сознание, изображение генерируется мозгом. Как и все остальные ощущения.
Т.е., даже с точки зрения физикалистического подхода мы находимся "в чёрном ящике", и можем только пытаться догадываться, что на самом деле "снаружи". Но так выходит, что наши внутренние восприятия динамически организовываются таким образом, что создают устойчивое впечатление внешнего физического мира. Дедуктивно доказать его существование невозможно. Но практика показывает, что если хочешь оставаться в нём подольше - надо учитывать его законы.
Тем временем непосредственной реальностью для нас остаётся исключительно реальность сознания. Можно в это не верить, потому что можно верить почти во всё, что угодно - чем люди и занимаются. Но если последовать предложению Гуссерля и хорошенько отработать феноменологическую редукцию - грубо говоря, осознанно на время отказаться (словами Гуссерля - "вынести за скобки") от всех своих мировоззренческих (особенно, метафизических) взглядов, то можно взглянуть на реальность своего сознания, как таковую, и начать отчётливо наблюдать его структуру.
И вне зависимости от роли мозга - всего вышеописанного нет и не может быть у LLM.
Так же пока нет времени ответить более подробно. Поэтому короткий комментарий.
Интересно, что вы понимаете под интроспекцией.
Наше восприятие фундаментально интенционально. Внимание это динамическая функция высшего порядка. Динамическая, потому что может менять порядок восприятия. Можно определить нулевой порядок, когда содержание восприятия есть в "непосредственной близости" от внимания, но нет рефлексии.
Это, например, периферийное восприятие, которого не замечаешь, сосредоточившись на чём-то другом, но оно моментально повышает порядок до восприятия первого порядка - рефлексии - при обращении внимания.
Первопорядковое восприятие включает рефлексию - мы имеем уже не просто сырое восприятие, но его интерпретации, соответствующие нашему пониманию окружения и мира.
Допустим, вы переходите дорогу только на зелёный свет, и только когда убеждены, что он зелёный.
Когда мы видим, скажем, зелёный свет на пешеходном перекрёстке и на этом основании принимаем решение перейти дорогу, мы воспринимаем (отнюдь не только зрительно) композицию из сырого "цветового пятна" и абстрактных объектов "светофор" и "зелёный свет".
Интроспекция - это когда мы повышаем внимание до 2-го порядка. Например, задавшись вопросом - "что я сейчас воспринимаю". И интроспекция даст ответ в духе "светофор, зелёный свет". Но, поскольку вы предлагаете никогда не доверять выводам интроспекции, дорогу перейти у вас никогда не получится (согласно допущению выше).
Я никогда не утверждал, что интроспекции (и, в целом, восприятию) нужно доверять всегда и безусловно. Выше даже приводил пример с иллюзией преломления карандаша в стакане воды. Но если никогда не доверять, то далеко не уйти - ни в смысле перехода через дорогу, ни в смысле, например, научной работы, да и любой интеллектуальной деятельности, которая крайне неэффективна без активного использования интроспекции. А мы ей стихийно пользуемся всегда, когда необходимо действовать не спонтанно, а ясно осознавая происходящее.
Погружаемся дальше в метафизику. У меня есть что сказать на тему реальности, но пока дефицит времени, завален работой. Сформулировать подробный ответ занимает часы.
Как разгружусь, попробую этим заняться.
P.S. Сегодня обсудил эту тему с начальником - пожилым немецким профессором, академическим селебрити в районе 2000-х на стыке математики и информатики, основавшим стартап-единорог уровня рокет-сайенс. Он кууууда лучше меня понимает устройство LLM и полностью согласился с тем, что работа LLM никак не похожа на человеческое мышление. А он никогда не соглашается ради того, чтобы польстить. Добавлю, что на работе мы постоянно используем LLM буквально на границе их возможностей - и на этих границах, когда LLM начинает безбожно косячить, отчётливо видно, что человек в этой ситуации принимал бы решения совершенно иначе.
P.P.S. Это не апелляция к авторитету - я сам не признаю авторитеты по важным для моего понимания темам. Просто была возможность, и не удержался от соблазна получить дополнительный фидбек.
Имхо, у вас довольно специфическое понимание того, что такое язык. Но ок. А вы обратили внимание на небольшую цитату из ссылки на исследование, приведённой мной выше? Вот мой кустарный перевод на русский:
"Несимволизированное мышление - опыт явной, дифференцированой мысли, который не включает в себя опыт слов, изображений или любых других символов - это часто происходящий, но малоизвестный феномен."
Но пусть будет по-вашему - картирование (маппинг) внешнего мира на детали (токены) модели у нас в уме. Т.е., эти "токены" для нас имеют смысл путём отсылки (референции) к явлениям внешнего мира.
Токены LLM для LLM не имеют подобного смысла. Они не отсылают LLM к внешнему миру. LLM чисто механистически вычисляет вероятность следующего токена на основе последовательности предыдущих. И вероятность эта базируется не на модели внешнего мира, которой у LLM нет, а на огромном текстовом корпусе.
Даже если предположить наличие у LLM способности к референции (что само по себе, имхо, абсурдно, т.к. референция подразумевает интенциональность, способность быть о чём-то - не для кого-то, а в себе), то референции токенов будут не к внешнему миру, а к чему-то вроде частоты встречи в тексте.
Мы объединяем, скажем, кошек и крокодилов в общую концепцию животных не потому, что они часто встречаются рядом, а потому что имеют специфические общие биологические формы, которые мы воспринимаем непосредственно.
LLM же "объединяет" кошку и крокодила в животное (вообще, не проверял - может, и не объединяет...) только если эти слова часто встречаются в похожих текстовых контекстах. Т.е., тут "общность" это не морфология или эволюция, а статистическая близость в текстовом корпусе. У нас, так сказать, перцептивная индукция - у LLM распределительная статистика текста. Если вы считаете, что это очень похоже, то я, пожалуй, сдамся. С моей точки зрения - совсем не похоже, но добавить к уже сказанному мне пока нечего.
И я его только что поддержал плюсом в карму и комментарий, и детальным ответом. А вас уже поддержал когда-то в другой раз. :)
Если что, я не ради спора per se, просто бывает любопытно обкатать какие-то мысли и идеи. Так что спасибо за участие.
Выделил курсивом слова, отражающие важную структуру нашего мышления. Есть мы, и нам мозг (или что-то другое, в зависимости от занимаемой метафизической позиции) чего-то рисует. Есть "верхний" уровень - грубо говоря, уровень пользователя, субъекта. Есть "нижний", инфраструктурный уровень.
Тут такое дело - "верхний" уровень даётся нам непосредственно. Это совершенно реальный непосредственный опыт. Через него и только через него мы воспринимаем вообще всё - от сырых сенсорных квалитативных данных, до их интерпретаций в виде всяких объектов, до абстрактных сущностей типа пропозиций.
И именно в этом непосредственном опыте мы выбираем свои метафизические взгляды - даже такие, согласно которым этого непосредственного опыта вообще не существует. Я хочу остановиться чуть подробнее на вот этом взгляде.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной. Но есть люди, которые почему-то хотят делать именно это. Одна из таких парадигм - элиминативный физикализм.
Частый аргумент - непосредственный опыт, со всем его мышлением, всякими прочими квалиа типа цвета, звука, запаха, эмоций, удовольствия, боли и т.д. - всё это иллюзия. А раз это иллюзия, то никакой важности у непосредственного опыта нет, и его можно просто не учитывать в исследованиях таких феноменов, как мышление. Мы просто будем считать, что существует только вот этот "нижний" уровень. (О котором мы знаем исключительно с "высоты" уровня нашего "иллюзорного" опыта, но это я уже ворчу.)
Такой подход, несомненно, соблазнителен тем, что радикально упрощает картину мира. Как осуществляется сознательное управление субъективными содержаниями типа мыслей? А никак, потому что нет никакого сознания. Да и восприятия мыслей, согласно парадигме иллюзии, тоже нет. Остаётся только нижний уровень - с ним и будем сравнивать LLM.
Если топить за этот подход, то у меня вопрос - если субъектвный опыт это иллюзия, то чья это иллюзия? Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом. Ход с иллюзией имеет тенденцию быстро разваливаться, если начинать к нему внимательно присматриваться.
Лично я не считаю непосредственный субъективный опыт иллюзией - даже когда в этом опыте имеются реальные иллюзии. :) Опыт иллюзии это реальный опыт, иллюзорность заключается в интерпретации сырого восприятия. Напр., восприятие преломления карандаша, наполовину погруженного в воду - это реальное восприятие при ложности напрашивающихся (скажем, по наивности или от отуствия знакоства с оптикой) мыслей о том, что карандаш объективно сломан.
И, ни разу не отрицая наличие вот этого "нижнего" инфраструктурного уровня, я также не готов отрицать наличие и важность "верхнего" уровня, где мы осуществляем (ну или, по крайней мере, пытаемся) осознанные мыслительные операции. Этот "верхний" уровень также как минимум частично является инфраструктурным для выводов, которые мы делаем, и решений, которые принимаем.
Никто не знает, где конкретно этот уровень находится. В среде философов, которые (часто вынужденно, ввиду "трудной проблемы сознания" и ей подобных) признают реальность субъективного опыта, общепринято считать, что сам этот опыт не локализован в физическом пространстве. При достаточном опыте интроспекции это можно сделать для себя очевидным.
Этот "верхний" уровень фундаментален для нас, как субъектов. Без него мы буквально не существуем. Он играет критическую роль во всём, что мы осознанно делаем. И в нём находится та часть нашего мышления, с помощью которой мы разработали науки, технологии и вот - LLM.
Психофизический парадокс ставит лучшие умы человечества в тупик т.к., с одной стороны, мы имеем механизм - тело, а с другой немеханистический (цветом, запахом, звуком, вкусом, эмоцией или мыслью тележку не толкнуть, грубо говоря) субъективный опыт с возможностью сознательных операций на нём - сущность явно радикально другого типа. Мы с самого начала поставлены реальностью перед фактом психофизического единства, которого, по механистическим парадигмам, не должно быть в принципе.
С LLM не так. Это изначально чистый механизм. Для результатов его работы не требуются ни сознание, ни квалитативный субъективный опыт. Требуется физический конвейер в виде вычислительной техники и программный конвейер в виде так называемых "нейросетей" - там мало что похожего даже на физический мозг. И много-много-много данных для калибровки программного конвейера под достаточно успешную - для нашего субъективного восприятия - генерацию такого текста, который мы привыкли получать от себе подобных.
LLM это очень крутая технология. Вне сомнений. При всех (текущих) недостатках. Но откуда там взяться реальности субъективных опыта и мышления, присущих человеку?
LLM физически и программно это целиком и полностью "нижний" уровень. Причём, очень не похожий на биологический мозг по сумме принципов работы.
Т.е., даже если мы предположим, что наша субъективная реальность возникает вследствие работы мозга, напр., путём эмерджентности (о которой никто не знает, как она работает, т.к. никто не знает, как привести тип "механизм" к типу "не-механизм"), то различия между мозгом и LLM слишком сильны, чтобы априори предполагать появление у этого механизма "верхнего" уровня - квалитативного сознания.
Заканчивая эту простыню текста (простите), скажу, что - имхо - это тот случай, когда бремя доказательства на том, кто утверждает наличие, а не отсутствие. С реальностью моего субъективного опыта у меня нет особого выбора - это, как говорится, brute fact. А утверждать, что у LLM мышление прямо похожее на человеческое - т.е., включая субъективные квалитативные мыслительные операции - это как при наличии очень натуралистичного шагающего манекена (напр., производного от Atlas) утверждать, что там есть устройство скелета и мыщц, как у человека, ну и всё остальное, включая мозг и сознание. Схожесть внешних признаков совершенно не подразумевает схожесть начинки. В случае с LLM эти внешние признаки - текст. И этого очень мало, чтобы делать далеко идущие выводы.
Ну а если не предполагать у LLM психофизическое единство между квалитативным опытом и программно-железячной механистической инфраструктуры - то там и нет мышления в том виде, как мы его знаем непосредственно.
Мышление - сложный процесс. Часть его - бессознательна и детерминирована процессами нервной системы. В бессознательном происходит инфракструктурная часть мыслительного процесса.
Но есть часть, в которой мы имеем непосредственный квалитативный доступ к мыслям, способны осознанно им управлять (если не в состоянии аффекта), и, на его основе осознанно производить выводы и принимать решения.
И вот эту квалитативную часть - в который мы, как субъекты, непосредственно мыслим - воспроизвести как раз и не получается. И есть все основания считать, что никогда не получится (см. "трудная проблема сознания" и прочее на эту тему).
Статистическая машина LLM имитирует мышление путём генерации внешних признаков - текста. И современные LLM делают это всё лучше и лучше. Но за счёт чего? За счёт колоссального - для человека - количества текстовых данных, на которых их "тренируют". И, кстати, мышление человека развивается совершенно иначе - в противном случае все мы уже детьми становились бы ходячими мультиэнциклопедиями. Наше мышление интенсивно развивается ещё до усвоения языка и, тем более, до знакомства с чтением.
Не проблема. Те движения, которые я замечаю - если включаю интроспекцию - минимум несколько раз в секунду. Те движения, которые не замечаю (и, соответственно, осознанно не могу ими управлять) - пишут, что может доходить и до сотни в секунду. Но эти бессознательные движения делаю не я - субъект, существующий только пока есть сознание (в том числе во сне) - а инфраструктура. Тем временем, в сообщении выше я писал именно об осознанном мышлении.
А почему вы спросили именно про движения глаз? Если каким-то образом отождествлять субъект со всеми физиологическими процессами организма, то более иллюстративно, имхо, что-то вроде вопроса о количестве функций, выполняемых печенью. Мне, чтобы посчитать хоть как-то, пришлось зайти на Википедию. А Gemini, выскакивающий теперь при поиске в Google, утверждает, что их больше 500 (без понятия, врёт или нет). Но я точно знаю, что лично я работу печени не выполняю. И, при этом, если печень это 100% механизм (биологический), то её работу должно быть принципиально возможно воспроизвести. Вот, функцию почек уже худо-бедно научились воспроизводить.
Я специально привёл пример, который вообще никак не связан с языками. Вы считаете, что любое мышление это непременно языковое мышление?
Есть свидетельства обратного. Я сам в шахматы давно не играю, но подсел на несколько паззлов в LinkedIn (Queens, Tango, Zip) и теперь каждый день имею очень легко наблюдаемый опыт не языкового мышления.
И, в принципе, кто играет в игры, где требуется скорость реакции + тактическое мышление (шутеры, например) тоже легко может убедиться, что мыслит, делает выводы и принимает решения вообще без участия языка. Потому что в моменте, даже если просто сматериться - теряешь время, за которое получишь хедшот. А думать приходится - держа уме объёмную карту местности, на лету анализируя и предугадывая поведение противников + планируя и корректируя собственное. И если противники это делают быстрее, то загонят в угол и размажут по стенке.
Пошёл порыться, что есть на эту тему современного. И вот, например:
Evidence Rebuts Chomsky’s Theory of Language Learning
"Unsymbolized thinking—the experience of an explicit, differentiated thought that does not include the experience of words, images, or any other symbols—is a frequently occurring yet little known phenomenon."
Исхожу из того, что у вас есть мышление - в том смысле, что вы способны мыслить и имеете способность к рефлексии, чтобы наблюдать за процессом своего мышления. Тогда у вас не должно быть проблем ответить на вопрос: как часто в процессе своего мышления для получения результата вы вычисляете вероятность следующего токена? Где токен - некоторая минимальная единица текста (слово, часть слова или символ).
Даже когда мы "проговариваем" в процессе мышления, мы оперируем сразу целыми выражениями, в которых обозначающие слова ссылаются (референция) на объекты нашей мировоззренческой модели (от абстрактных до актуальных), что облегчает нам задачу выявления свойств, значения которых необходимы для получения желаемого результата.
Использование языка существенно помогает нам, но не является необходимым фундаментом мышления. Когда надо принимать решения быстро и в знакомых задачах - мы можем пропускать вербализацию практически полностью. Например, при быстрой игре в шахматы, когда нет времени проговаривать свой анализ ситуации.
Наконец, наше мышление существенно квалитативно - в нём интенсивно используется воображение.
Также, наше мышление существенно интенционально - есть субъект, внимание которого динамически направлено на предметы мысли.
Интенциональность это когнитивная функция высшего порядка, и мы можем осознанно повышать порядок, чтобы, например, наблюдать за своим процессом мышления (интроспекция).
LLM в своей основе - статистический конвейер, механистически вычисляющий следующий токен. Где там найти квалитативные композиции из интенциональности и содержаний воображения? В своё время Лейбниц очень лаконично проиллюстрировал парадоксальность наличия квалитативного у механизма (парадокс "Мельница" в Монадологии, п. 17).
Но, как бы там ни было - если вы считаете, что процесс вашего мышления это процесс вычисления следующего токена, то вы должны иметь возможность наблюдать этот процесс, если имеете способность осознанно мыслить.
В основе правильного мышления лежит логика. И это действительно не смешно. Очень редко люди осваивают логику в целом, чтобы потом применять её на практике. Несколько чаще - осваивают некоторые подразделы логики в рамках обучения той или иной специальности (напр., схемотехника, программирование, юриспруденция). Но повсеместно (включая и тех, кто изучает теорию) - стихийно схватываем логику, релевантную предметной области, набивая шишки, запоминая успехи и обобщая конкретный опыт на любой этого же типа.
Можно оценивать очень по-разному (в том числе и с точки зрения пользы/вреда самому себе), чем очень разные люди и занимаются.
Этика это раздел философии. Лично мне в философии интересны метафизика и эпистемология. Касательно этики - в своё время поработал над усвоением и адаптацией приемлемого для меня фреймворка, и он лично меня удовлетворяет. Но обсуждать его публично в деталях - особенно, на Хабре - я не буду.
Это да, но тут хотя бы попытаться осмыслить уже имеющиеся попытки таких формулировок.
Факт. Для большинства людей боль - зло. Но тут приходит какой-нибудь мазохист и просит плетей, ему от этого хорошо.
У евреев с этим относительно стройно - с одной стороны, признаётся фундаментальная персональная субъективность непосредственного добра и зла. И что если вот эту субъективность пускать на самотёк, будет анархия, хаос и всякое людоедство от метафорического до буквального. Поэтому, с другой стороны, это балансируется верой в то, что Абсолют дал набор регуляций, часть которых служит стабилизации социума (т.н. законы между человеком и человеком), а часть - достижению некоторого вневременного персонального блага (т.н. законы между человеком и Местом).
Там много интересного, кстати. Особенно, если учесть, что это осмысливалось тысячи лет назад. Например, закон "люби ближнего как себя" имплицирует закон "люби себя". И получается, что эгоизм, как таковой, это совсем не зло. Один раввин, с которым общались на тему этики, сказал примерно так: "Принципиально важно понимать, что нет плохих и злых действий. Важен контекст, мера. Убийство из-за спора за парковку - зло. Самооборона - добро. Секс с женой по взаимному согласию - добро. Секс как изнасилование - зло. Проявлять милосердие к милосердным - добро. Проявлять его к явным злодеям типа Гитлера или Чикатило - зло. И ещё важнее понимать, что мы не знаем и никогда не узнаем всех контекстов и мер, поэтому нам приходится учиться всю жизнь."
Но да, эти темы, определённо, не для Хабра. Любое подробное обсуждение этики крайне трудно отделить от религиозных подтекстов и контекстов, поэтому, наверное, лучше тут этого не делать.
Простите, на мой слух звучит как после "А теперь суд предоставляет слово обвиняемому". :)
И тут вспомнилось "благими намерениями выстлана дорога в ад" Хайяма. Кто лучше - тот, кто хотел и не убил, или тот, кто не хотел и убил?
Мы шагаем по времени, и каждый шаг отправляет в будущее кучу не контролируемых нами последствий. О львиной доли которых мы не имеем ни малейшего представления, но при этом несём за них каузальную ответственность. Можно, например, не хотеть никого убивать, но в воспитательных целях (т.е., как бы во благо) - бить жену, детей, унижать подчинённых (ради правды и чтобы лучше пахали!) и т.д. И, внезапно, жена подаёт на развод, суд оставляет детей под опекой жены и выдаёт запрет на приближение к ним, а самое жуткое - некоторые подчинённые, уволившись от унижений, наложили на себя руки, но об этом уже никогда не узнаешь.
Так что, простите, но желания отдельно, а действия отдельно. Хороший человек это тот, вес добра действий которого за всю его жизнь превышает вес зла. И неважно, чего ему хотелось - важно, что он с этими хотелками делал. Проблема - нет (и, имхо, не будет) естественно общечеловеческого понимания, как считать вот эти веса добра и зла.
И тут бы назвать хотя бы одного... И доказать, что он действительно в любой ситуации это понимает. А вдогонку привести доказательство, что именно его система моральных координат есть этическая истина в последней инстанции. /s
Если бы человек в общем (т.е., все люди) всегда был способен различать между добром и злом, и всегда был способен выбирать добро - то история человечества, включая настоящее время, не была бы плотно и непрерывно пронизана чудовищными кровопролитиями, уже не говоря о бытовом насилии, грабежах, воровстве, наркомании, алкоголизме, курении и т.д. и т.п.
Не понял, к чему было о религиях.
Логика это отдельная философская дисциплина, исследующая наиболее общие формы - пропозициональные. Эта область выходит за пределы актуальной реальности - любое текущее явление А имеет форму простой пропозиции "существует А", но не, например, условных и модальных пропозиций. Эмпирические науки используют логику, но не тождественны ей. Эмпирические измерения это, конечно, не логика.
Гипотетическая форма реальности, в которой нет вечности, априори имплицирует абсолютно беспричинное событие. Если мы не хотим признавать возможность абсолютно беспричинных событий, то открытие признаков Большого Взрыва не отменило вечность, а вывело её за горизонты наблюдаемой Вселенной (до этого научный мэйнстрим полагал саму Вселенную вечной). Если хотим... Ну, это дело личного выбора, конечно.
Гипотетическая форма реальности, в которой нет непрерывности, априори имплицирует фундаментальную безразмерность реального - в целом и в деталях. Можно, конечно, предположить иллюзорность размеров и расстояний, но это сразу имплицирует иллюзорность эмпирически наблюдаемой Вселенной. Но ещё хуже - сами иллюзии имеют вполне ненулевые размеры, иначе мы бы их не воспринимали (напр., актуальное восприятие цвета подразумевает ненулевую площадь). Поэтому ход с иллюзорностью не решает проблему тотального отсутствия непрерывности.
Но, опять же, это область не физики, а метафизики. В рамках конкретно прикладной части физики вообще нет необходимости утверждать существование чего-либо. Так сказать, подбираем подходящий мат. аппарат, считаем, измеряем. Записываем найденные закономерности для переиспользвания и дальнейших уточнений.
Правда, без метафизики у людей плохо получается разрабатывать теории (наверное, вообще не получается). Предположение о существовании чего-то или его отсутствии - это метафизическое суждение. Но оно может быть вполне полезным для физики, если сформулировано так, что имплицирует эмпирически проверяемые следствия. Но существуют и истинные метафизические суждения, не подлежащие эмпирической верификации. Всё то же утверждение о невозможности существования явлений с противоречивыми свойствами истинно, но эмпирически не верифицируемо.
Так же и с метафизическими суждениями о вечности и бесконечности - эмпирически они не верифицируемы. Но вполне можно априори исследовать возможные формы, имплицируемые такими суждениями, и исключить внутренне противоречивые и такие, которые имплицируют нежелательные следствия типа абсолютной беспричинности или композиции ненулевых объёмов из их отсутствия.
We need to go deeper (с): вайбкодинг начался где-то между 2700 и 2300 гг до н. э. в Месопотамии с изобретения абака. А т.к. нейронные сети и в головах тогдашних сапиенсов обладали способностью галлюцинировать (особенно, под веществами), то и результаты не всегда были детерминированными.
Хотя... We need to go deeper! Вайбкодинг появился с появлением сознания, лишённого прямого управления физиологическими процессами, когда программирование рабочего дня стало осуществляться маловразумительными инструкциями типа "сначала точим палку, потом идём искать мамонта, потом тыкаем в мамонта палкой - и профит!". Или не профит, т.к. результат на любом этапе был совершенно не гарантирован. :)
Тут мне хочется осторожно добавить: с точки зрения вашей метафизической интерпретации современной физики.
Для физики вечность и бесконечность могут не иметь смысла. Но это не значит, что их нет.
Эмпирическая реальность необходимо должна подчиняться законам форм, которым она в целом и в деталях соответствует. Поэтому в науках так эффективны математика и логика. И поэтому, например, в реальности никогда нельзя будет найти невозможные объекты с противоречащими друг другу свойствами.
В глобальном аспекте, если мы принимаем темпоральную конечность реальности, то должно быть событие спонтанного возникновения из ничего. Без каких-либо причин. Это магия, причём самого плохого типа (абсолютная беспричинность конкретного события).
В локальном аспекте, если мы принимаем тотальное отсутствие в реальности непрерывности, то в лучшем случае всё реальное (напр., частицы, поля, пространство) должно состоять из точек нулевых размеров, т.е. из ничего. И это тоже очень плохая магия, т.к. в этом случае постулируется, что нечто состоит из ничего. И что если, грубо говоря, взять "побольше" ничего, то можно получить вполне конкретные ненулевые ништяки типа массы, гравитации, и т.д. и т.п.
Шикарная концепция! Во-первых, эмпирически фальсифицируема; во-вторых, всё объясняет.
Фальсифицируемость.
Говорим жене, что она не более, чем вибрация. Если после этого голова начинает вибрировать от поступающих со стороны её рук вибраций по щекам - так и есть, всё вибрация!
Объяснительная сила.
Вот определение вибрации из Википедии:
"Вибра́ция — движение точки или механической системы, при котором происходят колебания характеризующих его скалярных величин; либо механические колебания упругих тел различной формы."
Это очень плохое определение, т.к. вызывает больше вопросов, чем даёт ответов. Причина - в нём называется слишком много разных сущностей, что вызывает непонимание, фрустрацию, гнев и панические атаки.
Но концепция тотальности вибрации решает все эти проблемы:
"Вибра́ция — вибрация вибрации или механической вибрации, при которой происходят вибрации характеризующих её скалярных вибраций; либо механические вибрации упругих вибраций различной вибрации."
Так гораздо понятнее! Правда, полноте понимания всё ещё препятствуют названия всяких непонятных свойств типа "механические", "скалярные" и т.д. Но это легко решается - ведь раз всё вибрация, то любое свойство - вибрируемость. Также и любое действие - вибрация. И тогда:
"Вибра́ция — вибрация вибрации или вибрирующей вибрации, при которой вибрируют вибрации вибрирующих её вибрирующих вибраций; либо вибрирующие вибрации вибрирующих вибраций вибрирующей вибрации."
Невозможно не испытывать глубочайшее чувство удовлетворения, граничащее с экстазом, при чтении этого пронзительного по своей наполненности определения.
Эту картину трансцендентальной ясности всё ещё портят чужеродные артефакты - "или", "при", "её", ";", "либо", ".", "—", а также пробелы и буквы. Но истинный адепт вибрации легко справится с этими мелкими препятствиями!
/s
Обе являются микроскопическим подмножеством наиболее фундаментальной концепции - интепретации модальной логики через квантификацию по альтернативным мирам. Единороги принципиально возможны = существует некоторый мир, в котором есть единороги. Евклидовый круглый квадрат невозможен = ни в одном мире не существует евклидовых круглых квадратов. Фреймворк возможных миров стал настолько продуктивным для модальной логики, что Дэвид Льюис написал книгу о защите модального реализма, в которой аргументирует, что ради наиболее прямого и эффективного объяснегия логических модальностей, нужно войти в "философский рай" - признать все возможные миры актуально существующими: On the Plurality of Worlds.
Ага, а в долгосрочной перспективе СССР чудовищно отстал в научном и философском плане от цивилизации, где такое не практикуется (Европа + США). И Россия до сих пор догнать не может, если судить по количеству и качеству доступных переводов работ, в том числе и на фундаментальные темы.
Вы в смысле, что под пытками почти любой признается во всём? Так это не его эффективность повышается, и не налогоплательщика, а, например, эффективность тов. майора в "раскрываемости" (не в реальной раскрываемости - в ней она как раз понижается, т.к. время тов. майора тратится не на работу).
Работать под пыткой человек не может, поэтому эффективность работы под пыткой нулевая. Человек, которого пытали, вне пыток будет работать только, если это практически буквально концлагерь. В концлагерях с пытками происходят бунты. Высока вероятность попыток личной мести. Хотя бы частичная успешность того и другого будет пропорциональна дающейся "работникам" свободы. При этом, чем больше ограничиваешь свободы, тем меньше работы может делать "работник", т.к. уменьшается диапазон возможных действий. Если учесть всё это, то в долгосрочной перспективе эффективность такого труда вызывает у меня огромный скептицизм.
В краткосрочной перспективе кнут (буквальный и метафорический) может, наверное, какое-то время подстёгивать к более высокой производительности, особенно там, где максимум "конвейерного" труда и минимум интеллектуального. В долгосрочной перспективе не представляю себе, как это возможно. Вы просили ссылки - см. выше.
Вербальное насилие это насилие. Дружественный поджопник (взаимное понимание и согласие + отсутствие травм) это не насилие. Да, некоторые любят играть в футбол на поджопники, даже болезненные. Но это, скорее, говорит об особенностях местной культуры, а не об эффективности чего бы то ни было.
Полностью согласен с тем, что вам отвечает @Kanut, не вижу смысла повторять.
Мне вот что стало интересно. На моё ироничное высказывание о физическом насилии на код ревью вы, вроде, неиронично написали, что в вашем опыте это не контрпродуктивно, а наоборот.
Боюсь спрашивать, что это за опыт (ещё раз, дружественные поджопники при взаимном согласии не в счёт), и где конкретно так работают. Но если реально бьют по лицу и устраивают порку - надеюсь, кто-нибудь догадается вызвать полицию.
Так вот, крайняя форма насилия - пытки и убийство. Искренне надеюсь, что у вас нет хорошего опыта по отношению к таким практикам на рабочем месте. А лучше, вообще никакого, не так ли? Но чисто теоретически: если, по-вашему, битьё и порка улучшают продуктивность в средне-долгосрочной перспективе - то как насчёт пыток? Убийств? В максимально брутальной форме (видите, ещё страх добавляется, как мотивирущй фактор, да?). Сдал нерадивый сотрудник плохой код в ревью - час электрошока (в нерабочие часы, естественно). Что-то упало в продакшене - сажать виновника на кол в конференц-зале под аплодисменты сотрудников. А каждому, кто не хлопал - отрезать ухо (ушами не печатают). Как лично вы думаете - будет такое работать, как долго и как эффективно?
Дисклеймер: в общем случае насилие это зло и уголовное преступление. Кроме крайних случаев типа самообороны. НЕ ДЕЛАЙТЕ НИ С КЕМ ОПИСАННОЕ В АБЗАЦЕ ВЫШЕ.
Вы действительно имеете в виду, что ваш опыт показывает: если людей бить по лицу и пороть - они лучше работают? Программисты?
Вспомнился мем с тов. майором за спиной разработчика, приказывающим "програмировай!". Это примерно так работает?
Возможно, если страна это концлагерь типа КНДР, где у людей выбор подчиниться или умереть, мотивация насилием как-то и работает...
Но в мирное время, в адекватной стране с выбором, в какую контору пойти... С полицией и судебной системой, наказывающими за насилие... Мне трудно представить себе людей, которые будут добровольно оставаться работать там, где их избивают для повышения продуктивности.
Скажите, а есть исследования, подтверждающие продуктивность такого подхода? На примере какой-нибудь крупной европейской фирмы, где сотрудников стимулируют публичной поркой, включая инженеров, а текучки кадров нет, и каждый выполняет свою работу качественно и быстро.
Со всем уважением к единичному опыту - мой опыт определённо противоположен. Но тоже единичен, конечно.
К слову, известное явление, когда загоняешь животное в угол, оно может броситься на обидчика, даже если он многократно превосходит его размерами. Лично наблюдал такое поведение.
По себе знаю (правда, у меня очень дерьмовый характер в этом плане), что если меня травить, то я буду огрызаться, и очень злобно. И никогда этого не забуду. Но если удастся сохранить хладнокровие, то смогу сделать хуже, чем огрызнуться - нанять адвоката, частного детектива и с ненулевыми шансами превратить жизнь обидчика в ад или хотя бы в адок.
Но слава Богу, живу в цивилизованном обществе, и максимум, с чем приходилось сталкиваться - с вербальной токсичностью отдельных самодуров. И в этих случаях либо они не задерживались в компании, либо я. И самое комфортное место работы - сейчас - состоит из команд, набранных из разных стран, включая Европу и США. Никто никого не оскорбляет, никто не переходит на личности. Но когда надо критикуют - предметно, а не личностно. И это прекрасно работает. Горизонтальные добовольные коммуникации между командами - ежедневное дело. Вертикальные коммуникации не вызывают отторжения. Менеджмент от непосредственного начальства до всяких CEO не ведёт себя высокомерно. Дружественный троллинг имеет место быть - но между теми, кто в теме.
Наверное, есть культуры, где вербальное и даже физическое насилие являются интегральной частью трудовой обстановки. Желаю себе никогда с ними не познакомиться.
Теперь несколько ссылок на тему.
(Wiki) Toxic Workplace, Health and social impact
Role of workplace bullying and workplace incivility for employee performance: Mediated-moderated mechanism
Impact of workplace bullying on work engagement among early career employees
Workplace bullying and its consequence to employee productivity in civil society organisations in Lira City, Uganda
How a Toxic Work Environment Affects Mental Health
(Wiki) Psychosocial safety climate
Impact of Toxic Leadership on Employee Performance
P.S. Вот как надо мотивировать работников! (Нет)
P.P.S. Идеал здоровых рабочих отношений (нет)
Верю.