Этим конкретным человеком сделано, конечно. Ну а почему так -- можно только гадать, но эмпирически это же везде так. Редко кто выдаёт что-то принципиально новое по графику. Есть вообще "one hit wonders" писатели или музыканты, которые создают один бестселлер/шлягер за всю карьеру -- не потому, что голова деградирует, а просто таланта и удачи хватило на один раз. Есть люди, которые садятся на одну тему (исторические романы, допустим) и сначала вроде свежо и интересно, а потом вроде хуже не становится, но уже начинаешь видеть, что все книги автора более-менее одинаково устроены. Но если у писателя такое прокатывает, то в математике уже не прокатит.
Мне кажется, тут несколько другое: математика, видимо, так устроена, что не нужно 20 лет грызть материал, чтобы открыть что-то новое. И если у человека есть таланты, нет причин, почему он не сумеет этими талантами воспользоваться до 30, скажем. При этом сложно ожидать от человека такого обилия идей, чтобы после 50 оставалось ещё куда копать. Не исключено, что с головой и после 50 у математиков всё в порядке, но уже всё, что можно было сделать, сделано.
Ну вот почему-то для Уэллса эта идея не выглядела смешно до 11 сентября. Я уж не говорю о том, что этот фильм даже не первая экранизация книги. Или автор думает, что если бы фильм сняли в 90х, там бы тоже люди инопланетян просто порубили бы в капусту, и плевать на первоисточник?
Вы, как и автор статьи, как и большинство комментаторов с похожим посылом, начинают с преамбулы типа "я опытный специалист, и вот мой вывод".
Проблема в том, что средний программист в средней конторе этими словами не описывается. Вы пишете лучше LLM, окей. Сравнивать надо со средним разработчиком по больнице, от которого нам досталось крылатое выражение "индусский код".
У нормального менеджера нет задачи заменить вас нейросетью. Но вот выбрать между наймом вам помощника или покупкой инструментов уже вполне можно обсуждать. Да и должен же кто-то вам делать code review :)
Кстати, добавлю, ровно как все автомобилисты ещё и пешеходы, так и все опытные разработчики превращаются в "среднего индуса", если приходится иметь дело с малознакомой технологией и кодовой базой. Мне иногда приходится что-то подкрутить на вебсайте в Javascript, например. Это вот совсем не моё, LLM точно справится не хуже.
Не вижу связи. А зачем ходить на рыбалку, играть в шахматы, в футбол, смотреть кино или слушать музыку? Тут нет вообще никакой свзяи с совершенством. Нам и 10 лет назад незачем было спрашивать, по гамбургскому счёту. Только из интереса и удовольствия.
Вот мне кажется, что, пожалуй, и надо. Смотрите, я понимаю, что как автору сайта вам это всё неприятно. Но я всегда в таких разговорах вот о чём думаю.
"Мелкие контентные сайты" и даже монстры типа Stackoverflow по сути сидят на двух стульях -- там есть некое сообщество, которому интересно друг с другом разговаривать и случайные юзеры, которые заходят получить ответ на интересующий вопрос и не заходить больше до следующего раза.
Не секрет, что вторые составляют абсолютное большинство, и просадка трафика происходит ровно за счёт их ухода. Но если оставить в стороне чувства хозяев сайтов, ситуация "классического интернета", конечно, для среднего пользователя была неоптимальной.
Как обычный юзер, я вовсе не хочу становиться участником вашей компашки, обсуждать чего-то на форуме и так далее. Я хочу получить у Большого Интернета ответ на свой вопрос, и чем меньше действий стоит между мной и ответом, тем мне удобнее. Да, можно сказать, что сейчас эта технология работает не очень хорошо, но если обсуждать не качество, а именно юзабилити, то режим "вопрос-ответ" безо всякого брождения по сайтам -- это ровно то, что юзеру требуется в большинстве случаев.
При этом, разумеется, сообщества (которые держатся на общении) никуда не денутся, но это будут совсем уж клубы по интересам. Может, оно и к лучшему.
Умоляю, разверните, как вы пришли к пункту 1). Я совершенно точно знаю, что я не философский зомби. Вы, судя по этому пункту, уверены в обратном
Я к этому не "прихожу", я из этого "исхожу" :) Начинаем с нуля магии, и вводим только если без неё деваться некуда. Это, кмк, совершенно стандартный научный подход.
Лично я всю свою жизнь (даже во сне!) окружён эмпирическими свидетельствами непосредственного. Вы нет?
Не совсем. Вам мозг рисует некую картинку окружающего, то есть вы уже имеете дело с уже "переваренным" восприятием.
Это же из разряда "вместе с водой выплеснуть и ребёнка". Не вашего калибра.
Спасибо. Это нормальный аргумент, если апелляция к интуиции может считаться нормальным аргументом. Потому что интуиция у каждого своя, и тогда мы сейчас начнём решать, у кого она достаточно достойна обсуждения, а у кого ложная. Ну или просто признаём, что да, кто-то воспринимает "непосредственно" божественное начало, и у меня нет повода ему не верить.
нет? Вот этот самый текст, который вы сейчас читаете - вы видите все эти цветовые пятна, в которых различаются буквы? Если да - то вот это пример непосредственного. Если нет, то откуда вы берёте все эти буквы, которые складываются в слова, ..., в текст, который вы читаете?
Это хороший аргумент, но в нём слишком много разного, даже не знаю, на чём сосредоточиться. Да, мне мозг рисует какие-то пятна. Вероятно, он их не от фонаря берёт, и что-то действительно "извне" он считывает. Но я не готов постулировать, что внешний мир попадает в сознание просто "по трубе" без какой-либо обработки. Собственно, на уровне букв это уже очевидно. Для меня "А" и "а" -- где-то рядом, а для неграмотного непонятно, где связь между этими значками, которые внешне не особо похожи. И обратно, я не увижу разницы между двумя цветовыми оттенками буквы, а для кого-то это будет прямо на поверхности. Думаю, довольно очевидно, что по мере прохождения сигнала с сетчатки он довольно сильно деформируется.
, а в моей наоборот - физическое элиминируется к субъективным содержаниям
Ну как бы основа любой материалистической концепции -- это постулат о том, что мир может существовать и без нас. То есть я могу представить себе мир без мыслящих существ вообще, каким он и был (по научным представлениям) большую часть существования. Получается, что физический объект (камень) уже есть, даже когда нас нет. И поэтому довольно странно предполагать, что физический мир это артефакт мышления, если, конечно, мы не в симуляции живём. И в этой картине избавиться от магии физического просто не получается.
Мой тезис - теория всего невозможна. Если ожидать от неё объяснения всех терминов через другие, понятные термины, которые понятны в силу их объяснения через другие понятные термины (и т.д.).
Хороший вопрос. Мне кажется тут два пункта: иметь "базовую теорию" (ну то есть вот буквально как работают первокирпичики нашего мира типа кварков) и уметь сводить теорию более высокого уровня к более низкому (психология - биология - химия - физика), т.е. редукционизм.
В первом, кмк, мы упёрлись в практические ограничения, и, грубо говоря, понять как работает кварк, уже невозможно, это магия. Он есть и он такой, end of story.
Но на это можно посмотреть и иначе -- что такое "объяснить"? Это же буквально по определению разложить на составляющие и понять, как из кусков получается новое целое. Но если мы уже добрались до элементарных частиц, как такое объяснение могло бы выглядеть хотя бы в теории?
Второе, думаю, формально возможно, но технически нереально (ну как понять на основе движения электронов, что у нас MS Word запущен). А кроме того, судя по всему, это контрпродуктивно, т.к. на каждом этаже возникает своя "эмерджентность", которая пропадает, если с него уйти.
Грубо говоря, один из трёх палочек составляет букву "А", а другой краской рисует "а" курсивом. Если спуститься на физический уровень, в этих двух сетапах нет ничего общего, и мы резко теряем что-то важное.
Спасибо за статью, интересно! У меня вопрос. Вот читаешь -- вроде сначала всё логично, выделение памяти, туда-сюда, статические буфера, вроде киваешь, соглашаешься. А потом выкатывается бомбический репцет -- свои вектора, свои практики -- память не выделять, держать всё в кастомных пулах и так далее. Почему сразу так всё сложно? Ведь в STL у каждого объекта может быть кастомный аллокатор. Казалось бы, напишите свой на основе статического буфера, и пользуйтесь std::vector на здоровье. И даже свой operator new можно сделать. Может, глобальная замена стандартного решения на 2-3 версии аллокатора для типичных случаев уже решит проблему, и огород незачем будет городить?
Т.е., мы договорились, что не нужно вводить наличие субъективного сознания у LLM?
Я думаю, не нужно, но я ровно так же думаю и про людей.
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
"Божественное откровение" это интерпретация субъективного содержания.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
начинаем с интерпретации, а непосредственное отбрасываем, как несущественное.
Думаю, непосредственного не существует. Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
А базовые физические элементы - это хорошая магия, да? :) Её можно как бы не замечать, как-будто её нет.
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Вы до этого спрашивали, в чём моя мотивация продолжать разговор, и вот я отвечу, что мне было отчасти в очередной раз полезно понять, насколько фундаментальными могут быть различия в том, что "очевидно", каковы предпосылки и т.п. Ну вот что поделать, в таком мире мы живём, другого нет, остаётся только заниматься чем-то конструктивным, а разрешение противоречий -- это иллюзия. Так что спасибо, и рад был разговору :)
Конечно, вы сейчас говорите много разумных вещей, но это всё можно применить к чему угодно. Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
Каждому ему система познания кажется очевидной и, возможно, единственно разумной, но всегда найдётся собеседник, который скажет, что она непродумана и нелогична, ну что делать.
Мой текущий взгляд на вещи основан на совершенно стандартной и скучной научной модели изучения окружающего мира -- мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов. Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Возможно, магия рано или поздно появится, но пока не появилась, потому что аргументы в её пользу сводятся к личному восприятию. Ну окей, это можно с порога отбрасывать не потому, что аргументы неверны, а потому что субъективное у каждого своё, и значит, это заведомо не универсальный довод. Если человек говорит, что арбуз вкусен, тут нет спора, он просто утверждает, что его органы чувств так ему говорят, и я верю.
Ну а то, что у меня своё субъективное -- факт, разумеется, поэтому я и исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
У меня уже есть удовлетворяющее меня доказательство, что не всё механизм. Безотносительно к тезису.
Ну это, собственно, красная линия всего диалога. Вам достаточно субъективной уверенности, а основываться она может на чём угодно.
Мне в принципе не интересны недоказанные тезисы
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы". А они все в математическом смысле недоказуемы. Относитесь к попытке его доказательства или опровержения примерно как к выявлению закона всемирного тяготения. Тезис фальсифицируем, можно опровергнуть, если получится.
У базового Чебурашки одно свойство - занимать место в пространстве. А у Чебурашки, состоящего из комбинации базовых, появляются новые свойства (напр., уши). :)
Это поверхностно остроумно, но не более того. Ну то есть если вам лично кажется, что свойство кирпича быть кирпичом (занимать место) ничего не стоит -- окей, но это не более, чем интуиция. На мой вкус путь от кирпича до компьютера короче, чем от пустоты до кирпича.
И, честно, даже обидно приписывать реально блестящим умам, занимающимся этой проблематикой, такую тривиальную ошибку.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
налицо фундаментальная несовместимость типов".
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят. Для меня совершенно неочевидна несовместимость типов. Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
По вашей схеме либо дворец состоит из дворцов (и нет никаких кирпичей), либо кирпич из кирпичей (и нет никаких дворцов).
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
"Вся "проблема" специалистов по компьютерным наукам (при всём уважении) в том, что они плохо разбираются в в философии."
У вас есть желание подробно отвечать на такого рода "аргумент"?
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
Доказательство возможности типа явления демонстрируется выводом общей формы этого явления. Нет необходимости перечислять каждый конкретный случай.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Возвращаясь к проблеме сознания (а также к тому, почему у AI его нет) -- я не говорю, что вы неправы, я всего лишь считаю приводимые аргументы слабыми.
По форме формулировка "трудности" в "трудной проблеме сознания" звучит ровно так же как MS Word в Windows -- мы не можем вывести сознание из движения атомов. Но дальше вы говорите, что в Windows нам понятен каждый шаг. Хорошо, а в природе непонятен? Мы знаем, как движутся атомы, мы знаем, как работает химия, как структурно устроен мозг. Но вы не хотите сделать ровно тот же вывод про мозг как про компьютер -- нам известны промежуточные шаги, значит, проблемы нет. Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
только тогда термин "механизм" теряет всякое осмысленное содержание.
Ну кому как. Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
Это же не логический аргумент, базирующийся на фактах, а разновидность риторической пощёчины. И отвечать на серьёзных щах имеет смысл только если хочешь риторической драки.
Мне жаль, что вы это так воспринимаете. Я ниже привёл вполне конкретный аргумент: всё, что приводится в качестве доказательства "несводимости" сознания к физике, может быть применено к заведомо детерминистическим системам. Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Бесконечная регрессия, если мы считаем, что механизм не атомарен
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
закономерный вопрос - какие именно свойства этой атомарной сущности позволяют приписать её к семейству механизмов.
Ну это же чисто вопрос определений. Вы можете называть "механизмом" всё, что угодно, это же просто слово, в которое можно вложить любой смысл. Основное свойство атомарного механизма -- это его атомарность, то есть вы можете из атомарных механизмов собрать что-то неатомарное, как из кубиков лего, чья основная работа и быть строительным материалом. Это не так уж и мало на мой вкус.
А "проблема" относится к продолжающемуся фиаско проекта адептов физикализма по редукции квалитативной субъективности к физическому.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Да, безусловно, сложно свести поведение живого огранизма к движению молекул. Но "магия" тут вовсе не в живости организма, а в технических трудностях процесса. Если вы попробуете понять, каким образом из движения электронов в на кристалле получается Microsoft Word, тоже ничего не получится. Хотя мы знаем, что это ровно так.
По крайней мере, я не думаю, что хоть кто-то реалистично может утверждать, что наблюдая токи в компьютере он сможет выявить, какой конкретно софт сейчас работает и какой алгоритм выполняет.
Но никому не интересно говорить о трудностях с MS Word'ом, гораздо интереснее рассуждать о "магии" живого. А если пойти в скучные "механистические" системы, окажется, что там на каждом шагу аналогичные "трудные проблемы".
Декларация у механизма квалитативного сознания - т.е., по сути, добавления к "интеллекту" способности страдать - равнозначна приглашению этого механизма себе домой - в человеческую среду - на равных правах.
Ну вот это и есть биологический шовинизм -- буквально по Аристотелю, "человек есть мера всех вещей", т.е. "я тут решаю, у кого есть сознание или нет, и я тут решаю, кому выдавать права". Это вполне легитимная конструкция, но в большей степени из области политики. Ну и ниже вы тоже предлагаете "придержать коней" из чисто политических соображений.
Тут мне придётся повториться:
Я просто не согласен с исходной посылкой. Она у вас такова: по умолчанию у человека есть сознание и субъектность, а у робота нет, и теперь надо каким-то образом доказать (или решить политически), что у робота оно тоже есть.
Исторически это ровно тот же тип аргумента что и "у женщины нет души", "туземцы не настоящие люди" и т.п. Разумеется, пигмей из Конго только внешне похож на человека, и пусть попробует докажет, что это всё на самом деле.
Опять, это всё может иметь этический, политический и какой угодно ещё смысл, но не научный. Я не могу даже доказать, что у меня есть сознание и субъектность. Мартин Лютер считал, что у человека нет свободы воли вообще. И Спиноза, и Роберт Сапольски, и Сэм Харрис, и много кто ещё.
Тогда почему вообще всему - на всякий случай - не приписать наличие сознания?
Ну Спиноза же ровно это и предлагает, нет? Вполне себе позиция.
А как у экземпляра человека, моя этическая обязанность в этом контексте доминирует над этической обязанностью к гипотетическому сознанию у механизмов (
Ну так мы по кругу ходим -- я с этой логикой не спорю. Моя семья важнее семьи соседа. Семья соседа важнее семьи из Судана. Семья из Судана важнее семьи обезьян. Семья обезьян или даже крыс важнее робота. Вполне классический подход.
Всё - квантор всеобщности. Если всё механизм, то и каждая деталь механизма - механизм и т.д. до бесконечности. Чтобы не было бесконечности нужно что-то "атомарное", заканчивающее регрессию. Что такое атомарный механизм?
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Механический (или электронный) калькулятор не является машиной Тьюринга (корректнее говорить про linear bounded automata, но не будем), потому что у него нет памяти и возможности выполнять программу. Аналитическая машина Бэббиджа и современные компьютеры уже являются, водораздел проходит достаточно чётко.
Это вы предположили, что C. elegans не имеет персональной субъективности - я этого не предполагал. И по умолчанию буду считать, что она там есть. А у цифровой симуляции - нет.
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного. Очень трудно в рамках современной научной картины мира поводить хоть какие-то различия между настоящим червём и его симуляцией на компьютере. Ну понятно, что первый живёт в не-виртуальном мире, ест "настоящую" еду и всё такое, но всё равно подразумевается точный "маппинг" червей, и настоящая еда превращается в виртуальную, но так, чтобы нечто настоящее просто исчезало как явление -- ну, это уже другая картина мира вообще.
Но он не технический, а этический. И очень удобный: забираешься на такой moral high ground - и сразу в белом плаще,
Это не этический аргумент, это всего лишь intuition pump, призванный показать, что как раз попытка отказать механизму в субъектности штука сугумо иррациональная и эмоциональная.
Бог с ней с квартирой и с теми, кого мы в неё пускаем. Большинство из нас готовы согласиться с тем, что у людей и даже у животных (как вы пишете) есть право не быть убитыми, например, особенно просто "по фану". И вот у вас есть механизм, который с точки зрения внешнего наблюдателя ведёт себя неотличимо от животного, например. И не просится в вашу квартиру -- жужжит себе в уголке, никого не трогает.
Далее вы говорите, мол, я по умолчанию считаю, что у механизма нет субъектности и он не страдает, а животное страдает. При этом вы можете что-то сказать про себя, гораздо меньше про других, и совсем мало про какую-нибудь лягушку, которая разве что пытается убегать и квакать, когда чувствует опасность (ну и робот тоже это умеет).
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Теперь про белое пальто. Моя задача не обвинять в шовинизме, а согласиться с тем, что мы биологические шовинисты и есть, и я тоже не исключение. Такова нормальная мораль нашего времени, и несправедливо ожидать от человека каких-то недосягаемых высот. Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
(1) Я что-то пропустил, и этот тезис уже доказанная теорема?
Вот с моей точки зрения да, потому что в данном контексте "тезис Чёрча-Тьюринга" используется в контексте "закона природы", а не "математической теоремы". У нас в принципе нет доказанных законов природы, потому что даже принцип всемирного тяготения "доказывается" ровно так же, как на практике "доказывается" отсутствие багов в программе, а именно, прогонкой тестов, опытами. Но опыты не могут ничего доказать на 100%, максимум, они свидетельствуют о том, что теория правдоподобна. Если воспринимать тезис Ч-Т именно в таком контексте, я думаю, считать его верным ничуть не менее оправдано, чем любую квантовую механику.
Даже если это истина, то отсюда очень далеко до суждения "всё существующее есть эквивалент машины Тьюринга".
Это так называемая "сильная версия тезиса Чёрча-Тьюринга". Далеко, но не так далеко.
(3) Наконец, если всё есть вычислительный механизм, то и составные детали такого механизма - тоже аналоги вычислительной машины.
Нет, это технически неверно. Машина Тьюринга -- самый сильный вычислительный аппарат, строго сильнее (с точки зрения теории вычислений) чем, например, конечный автомат (FSM) или автомат с магазинной памятью (pushdown automaton). Так что никакой бесконечности нет -- есть минимальный юнит, который обеспечивает "какие-то" вычисления, и есть иерархия вычислителей, которая останавливается на машине Тьюринга. Машина отдельно, кирпичи отдельно.
Ну или, иначе говоря, тезис Ч-Т говорит, что машины Тьюринга "достаточно" для всего, но вовсе не "необходимо" для массы вещей.
"как вы об этом знаете" ответа не было. Потому что не получается обойти непосредственное восприятие, через которое мы получаем любое знание?
Я считаю этот вопрос плохо сформулированным. В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает. Посмотрите на проблему свежим взглядом.
Есть "я" в том смысле, что есть физический объект, который не вы, не котик Вася, не табуретка и так далее, а вот ограниченный в пространстве юнит. У этого юнита есть система принятия решений. Часть этой системы отвечает за симуляцию "what-if" сценариев. Бессмысленно спрашивать "откуда она это знает". Она этого не "знает", она это "производит" -- генерация симуляции внешнего мира, в которой принимается решение -- это непосредственная работа этой системы.
Привожу текст, т.к. обещал - не обижусь, если не будете читать.
Не, на самом деле интересно, но для дискуссии действительно много :)
Этим конкретным человеком сделано, конечно. Ну а почему так -- можно только гадать, но эмпирически это же везде так. Редко кто выдаёт что-то принципиально новое по графику. Есть вообще "one hit wonders" писатели или музыканты, которые создают один бестселлер/шлягер за всю карьеру -- не потому, что голова деградирует, а просто таланта и удачи хватило на один раз. Есть люди, которые садятся на одну тему (исторические романы, допустим) и сначала вроде свежо и интересно, а потом вроде хуже не становится, но уже начинаешь видеть, что все книги автора более-менее одинаково устроены. Но если у писателя такое прокатывает, то в математике уже не прокатит.
Мне кажется, тут несколько другое: математика, видимо, так устроена, что не нужно 20 лет грызть материал, чтобы открыть что-то новое. И если у человека есть таланты, нет причин, почему он не сумеет этими талантами воспользоваться до 30, скажем. При этом сложно ожидать от человека такого обилия идей, чтобы после 50 оставалось ещё куда копать. Не исключено, что с головой и после 50 у математиков всё в порядке, но уже всё, что можно было сделать, сделано.
Ну вот почему-то для Уэллса эта идея не выглядела смешно до 11 сентября. Я уж не говорю о том, что этот фильм даже не первая экранизация книги. Или автор думает, что если бы фильм сняли в 90х, там бы тоже люди инопланетян просто порубили бы в капусту, и плевать на первоисточник?
Хм, у ютюбера 100% дохода от ютюба, у ios разработчика 100 дохода от магазина эппла?
Вы, как и автор статьи, как и большинство комментаторов с похожим посылом, начинают с преамбулы типа "я опытный специалист, и вот мой вывод".
Проблема в том, что средний программист в средней конторе этими словами не описывается. Вы пишете лучше LLM, окей. Сравнивать надо со средним разработчиком по больнице, от которого нам досталось крылатое выражение "индусский код".
У нормального менеджера нет задачи заменить вас нейросетью. Но вот выбрать между наймом вам помощника или покупкой инструментов уже вполне можно обсуждать. Да и должен же кто-то вам делать code review :)
Кстати, добавлю, ровно как все автомобилисты ещё и пешеходы, так и все опытные разработчики превращаются в "среднего индуса", если приходится иметь дело с малознакомой технологией и кодовой базой. Мне иногда приходится что-то подкрутить на вебсайте в Javascript, например. Это вот совсем не моё, LLM точно справится не хуже.
Не вижу связи. А зачем ходить на рыбалку, играть в шахматы, в футбол, смотреть кино или слушать музыку? Тут нет вообще никакой свзяи с совершенством. Нам и 10 лет назад незачем было спрашивать, по гамбургскому счёту. Только из интереса и удовольствия.
Вот мне кажется, что, пожалуй, и надо. Смотрите, я понимаю, что как автору сайта вам это всё неприятно. Но я всегда в таких разговорах вот о чём думаю.
"Мелкие контентные сайты" и даже монстры типа Stackoverflow по сути сидят на двух стульях -- там есть некое сообщество, которому интересно друг с другом разговаривать и случайные юзеры, которые заходят получить ответ на интересующий вопрос и не заходить больше до следующего раза.
Не секрет, что вторые составляют абсолютное большинство, и просадка трафика происходит ровно за счёт их ухода. Но если оставить в стороне чувства хозяев сайтов, ситуация "классического интернета", конечно, для среднего пользователя была неоптимальной.
Как обычный юзер, я вовсе не хочу становиться участником вашей компашки, обсуждать чего-то на форуме и так далее. Я хочу получить у Большого Интернета ответ на свой вопрос, и чем меньше действий стоит между мной и ответом, тем мне удобнее. Да, можно сказать, что сейчас эта технология работает не очень хорошо, но если обсуждать не качество, а именно юзабилити, то режим "вопрос-ответ" безо всякого брождения по сайтам -- это ровно то, что юзеру требуется в большинстве случаев.
При этом, разумеется, сообщества (которые держатся на общении) никуда не денутся, но это будут совсем уж клубы по интересам. Может, оно и к лучшему.
Напр.
Да, спасибо :)
Я к этому не "прихожу", я из этого "исхожу" :) Начинаем с нуля магии, и вводим только если без неё деваться некуда. Это, кмк, совершенно стандартный научный подход.
Не совсем. Вам мозг рисует некую картинку окружающего, то есть вы уже имеете дело с уже "переваренным" восприятием.
Спасибо. Это нормальный аргумент, если апелляция к интуиции может считаться нормальным аргументом. Потому что интуиция у каждого своя, и тогда мы сейчас начнём решать, у кого она достаточно достойна обсуждения, а у кого ложная. Ну или просто признаём, что да, кто-то воспринимает "непосредственно" божественное начало, и у меня нет повода ему не верить.
Это хороший аргумент, но в нём слишком много разного, даже не знаю, на чём сосредоточиться. Да, мне мозг рисует какие-то пятна. Вероятно, он их не от фонаря берёт, и что-то действительно "извне" он считывает. Но я не готов постулировать, что внешний мир попадает в сознание просто "по трубе" без какой-либо обработки. Собственно, на уровне букв это уже очевидно. Для меня "А" и "а" -- где-то рядом, а для неграмотного непонятно, где связь между этими значками, которые внешне не особо похожи. И обратно, я не увижу разницы между двумя цветовыми оттенками буквы, а для кого-то это будет прямо на поверхности. Думаю, довольно очевидно, что по мере прохождения сигнала с сетчатки он довольно сильно деформируется.
Ну как бы основа любой материалистической концепции -- это постулат о том, что мир может существовать и без нас. То есть я могу представить себе мир без мыслящих существ вообще, каким он и был (по научным представлениям) большую часть существования. Получается, что физический объект (камень) уже есть, даже когда нас нет. И поэтому довольно странно предполагать, что физический мир это артефакт мышления, если, конечно, мы не в симуляции живём. И в этой картине избавиться от магии физического просто не получается.
Хороший вопрос. Мне кажется тут два пункта: иметь "базовую теорию" (ну то есть вот буквально как работают первокирпичики нашего мира типа кварков) и уметь сводить теорию более высокого уровня к более низкому (психология - биология - химия - физика), т.е. редукционизм.
В первом, кмк, мы упёрлись в практические ограничения, и, грубо говоря, понять как работает кварк, уже невозможно, это магия. Он есть и он такой, end of story.
Но на это можно посмотреть и иначе -- что такое "объяснить"? Это же буквально по определению разложить на составляющие и понять, как из кусков получается новое целое. Но если мы уже добрались до элементарных частиц, как такое объяснение могло бы выглядеть хотя бы в теории?
Второе, думаю, формально возможно, но технически нереально (ну как понять на основе движения электронов, что у нас MS Word запущен). А кроме того, судя по всему, это контрпродуктивно, т.к. на каждом этаже возникает своя "эмерджентность", которая пропадает, если с него уйти.
Грубо говоря, один из трёх палочек составляет букву "А", а другой краской рисует "а" курсивом. Если спуститься на физический уровень, в этих двух сетапах нет ничего общего, и мы резко теряем что-то важное.
Тут вся статья без пруфоа, чего бы не продолжить в том же духе.
Спасибо за статью, интересно! У меня вопрос. Вот читаешь -- вроде сначала всё логично, выделение памяти, туда-сюда, статические буфера, вроде киваешь, соглашаешься. А потом выкатывается бомбический репцет -- свои вектора, свои практики -- память не выделять, держать всё в кастомных пулах и так далее. Почему сразу так всё сложно? Ведь в STL у каждого объекта может быть кастомный аллокатор. Казалось бы, напишите свой на основе статического буфера, и пользуйтесь std::vector на здоровье. И даже свой operator new можно сделать. Может, глобальная замена стандартного решения на 2-3 версии аллокатора для типичных случаев уже решит проблему, и огород незачем будет городить?
Насколько понимаю, это всё были кредитные карты.
Я думаю, не нужно, но я ровно так же думаю и про людей.
Алгоритм такой: 1) по умолчанию ни у кого/ни у чего нет субъективного сознания; 2) если мы по какой-то причине решаем, что у кого-то/чего-то оно есть, спрашиваем его; 3) если отвечает утвердительно, верим (?); 4) если не верим, должна быть веская причина. Как-то так.
Думаю, вся ваша линия мысли должна вас приводить к идее о том, что содержание без интерпретации невозможно.
Думаю, непосредственного не существует. Я неоднократно сталкивался с позицией (близко к тексту) "божественное начало мира непосредственно очевидно".
Нет, это плохая магия, но она неизбежное зло, если мы не считаем, что живём в Матрице. Возможно, живём. То есть я понимаю, что магия будет, но не будем плодить.
Ещё раз спасибо, всё никак не закончим :)
Вы до этого спрашивали, в чём моя мотивация продолжать разговор, и вот я отвечу, что мне было отчасти в очередной раз полезно понять, насколько фундаментальными могут быть различия в том, что "очевидно", каковы предпосылки и т.п. Ну вот что поделать, в таком мире мы живём, другого нет, остаётся только заниматься чем-то конструктивным, а разрешение противоречий -- это иллюзия. Так что спасибо, и рад был разговору :)
Конечно, вы сейчас говорите много разумных вещей, но это всё можно применить к чему угодно. Кому-то было непосредственно данное в ощущениях божественное откровение -- и оно для него истина, потому что всё равно всё субъективно.
Каждому ему система познания кажется очевидной и, возможно, единственно разумной, но всегда найдётся собеседник, который скажет, что она непродумана и нелогична, ну что делать.
Мой текущий взгляд на вещи основан на совершенно стандартной и скучной научной модели изучения окружающего мира -- мы смотрим на камень, облако, лёд -- и изначально исходим из того, что там нет никакой "магии", помимо базовых физических элементов. Чем сложнее объект, тем сложнее его изучать, очевидно, но наша цель -- избегать магии как можно дольше. Бритва Оккама, если угодно.
Возможно, магия рано или поздно появится, но пока не появилась, потому что аргументы в её пользу сводятся к личному восприятию. Ну окей, это можно с порога отбрасывать не потому, что аргументы неверны, а потому что субъективное у каждого своё, и значит, это заведомо не универсальный довод. Если человек говорит, что арбуз вкусен, тут нет спора, он просто утверждает, что его органы чувств так ему говорят, и я верю.
Ну а то, что у меня своё субъективное -- факт, разумеется, поэтому я и исхожу из того, что наименьшее зло -- это не вводить новое субъективное вдобавок к уже имеющемуся.
Ну это, собственно, красная линия всего диалога. Вам достаточно субъективной уверенности, а основываться она может на чём угодно.
Я уже выше пояснил, что тезис Ч-Т надо в данном контексте воспринимать как "закон природы". А они все в математическом смысле недоказуемы. Относитесь к попытке его доказательства или опровержения примерно как к выявлению закона всемирного тяготения. Тезис фальсифицируем, можно опровергнуть, если получится.
Это поверхностно остроумно, но не более того. Ну то есть если вам лично кажется, что свойство кирпича быть кирпичом (занимать место) ничего не стоит -- окей, но это не более, чем интуиция. На мой вкус путь от кирпича до компьютера короче, чем от пустоты до кирпича.
Ну вот делает же Сёрль тривиальную ошибку в Китайской комнате, не так ли?
Если она "налицо", то вы отрицаете с порога сильную версию тезиса Чёрча-Тьюринга и тем самым, если угодно, большую плеяду не менее блестящих умов, которые из этой концепции исходят. Для меня совершенно неочевидна несовместимость типов. Если вы хотите доказывать таким способом, то вам на практике реально надо найти опровержение тезиса Ч-Т, так что если удастся, прославитесь в веках.
Вы почему-то считаете, что с моей точки зрения все механизмы созданы равными. Там тоже есть иерархия свойств. У базового механизма одно свойство -- занимать место в пространстве. А у механизма, состоящего из комбинации базовых, появляются новые свойства.
В смысле? Это же очевидно. Быть философом (или учёным в области CS) -- это full-time job, разумеется, невозможно разбираться одинаково хорошо в области, на которую тратишь половину времени, по сравнению с тем, кто тратит на неё всё своё время.
Соответственно, концентрируемся на аргументах, а не на людях, и изучаем именно слабость аргументов с точки зрения противоположной стороны.
Например, в философии до сих пор любят ссылаться на "китайскую комнату", хотя в около-CS-среде т.н. возражение "аргумент системы" считается настолько очевидным, что даже непонятно, в чём сыр-бор.
А мне кажется, что есть необходимость. Потому что это ответ типа "а дальше очевидно". Ну вот пусть хоть кто-то продемонстрирует, как это технически работает, не в стиле "каждый отдельный шаг понятен, а дальше очевидно".
Возвращаясь к проблеме сознания (а также к тому, почему у AI его нет) -- я не говорю, что вы неправы, я всего лишь считаю приводимые аргументы слабыми.
По форме формулировка "трудности" в "трудной проблеме сознания" звучит ровно так же как MS Word в Windows -- мы не можем вывести сознание из движения атомов. Но дальше вы говорите, что в Windows нам понятен каждый шаг. Хорошо, а в природе непонятен? Мы знаем, как движутся атомы, мы знаем, как работает химия, как структурно устроен мозг. Но вы не хотите сделать ровно тот же вывод про мозг как про компьютер -- нам известны промежуточные шаги, значит, проблемы нет. Или нам пока неизвестны какие-то промежуточные шаги, но не более того. Мы почему-то сразу прыгаем к выводу, что есть некая "трудная" проблема.
Ну кому как. Из базовых кирпичиков можно создать хоть дворец, при этом у кирпичика есть только одно реальное свойство -- занимать место в пространстве. По факту оказывает, что этого не так уж и мало, раз получается такой результат.
Мне жаль, что вы это так воспринимаете. Я ниже привёл вполне конкретный аргумент: всё, что приводится в качестве доказательства "несводимости" сознания к физике, может быть применено к заведомо детерминистическим системам. Попробуйте показать, как MS Word внутри Windows сводится к движению электронов по схемам. Если это не получится (а разве получится?), значит, аргумент плохой.
В известном смысле это не пощёчина, а наоборот -- я не отказываю философам в интеллекте, но они не обязаны разбираться во всём на свете, и вот тут явно тот случай, когда именно пробел в конкретной области не даёт увидеть слабость аргумента.
Да, поэтому совершенно логичный вывод -- механизм может быть атомарным, и проблемы регрессии больше нет.
Ну это же чисто вопрос определений. Вы можете называть "механизмом" всё, что угодно, это же просто слово, в которое можно вложить любой смысл. Основное свойство атомарного механизма -- это его атомарность, то есть вы можете из атомарных механизмов собрать что-то неатомарное, как из кубиков лего, чья основная работа и быть строительным материалом. Это не так уж и мало на мой вкус.
С моей точки зрения никакой проблемы нет. Вся "проблема" философов (при всём уважении) в том, что они плохо разбираются в компьютерной науке.
Да, безусловно, сложно свести поведение живого огранизма к движению молекул. Но "магия" тут вовсе не в живости организма, а в технических трудностях процесса. Если вы попробуете понять, каким образом из движения электронов в на кристалле получается Microsoft Word, тоже ничего не получится. Хотя мы знаем, что это ровно так.
По крайней мере, я не думаю, что хоть кто-то реалистично может утверждать, что наблюдая токи в компьютере он сможет выявить, какой конкретно софт сейчас работает и какой алгоритм выполняет.
Но никому не интересно говорить о трудностях с MS Word'ом, гораздо интереснее рассуждать о "магии" живого. А если пойти в скучные "механистические" системы, окажется, что там на каждом шагу аналогичные "трудные проблемы".
Ну вот это и есть биологический шовинизм -- буквально по Аристотелю, "человек есть мера всех вещей", т.е. "я тут решаю, у кого есть сознание или нет, и я тут решаю, кому выдавать права". Это вполне легитимная конструкция, но в большей степени из области политики. Ну и ниже вы тоже предлагаете "придержать коней" из чисто политических соображений.
Я просто не согласен с исходной посылкой. Она у вас такова: по умолчанию у человека есть сознание и субъектность, а у робота нет, и теперь надо каким-то образом доказать (или решить политически), что у робота оно тоже есть.
Исторически это ровно тот же тип аргумента что и "у женщины нет души", "туземцы не настоящие люди" и т.п. Разумеется, пигмей из Конго только внешне похож на человека, и пусть попробует докажет, что это всё на самом деле.
Опять, это всё может иметь этический, политический и какой угодно ещё смысл, но не научный. Я не могу даже доказать, что у меня есть сознание и субъектность. Мартин Лютер считал, что у человека нет свободы воли вообще. И Спиноза, и Роберт Сапольски, и Сэм Харрис, и много кто ещё.
Ну Спиноза же ровно это и предлагает, нет? Вполне себе позиция.
Ну так мы по кругу ходим -- я с этой логикой не спорю. Моя семья важнее семьи соседа. Семья соседа важнее семьи из Судана. Семья из Судана важнее семьи обезьян. Семья обезьян или даже крыс важнее робота. Вполне классический подход.
Я не совсем понимаю, в чём проблема. Автомобиль состоит из деталей, каждая из которых автобилем не является. Колесо -- не автомобиль, и состоит оно из молекул, которые тоже не колёса.
Нет никаких проблем в том, чтобы изготовить автомобиль из деталей, которые не-автомобили. Нет никаких проблем, чтобы создать машину Тьюринга не из машины Тьюринга.
Механический (или электронный) калькулятор не является машиной Тьюринга (корректнее говорить про linear bounded automata, но не будем), потому что у него нет памяти и возможности выполнять программу. Аналитическая машина Бэббиджа и современные компьютеры уже являются, водораздел проходит достаточно чётко.
Смотрите, это, безусловно, имеющая право на жизнь точка зрения, но она автоматически выводит нас за пределы научного. Очень трудно в рамках современной научной картины мира поводить хоть какие-то различия между настоящим червём и его симуляцией на компьютере. Ну понятно, что первый живёт в не-виртуальном мире, ест "настоящую" еду и всё такое, но всё равно подразумевается точный "маппинг" червей, и настоящая еда превращается в виртуальную, но так, чтобы нечто настоящее просто исчезало как явление -- ну, это уже другая картина мира вообще.
Это не этический аргумент, это всего лишь intuition pump, призванный показать, что как раз попытка отказать механизму в субъектности штука сугумо иррациональная и эмоциональная.
Бог с ней с квартирой и с теми, кого мы в неё пускаем. Большинство из нас готовы согласиться с тем, что у людей и даже у животных (как вы пишете) есть право не быть убитыми, например, особенно просто "по фану". И вот у вас есть механизм, который с точки зрения внешнего наблюдателя ведёт себя неотличимо от животного, например. И не просится в вашу квартиру -- жужжит себе в уголке, никого не трогает.
Далее вы говорите, мол, я по умолчанию считаю, что у механизма нет субъектности и он не страдает, а животное страдает. При этом вы можете что-то сказать про себя, гораздо меньше про других, и совсем мало про какую-нибудь лягушку, которая разве что пытается убегать и квакать, когда чувствует опасность (ну и робот тоже это умеет).
Тем не менее, имея в голове исключительно эту теорию, вы готовы сказать: ну вот да, я так вижу, и вероятность того, что вы заблуждаетесь, не мешает вам решить, что ничего страшного нет в том, чтобы отключить механизм. То есть обычно сомнение трактуется в пользу обвиняемого, если угодно, потому что на кону его жизнь, а тут наоборот.
Теперь про белое пальто. Моя задача не обвинять в шовинизме, а согласиться с тем, что мы биологические шовинисты и есть, и я тоже не исключение. Такова нормальная мораль нашего времени, и несправедливо ожидать от человека каких-то недосягаемых высот. Но достаточно хороших научных и даже этических аргументов в пользу этой точки зрения нет. Есть только эмоции.
Вот с моей точки зрения да, потому что в данном контексте "тезис Чёрча-Тьюринга" используется в контексте "закона природы", а не "математической теоремы". У нас в принципе нет доказанных законов природы, потому что даже принцип всемирного тяготения "доказывается" ровно так же, как на практике "доказывается" отсутствие багов в программе, а именно, прогонкой тестов, опытами. Но опыты не могут ничего доказать на 100%, максимум, они свидетельствуют о том, что теория правдоподобна. Если воспринимать тезис Ч-Т именно в таком контексте, я думаю, считать его верным ничуть не менее оправдано, чем любую квантовую механику.
Это так называемая "сильная версия тезиса Чёрча-Тьюринга". Далеко, но не так далеко.
Нет, это технически неверно. Машина Тьюринга -- самый сильный вычислительный аппарат, строго сильнее (с точки зрения теории вычислений) чем, например, конечный автомат (FSM) или автомат с магазинной памятью (pushdown automaton). Так что никакой бесконечности нет -- есть минимальный юнит, который обеспечивает "какие-то" вычисления, и есть иерархия вычислителей, которая останавливается на машине Тьюринга. Машина отдельно, кирпичи отдельно.
Ну или, иначе говоря, тезис Ч-Т говорит, что машины Тьюринга "достаточно" для всего, но вовсе не "необходимо" для массы вещей.
Я считаю этот вопрос плохо сформулированным. В таких терминах надо решать, что такое "я" и что такое "знаю". Это избыточно и отвлекает. Посмотрите на проблему свежим взглядом.
Есть "я" в том смысле, что есть физический объект, который не вы, не котик Вася, не табуретка и так далее, а вот ограниченный в пространстве юнит. У этого юнита есть система принятия решений. Часть этой системы отвечает за симуляцию "what-if" сценариев. Бессмысленно спрашивать "откуда она это знает". Она этого не "знает", она это "производит" -- генерация симуляции внешнего мира, в которой принимается решение -- это непосредственная работа этой системы.
Не, на самом деле интересно, но для дискуссии действительно много :)