Не понимаю, что вы этим хотите сказать. В нормальных странах насилие над животным тоже уголовно наказуемо. И, имхо, даже там недостаточно.
Хорошо. Я просто хочу сказать, что даже если LLM уже достигли потолка, это уже достаточно высокий потолок, чтобы обсуждать вопросы сознания.
причине - "мельница Лейбница". Не хочу вводить магию без ясного мне основания. Наличие сознания у меня не видится мне, как достаточное
Ну вы же себе приписываете исключительно на основании интроспекции.
Насчёт того же мозга лично у меня нет 100%-й уверенности, что это 100% механизм.
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Соответственно, зачем опираться на "знание, что внизу 100% механика"? Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика. Я понимаю нежелание плодить сущности, но конкретно это сображение в принципе не аргумент. С тем же успехом можно говорить "там нет интеллекта, потому что у него шесть лап, а не четыре".
нет - вопрос к вам, чисто на всякий случай: есть ли у вас самого такое восприятие? И как вы об этом знаете?
Я думаю, это спор о терминах. Есть "я", телесный агент, ограниченный в пространстве, и отделяемый от других агентов. У этого агента есть система принятия решений, помогающая ему выживать и достигать целей. Частью этой системы и является подсистема "субъективного восприятия", чья прямая работа -- создание виртуального мира в голове и виртуального аватара, соответствующего телесному агенту. Это очень выгодная система, потому что она может проигрывать разные сценарии с участием аватара и моделировать результаты.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Моё мнение, что если страна выберет второй путь, то тогда как минимум не исключена вероятность того, что в ней будут расти целые поколения садистов
Ну вот в одной богоспасаемой стране могут посадить за "аниме-проно с несовершеннолетними", хотя никакой реальный несовершеннолетний при этом не страдает. Это вполне показательно, похоже, что логика "это всего лишь симулятор" никого не убеждает. Так же как и условные кровавые шутеры, которым присваивают возрастные рейтинги, а кое-где и запрещают (в Германии Carmageddon с зелёной кровью вроде).
Тут и там ходят полуневнятные слухи о том, что мы, быть может, достигли некоторого плато в развитии LLM, и что это плато может оказаться потолком.
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
играет ли специфика той части мыслительных процессов человека, которые находятся в чисто субъективной области (квалитативное восприятие), фундаментальную роль
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Если не изменяет память, я также говорил там о том, что чтобы освоить речь и достаточно универсальное мышление, человеку не нужно становиться ходячей энциклопедией всей информации человечества.
Ну, на это можно ответить двумя способами. 1) Нужно, и что? Да, это другой тип интеллекта, ему нужно. Зато он в чём-то другом сильнее. 2) Не нужно. Просто у нас уже очень многое загружено от рождения (напр., способность обучаться языку или распознавать лица), а в LLM изначально ничего не загружено. В теории можно (наверно) попробовать и в LLM загрузить то, что есть у нас от рождения, и посмотреть, сколько ещё надо загрузить для полноценного мышления, но это сложно, и не особо кому надо.
Ну тут незачем пинать соломенное чучело -- понятно, что мышление LLM (и вообще текущих нейросетей) устроено иначе. Простой пример -- в системах распознавания образов ещё недавно (не знаю, как сейчас) можно было поменять буквально один пиксель, и для неё велосипед превращался в крокодила или как-то так, потому что метрика близости устроена не так.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму". LLM в программировании дико косячит по сравнению со мной. Но не так уж и косячит по сравнению со средним студентом, например. То есть сравнивая "с человеком", всё же надо решить для себя с каким конкретно человеком мы сравниваем.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Мне видится как минимум странным отрицать реальность непосредственного опыта, сообщающего нам, на секундочку, всю полезную информацию, включая свойства наблюдаемой Вселенной.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт. Эволюционно органы чувств дают нам ту картину, которая способствует выживанию. Здесь нет оптимизации по объективности. Логично предположить, что неверная информация вряд ли помогает выжить, но есть детали. Как вы упоминаете, у молекул нет цвета, но мы его видим, значит, цвет нам как-то полезен. Известно, что мы склонны видеть паттерны даже там, где их нет (парейдолия), потому что лучше увидеть несуществующего тигра, чем не увидеть существующего. Наши органы чувств имеют отдельный механизм для распознавания лиц, и если он плохо работает, это прозопагнозия, т.е. обычного механизма распознавания оказыавается недостаточно.
Если ничья, то и самой иллюзии нет. Если чья-то, то, внезапно, возвращается субъект с непосредственным опытом
Не, ну это немного "начали за здравие". Ваш аргумент если вкратце, сводится к следующему. Мы вроде как знаем, что мозг "на нижнем уровне" устроен на механистических принципах, но поскольку я сам себя осознаю как личность со всеми вытекающими, значит, где-то между нейронами и пальцами, которые набирают это текст, возникает какая-то "магия", а иначе невозможно объяснить, как из нейронов получается личность.
С другой стороны, поскольку мы сами разработали LLM, мы заведомо знаем, что никакой "магии" там нет, и значит, личности там взяться вроде бы как и неоткуда.
Мыслить в терминах целеполагающих агентов удобно и полезно, но это тоже отчасти наша особенность. Если вы играете против компьютера в шахматы, то исходите из того, что ваш оппонент "хочет" и "пытается" у вас выиграть, и в данном контексте неважно, на каких принципах он устроен. Да, некая часть нашей системы принятия решений работает так, что наш агент воспринимает себя как личность. Вопрос "чья это иллюзия" немного казуистический. Это иллюзия агента, но если угодно, это и вправду "не иллюзия" в том смысле, что драконы или боги реально существуют, потому что без идеи о богах или драконах люди поступали бы иначе.
Когда я думаю об этих вещах, то сравниваю себя не с LLM, потому что и вправду дистанция велика. Я думаю о том, что наш мозг является продуктом длинной цепочки эволюции, и мы вполне можем ориентироваться на наших биологических родственников -- вплоть до червей. У червя вряд ли есть личность, но он тоже умеет принимать решения, делать полезное для себя и не делать вредного. Двигаясь от червей к нам, мы видим всё более продвинутые системы принятия решения, и сложно сказать, на каком этаже возникает личность. Более того, даже сложно сказать, как восприятие собственной личности отличается от человека к человеку и, скажем, от людей с когнитивными расстройствами и тому подобное.
Получается, что нет такого -- лампочку включили, и вот, на каком-то этаже от нейронов загорелость сознание. Получается, что есть целый непрерывный ряд "сумеречных" сознаний, и для простейших из них (типа червей) мы уже заведомо можем исключить "магию", дальше можем разумно предположить, что в этой непрерывной эволюционной цепочке идёт усложнение и развитие, но не какой-то волшебный триггер, добавляющий нечто принципиально новое.
Спасибо, почитаю. Но это снова обсуждение высокоуровненовй организации. На базовом уровне у нас есть, например, тезис Чёрча-Тьюринга, и дальше можно систему усложнять бесконечно. Я не вижу теоретической проблемы в том, что на базовом уровне у компьютерного AI будут токены, а где-то на три этажа выше появятся этические суждения и вообще что угодно. И устроено будет это не так, как у нас.
Ну потому что для меня эти различия не являются существенными. Не думаете же вы, что для меня неочевидно, что органический мозг, являющийся продуктом миллионов лет эволюции, устроен не так, как спроектированная нейросеть, предназначенная для работы на кремниевом чипе? Авторы статьи, на которую вы ссылаетесь, обсуждают, что ИИ должен обладать некими высокоуровневыми свойствами. Ну окей, должен, не спорю. Конкретно в этой ветке я спрашиваю, какой закон природы запрещает предсказателю токенов этими свойствами обладать. Не отсутствие же биохимии?
Можно сразу хоть 15, в чём поинт? Если к тому, что кроме электричества есть ещё и биохимия, то там тоже никакой магии по типу "самости", "логичности" и т.п.
Вот я поддержу вашего собеседника. Частые рассуждения, начинающие с того, что "LLM всего лишь предсказывает следующий токен" (а мы-то, в отличие, о-го-го!) как-то уже напрягают. Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Мы не имеем способности наблюдать процесс нашего мышления. То, что мы наблюдаем -- это некое "кино", являющееся частью системы принятия решений. Насколько оно соответствует реальности вопрос тонкий, но как-то ненаучно исходить из того, что соответствует, с чего бы? С другой стороны, зная, что у LLM "внизу" просто предсказатель токенов, некорректно говорить, что на пару этажей выше у LLM нет тоже своего "кина", и сам AI не воспринимает своё мышление как сложный логический процесс (тут кавычки ставьте по усмотрению).
То есть даже если ваша точка зрения и верна, обоснование очень шаткое.
В смысле, вы спрашиваете, есть ли у меня идеи почему в России что-то запрещают? В России не могут и дня прожить без того, чтобы запретить что-либо, это настолько нормально, что даже странно обращать внимание.
Вообще это нормально -- клубы, общества, какие-то тусовки. Не запрещать же людям собираться вместе. Не хотел бы я жить в обществе, где единственная санкционированная тусовка -- школа правящей партии, остальное ОК.
перекладывания ответственности с родителей на государство.
Ну так это вопрос терминов. Вот есть, например, возрастная маркировка: написано на фильме 3+ или там 16+, но это же тоже чистое перекладывание ответственности: по идее родитель сам должен отсмотреть этот фильм и решить, годится его ребёнку или нет. Понятно, что это нереалистично, и обычный родитель с удовольствием свалит это на государство.
Кажется, эту схему очень непросто применить к цензурированию интернета в ЕС, Великобритании, США. Также убийства чести - не про силу общества (в Иране слабое государство?), власть банд по книге не относится к сильному обществу (называет это Paper Leviathan, ставит в левый нижний угол, приводит в пример Колумбию).
Ну вот по мнению условного Руссо, первобытное общество -- это как раз когда гармония и никаких тиранов. А по мнению авторов книжки, сильное общество -- это то, что находится в противовесе государственной монополии на насилие. И да, если у вас "убийства чести" не узаконены в кодексе, но по факту это происходит, и убийце ничего не бывает, конечно, это признак слабости государства, которое не может утвердить свои же собственные правила игры. Цензурирование интернета нормально вписывается, потому что это ровно такой же закон, как и любой другой -- ограничение скорости на дороге, например. Проблемы (по книжке) если у вас нет силы влиять на принимаемые законы, и государство делает что хочет без противовеса.
Для защиты детей? Они не замечают "недокументированные возможности" в таких законах?
Смотрите, допустим, я с вами соглашусь, и вообще риторика "кто же подумает о детях" для нас изначально звучит очень сомнительно. Но также точно надо отдавать себе отчёт, что мы, как постсоветские люди, имеем когнитивное искажение -- воспринимать государство как врага, от которого постоянно ждёшь какой-то подляны. Конечно, нередко так оно и есть, но далеко не каждый европеец изначально склонен искать подвох и желание сделать хуже.
Вот если это воспринимать это "неужели" не как риторический вопрос, то да, избиратели с пониманием относятся. Ну если не считать жалующихся на Реддите репрезентативной выборкой. Дальше давайте отделим наше личное отношение к ситуации от её безэмоционального изучения.
Есть страны, мы список знаем, где никто никого не спрашивает, и государство делает что хочет, потому что текущим властям за это ничего не будет. Тут вроде всё понятно.
Но закручивание гаек происходит и там, где политическую карьеру можно себе и подпортить, и вот как это работает? Меня вполне убеждает схема из книги The narrow corridor, суть которой вкратце в том, что для нормального развития страны нужно параллельное усиление государства и общества, и да, это ежедневная борьба за то, чтобы не выйти за пределы "corridor".
Как выглдяит чрезмерно усилившееся государство, мы знаем, поэтому и реагируем на такие инициативы столь резко. А слишком сильное общество -- это всякие "убийства чести", линчевания, религиозный остракизм, власть банд или меры для того, чтобы все были одинаково бедны, и ни у кого не было бы сил сколотить вооружённую банду.
Таким образом, по мере того, как "внизу" появляются какие-то рычаги, то "вверху" тоже что-то симметричное должно появляться. Так что да, либо государство и вправду усиливается чрезмерно, либо общество не считает государство своим врагом, и доверяет ему новый инструмент, полагая, что в случае чего у общества всё равно есть некий контр-баланс.
Ну тут надо сказать, что и вправду можно вспомнить массу случаев, когда где-то чего-то закрутили (например, экологические нормы или ремни безопасности для автомобилей, маркировка на сигаретах, обязательное автострахование) -- и не сказать, что стало хуже.
Ну так вы рассуждаете словно вы акционер StackOverflow или кто-то в этом роде, и вас интересуют только голые цифры посещений. В 2015 году было N посещений, хорошо! В 2019 стало больше, отлично! В 2025 больше, чем в 2015, но меньше, чем в 2019 -- ужас-ужас, сайт умирает.
Ну совершенно понятно же, что средний посетитель Википедии, SO и иже с ними совершенно не настроен ни на какое участие в этих сообществах. Ему надо найти конкретный ответ на конкретный вопрос и, скорее всего, покинуть сайт для следующего раза. С точки зрения трафика этот посетитель даёт +1 в соответствущую графу, но по гамбургскому счёту, что с него Википедии или Стаку?
На мой взгляд, эти сайты действительно деградируют, но AI тут вообще не при чём. Они возникли в то время, когда сама идея такого вот user-generated content была свежей, и для многих знающих людей было прикольно поучаствовать в движухе. Сейчас свежесть утратилась, и эффекта новизны уже недостаточно, чтобы каждый день логиниться на сайт, читать правки или отвечать на новые вопросы.
Эти посетители, которые ушли с информационных сайтов, по сути мёртвые души. Они исключительно потребляли. В этом нет ничего плохого, но считать, что ушедшие потребители убивают интернет, как-то нелогично.
Ну вот берёте, например, Маршака, читаете и сразу же видите, что перед вами текст XX века, никакого ощущения лигвистического промежутка в 400 лет между вами и автором. А потом берёте, например, Ломоносова или Тредиаковского, до которых всего 300 лет, и сразу видите разницу. И как же так, или это в переводе неважно?
Список релевантных статей можно найти, например, в The Stanford Encyclopedia of Philosophy, статья The Computational Theory of Mind, раздел 7.2. Взгляд Пенроуза на данный вопрос крайне эксцентричный, и в рамках одной статьи вы полноценной критики не прочтёте, потому что биологи его пинают по-своему, химики по-своему, специалисты в AI и вычислительном интеллекте по-своему.
Это ровно тот вопрос, по которому у одних учёных уже давно нет никаких проблем (о чём говорится, в т.ч. и в энциклопедии, у того же Рассела), а другие "не могут помыслить". Но тогда вообще ни одной проблемы решить до конца нельзя, т.к. всегда найдётся тот, кто "не может помыслить". Эйнштейн не мог помыслить квантовую механику, что с того.
Хорошо. Я просто хочу сказать, что даже если LLM уже достигли потолка, это уже достаточно высокий потолок, чтобы обсуждать вопросы сознания.
Ну вы же себе приписываете исключительно на основании интроспекции.
Но почему? Ведь между нами и каким-нибудь C. elegans, который плюс-минус отлично симулируется на компьютере, лежит непрерывная цепочка усложнений нервной системы, и будет крайне оригинально предположить, что где-то посередине туда воткнули некий magic ingredient, который берётся неизвестно откуда.
Соответственно, зачем опираться на "знание, что внизу 100% механика"? Конечно, механика, по тезису Чёрча-Тьюринга весь наш мир со всеми происходящими процессами -- механика. Я понимаю нежелание плодить сущности, но конкретно это сображение в принципе не аргумент. С тем же успехом можно говорить "там нет интеллекта, потому что у него шесть лап, а не четыре".
Я думаю, это спор о терминах. Есть "я", телесный агент, ограниченный в пространстве, и отделяемый от других агентов. У этого агента есть система принятия решений, помогающая ему выживать и достигать целей. Частью этой системы и является подсистема "субъективного восприятия", чья прямая работа -- создание виртуального мира в голове и виртуального аватара, соответствующего телесному агенту. Это очень выгодная система, потому что она может проигрывать разные сценарии с участием аватара и моделировать результаты.
В таком определении, конечно, у меня есть субъективное восприятие, но я не вижу в нём никакой особой магии.
Ну вот в одной богоспасаемой стране могут посадить за "аниме-проно с несовершеннолетними", хотя никакой реальный несовершеннолетний при этом не страдает. Это вполне показательно, похоже, что логика "это всего лишь симулятор" никого не убеждает. Так же как и условные кровавые шутеры, которым присваивают возрастные рейтинги, а кое-где и запрещают (в Германии Carmageddon с зелёной кровью вроде).
Да давйте просто признаем, что мы биологические шовинисты. Допустим, это потолок, и что? Нынешние LLM по любому когнитивному тесту превзойдут, скажем, ребёнка двух лет. Но если некто убьёт ребёнка двух лет, его посадят как за убийство человека. Допустим, можно сказать, что у ребёнка есть шанс вырасти, но если некто убьёт умственно отсталого, у которого нет шанса вырасти, его всё равно посадят как за убийство человека.
Я знаю, что у вас оно есть только потому, что вы это утверждаете. Если вы спросите LLM, есть ли у неё квалитативное мышление, она тоже скажет, что есть (окей, предположим, она обучена говорить, что есть). Соответственно, если мы не биологические шовинисты (см. выше), с чего бы нам считать, что у LLM его нет?
Ну, на это можно ответить двумя способами. 1) Нужно, и что? Да, это другой тип интеллекта, ему нужно. Зато он в чём-то другом сильнее. 2) Не нужно. Просто у нас уже очень многое загружено от рождения (напр., способность обучаться языку или распознавать лица), а в LLM изначально ничего не загружено. В теории можно (наверно) попробовать и в LLM загрузить то, что есть у нас от рождения, и посмотреть, сколько ещё надо загрузить для полноценного мышления, но это сложно, и не особо кому надо.
Хорошо :)
Ну тут незачем пинать соломенное чучело -- понятно, что мышление LLM (и вообще текущих нейросетей) устроено иначе. Простой пример -- в системах распознавания образов ещё недавно (не знаю, как сейчас) можно было поменять буквально один пиксель, и для неё велосипед превращался в крокодила или как-то так, потому что метрика близости устроена не так.
Вопрос в том, что мешает этой иной технологии тоже со временем достичь каких-то высот, если не прибегать к "биологическому шовинизму". LLM в программировании дико косячит по сравнению со мной. Но не так уж и косячит по сравнению со средним студентом, например. То есть сравнивая "с человеком", всё же надо решить для себя с каким конкретно человеком мы сравниваем.
Ну и чтобы два раза не вставать, вы упоминали где-то выше, что человек гораздо быстрее учится. И это действительно аргумент, но надо учесть, что нам достался уже pre-trained мозг, в котором (видимо) очень многое заложено от рождения. А добавить в натренированную нейросеть новый концепт гораздо проще, чем обучать с нуля.
Вам спасибо.
Смотрите, тут вопрос в том, что такое реальность и зачем нам нужен непосредственный опыт. Эволюционно органы чувств дают нам ту картину, которая способствует выживанию. Здесь нет оптимизации по объективности. Логично предположить, что неверная информация вряд ли помогает выжить, но есть детали. Как вы упоминаете, у молекул нет цвета, но мы его видим, значит, цвет нам как-то полезен. Известно, что мы склонны видеть паттерны даже там, где их нет (парейдолия), потому что лучше увидеть несуществующего тигра, чем не увидеть существующего. Наши органы чувств имеют отдельный механизм для распознавания лиц, и если он плохо работает, это прозопагнозия, т.е. обычного механизма распознавания оказыавается недостаточно.
Не, ну это немного "начали за здравие". Ваш аргумент если вкратце, сводится к следующему. Мы вроде как знаем, что мозг "на нижнем уровне" устроен на механистических принципах, но поскольку я сам себя осознаю как личность со всеми вытекающими, значит, где-то между нейронами и пальцами, которые набирают это текст, возникает какая-то "магия", а иначе невозможно объяснить, как из нейронов получается личность.
С другой стороны, поскольку мы сами разработали LLM, мы заведомо знаем, что никакой "магии" там нет, и значит, личности там взяться вроде бы как и неоткуда.
Мыслить в терминах целеполагающих агентов удобно и полезно, но это тоже отчасти наша особенность. Если вы играете против компьютера в шахматы, то исходите из того, что ваш оппонент "хочет" и "пытается" у вас выиграть, и в данном контексте неважно, на каких принципах он устроен. Да, некая часть нашей системы принятия решений работает так, что наш агент воспринимает себя как личность. Вопрос "чья это иллюзия" немного казуистический. Это иллюзия агента, но если угодно, это и вправду "не иллюзия" в том смысле, что драконы или боги реально существуют, потому что без идеи о богах или драконах люди поступали бы иначе.
Когда я думаю об этих вещах, то сравниваю себя не с LLM, потому что и вправду дистанция велика. Я думаю о том, что наш мозг является продуктом длинной цепочки эволюции, и мы вполне можем ориентироваться на наших биологических родственников -- вплоть до червей. У червя вряд ли есть личность, но он тоже умеет принимать решения, делать полезное для себя и не делать вредного. Двигаясь от червей к нам, мы видим всё более продвинутые системы принятия решения, и сложно сказать, на каком этаже возникает личность. Более того, даже сложно сказать, как восприятие собственной личности отличается от человека к человеку и, скажем, от людей с когнитивными расстройствами и тому подобное.
Получается, что нет такого -- лампочку включили, и вот, на каком-то этаже от нейронов загорелость сознание. Получается, что есть целый непрерывный ряд "сумеречных" сознаний, и для простейших из них (типа червей) мы уже заведомо можем исключить "магию", дальше можем разумно предположить, что в этой непрерывной эволюционной цепочке идёт усложнение и развитие, но не какой-то волшебный триггер, добавляющий нечто принципиально новое.
Спасибо, почитаю. Но это снова обсуждение высокоуровненовй организации. На базовом уровне у нас есть, например, тезис Чёрча-Тьюринга, и дальше можно систему усложнять бесконечно. Я не вижу теоретической проблемы в том, что на базовом уровне у компьютерного AI будут токены, а где-то на три этажа выше появятся этические суждения и вообще что угодно. И устроено будет это не так, как у нас.
Ну потому что для меня эти различия не являются существенными. Не думаете же вы, что для меня неочевидно, что органический мозг, являющийся продуктом миллионов лет эволюции, устроен не так, как спроектированная нейросеть, предназначенная для работы на кремниевом чипе? Авторы статьи, на которую вы ссылаетесь, обсуждают, что ИИ должен обладать некими высокоуровневыми свойствами. Ну окей, должен, не спорю. Конкретно в этой ветке я спрашиваю, какой закон природы запрещает предсказателю токенов этими свойствами обладать. Не отсутствие же биохимии?
Можно сразу хоть 15, в чём поинт? Если к тому, что кроме электричества есть ещё и биохимия, то там тоже никакой магии по типу "самости", "логичности" и т.п.
Вот я поддержу вашего собеседника. Частые рассуждения, начинающие с того, что "LLM всего лишь предсказывает следующий токен" (а мы-то, в отличие, о-го-го!) как-то уже напрягают. Некорректно сравнивать то, что мы знаем про внутреннее устройство LLM с той картинкой, которую нам рисует мозг на верхем уровне. Разумеется, мы не воспринимаем своё мышление как предсказание токенов. Но мы и не воспринимаем его как обобщение сигналов с дендритов и передача дальше по аксонам (если не путаю). А оно ведь именно так "внизу" и устроено.
Мы не имеем способности наблюдать процесс нашего мышления. То, что мы наблюдаем -- это некое "кино", являющееся частью системы принятия решений. Насколько оно соответствует реальности вопрос тонкий, но как-то ненаучно исходить из того, что соответствует, с чего бы? С другой стороны, зная, что у LLM "внизу" просто предсказатель токенов, некорректно говорить, что на пару этажей выше у LLM нет тоже своего "кина", и сам AI не воспринимает своё мышление как сложный логический процесс (тут кавычки ставьте по усмотрению).
То есть даже если ваша точка зрения и верна, обоснование очень шаткое.
В смысле, вы спрашиваете, есть ли у меня идеи почему в России что-то запрещают? В России не могут и дня прожить без того, чтобы запретить что-либо, это настолько нормально, что даже странно обращать внимание.
Вообще это нормально -- клубы, общества, какие-то тусовки. Не запрещать же людям собираться вместе. Не хотел бы я жить в обществе, где единственная санкционированная тусовка -- школа правящей партии, остальное ОК.
Оно есть
Ну так это вопрос терминов. Вот есть, например, возрастная маркировка: написано на фильме 3+ или там 16+, но это же тоже чистое перекладывание ответственности: по идее родитель сам должен отсмотреть этот фильм и решить, годится его ребёнку или нет. Понятно, что это нереалистично, и обычный родитель с удовольствием свалит это на государство.
Ну вот по мнению условного Руссо, первобытное общество -- это как раз когда гармония и никаких тиранов. А по мнению авторов книжки, сильное общество -- это то, что находится в противовесе государственной монополии на насилие. И да, если у вас "убийства чести" не узаконены в кодексе, но по факту это происходит, и убийце ничего не бывает, конечно, это признак слабости государства, которое не может утвердить свои же собственные правила игры. Цензурирование интернета нормально вписывается, потому что это ровно такой же закон, как и любой другой -- ограничение скорости на дороге, например. Проблемы (по книжке) если у вас нет силы влиять на принимаемые законы, и государство делает что хочет без противовеса.
Смотрите, допустим, я с вами соглашусь, и вообще риторика "кто же подумает о детях" для нас изначально звучит очень сомнительно. Но также точно надо отдавать себе отчёт, что мы, как постсоветские люди, имеем когнитивное искажение -- воспринимать государство как врага, от которого постоянно ждёшь какой-то подляны. Конечно, нередко так оно и есть, но далеко не каждый европеец изначально склонен искать подвох и желание сделать хуже.
В США рождаемость гораздо выше, чем в Китае, ну и в остальном такого же уровня аналитика.
Вот если это воспринимать это "неужели" не как риторический вопрос, то да, избиратели с пониманием относятся. Ну если не считать жалующихся на Реддите репрезентативной выборкой. Дальше давайте отделим наше личное отношение к ситуации от её безэмоционального изучения.
Есть страны, мы список знаем, где никто никого не спрашивает, и государство делает что хочет, потому что текущим властям за это ничего не будет. Тут вроде всё понятно.
Но закручивание гаек происходит и там, где политическую карьеру можно себе и подпортить, и вот как это работает? Меня вполне убеждает схема из книги The narrow corridor, суть которой вкратце в том, что для нормального развития страны нужно параллельное усиление государства и общества, и да, это ежедневная борьба за то, чтобы не выйти за пределы "corridor".
Как выглдяит чрезмерно усилившееся государство, мы знаем, поэтому и реагируем на такие инициативы столь резко. А слишком сильное общество -- это всякие "убийства чести", линчевания, религиозный остракизм, власть банд или меры для того, чтобы все были одинаково бедны, и ни у кого не было бы сил сколотить вооружённую банду.
Таким образом, по мере того, как "внизу" появляются какие-то рычаги, то "вверху" тоже что-то симметричное должно появляться. Так что да, либо государство и вправду усиливается чрезмерно, либо общество не считает государство своим врагом, и доверяет ему новый инструмент, полагая, что в случае чего у общества всё равно есть некий контр-баланс.
Ну тут надо сказать, что и вправду можно вспомнить массу случаев, когда где-то чего-то закрутили (например, экологические нормы или ремни безопасности для автомобилей, маркировка на сигаретах, обязательное автострахование) -- и не сказать, что стало хуже.
Ну так вы рассуждаете словно вы акционер StackOverflow или кто-то в этом роде, и вас интересуют только голые цифры посещений. В 2015 году было N посещений, хорошо! В 2019 стало больше, отлично! В 2025 больше, чем в 2015, но меньше, чем в 2019 -- ужас-ужас, сайт умирает.
Ну совершенно понятно же, что средний посетитель Википедии, SO и иже с ними совершенно не настроен ни на какое участие в этих сообществах. Ему надо найти конкретный ответ на конкретный вопрос и, скорее всего, покинуть сайт для следующего раза. С точки зрения трафика этот посетитель даёт +1 в соответствущую графу, но по гамбургскому счёту, что с него Википедии или Стаку?
На мой взгляд, эти сайты действительно деградируют, но AI тут вообще не при чём. Они возникли в то время, когда сама идея такого вот user-generated content была свежей, и для многих знающих людей было прикольно поучаствовать в движухе. Сейчас свежесть утратилась, и эффекта новизны уже недостаточно, чтобы каждый день логиниться на сайт, читать правки или отвечать на новые вопросы.
Эти посетители, которые ушли с информационных сайтов, по сути мёртвые души. Они исключительно потребляли. В этом нет ничего плохого, но считать, что ушедшие потребители убивают интернет, как-то нелогично.
Хорошо, что вам как человеку XXI века непонятно в подписи к верхней картинке? Эти слова уже не подходят к тому, что там изображено?
Ну и заметим походу, что подпись к картинке внизу была совершенно понятна и 30 лет назад, а скорее всего, и гораздо раньше.
Это не текст Маршака.
Ну вот берёте, например, Маршака, читаете и сразу же видите, что перед вами текст XX века, никакого ощущения лигвистического промежутка в 400 лет между вами и автором. А потом берёте, например, Ломоносова или Тредиаковского, до которых всего 300 лет, и сразу видите разницу. И как же так, или это в переводе неважно?
Список релевантных статей можно найти, например, в The Stanford Encyclopedia of Philosophy, статья The Computational Theory of Mind, раздел 7.2. Взгляд Пенроуза на данный вопрос крайне эксцентричный, и в рамках одной статьи вы полноценной критики не прочтёте, потому что биологи его пинают по-своему, химики по-своему, специалисты в AI и вычислительном интеллекте по-своему.
Это ровно тот вопрос, по которому у одних учёных уже давно нет никаких проблем (о чём говорится, в т.ч. и в энциклопедии, у того же Рассела), а другие "не могут помыслить". Но тогда вообще ни одной проблемы решить до конца нельзя, т.к. всегда найдётся тот, кто "не может помыслить". Эйнштейн не мог помыслить квантовую механику, что с того.