А можете, пожалуйста, ткнуть в пункт, с которого у Вас "специфическая деятельность, с распространением массовой информации тесно связанная" заканчивается? Контрпример (не утверждаю, что они есть) для какого пункта переведет "личное необоснованное мнение" во что-то, что можно обсудить?
Не утверждаю, что правильно использовал терминологию, просьба воспринимать "по духу", а не "по букве". Судя по контексту выше Вы, вроде бы, не против. Под СМИ подразумевал газету/сайт, т. е. нечто самодельное. ЗРИ далее - "заниматься распространением информации".
ЗРИ в собственном СМИ по заказу спонсора этого СМИ
ЗРИ в собственном СМИ по собственному усмотрению
ЗРИ в личном блоге на "много" (относительно среднего по платформе) подписчиков
Исключительно с целью докопаться: а у Вас в Западный мир что входит? Ну австриец ладно, понятно, но рожденный в израиле семит-то каким боком? А криворожский еврей?
Если они "по духу" - для чего нужна географическая привязка? Если географически относительно 37 меридиана в. д. - то как Вы относитесь к термину "Ближний восток"?
Таки и Полноводный Дунай Разума восторженно обожествляли, а потом как-то резко исправились. Всплыл, видимо, глубинный народ из пучины неразумности.
Имхо, люди смирились и сидят тихо, пока их не трогают, и ищут хоть какие-то плюсы в окружающем мире. Можно быть сколь угодно недовольным, но пока власть не начнет шататься самое разумное - сидеть и не отсвечивать. Все еще есть пример Беларуси, где в единственном миллионнике протестовать вышло как бы не 10%, как там у них успехи?
Знаете, Геннадий, испокон веков Сороса вспоминали либо пенсионеры, либо боты. Я сейчас загляну в Ваш профиль, и не дай Бог там не будет лица человека лет 70.
Но для поддержания ветки: если послушать интервью некоторых не всегда приятных личностей, можно вспомнить Березовского с его "я управлял Россией", Стрелкова (его еще можно упоминать без оговорок?) с "в 2014 без меня бы все заглохло", Меркель с ее "вы не понимаете, это не новый Мюнхен, это план", и иных немецких товарищей с "вины здесь нет ни разу, я выполнял приказы". Суть проста: до того, как к человеку не пришли с проверкой, свое влияние на ситуацию он будет увеличивать, после - уменьшать. К Соросу, насколько я помню, проверки не приходили, а на заграничные расследования долларовый миллиардер может со спокойной душой положить. А вот к расследованиям зачастую появляются вопросы, см. первый абзац.
Ну а как можно прокомментировать тезис "а случаи эти слишком публичны, чтобы я их называл" - честно, без понятия.
Российскому обывателю очень нравится, когда власть чего-то НЕ ЕМУ запрещает и наводит шороху
До упомиинания товарищем Геннадием Сороса хотелось спросить, зачем кидаться обвинениями в кремлеботстве в мимопроходящих. Но все же несколько неправильно полностью отрицать альтернативное мнение. На личном примере (хотя СПб и не очень репрезентативен): в течение года у меня в пригороде ремонтировалась дорога (если интересно - Колпинское шоссе). Я весь этот год добирался до работы на 20 минут дольше из-за объезда (а сейчас стою ровно в тех же пробках), знакомый с личным транспортом заметил только небольшое повышение трафика, у всех, кто ездил в город пару раз в месяц (коих большинство), реакция была в духе "о, классно, широкую дорогу сделали", а организаторы наверняка отмыли немаленькую сумму.
К чему приведен этот факт? Люди не радуются тому, что пришли к кому-то другому, людям это безразлично, а иногда - страшно. Люди хотят замечать в окружающем хотя бы какие-то плюсы. Не нужно обвинять людей в том, что они не хотят видеть вообще все в ключе антиутопии. Не нужно приравнивать отдельные группы ко всем людям. Риторика современной "российской" оппозиции про неправильный народ (которую Вы, похоже, поддерживаете) работает на отталкивание этого народа, не надо так.
Open source подразумевает (вроде бы во всех лицензиях), что в момент, когда владелец основной ветки начнет творить дичь, от нее можно сделать форк и спокойно жить в нем. В любом государстве это называется сепаратизмом и карается, а pull request от сообщества избранный владелец ветки может не принять. "Бэкдор" употреблялся в значении "технологического отверстия", в контексте - для возможности механизм поправить, не разбирая его полностью. Допускаю некорректное использование термина, не подразумевалась его секретность. Перефразируя предложенный тезис - таймер достаточно прост, чтобы "технологического отверстия" не иметь, и достаточно эффективно обеспечивает матожидание, чтобы поддержание его работоспособности было самоцелью.
Будет ли в этом механизме бэкдор? Если нет - есть ли гарантия кроме оценки разработчика и абстрактной сторонней экспертизы, что он не понадобится? Если да - есть ли гарантия, что им не воспользуются в корыстных целях? Таймер, при всех его минусах, гарантированно беспристрастен и имеет не слишком большие издержки по сравнению с, например, rng (если предположить, что он вообще возможен на бесконечной дистанции). Причем главный плюс - открытость и понятность: увидеть перерисованный циферблат или выломанные стрелки все же проще, чем разобраться в аналоге игры в мафию, от которого еще и спрятали правила, - необходим для выбора власти по результатам соцопроса (не утверждаю, что соцопрос является наиболее эффективным методом из доступных). Собственно, тезис: таймер - единственное, что, даже будучи карго-культом способно гарантировать (с нюансами вроде длительности/количества сроков) нереализуемость указанного выше сценария и обеспечить эволюционные, а не революционные изменения. В качестве отдельного тезиса могу предложить "... особенно будучи карго-культом...", но его нужно отдельно пояснять. Возможно, что с пятидневной модерацией комментария несколько забыл контекст
Так это вроде и так было понятно всем отписавшимся, проблема в том, что обсуждается выбор из клизмы и сэндвича двух плохих вариантов:
Смена по таймеру
Смена по неэффективности
Вариант 1 имеет риск потери эффективности в случае смены хорошо работающего человека на человека, работающего хуже, но гарантирует, что в течение жизни среднего гражданина качество управления будет средним. (Если взять время жизни за 60 лет, а срок полномочий за 4 года с капом 2 срока, получим от 8 до 15 руководителей вместо 5.4 в среднем за последние 100 лет с учетом недолгих товарищей).
Вариант 2 имеет риск того, что эффективный руководитель за время, пока его не признают неэффективным, успеет сломать механизм смены по неэффективности, из-за судьба этого механизма начинает зависеть от личностных качеств конкретного человека. Гарантирует, что на дистанции в n лет будет избран эффективный руководитель без высоких моральных качеств, который реализует сценарий выше.
Причем вариант 1 не отменяет возможности реализации сценария из варианта 2, так как срок полномочий - эмпирически полученное число, но исторический опыт показывает, что в случае гарантии неплохой жизни население живет лучше, чем при шансе отличной.
Приложенную статью пропустил, но выглядит интересно, посмотрю. Под изначальной целью (подразумевая текущую статью) понимал это:
Представьте, что эту "мыслящую" часть мы соединяем с набором других систем ИИ и с роботизированной платформой, оснащённой камерами, сенсорами и манипуляторами.
Просто есть ощущение, что ветка спора здесь ушла куда-то не в ту сторону, а именно - в применимость в условиях того, что имеется у человечества на текущий момент. Проблемой обсуждения должно было стать что-то вроде "еслидопустить существование сущности, которая сможет закидывать заведомо достоверные данные о внешнем мире в уже имеющиеся llm, в которые будет загружен контекст, приведенный в статье, то можно ли это назвать сознанием?".
Не уверен в правильности поставленного вопроса, его выводил из комментариев автора про человека, как лингвистическую модель, но уверен в формулировке предпосылки. Вроде бы такая постановка задачи подразумевает разделение ответственности на разные модули, или есть какие-то особенности именно у llm?
Вроде бы в изначальной задаче не предполагалось использование ллм в качестве распознавателя объектов, оно всплыло позже в комментариях в контексте несовершенства компьютерного зрения, так что использование информации с движка будет вполне валидно. Заметьте, я не утверждаю, что это докажет применимость и полезность полученного "робота" в прикладных задачах, оно упрется все в те же перечисленные проблемы вроде светофора/луны, но это будут уже проблемы другого модуля, aka cv, а протестировать вроде как хочется функциональность предложенного "сознания".
Я не очень понимаю, почему главной претензией к результату приведенного промта стало слово "подходящий". Модель выдала тавтологию, в алгоритме от этого появилось противоречие? Бездрожжевой хлеб предлагается определить по этикетке, если нет этикетки - спросить сотрудника, если нет сотрудника - определить самостоятельно по косвенным признакам, но тут от ошибки уже никто не застрахован. В целом задача выполнена, хлеб куплен. Заказчика, который хотел бездрожжевой хлеб, вроде не должно интересовать, из каких лавашей выбирал исполнитель.
Исполнителя попросили - исполнитель исполнил. Определить качество исполнения - другая задача, которая вроде бы решается через введение дополнительной сущности-проверяющего, что, наверное, реализуется проще, чем написание полного алгоритма с нуля.
Имхо, претензии тут должны быть не к модели и качеству ее работы, а к тому, что приведен пример только одной конкретной ситуации, по которому какие-то выводы сделать сложно, но у автора кончились запросы, а комментарии к заминусованной статье двух-трехдневной давности будут мертвы.
Могу ошибаться, но вроде бы современные чисто алгоритмические программы не ломаются при постановке нестандартных задач за счет механизма исключений, которые при переводе на представленный случай выдадут что-то вроде "не определена функция выбора бездрожжевого хлеба". Можно ли это считать проактивным определением компетенции? Про реактивное согласен, с ним все плохо, но в данной конкретной ситуации оно вроде как и не предполагалось. Если уж искать в статье конкретику, то, если я правильно понял, тут таки приведен вводный промт, после которого модель выдала нечто, применимое в реальном мире, и даже относительно неплохо справилась с контрпримером ,чем не думатель? Не защищаю ценность статьи, возможность была известна и до этого, а имеющегося анализа недостаточно для гарантии заявленной универсальности, но она вроде как и висит в простых.
Замечание интересное, как-то не думал в эту сторону. Я под универсальностью понимал скорее способность не сломаться при постановке нестандартной задачи, и в этом у языковых моделей есть преимущество перед предзаписанными алгоритмами действий. Вопрос, если я правильно понял, в здравом определении собственной компетенции, но могу отметить, что далеко не все люди и не во всех ситуациях на эту оценку способны, в подтверждение можно привести что-нибудь, связанное с эффектом Даннинга-Крюгера. Статья же вроде не имеет ценности практической, то есть не предлагает алгоритм для того самого выбирателя_хлеба_3000, но показывает теоретическую возможность прикрутить к потенциальной эвристической машине работающий думатель, а аналог пишущей машинки "ремингтон" выпуска тысяча девятьсот шестого года у нас уже есть, только запросы закончились.
Замечу, что в заглавии статьи есть упоминание "универсального" робота. Полагаю, что я, как человек, могу назваться универсальным исполнителем, но с выбором бездрожжевого хлеба у меня будут сложности, которые я буду решать с использованием гугла и вопросов к работнику/заказчику, а при отсутствии такой возможности буду оперировать предположениями вроде "скорее всего в бездрожжевом хлебе не должно быть воздуха", что, вполне возможно, неверно. Надеюсь, это не делает из меня языковую модель? Предположу, что идеально с поставленной задачей могут справиться выбиратель_хлеба_3000 (которого специально обучали именно выбору хлеба) и работник отдела (которому известен техпроцесс, что в данном случае эквивалентно обучению). Можно ли их назвать универсальными?
А можете, пожалуйста, ткнуть в пункт, с которого у Вас "специфическая деятельность, с распространением массовой информации тесно связанная" заканчивается? Контрпример (не утверждаю, что они есть) для какого пункта переведет "личное необоснованное мнение" во что-то, что можно обсудить?
Не утверждаю, что правильно использовал терминологию, просьба воспринимать "по духу", а не "по букве". Судя по контексту выше Вы, вроде бы, не против. Под СМИ подразумевал газету/сайт, т. е. нечто самодельное. ЗРИ далее - "заниматься распространением информации".
ЗРИ в собственном СМИ по заказу спонсора этого СМИ
ЗРИ в собственном СМИ по собственному усмотрению
ЗРИ в личном блоге на "много" (относительно среднего по платформе) подписчиков
ЗРИ в личном блоге на "немного" подписчиков
ЗРИ в личном закрытом (платном) блоге
ЗРИ в каком-нибудь дискуссионном клубе
ЗРИ на кухне в кругу семьи
Исключительно с целью докопаться: а у Вас в Западный мир что входит? Ну австриец ладно, понятно, но рожденный в израиле семит-то каким боком? А криворожский еврей?
Если они "по духу" - для чего нужна географическая привязка? Если географически относительно 37 меридиана в. д. - то как Вы относитесь к термину "Ближний восток"?
Так и я сюда влез не кренделя защищать. Понимаю, ветка не самая новая, но мне не сложно, я напомню
А то, что с товарищем Вы (да и я тоже) не согласны, не означает, что все его доводы ложны.
Таки и Полноводный Дунай Разума восторженно обожествляли, а потом как-то резко исправились. Всплыл, видимо, глубинный народ из пучины неразумности.
Имхо, люди смирились и сидят тихо, пока их не трогают, и ищут хоть какие-то плюсы в окружающем мире. Можно быть сколь угодно недовольным, но пока власть не начнет шататься самое разумное - сидеть и не отсвечивать. Все еще есть пример Беларуси, где в единственном миллионнике протестовать вышло как бы не 10%, как там у них успехи?
Знаете, Геннадий, испокон веков Сороса вспоминали либо пенсионеры, либо боты. Я сейчас загляну в Ваш профиль, и не дай Бог там не будет лица человека лет 70.
Но для поддержания ветки: если послушать интервью некоторых не всегда приятных личностей, можно вспомнить Березовского с его "я управлял Россией", Стрелкова (его еще можно упоминать без оговорок?) с "в 2014 без меня бы все заглохло", Меркель с ее "вы не понимаете, это не новый Мюнхен, это план", и иных немецких товарищей с "вины здесь нет ни разу, я выполнял приказы". Суть проста: до того, как к человеку не пришли с проверкой, свое влияние на ситуацию он будет увеличивать, после - уменьшать. К Соросу, насколько я помню, проверки не приходили, а на заграничные расследования долларовый миллиардер может со спокойной душой положить. А вот к расследованиям зачастую появляются вопросы, см. первый абзац.
Ну а как можно прокомментировать тезис "а случаи эти слишком публичны, чтобы я их называл" - честно, без понятия.
До упомиинания товарищем Геннадием Сороса хотелось спросить, зачем кидаться обвинениями в кремлеботстве в мимопроходящих. Но все же несколько неправильно полностью отрицать альтернативное мнение. На личном примере (хотя СПб и не очень репрезентативен): в течение года у меня в пригороде ремонтировалась дорога (если интересно - Колпинское шоссе). Я весь этот год добирался до работы на 20 минут дольше из-за объезда (а сейчас стою ровно в тех же пробках), знакомый с личным транспортом заметил только небольшое повышение трафика, у всех, кто ездил в город пару раз в месяц (коих большинство), реакция была в духе "о, классно, широкую дорогу сделали", а организаторы наверняка отмыли немаленькую сумму.
К чему приведен этот факт? Люди не радуются тому, что пришли к кому-то другому, людям это безразлично, а иногда - страшно. Люди хотят замечать в окружающем хотя бы какие-то плюсы. Не нужно обвинять людей в том, что они не хотят видеть вообще все в ключе антиутопии. Не нужно приравнивать отдельные группы ко всем людям. Риторика современной "российской" оппозиции про неправильный народ (которую Вы, похоже, поддерживаете) работает на отталкивание этого народа, не надо так.
Open source подразумевает (вроде бы во всех лицензиях), что в момент, когда владелец основной ветки начнет творить дичь, от нее можно сделать форк и спокойно жить в нем. В любом государстве это называется сепаратизмом и карается, а pull request от сообщества избранный владелец ветки может не принять.
"Бэкдор" употреблялся в значении "технологического отверстия", в контексте - для возможности механизм поправить, не разбирая его полностью. Допускаю некорректное использование термина, не подразумевалась его секретность.
Перефразируя предложенный тезис - таймер достаточно прост, чтобы "технологического отверстия" не иметь, и достаточно эффективно обеспечивает матожидание, чтобы поддержание его работоспособности было самоцелью.
Будет ли в этом механизме бэкдор? Если нет - есть ли гарантия кроме оценки разработчика и абстрактной сторонней экспертизы, что он не понадобится? Если да - есть ли гарантия, что им не воспользуются в корыстных целях?
Таймер, при всех его минусах, гарантированно беспристрастен и имеет не слишком большие издержки по сравнению с, например, rng (если предположить, что он вообще возможен на бесконечной дистанции). Причем главный плюс - открытость и понятность: увидеть перерисованный циферблат или выломанные стрелки все же проще, чем разобраться в аналоге игры в мафию, от которого еще и спрятали правила, - необходим для выбора власти по результатам соцопроса (не утверждаю, что соцопрос является наиболее эффективным методом из доступных).
Собственно, тезис: таймер - единственное, что, даже будучи карго-культом способно гарантировать (с нюансами вроде длительности/количества сроков) нереализуемость указанного выше сценария и обеспечить эволюционные, а не революционные изменения.
В качестве отдельного тезиса могу предложить "... особенно будучи карго-культом...", но его нужно отдельно пояснять.
Возможно, что с пятидневной модерацией комментария несколько забыл контекст
Так это вроде и так было понятно всем отписавшимся, проблема в том, что обсуждается выбор из
клизмы и сэндвичадвух плохих вариантов:Смена по таймеру
Смена по неэффективности
Вариант 1 имеет риск потери эффективности в случае смены хорошо работающего человека на человека, работающего хуже, но гарантирует, что в течение жизни среднего гражданина качество управления будет средним. (Если взять время жизни за 60 лет, а срок полномочий за 4 года с капом 2 срока, получим от 8 до 15 руководителей вместо 5.4 в среднем за последние 100 лет с учетом недолгих товарищей).
Вариант 2 имеет риск того, что эффективный руководитель за время, пока его не признают неэффективным, успеет сломать механизм смены по неэффективности, из-за судьба этого механизма начинает зависеть от личностных качеств конкретного человека. Гарантирует, что на дистанции в n лет будет избран эффективный руководитель без высоких моральных качеств, который реализует сценарий выше.
Причем вариант 1 не отменяет возможности реализации сценария из варианта 2, так как срок полномочий - эмпирически полученное число, но исторический опыт показывает, что в случае гарантии неплохой жизни население живет лучше, чем при шансе отличной.
Приложенную статью пропустил, но выглядит интересно, посмотрю. Под изначальной целью (подразумевая текущую статью) понимал это:
Просто есть ощущение, что ветка спора здесь ушла куда-то не в ту сторону, а именно - в применимость в условиях того, что имеется у человечества на текущий момент. Проблемой обсуждения должно было стать что-то вроде "если допустить существование сущности, которая сможет закидывать заведомо достоверные данные о внешнем мире в уже имеющиеся llm, в которые будет загружен контекст, приведенный в статье, то можно ли это назвать сознанием?".
Не уверен в правильности поставленного вопроса, его выводил из комментариев автора про человека, как лингвистическую модель, но уверен в формулировке предпосылки. Вроде бы такая постановка задачи подразумевает разделение ответственности на разные модули, или есть какие-то особенности именно у llm?
Вроде бы в изначальной задаче не предполагалось использование ллм в качестве распознавателя объектов, оно всплыло позже в комментариях в контексте несовершенства компьютерного зрения, так что использование информации с движка будет вполне валидно. Заметьте, я не утверждаю, что это докажет применимость и полезность полученного "робота" в прикладных задачах, оно упрется все в те же перечисленные проблемы вроде светофора/луны, но это будут уже проблемы другого модуля, aka cv, а протестировать вроде как хочется функциональность предложенного "сознания".
"Кряк!" - сказала японская пила. "Так-то!" - сказали суровые сибирские лесорубы.
Уточнение вроде бы заложено в пункт 11, а он на скриншоте не приведен. Хотелось бы все же посмотреть полный текст выдачи под спойлером.
Upd: возможно, оно есть, просто с телефона не увидел
Я не очень понимаю, почему главной претензией к результату приведенного промта стало слово "подходящий". Модель выдала тавтологию, в алгоритме от этого появилось противоречие? Бездрожжевой хлеб предлагается определить по этикетке, если нет этикетки - спросить сотрудника, если нет сотрудника - определить самостоятельно по косвенным признакам, но тут от ошибки уже никто не застрахован. В целом задача выполнена, хлеб куплен. Заказчика, который хотел бездрожжевой хлеб, вроде не должно интересовать, из каких лавашей выбирал исполнитель.
Исполнителя попросили - исполнитель исполнил. Определить качество исполнения - другая задача, которая вроде бы решается через введение дополнительной сущности-проверяющего, что, наверное, реализуется проще, чем написание полного алгоритма с нуля.
Имхо, претензии тут должны быть не к модели и качеству ее работы, а к тому, что приведен пример только одной конкретной ситуации, по которому какие-то выводы сделать сложно, но у автора кончились запросы, а комментарии к заминусованной статье двух-трехдневной давности будут мертвы.
Могу ошибаться, но вроде бы современные чисто алгоритмические программы не ломаются при постановке нестандартных задач за счет механизма исключений, которые при переводе на представленный случай выдадут что-то вроде "не определена функция выбора бездрожжевого хлеба". Можно ли это считать проактивным определением компетенции?
Про реактивное согласен, с ним все плохо, но в данной конкретной ситуации оно вроде как и не предполагалось. Если уж искать в статье конкретику, то, если я правильно понял, тут таки приведен вводный промт, после которого модель выдала нечто, применимое в реальном мире, и даже относительно неплохо справилась с контрпримером ,чем не думатель?
Не защищаю ценность статьи, возможность была известна и до этого, а имеющегося анализа недостаточно для гарантии заявленной универсальности, но она вроде как и висит в простых.
Замечание интересное, как-то не думал в эту сторону. Я под универсальностью понимал скорее способность не сломаться при постановке нестандартной задачи, и в этом у языковых моделей есть преимущество перед предзаписанными алгоритмами действий.
Вопрос, если я правильно понял, в здравом определении собственной компетенции, но могу отметить, что далеко не все люди и не во всех ситуациях на эту оценку способны, в подтверждение можно привести что-нибудь, связанное с эффектом Даннинга-Крюгера.
Статья же вроде не имеет ценности практической, то есть не предлагает алгоритм для того самого выбирателя_хлеба_3000, но показывает теоретическую возможность прикрутить к потенциальной эвристической машине работающий думатель, а аналог пишущей машинки "ремингтон" выпуска тысяча девятьсот шестого года у нас уже есть, только запросы закончились.
Замечу, что в заглавии статьи есть упоминание "универсального" робота. Полагаю, что я, как человек, могу назваться универсальным исполнителем, но с выбором бездрожжевого хлеба у меня будут сложности, которые я буду решать с использованием гугла и вопросов к работнику/заказчику, а при отсутствии такой возможности буду оперировать предположениями вроде "скорее всего в бездрожжевом хлебе не должно быть воздуха", что, вполне возможно, неверно. Надеюсь, это не делает из меня языковую модель?
Предположу, что идеально с поставленной задачей могут справиться выбиратель_хлеба_3000 (которого специально обучали именно выбору хлеба) и работник отдела (которому известен техпроцесс, что в данном случае эквивалентно обучению). Можно ли их назвать универсальными?