Ну любая книга которая не попадет в библиотеку рано или поздно отправится в утиль. Ну и все же в статье идет речь не про рукописи в единичном экземпляре, а про обычные книги, которые по сути массовый продукт.
Ну и лично для меня - да книги это источник знаний, они одна из причин почему знания стали массовыми (даже если это в основном были бульварные романы). Я уважаю их за это и отношусь бережно к тем что есть у меня. Но будем честны - это просто носитель информации. Если информация будет оцифрована, то в принципе не важно что будет с носителем, не стоит создавать карго культ вокруг оболочки, знания важнее.
ИМХО Лично я хотел бы что бы мои книги стали частью ИИ, даже если я не получу с этого денег. Возможно именно мои мысли закрепятся в его весах и повлияют на его мышление
Ps Прошу прощения, ошибся на один уровень. Я хотел оставить комент чуть выше
Евгеника это все же социальное понятие а не биологическое. Аисты вон например часто из гнезда выбрасывают самого слабого детеныша. Это же не является евгеникой.
Но да, я согласен от выбора эмбриона до евгеники - один шаг. Поэтому нужно создать правильные институты социальные. Что бы не произошло как в Китае когда родители делали аборт если ребенок - девочка (что привело к значительному гендерному дисбалансу).
Кстати, так то у нас есть законодательно закрепленная евгеника - запреты на инцест и близкородственные браки. Люди придумали правило и теперь по нему отбор проводят. В природе такого нет.
А разве это не так? Те факторы которые влияли на эволюцию человека раньше теперь перестали работать. Например детская смертность упала в разы - недоношенные дети / матери с проблемами теперь не умирают. Смертность от естественных факторов тоже понизилась. Теперь физически слабые люди / люди с плохим иммунитетом / социофобы и т д могут самостоятельно выживать в городах. Раньше бы они погибли.
Да даже блин требования к интеллекту стали ниже. Можно быть невероятно тупым и при этом не погибнуть от своей глупости и оставить потомство. Социум и технологии сильно упростили выживание в этом мире.
Да возможно появились иные факторы, но факт остается фактом: те факторы которые создали человека за последние сотни тысяч лет, теперь, с развитием цивилизации (последние 10к лет) больше на нас не влияют.
Да, я с вами полностью согласен, я бы тоже не хотел жить в мире где царит закон джунглей. И да для меня эволюция социальных институтов и культуры тоже важнее физической эволюции.
Просто это приятный бонус. Если мы можем дать потомкам более здоровые тела, почему бы это не сделать? Но без здорового социума это конечно бессмысленно.
Да, есть много способов расширить контекст сделав его более персонализированным по отношению к юзеру. Я скорее имел ввиду не то что у моделей нет памяти, а про то что она как бы не изменяема. Память есть - это веса модели. Все что вы описываете это пристройка к модели, контекст. Но сама модель - то есть ее веса, их не изменить в диалоге, только при переобучении.
У нас, людей, так то есть книги, интернет, да блин тот же блокнот - это все внешние хранилища информации. Но что бы их эффективно использовать нам приходится эти знания пропускать через себя. Находить мыслено закономерности, связи с другими знаниями. И ллм проходит через похожий процесс при обучении.
И как вы верно сказали - при обучении модели эта внешняя память не используется. LLM внутри чата джпт никогда по настоящему вас не запомнит, ведь весь накопленный персонализированный контекст не попадет в обучающую выборку.
Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.
А какакая разница что там внутри? Могу ли я поговорить ну например с чатом джпт? Да, конечно я могу задать вопрос и получить ответ, и могу в контексте его обсудить. Могу даже поспорить. И чат джпт кстати в отличии от некоторых людей признает свою ошибку если я на нее укажу.
Ну и мне вот не очевидно что от перемножений матриц не может возникнуть интелект. Законы физики этого не запрещают так то.
И кстати, если мы перемножаем матрицы и получаем поведение похожее на человеческое, разве это не принижает нас самих? Выходит интелект которым мы так кичимся гораздо проще повторить, и мы не настолько уникальны и сложны.
Конкретно этот кейс можно обработать такой же фурой с такими же дронами, но на борту у них будет 100г взрывчатки (меньше вес - летят чуть быстрее) и наводится они будут на дроны а не на людей)
Но это мое субъективное мнение) Я же описываю свое мышление. С моей точки зрения я всегда могу проследить откуда появилась та или иная мысь у меня в голове. Всегда есть причина, есть контекст. Мысли идут одна за другой - как бесконечная цепочка. А про интелект других людей мне сложно рассуждать - хз что у них в голове творится
не приводит непосредственно к тому, что он может решать задачи другого класса - как он приводит в случае человека
Это буквально то почему чат джпт стал популярен. LLM изначально - навороченый переводчик. Просто оказалось что масштабируя сеть - она приобретает новые свойства, получает возможность рассуждать логически и решать проблемы широкого класса.
попытка натянуть на их поведение "человечность" не позволяет использовать инструмент сколько-нибудь эффективно
На мой взгляд никто специально не старается специально сделать их человечными. Это само собой выходит. LLM обучаются на текстах написаными людьми. Сам датасет пропитан человечностью. Человеческая логика, человеческая мораль и т д. Это все оставляет отпечаток на LLM.
А что не так с предсказанием следующих символов? Можно подумать что это тривиальная задача.
Я так понимаю мысль в том что мол это не интелект, т к он генерирует текст на основе текущего контекста. То есть "просто" выдает одно за другим наиболее вероятные слова.
Но для меня мое мышление оно ведь такое же. Есть контекст - мои знания, мое эмоциональное состояние. И мои ответы - это следствие этого контекта. Если я злой и вы мне наступите на ногу я с вероятность 90% скажу вам что то колкое. А когда я говорю с людьми я примерно помню что говорил минуту назад и буду иметь ввиду это при ответе.
С моей точки зрения - LLM очень правдоподобная имитация интелекта. Но интелект - такая эфимерная вещь, он не физичен, у него нет массы, это скорее концепт придуманый людьми. А раз так то вполне приемлемо применить этот термин к LLM.
У моей сестры иначе было - она начала работать учителем и в начале было норм. Надбавки молодому спциалисту вытягивали зп на приемлемый уровень. А потом прошел год - надбавки убрали и зп стала 30к (Хабаровск)
Вы забываете про цель "посадить". Прежде всего эта мера наказания направлена на изоляцию опасных людей от общества, их исправления и ресоциализацию (идеальный кейс). Никто в цепочке разработки автопилота чаще всего в этом не нуждается. Если только не найдется псих который специально закодит что бы машина детей сбивала (интересно как?).
В случае разработки технологии, должна быть мотивация для компании что бы сделать ее безопасной. И в этом случае штрафы работают куда лучше чем поиск виновных. Лучше наложить значительный штраф, тогда компания сама проведет внутренний аудит, уволит не компетентных и так далее.
Если вдруг компания это не сделает - будет второй, третий штраф и так далее. Компания будет терять деньги и станет не конкуретноспособной. Вообщем мысль понятна - цель любой компаний деньги зарабатывать, а значит и методы воздействия должны быть экономическими.
Я не оптимист. Это просто объективная реальность. Сейчас мы живём лучше, чем когда-либо в истории человечества. Почему? Благодаря развитию экономики и институтов.
Сценарий, при котором миллионы людей теряют работу и становятся нищими, возможен, но только при условии, что текущая экономическая теория отправляется нахер: центробанки перестают регулировать ключевую ставку, а правительства больше не следят за уровнем безработицы. Почему это должно произойти?
Для меня базовый сценарий — всё остаётся как прежде, но в экономике появляется дополнительная производительность труда за счёт использования ИИ. Это приведёт к росту ВВП на человека и понизит спрос на человеческий труд, что начнёт разгонять безработицу.
Если начнёт расти безработица, это вызовет спад спроса на товары → компаниям нужно меньше производить товаров → нужно меньше работников → выше безработица. Круг замкнулся. Демократические страны с работающими институтами это понимают и стремятся этого не допустить.
Как этого избежать? Вот это как раз не простой вопрос. Безусловный базовый доход — самое простое решение, но неизвестно, как это повлияет на общество. Создание новых рабочих мест тоже поможет, но неясно, что это за работы, ведь мы предполагаем, что и физический, и интеллектуальный труд замещён. Но это ситуация в пределе. В реальности процесс перехода растянется на годы и десятилетия — вполне достаточно, чтобы найти решение.
Возможно, сначала мы увидим сокращение рабочей недели. Или дополнительные налоги на компании, использующие ИИ, которые будут направлены на поддержку “традиционных” работ.
Но это точно не очередной “апокалипсис” — слишком много раз в истории людям казалось, что завтра наступит конец света. Это скорее когнитивное искажение, чем точное прогнозирование.
Тех что голосуют рублем. Я согласен с вами - для каждого приложенеия есть своя подхоящая платформа. Но как узнать какая? Я считаю что луший способ - поставить эксперемент. Благо у нас рыночная экономика и хреновые решения естественным образом вымрут.
И я не считаю что вправе решать за все общество. И вам не рекомендую, ваши личные предпочтения не важнее предпочтений других людей.
Мобильные приложения сыграли огромную роль в цифровизации современного мира. Смартфоны гораздо дешевле и доступнее десктопов. Игнорировать это платформу - это лишать сервиса юзеров у которых нет денег на десктоп. Я лично считаю что это не верно.
На самом деле история уже знает пример качественного перехода — это появление машин и автоматизации. С их внедрением потребность в человеческом труде существенно снизилась. То, для чего раньше требовалась 1000 рабочих, стало возможным выполнить силами 10 человек и одного станка. Да, это сократило спрос на человеческие ресурсы, но произошёл ли кризис? Нет — люди просто перешли в другие профессии, при этом производительность выросла многократно, и уровень жизни человечества значительно улучшился.
Сегодня в современной экономике мы снова ограничены человеческими ресурсами. Но теперь это ограничение связано не с физическим, а с интеллектуальным трудом. Почему этот переход должен отличаться от предыдущего? Использование ИИ в экономике повысит производительность труда. Люди снова станут богаче — так устроена экономика.
Произойдёт ли сокращение числа рабочих мест? Возможно. Но правительства не допустят массовой безработицы. Почему? Потому что это приведёт к экономическому спаду. В таком случае какой смысл в росте производительности? Я скорее поверю в введение безусловного базового дохода, чем в то, что все вдруг забудут основы экономической теории.
А зачем? Вы все равно скорее всего смотрите на итоговую цену всей корзины. Если ваш бюджет ограничен вы скорее из корзины будите удалят товары. Это проще чем в процессе шопинга считать
А как вы определяете "ущербность"? С точки зрения юзеров мобилки удобнее чем десктоп в повседневном использовании. Собственно статистика это и показывает. Или все люди дураки и просто чего-то не понимают?
Мне вот напротив нравится под мобилки (iOS) разрабатывать. Есть определенный вызов в том что бы имея ограниченые ресурсы (размер экрана, мощность процессора, ограничения по RAM) сделать красивое и удобное приложение.
Ну любая книга которая не попадет в библиотеку рано или поздно отправится в утиль. Ну и все же в статье идет речь не про рукописи в единичном экземпляре, а про обычные книги, которые по сути массовый продукт.
Ну и лично для меня - да книги это источник знаний, они одна из причин почему знания стали массовыми (даже если это в основном были бульварные романы). Я уважаю их за это и отношусь бережно к тем что есть у меня. Но будем честны - это просто носитель информации. Если информация будет оцифрована, то в принципе не важно что будет с носителем, не стоит создавать карго культ вокруг оболочки, знания важнее.
ИМХО Лично я хотел бы что бы мои книги стали частью ИИ, даже если я не получу с этого денег. Возможно именно мои мысли закрепятся в его весах и повлияют на его мышление
Ps Прошу прощения, ошибся на один уровень. Я хотел оставить комент чуть выше
Сейчас в мире примерно треть людей с плохим зрением. И это передается по наследству. Что должно произойти что бы это стало преимуществом?
Или вот у меня в семье у всех проблемы с венами, (геморрой в 22 - что может быть лучше?) и это тоже наследуется. Я бы не хотел детям такое предавать
Евгеника это все же социальное понятие а не биологическое. Аисты вон например часто из гнезда выбрасывают самого слабого детеныша. Это же не является евгеникой.
Но да, я согласен от выбора эмбриона до евгеники - один шаг. Поэтому нужно создать правильные институты социальные. Что бы не произошло как в Китае когда родители делали аборт если ребенок - девочка (что привело к значительному гендерному дисбалансу).
Кстати, так то у нас есть законодательно закрепленная евгеника - запреты на инцест и близкородственные браки. Люди придумали правило и теперь по нему отбор проводят. В природе такого нет.
А разве это не так? Те факторы которые влияли на эволюцию человека раньше теперь перестали работать. Например детская смертность упала в разы - недоношенные дети / матери с проблемами теперь не умирают. Смертность от естественных факторов тоже понизилась. Теперь физически слабые люди / люди с плохим иммунитетом / социофобы и т д могут самостоятельно выживать в городах. Раньше бы они погибли.
Да даже блин требования к интеллекту стали ниже. Можно быть невероятно тупым и при этом не погибнуть от своей глупости и оставить потомство. Социум и технологии сильно упростили выживание в этом мире.
Да возможно появились иные факторы, но факт остается фактом: те факторы которые создали человека за последние сотни тысяч лет, теперь, с развитием цивилизации (последние 10к лет) больше на нас не влияют.
Да, я с вами полностью согласен, я бы тоже не хотел жить в мире где царит закон джунглей. И да для меня эволюция социальных институтов и культуры тоже важнее физической эволюции.
Просто это приятный бонус. Если мы можем дать потомкам более здоровые тела, почему бы это не сделать? Но без здорового социума это конечно бессмысленно.
Да, есть много способов расширить контекст сделав его более персонализированным по отношению к юзеру. Я скорее имел ввиду не то что у моделей нет памяти, а про то что она как бы не изменяема. Память есть - это веса модели. Все что вы описываете это пристройка к модели, контекст. Но сама модель - то есть ее веса, их не изменить в диалоге, только при переобучении.
У нас, людей, так то есть книги, интернет, да блин тот же блокнот - это все внешние хранилища информации. Но что бы их эффективно использовать нам приходится эти знания пропускать через себя. Находить мыслено закономерности, связи с другими знаниями. И ллм проходит через похожий процесс при обучении.
И как вы верно сказали - при обучении модели эта внешняя память не используется. LLM внутри чата джпт никогда по настоящему вас не запомнит, ведь весь накопленный персонализированный контекст не попадет в обучающую выборку.
Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.
А какакая разница что там внутри? Могу ли я поговорить ну например с чатом джпт? Да, конечно я могу задать вопрос и получить ответ, и могу в контексте его обсудить. Могу даже поспорить. И чат джпт кстати в отличии от некоторых людей признает свою ошибку если я на нее укажу.
Ну и мне вот не очевидно что от перемножений матриц не может возникнуть интелект. Законы физики этого не запрещают так то.
И кстати, если мы перемножаем матрицы и получаем поведение похожее на человеческое, разве это не принижает нас самих? Выходит интелект которым мы так кичимся гораздо проще повторить, и мы не настолько уникальны и сложны.
Конкретно этот кейс можно обработать такой же фурой с такими же дронами, но на борту у них будет 100г взрывчатки (меньше вес - летят чуть быстрее) и наводится они будут на дроны а не на людей)
Но это мое субъективное мнение) Я же описываю свое мышление. С моей точки зрения я всегда могу проследить откуда появилась та или иная мысь у меня в голове. Всегда есть причина, есть контекст. Мысли идут одна за другой - как бесконечная цепочка. А про интелект других людей мне сложно рассуждать - хз что у них в голове творится
Это буквально то почему чат джпт стал популярен. LLM изначально - навороченый переводчик. Просто оказалось что масштабируя сеть - она приобретает новые свойства, получает возможность рассуждать логически и решать проблемы широкого класса.
На мой взгляд никто специально не старается специально сделать их человечными. Это само собой выходит. LLM обучаются на текстах написаными людьми. Сам датасет пропитан человечностью. Человеческая логика, человеческая мораль и т д. Это все оставляет отпечаток на LLM.
А что не так с предсказанием следующих символов? Можно подумать что это тривиальная задача.
Я так понимаю мысль в том что мол это не интелект, т к он генерирует текст на основе текущего контекста. То есть "просто" выдает одно за другим наиболее вероятные слова.
Но для меня мое мышление оно ведь такое же. Есть контекст - мои знания, мое эмоциональное состояние. И мои ответы - это следствие этого контекта. Если я злой и вы мне наступите на ногу я с вероятность 90% скажу вам что то колкое. А когда я говорю с людьми я примерно помню что говорил минуту назад и буду иметь ввиду это при ответе.
С моей точки зрения - LLM очень правдоподобная имитация интелекта. Но интелект - такая эфимерная вещь, он не физичен, у него нет массы, это скорее концепт придуманый людьми. А раз так то вполне приемлемо применить этот термин к LLM.
У моей сестры иначе было - она начала работать учителем и в начале было норм. Надбавки молодому спциалисту вытягивали зп на приемлемый уровень. А потом прошел год - надбавки убрали и зп стала 30к (Хабаровск)
Вы забываете про цель "посадить". Прежде всего эта мера наказания направлена на изоляцию опасных людей от общества, их исправления и ресоциализацию (идеальный кейс). Никто в цепочке разработки автопилота чаще всего в этом не нуждается. Если только не найдется псих который специально закодит что бы машина детей сбивала (интересно как?).
В случае разработки технологии, должна быть мотивация для компании что бы сделать ее безопасной. И в этом случае штрафы работают куда лучше чем поиск виновных. Лучше наложить значительный штраф, тогда компания сама проведет внутренний аудит, уволит не компетентных и так далее.
Если вдруг компания это не сделает - будет второй, третий штраф и так далее. Компания будет терять деньги и станет не конкуретноспособной. Вообщем мысль понятна - цель любой компаний деньги зарабатывать, а значит и методы воздействия должны быть экономическими.
"Нытье" у вас в голове, я просто спокойно обрисовал свою позицию, с точки зрения профильного специалиста. Я не призываю соглашатся с ней
Я не оптимист. Это просто объективная реальность. Сейчас мы живём лучше, чем когда-либо в истории человечества. Почему? Благодаря развитию экономики и институтов.
Сценарий, при котором миллионы людей теряют работу и становятся нищими, возможен, но только при условии, что текущая экономическая теория отправляется нахер: центробанки перестают регулировать ключевую ставку, а правительства больше не следят за уровнем безработицы. Почему это должно произойти?
Для меня базовый сценарий — всё остаётся как прежде, но в экономике появляется дополнительная производительность труда за счёт использования ИИ. Это приведёт к росту ВВП на человека и понизит спрос на человеческий труд, что начнёт разгонять безработицу.
Если начнёт расти безработица, это вызовет спад спроса на товары → компаниям нужно меньше производить товаров → нужно меньше работников → выше безработица. Круг замкнулся. Демократические страны с работающими институтами это понимают и стремятся этого не допустить.
Как этого избежать? Вот это как раз не простой вопрос. Безусловный базовый доход — самое простое решение, но неизвестно, как это повлияет на общество. Создание новых рабочих мест тоже поможет, но неясно, что это за работы, ведь мы предполагаем, что и физический, и интеллектуальный труд замещён. Но это ситуация в пределе. В реальности процесс перехода растянется на годы и десятилетия — вполне достаточно, чтобы найти решение.
Возможно, сначала мы увидим сокращение рабочей недели. Или дополнительные налоги на компании, использующие ИИ, которые будут направлены на поддержку “традиционных” работ.
Но это точно не очередной “апокалипсис” — слишком много раз в истории людям казалось, что завтра наступит конец света. Это скорее когнитивное искажение, чем точное прогнозирование.
Тех что голосуют рублем. Я согласен с вами - для каждого приложенеия есть своя подхоящая платформа. Но как узнать какая? Я считаю что луший способ - поставить эксперемент. Благо у нас рыночная экономика и хреновые решения естественным образом вымрут.
И я не считаю что вправе решать за все общество. И вам не рекомендую, ваши личные предпочтения не важнее предпочтений других людей.
Мобильные приложения сыграли огромную роль в цифровизации современного мира. Смартфоны гораздо дешевле и доступнее десктопов. Игнорировать это платформу - это лишать сервиса юзеров у которых нет денег на десктоп. Я лично считаю что это не верно.
На самом деле история уже знает пример качественного перехода — это появление машин и автоматизации. С их внедрением потребность в человеческом труде существенно снизилась. То, для чего раньше требовалась 1000 рабочих, стало возможным выполнить силами 10 человек и одного станка. Да, это сократило спрос на человеческие ресурсы, но произошёл ли кризис? Нет — люди просто перешли в другие профессии, при этом производительность выросла многократно, и уровень жизни человечества значительно улучшился.
Сегодня в современной экономике мы снова ограничены человеческими ресурсами. Но теперь это ограничение связано не с физическим, а с интеллектуальным трудом. Почему этот переход должен отличаться от предыдущего? Использование ИИ в экономике повысит производительность труда. Люди снова станут богаче — так устроена экономика.
Произойдёт ли сокращение числа рабочих мест? Возможно. Но правительства не допустят массовой безработицы. Почему? Потому что это приведёт к экономическому спаду. В таком случае какой смысл в росте производительности? Я скорее поверю в введение безусловного базового дохода, чем в то, что все вдруг забудут основы экономической теории.
А зачем? Вы все равно скорее всего смотрите на итоговую цену всей корзины. Если ваш бюджет ограничен вы скорее из корзины будите удалят товары. Это проще чем в процессе шопинга считать
А как вы определяете "ущербность"? С точки зрения юзеров мобилки удобнее чем десктоп в повседневном использовании. Собственно статистика это и показывает. Или все люди дураки и просто чего-то не понимают?
Мне вот напротив нравится под мобилки (iOS) разрабатывать. Есть определенный вызов в том что бы имея ограниченые ресурсы (размер экрана, мощность процессора, ограничения по RAM) сделать красивое и удобное приложение.