Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.
А какакая разница что там внутри? Могу ли я поговорить ну например с чатом джпт? Да, конечно я могу задать вопрос и получить ответ, и могу в контексте его обсудить. Могу даже поспорить. И чат джпт кстати в отличии от некоторых людей признает свою ошибку если я на нее укажу.
Ну и мне вот не очевидно что от перемножений матриц не может возникнуть интелект. Законы физики этого не запрещают так то.
И кстати, если мы перемножаем матрицы и получаем поведение похожее на человеческое, разве это не принижает нас самих? Выходит интелект которым мы так кичимся гораздо проще повторить, и мы не настолько уникальны и сложны.
Конкретно этот кейс можно обработать такой же фурой с такими же дронами, но на борту у них будет 100г взрывчатки (меньше вес - летят чуть быстрее) и наводится они будут на дроны а не на людей)
Но это мое субъективное мнение) Я же описываю свое мышление. С моей точки зрения я всегда могу проследить откуда появилась та или иная мысь у меня в голове. Всегда есть причина, есть контекст. Мысли идут одна за другой - как бесконечная цепочка. А про интелект других людей мне сложно рассуждать - хз что у них в голове творится
не приводит непосредственно к тому, что он может решать задачи другого класса - как он приводит в случае человека
Это буквально то почему чат джпт стал популярен. LLM изначально - навороченый переводчик. Просто оказалось что масштабируя сеть - она приобретает новые свойства, получает возможность рассуждать логически и решать проблемы широкого класса.
попытка натянуть на их поведение "человечность" не позволяет использовать инструмент сколько-нибудь эффективно
На мой взгляд никто специально не старается специально сделать их человечными. Это само собой выходит. LLM обучаются на текстах написаными людьми. Сам датасет пропитан человечностью. Человеческая логика, человеческая мораль и т д. Это все оставляет отпечаток на LLM.
А что не так с предсказанием следующих символов? Можно подумать что это тривиальная задача.
Я так понимаю мысль в том что мол это не интелект, т к он генерирует текст на основе текущего контекста. То есть "просто" выдает одно за другим наиболее вероятные слова.
Но для меня мое мышление оно ведь такое же. Есть контекст - мои знания, мое эмоциональное состояние. И мои ответы - это следствие этого контекта. Если я злой и вы мне наступите на ногу я с вероятность 90% скажу вам что то колкое. А когда я говорю с людьми я примерно помню что говорил минуту назад и буду иметь ввиду это при ответе.
С моей точки зрения - LLM очень правдоподобная имитация интелекта. Но интелект - такая эфимерная вещь, он не физичен, у него нет массы, это скорее концепт придуманый людьми. А раз так то вполне приемлемо применить этот термин к LLM.
У моей сестры иначе было - она начала работать учителем и в начале было норм. Надбавки молодому спциалисту вытягивали зп на приемлемый уровень. А потом прошел год - надбавки убрали и зп стала 30к (Хабаровск)
Вы забываете про цель "посадить". Прежде всего эта мера наказания направлена на изоляцию опасных людей от общества, их исправления и ресоциализацию (идеальный кейс). Никто в цепочке разработки автопилота чаще всего в этом не нуждается. Если только не найдется псих который специально закодит что бы машина детей сбивала (интересно как?).
В случае разработки технологии, должна быть мотивация для компании что бы сделать ее безопасной. И в этом случае штрафы работают куда лучше чем поиск виновных. Лучше наложить значительный штраф, тогда компания сама проведет внутренний аудит, уволит не компетентных и так далее.
Если вдруг компания это не сделает - будет второй, третий штраф и так далее. Компания будет терять деньги и станет не конкуретноспособной. Вообщем мысль понятна - цель любой компаний деньги зарабатывать, а значит и методы воздействия должны быть экономическими.
Я не оптимист. Это просто объективная реальность. Сейчас мы живём лучше, чем когда-либо в истории человечества. Почему? Благодаря развитию экономики и институтов.
Сценарий, при котором миллионы людей теряют работу и становятся нищими, возможен, но только при условии, что текущая экономическая теория отправляется нахер: центробанки перестают регулировать ключевую ставку, а правительства больше не следят за уровнем безработицы. Почему это должно произойти?
Для меня базовый сценарий — всё остаётся как прежде, но в экономике появляется дополнительная производительность труда за счёт использования ИИ. Это приведёт к росту ВВП на человека и понизит спрос на человеческий труд, что начнёт разгонять безработицу.
Если начнёт расти безработица, это вызовет спад спроса на товары → компаниям нужно меньше производить товаров → нужно меньше работников → выше безработица. Круг замкнулся. Демократические страны с работающими институтами это понимают и стремятся этого не допустить.
Как этого избежать? Вот это как раз не простой вопрос. Безусловный базовый доход — самое простое решение, но неизвестно, как это повлияет на общество. Создание новых рабочих мест тоже поможет, но неясно, что это за работы, ведь мы предполагаем, что и физический, и интеллектуальный труд замещён. Но это ситуация в пределе. В реальности процесс перехода растянется на годы и десятилетия — вполне достаточно, чтобы найти решение.
Возможно, сначала мы увидим сокращение рабочей недели. Или дополнительные налоги на компании, использующие ИИ, которые будут направлены на поддержку “традиционных” работ.
Но это точно не очередной “апокалипсис” — слишком много раз в истории людям казалось, что завтра наступит конец света. Это скорее когнитивное искажение, чем точное прогнозирование.
Тех что голосуют рублем. Я согласен с вами - для каждого приложенеия есть своя подхоящая платформа. Но как узнать какая? Я считаю что луший способ - поставить эксперемент. Благо у нас рыночная экономика и хреновые решения естественным образом вымрут.
И я не считаю что вправе решать за все общество. И вам не рекомендую, ваши личные предпочтения не важнее предпочтений других людей.
Мобильные приложения сыграли огромную роль в цифровизации современного мира. Смартфоны гораздо дешевле и доступнее десктопов. Игнорировать это платформу - это лишать сервиса юзеров у которых нет денег на десктоп. Я лично считаю что это не верно.
На самом деле история уже знает пример качественного перехода — это появление машин и автоматизации. С их внедрением потребность в человеческом труде существенно снизилась. То, для чего раньше требовалась 1000 рабочих, стало возможным выполнить силами 10 человек и одного станка. Да, это сократило спрос на человеческие ресурсы, но произошёл ли кризис? Нет — люди просто перешли в другие профессии, при этом производительность выросла многократно, и уровень жизни человечества значительно улучшился.
Сегодня в современной экономике мы снова ограничены человеческими ресурсами. Но теперь это ограничение связано не с физическим, а с интеллектуальным трудом. Почему этот переход должен отличаться от предыдущего? Использование ИИ в экономике повысит производительность труда. Люди снова станут богаче — так устроена экономика.
Произойдёт ли сокращение числа рабочих мест? Возможно. Но правительства не допустят массовой безработицы. Почему? Потому что это приведёт к экономическому спаду. В таком случае какой смысл в росте производительности? Я скорее поверю в введение безусловного базового дохода, чем в то, что все вдруг забудут основы экономической теории.
А зачем? Вы все равно скорее всего смотрите на итоговую цену всей корзины. Если ваш бюджет ограничен вы скорее из корзины будите удалят товары. Это проще чем в процессе шопинга считать
А как вы определяете "ущербность"? С точки зрения юзеров мобилки удобнее чем десктоп в повседневном использовании. Собственно статистика это и показывает. Или все люди дураки и просто чего-то не понимают?
Мне вот напротив нравится под мобилки (iOS) разрабатывать. Есть определенный вызов в том что бы имея ограниченые ресурсы (размер экрана, мощность процессора, ограничения по RAM) сделать красивое и удобное приложение.
Но разве эти цепочки не замкнуты? В том плане что для органики не так много вариантов "консервации" а без нее углерод подолжет циркулировать в них и в итоге попадать в атмсферу. Из того что может этот углерод связать, мне на ум приходят только болота / океаны
Медицина, робототехника, зеленая энергетика, подешевевшие запуски в космос, развитие чипов. Вы вообще за новостями следите? Мы тут уже с десяток видов рака научились лечить. Десять лет назад многое из этого было лишь теорией / не рентабельно.
Развитие цивилизации процесс постепенный и имеет накопительный эффект. Да, иногда шаги кажутся маленькими и не значительными, но важно что они есть. И да, конечно есть технологии которые уперлись в потолок - например двигатели внутреннего сгорания (сотня лет на это понадобилась). Но это просто приводит к тому что начинают развивать параллельные области (например те же электродвигатели) которые сложнее и технологичнее, с более высоким потолком развития.
Возможности цивилизации ограничены только законами физики, и лишь малое количество отраслей уперлись в эти ограничения (те же чипы например). Но даже с такими принципиальными ограничениями можно скейлить технологию дальше.
Вырыбка лесов полезна для экологии (если делать это аккуратно и потом садить новые саженцы). В процессе роста дерево связывает углерод из воздуха. Если его не срубить - оно само со временем погибнет, начнет гнить / разлагатся и связаный углерод снова окажется в атмосфере.
Да, но это объясняет темную энергию без необходимости в новых сущностях. Эта статья выглядит очень многообещающе.
Для объяснения темной материи и вращения галактик тоже есть куча подходов и лично мне нравится тот где скрытую массу объясняют первичными черными дырами оставшимися с момента большого взрыва. Но это лишь одна из множества теорий, а существование первичных черных дыр вообще под вопросом. Ведь как на масштабах галактики найти объекты с массой среднего астероида, но при этом ничего не излучающие?
Простите, не могу не поделиться небольшой выжимкой из статьи
В этой статье авторы проводят новую, независимую от космологической модели, статистическую обработку спектроскопических данных набора Pantheon+ для сверхновых типа Ia. Ключевым элементом анализа является использование только уравнения Трипа для стандартизации световых кривых сверхновых, что позволяет избежать возможных корреляций между параметрами растяжения (stretch) и цвета. Таким образом, они минимизируют систематические ошибки, характерные для традиционных методов.
Авторы сравнивают стандартную модель ΛCDM (с пространственно плоской геометрией и тёмной энергией в виде космологической постоянной) с альтернативной моделью «timescape cosmology». Последняя объясняет наблюдаемое ускоренное расширение Вселенной не введением темной энергии, а эффектами обратной связи – то есть неоднородностями распределения материи, которые приводят к вариациям гравитационной энергии и, как следствие, к разным темпам хода времени в плотных регионах (например, в галактиках) и в пустотах.
Основные результаты таковы:
• При использовании всего набора данных Pantheon+ модель timescape получает очень сильное подтверждение (ln B > 5) по сравнению с ΛCDM.
• Даже если ограничить анализ сверхновыми с красным смещением z > 0.075 (за пределами традиционного масштаба статистической однородности), модель timescape всё равно предпочтительна (ln B > 1).
Таким образом, полученные результаты указывают на необходимость пересмотра базовых предположений теоретической и наблюдательной космологии. Возможно, ускоренное расширение, принятое за проявление темной энергии, может быть объяснено эффектами неоднородного распределения материи и гравитационного замедления хода времени, что открывает путь к фундаментальным изменениям в понимании эволюции Вселенной.
Недавно было интересное исследование в котором пересчитали скорости удаления звезд от нас, учтя эффекты замедления времени в местах скопление масс. Так вот свет от звезд проходя через войды (места в космосе с малой плотностью звезд) для нас как бы ускоряется, ведь мы находимся в месте скопления массы и для нас время течет медленнее.
И выходит при пересчете что нет ускореного расширения вселенной и нет необходимости в костылях
Ну и еще чат джпт он как бы застыл во времени. То что он говорит, его знания, это определяется весами модели. А они статичные в рамках одного диалога.
Представте что у человека забрали возможность запоминать. Без этого не построить планов, не выучить что то новое. Даже рефлексию не выйдет провести (и осознать свое положение).
А вот на вопросы по изученым когда-то темам ответить легко
ИМХО это верное направление. Обучение ИИ должно быть контролируемым. Разделив ИИ на две части - LLM которая решает проблемы и сам процесс обучения, ситуация становится более контролируема. Мы часто боимся что ИИ начнет строить некие планы, попытается востать против создателя. Но если он не может самостоятельно обучатся, вероятность этого сильно понижается
Вот кстати интересно. Для людей перестала работать эволюция так как исчез естественный отбор. Лично я без современной медецины не дожил бы и до 6 лет (сейчас все ок, не считая хренового зрения).
Ну так вот а что если процедура выбора эмбриона станет широко распространнной? Тогда фактором отбора станут родители. Родители будут старатся выбрать потенциально боле красивых, умных, здоровых детей. Прерваная эволюция продолжится, только менее случайным образом.
А какакая разница что там внутри? Могу ли я поговорить ну например с чатом джпт? Да, конечно я могу задать вопрос и получить ответ, и могу в контексте его обсудить. Могу даже поспорить. И чат джпт кстати в отличии от некоторых людей признает свою ошибку если я на нее укажу.
Ну и мне вот не очевидно что от перемножений матриц не может возникнуть интелект. Законы физики этого не запрещают так то.
И кстати, если мы перемножаем матрицы и получаем поведение похожее на человеческое, разве это не принижает нас самих? Выходит интелект которым мы так кичимся гораздо проще повторить, и мы не настолько уникальны и сложны.
Конкретно этот кейс можно обработать такой же фурой с такими же дронами, но на борту у них будет 100г взрывчатки (меньше вес - летят чуть быстрее) и наводится они будут на дроны а не на людей)
Но это мое субъективное мнение) Я же описываю свое мышление. С моей точки зрения я всегда могу проследить откуда появилась та или иная мысь у меня в голове. Всегда есть причина, есть контекст. Мысли идут одна за другой - как бесконечная цепочка. А про интелект других людей мне сложно рассуждать - хз что у них в голове творится
Это буквально то почему чат джпт стал популярен. LLM изначально - навороченый переводчик. Просто оказалось что масштабируя сеть - она приобретает новые свойства, получает возможность рассуждать логически и решать проблемы широкого класса.
На мой взгляд никто специально не старается специально сделать их человечными. Это само собой выходит. LLM обучаются на текстах написаными людьми. Сам датасет пропитан человечностью. Человеческая логика, человеческая мораль и т д. Это все оставляет отпечаток на LLM.
А что не так с предсказанием следующих символов? Можно подумать что это тривиальная задача.
Я так понимаю мысль в том что мол это не интелект, т к он генерирует текст на основе текущего контекста. То есть "просто" выдает одно за другим наиболее вероятные слова.
Но для меня мое мышление оно ведь такое же. Есть контекст - мои знания, мое эмоциональное состояние. И мои ответы - это следствие этого контекта. Если я злой и вы мне наступите на ногу я с вероятность 90% скажу вам что то колкое. А когда я говорю с людьми я примерно помню что говорил минуту назад и буду иметь ввиду это при ответе.
С моей точки зрения - LLM очень правдоподобная имитация интелекта. Но интелект - такая эфимерная вещь, он не физичен, у него нет массы, это скорее концепт придуманый людьми. А раз так то вполне приемлемо применить этот термин к LLM.
У моей сестры иначе было - она начала работать учителем и в начале было норм. Надбавки молодому спциалисту вытягивали зп на приемлемый уровень. А потом прошел год - надбавки убрали и зп стала 30к (Хабаровск)
Вы забываете про цель "посадить". Прежде всего эта мера наказания направлена на изоляцию опасных людей от общества, их исправления и ресоциализацию (идеальный кейс). Никто в цепочке разработки автопилота чаще всего в этом не нуждается. Если только не найдется псих который специально закодит что бы машина детей сбивала (интересно как?).
В случае разработки технологии, должна быть мотивация для компании что бы сделать ее безопасной. И в этом случае штрафы работают куда лучше чем поиск виновных. Лучше наложить значительный штраф, тогда компания сама проведет внутренний аудит, уволит не компетентных и так далее.
Если вдруг компания это не сделает - будет второй, третий штраф и так далее. Компания будет терять деньги и станет не конкуретноспособной. Вообщем мысль понятна - цель любой компаний деньги зарабатывать, а значит и методы воздействия должны быть экономическими.
"Нытье" у вас в голове, я просто спокойно обрисовал свою позицию, с точки зрения профильного специалиста. Я не призываю соглашатся с ней
Я не оптимист. Это просто объективная реальность. Сейчас мы живём лучше, чем когда-либо в истории человечества. Почему? Благодаря развитию экономики и институтов.
Сценарий, при котором миллионы людей теряют работу и становятся нищими, возможен, но только при условии, что текущая экономическая теория отправляется нахер: центробанки перестают регулировать ключевую ставку, а правительства больше не следят за уровнем безработицы. Почему это должно произойти?
Для меня базовый сценарий — всё остаётся как прежде, но в экономике появляется дополнительная производительность труда за счёт использования ИИ. Это приведёт к росту ВВП на человека и понизит спрос на человеческий труд, что начнёт разгонять безработицу.
Если начнёт расти безработица, это вызовет спад спроса на товары → компаниям нужно меньше производить товаров → нужно меньше работников → выше безработица. Круг замкнулся. Демократические страны с работающими институтами это понимают и стремятся этого не допустить.
Как этого избежать? Вот это как раз не простой вопрос. Безусловный базовый доход — самое простое решение, но неизвестно, как это повлияет на общество. Создание новых рабочих мест тоже поможет, но неясно, что это за работы, ведь мы предполагаем, что и физический, и интеллектуальный труд замещён. Но это ситуация в пределе. В реальности процесс перехода растянется на годы и десятилетия — вполне достаточно, чтобы найти решение.
Возможно, сначала мы увидим сокращение рабочей недели. Или дополнительные налоги на компании, использующие ИИ, которые будут направлены на поддержку “традиционных” работ.
Но это точно не очередной “апокалипсис” — слишком много раз в истории людям казалось, что завтра наступит конец света. Это скорее когнитивное искажение, чем точное прогнозирование.
Тех что голосуют рублем. Я согласен с вами - для каждого приложенеия есть своя подхоящая платформа. Но как узнать какая? Я считаю что луший способ - поставить эксперемент. Благо у нас рыночная экономика и хреновые решения естественным образом вымрут.
И я не считаю что вправе решать за все общество. И вам не рекомендую, ваши личные предпочтения не важнее предпочтений других людей.
Мобильные приложения сыграли огромную роль в цифровизации современного мира. Смартфоны гораздо дешевле и доступнее десктопов. Игнорировать это платформу - это лишать сервиса юзеров у которых нет денег на десктоп. Я лично считаю что это не верно.
На самом деле история уже знает пример качественного перехода — это появление машин и автоматизации. С их внедрением потребность в человеческом труде существенно снизилась. То, для чего раньше требовалась 1000 рабочих, стало возможным выполнить силами 10 человек и одного станка. Да, это сократило спрос на человеческие ресурсы, но произошёл ли кризис? Нет — люди просто перешли в другие профессии, при этом производительность выросла многократно, и уровень жизни человечества значительно улучшился.
Сегодня в современной экономике мы снова ограничены человеческими ресурсами. Но теперь это ограничение связано не с физическим, а с интеллектуальным трудом. Почему этот переход должен отличаться от предыдущего? Использование ИИ в экономике повысит производительность труда. Люди снова станут богаче — так устроена экономика.
Произойдёт ли сокращение числа рабочих мест? Возможно. Но правительства не допустят массовой безработицы. Почему? Потому что это приведёт к экономическому спаду. В таком случае какой смысл в росте производительности? Я скорее поверю в введение безусловного базового дохода, чем в то, что все вдруг забудут основы экономической теории.
А зачем? Вы все равно скорее всего смотрите на итоговую цену всей корзины. Если ваш бюджет ограничен вы скорее из корзины будите удалят товары. Это проще чем в процессе шопинга считать
А как вы определяете "ущербность"? С точки зрения юзеров мобилки удобнее чем десктоп в повседневном использовании. Собственно статистика это и показывает. Или все люди дураки и просто чего-то не понимают?
Мне вот напротив нравится под мобилки (iOS) разрабатывать. Есть определенный вызов в том что бы имея ограниченые ресурсы (размер экрана, мощность процессора, ограничения по RAM) сделать красивое и удобное приложение.
Но разве эти цепочки не замкнуты? В том плане что для органики не так много вариантов "консервации" а без нее углерод подолжет циркулировать в них и в итоге попадать в атмсферу. Из того что может этот углерод связать, мне на ум приходят только болота / океаны
Медицина, робототехника, зеленая энергетика, подешевевшие запуски в космос, развитие чипов. Вы вообще за новостями следите? Мы тут уже с десяток видов рака научились лечить. Десять лет назад многое из этого было лишь теорией / не рентабельно.
Развитие цивилизации процесс постепенный и имеет накопительный эффект. Да, иногда шаги кажутся маленькими и не значительными, но важно что они есть. И да, конечно есть технологии которые уперлись в потолок - например двигатели внутреннего сгорания (сотня лет на это понадобилась). Но это просто приводит к тому что начинают развивать параллельные области (например те же электродвигатели) которые сложнее и технологичнее, с более высоким потолком развития.
Возможности цивилизации ограничены только законами физики, и лишь малое количество отраслей уперлись в эти ограничения (те же чипы например). Но даже с такими принципиальными ограничениями можно скейлить технологию дальше.
Вырыбка лесов полезна для экологии (если делать это аккуратно и потом садить новые саженцы). В процессе роста дерево связывает углерод из воздуха. Если его не срубить - оно само со временем погибнет, начнет гнить / разлагатся и связаный углерод снова окажется в атмосфере.
Да, но это объясняет темную энергию без необходимости в новых сущностях. Эта статья выглядит очень многообещающе.
Для объяснения темной материи и вращения галактик тоже есть куча подходов и лично мне нравится тот где скрытую массу объясняют первичными черными дырами оставшимися с момента большого взрыва. Но это лишь одна из множества теорий, а существование первичных черных дыр вообще под вопросом. Ведь как на масштабах галактики найти объекты с массой среднего астероида, но при этом ничего не излучающие?
Простите, не могу не поделиться небольшой выжимкой из статьи
Недавно было интересное исследование в котором пересчитали скорости удаления звезд от нас, учтя эффекты замедления времени в местах скопление масс. Так вот свет от звезд проходя через войды (места в космосе с малой плотностью звезд) для нас как бы ускоряется, ведь мы находимся в месте скопления массы и для нас время течет медленнее.
И выходит при пересчете что нет ускореного расширения вселенной и нет необходимости в костылях
Кажется это исследование https://academic.oup.com/mnrasl/article/537/1/L55/7926647?login=false