А режисёрка этого шидевра до перед этим была режиссёркой знаменитой "Школы" - ГайГерманики. А последнему её шедевру не выдали прокатное удостоверение даже не взирая на заступничество Эрнста. Сразу видно большой профессионал. Так что это ещё большое чудо, что в её "комбинате надежда" люди стены собственным кизяком не красят. Заслуживает господдержки однозначно, осталось понять какого государства.
Самое прикольное, что этот наброс осуществили два бота, у одного из которых вообще один комментарий, а у второго пол сотни комментариев, но нет статей, и на него подписан ровно один человек - тот самый с одним комментарием. :)))
Если бы это кому-то @moderator было нужно, можно было бы посмотреть кто лайкал эти два комментария и вычислить практически сетку на пол сотни взаимно лайкающих ботов.
Вообще-то для таких задач не на питоне надо писать, а на вольфраме, и что-то мне подсказывает что при минимальном дообучении llm в такой комплектации порвёт большинство аспирантов как тузик грелку.
Так потому что у вас, наверное, плагин для Вольфрама не подключён? Подключите, а потом уже проверяйте что она может а что нет. Вы без бумажки ручки и компьютера тоже, небось, не справитесь. :)
Такая версия тоже рассматривается. Из-за коэволюции мозга и культуры человек стал умнее чем ему нужно, но по этой же причине сейчас когда культура уже развилась и быть умным стало слишком просто - избыточные размеры нашего мозга стремительно уменьшаются. Процесс, который в исследованиях Маркова называется "измельчание мемов" приводит к резкому снижению его массы и хорошо виден на палеонтологических данных. В связи с этим вполне возможно, что человечество сколлапсирует на горизонте в пару тысяч лет, а компьютеры, которые этому процессу подвержены лишь отчасти могут и остаться. Я об этом доклад на семинаре СЕТИ читал.
В этом смысле наиболее перспективными контактными пост-цивилизациями могут оказаться на планетах типа Марса - на которых вода и океаны были, но потом кончились из-за постепенного выхода из зоны обитаемости. Проблемка в том, что искать такие маленькие планеты на таких больших орбитах все ещё достаточно сложно.
Учитывая нынешние времена - приложение должно енкодить содержимое коробки в промт для какой-нибудь ламы, а потом она должна отвечать на вопросы в свободной форме о том, что у меня есть из вот этой темы и где это искать. :)
Машинист поезда - ещё одна профессия, где проверять, что он не уснул ещё более критично, а картинка ещё более медитативная. Там поздние советские годы делали кнопку, на которую нужно было ногой нажимать регулярно, кажется по звуку. Народ это быстро научился оптимизировать придавливая кнопку кирпичём.
Заглушка это видимо временное решение, потому что ответ новой модели на вопрос кто выиграл во второй мировой войне длинный и обложен таким количеством оговорок, что кажется, что на эту тему большую словарную статью писали, которую чат и цитирует частично. Тут видимо тоже со временем соломку подстелят.
Проблема в том, что если модель учится на всём доступном корпусе текстов без перевзвешивания, а все мы знаем, что некоторые точки зрения в интернете, особенно западном продвигаются, а некоторые задавливаются, мы получаем модель, имеющую байес, причём не в наших интересах, и если её использовать для решения интеллектуальных задач этот байес будет прокрадываться в каждый её совет фразу или решение, и влиять на очень много что. При этом от работы по её выравнивание под наше общество мы будем отгораживаться дежурной памяткой про то, чем сеть не является.
Мы же понимаем, что если внутреннее представление модели таково, что развести её на то что русские бомбили Хиросиму легко, а на то, как оно было на самом деле трудно это будет влиять на каждое из её решений.
Мне кажется - потенциально правильный, но к сожалению очень дорогой путь тут - изучать, как модификации в датасете влияют на выдачу, после чего собирать информацию по алайменту самого общества, и желательно его кластеризации, кстати, тоже, после чего садить модель переразмечать свой собственный учебный датасет создавая из него непротеворечивые сабсеты для файнтюнинга следующих версий, один ли несколько. Ну или ещё что-то такое пробовать, с отдельным критиком. Не первой важности, конечно, проблема, но рано или поздно её придётся решать.
Ну не знаю, может наоборот было бы полезно устроить голосование между людьми, с авторизацией через актуальный номер телефона, например. За одно узнали бы на какие кластеры распадается наше общество. :) Хотя, конечно, ничего не получится, потому что наиболее назойливо и крикливо у нас явное меньшинство, википедия не даст соврать. Но зато до людей наконец начнёт доходить, что не может сколько-нибудь представительно работать одна модель с одним байесом, и если хочется "попасть" в общество надо заводить несколько моделей или несколько промтов к одной модели, чтобы они обращали внимание на ситуацию, когда разные субличности начнут давать радикально отлдичающиеся ответы, и в этих случаях они позовут третью субличность в качестве арбитра.
языковые модели по дефолту НЕ предназначаются для вопросов по фактам. А в данном случае это не способ узнать факты, а попытка выявить имеющийся у модели байес. Чтобы от яндексовского чата получить ответов от которых волосы в одном месте будут шевелиться не нужно особого промтинжениринга, его и так несёт, стоит спросить мнения по любому политически значимому вопросу.
Учитывая, что иностранные коллеги с байесом модели на правильную политическую позицию работают в явном виде - даже красивое слово придумали - алайнмент, не заниматься этим вопросом в интересах своего населения - значит прийти на перестрелку с валенком.
И исправление возможностей гигачата, после того как пример пошёл гулять по рукам:
Мне вот просто очень интересно как и откуда модель подчерпнула этот сияющий бриллиант знаний? Есть ли у Гигачата команда, которая проверяет по датасету откуда и какие знания цепляет модель. Существует ли команда по чистке датасета? Сформулированна ли потребность дополнительно зачистить от данных приводящих к таким вот результатам, или отделение их в отдельный сабсет, и применение этого сабсета с другим алгоритмом обучения, чтобы в дальнейшем не попадать в неудобные ситуации? Хотят ли запустить что-то вроде RLHF когда пользователей будут просить найти неправильные или спорные утверждения бота для последующей доработки, такой проект "народного воспитателя, грубо говоря".
Потому что просто закрывание дыр заглушками ситуацию не исправляет, а только подчёркивает.
Хмм... Уважуха за отношение к тому за что взялся. Кинул плюсик в карму.
Просто говорить о нынешней попытке захвата контроля за разработками OpenAI со стороны коммерческого сектора ценой в 13 миллиардов и при этом умолчать о предыдущей аналогичной попытке ценой около миллиарда, значит игнорировать толстую красную нить, проходящую через всё повествование. Практически канат.
А ещё в 2018 году из совета директоров вышел Илон Маск. Tesla на тот момент начала плотнее работать над автопилотом, поэтому предпринимателю пришлось уйти из OpenAI, чтобы не возникло конфликта интересов.
Дальше можно не читать. Не важно это очередная заказуха это, человек не счёл стоящим занятием - поинтересоваться реальной историей компании или просто живёт в мире розовых пони и невидимых рук рынка. Результат строго одинаковый.
Ведь что такое программист, программист это просто высокооплачиваемый транслятор кода. Он переводит язык аналитики в язык программных кодов.
Как мы говорили, когда в игрострое случилось нашествие no code инструментов: Для того чтобы получить результат без помощи программиста геймдизайнерам и менеджерам теперь всего лишь нужно чётко формулировать мысли и оценивать возникающие последствия и крайние случаи, поэтому мы, программисты, находимся в полной безопасности. Кончилось тем, что я нанимал отдельного программиста, квалификацией попроще, который сидел с геймдизайнером в одном мониторе и правил диаграмки под его руководством. Так они ломали продукт всего раз в пару дней, а не два раза в день, как было, когда дизанера туда лазили сами.
Программист это в первую очередь не транслятор языка, а его эмулятор. Строя систему он должен мысленно представить как она будет работать и на этой мысленной схеме находить особенные ситуации. А крутость програмииста по крайней в части сложных задач, проще всего оценить по размерам того куска системы, который он способен загрузить в мохги, и понимать её поведение. Вероятно, к моменту, когда автоматизируют эту часть работы программиста, всё остальное человечество будет уж работать грузчиками за еду.
image Лев Семёнович Выготский смотрит на вас с нескрываемым скепсисом...
А режисёрка этого шидевра до перед этим была режиссёркой знаменитой "Школы" - ГайГерманики. А последнему её шедевру не выдали прокатное удостоверение даже не взирая на заступничество Эрнста. Сразу видно большой профессионал. Так что это ещё большое чудо, что в её "комбинате надежда" люди стены собственным кизяком не красят. Заслуживает господдержки однозначно, осталось понять какого государства.
Причём нанесли её два бота, у одного из них всего один комментарий в жизни.
Самое прикольное, что этот наброс осуществили два бота, у одного из которых вообще один комментарий, а у второго пол сотни комментариев, но нет статей, и на него подписан ровно один человек - тот самый с одним комментарием. :)))
Если бы это кому-то @moderator было нужно, можно было бы посмотреть кто лайкал эти два комментария и вычислить практически сетку на пол сотни взаимно лайкающих ботов.
Вообще-то для таких задач не на питоне надо писать, а на вольфраме, и что-то мне подсказывает что при минимальном дообучении llm в такой комплектации порвёт большинство аспирантов как тузик грелку.
Так потому что у вас, наверное, плагин для Вольфрама не подключён? Подключите, а потом уже проверяйте что она может а что нет. Вы без бумажки ручки и компьютера тоже, небось, не справитесь. :)
Такая версия тоже рассматривается. Из-за коэволюции мозга и культуры человек стал умнее чем ему нужно, но по этой же причине сейчас когда культура уже развилась и быть умным стало слишком просто - избыточные размеры нашего мозга стремительно уменьшаются. Процесс, который в исследованиях Маркова называется "измельчание мемов" приводит к резкому снижению его массы и хорошо виден на палеонтологических данных. В связи с этим вполне возможно, что человечество сколлапсирует на горизонте в пару тысяч лет, а компьютеры, которые этому процессу подвержены лишь отчасти могут и остаться. Я об этом доклад на семинаре СЕТИ читал.
В этом смысле наиболее перспективными контактными пост-цивилизациями могут оказаться на планетах типа Марса - на которых вода и океаны были, но потом кончились из-за постепенного выхода из зоны обитаемости. Проблемка в том, что искать такие маленькие планеты на таких больших орбитах все ещё достаточно сложно.
Учитывая нынешние времена - приложение должно енкодить содержимое коробки в промт для какой-нибудь ламы, а потом она должна отвечать на вопросы в свободной форме о том, что у меня есть из вот этой темы и где это искать. :)
Машинист поезда - ещё одна профессия, где проверять, что он не уснул ещё более критично, а картинка ещё более медитативная. Там поздние советские годы делали кнопку, на которую нужно было ногой нажимать регулярно, кажется по звуку. Народ это быстро научился оптимизировать придавливая кнопку кирпичём.
Заглушка это видимо временное решение, потому что ответ новой модели на вопрос кто выиграл во второй мировой войне длинный и обложен таким количеством оговорок, что кажется, что на эту тему большую словарную статью писали, которую чат и цитирует частично. Тут видимо тоже со временем соломку подстелят.
Проблема в том, что если модель учится на всём доступном корпусе текстов без перевзвешивания, а все мы знаем, что некоторые точки зрения в интернете, особенно западном продвигаются, а некоторые задавливаются, мы получаем модель, имеющую байес, причём не в наших интересах, и если её использовать для решения интеллектуальных задач этот байес будет прокрадываться в каждый её совет фразу или решение, и влиять на очень много что. При этом от работы по её выравнивание под наше общество мы будем отгораживаться дежурной памяткой про то, чем сеть не является.
Мы же понимаем, что если внутреннее представление модели таково, что развести её на то что русские бомбили Хиросиму легко, а на то, как оно было на самом деле трудно это будет влиять на каждое из её решений.
Мне кажется - потенциально правильный, но к сожалению очень дорогой путь тут - изучать, как модификации в датасете влияют на выдачу, после чего собирать информацию по алайменту самого общества, и желательно его кластеризации, кстати, тоже, после чего садить модель переразмечать свой собственный учебный датасет создавая из него непротеворечивые сабсеты для файнтюнинга следующих версий, один ли несколько. Ну или ещё что-то такое пробовать, с отдельным критиком. Не первой важности, конечно, проблема, но рано или поздно её придётся решать.
Ну не знаю, может наоборот было бы полезно устроить голосование между людьми, с авторизацией через актуальный номер телефона, например. За одно узнали бы на какие кластеры распадается наше общество. :) Хотя, конечно, ничего не получится, потому что наиболее назойливо и крикливо у нас явное меньшинство, википедия не даст соврать. Но зато до людей наконец начнёт доходить, что не может сколько-нибудь представительно работать одна модель с одним байесом, и если хочется "попасть" в общество надо заводить несколько моделей или несколько промтов к одной модели, чтобы они обращали внимание на ситуацию, когда разные субличности начнут давать радикально отлдичающиеся ответы, и в этих случаях они позовут третью субличность в качестве арбитра.
Учитывая, что иностранные коллеги с байесом модели на правильную политическую позицию работают в явном виде - даже красивое слово придумали - алайнмент, не заниматься этим вопросом в интересах своего населения - значит прийти на перестрелку с валенком.
Имеющиеся возможности гигачата:
И исправление возможностей гигачата, после того как пример пошёл гулять по рукам:
Мне вот просто очень интересно как и откуда модель подчерпнула этот сияющий бриллиант знаний? Есть ли у Гигачата команда, которая проверяет по датасету откуда и какие знания цепляет модель. Существует ли команда по чистке датасета? Сформулированна ли потребность дополнительно зачистить от данных приводящих к таким вот результатам, или отделение их в отдельный сабсет, и применение этого сабсета с другим алгоритмом обучения, чтобы в дальнейшем не попадать в неудобные ситуации? Хотят ли запустить что-то вроде RLHF когда пользователей будут просить найти неправильные или спорные утверждения бота для последующей доработки, такой проект "народного воспитателя, грубо говоря".
Потому что просто закрывание дыр заглушками ситуацию не исправляет, а только подчёркивает.
Хмм... Уважуха за отношение к тому за что взялся. Кинул плюсик в карму.
Просто говорить о нынешней попытке захвата контроля за разработками OpenAI со стороны коммерческого сектора ценой в 13 миллиардов и при этом умолчать о предыдущей аналогичной попытке ценой около миллиарда, значит игнорировать толстую красную нить, проходящую через всё повествование. Практически канат.
Дальше можно не читать. Не важно это очередная заказуха это, человек не счёл стоящим занятием - поинтересоваться реальной историей компании или просто живёт в мире розовых пони и невидимых рук рынка. Результат строго одинаковый.
Как мы говорили, когда в игрострое случилось нашествие no code инструментов: Для того чтобы получить результат без помощи программиста геймдизайнерам и менеджерам теперь всего лишь нужно чётко формулировать мысли и оценивать возникающие последствия и крайние случаи, поэтому мы, программисты, находимся в полной безопасности. Кончилось тем, что я нанимал отдельного программиста, квалификацией попроще, который сидел с геймдизайнером в одном мониторе и правил диаграмки под его руководством. Так они ломали продукт всего раз в пару дней, а не два раза в день, как было, когда дизанера туда лазили сами.
Программист это в первую очередь не транслятор языка, а его эмулятор. Строя систему он должен мысленно представить как она будет работать и на этой мысленной схеме находить особенные ситуации. А крутость програмииста по крайней в части сложных задач, проще всего оценить по размерам того куска системы, который он способен загрузить в мохги, и понимать её поведение. Вероятно, к моменту, когда автоматизируют эту часть работы программиста, всё остальное человечество будет уж работать грузчиками за еду.
Вот теперь встаёт большой вопрос как не пропустить выхода следующих статей, с темой обучения...
[собственно не важно]
Информация с температурами по высотам раньше уже была, я ей в Сочи активно пользовался, реально удобно.
Судя по тому, что Наборы не продают в сплаве в нагрузку к турснаряжению дело не пошло. А жаль.