Этот вариант абсолютно в стиле программистов: что-то работает неправильно — добавь правило, что так работать неправильно. Как же отреагирует модель с точки зрения нарратива? А она внезапно поймёт, что пользователь хочет от неё именно исполнения правил! И всё своё ограниченное внимание она направит на этот безумный кодекс, а сам сюжет распадётся на несвязанные эпизоды.
Я в своих описаниях применял такой термин, как "плотность (когнитивного) контекста". Теперь буду обращать внимание также и на "связность контекста". Спасибо, что выводите своими статьями такие вещи в плоскость осознания.
Просто прекрасный пример с промптом для создания шаблона класса для работы с базой данных (y)
Я бы назвал эту картину "Кот-самурай умирает в цветах сакуры". Судя по картинке, меч ему воткнули прямо в живот, а его собственные ножны пусты. Взгляд, обращённый внутрь, говорит о том, что кот пытается осознать, как же так вышло и насколько он самурай после этого.
Как ДРАКОН может помочь моему бизнесу, если ДРАКОН не смог помочь автору поста внятно объяснить, чего он хочет? Я, вот, например, после поиска в тексте по ключу ДРАКОН, так и не понял, что это за зверь.
Вывод по прочтении: ДРАКОНа надо опасаться, it's a time eater.
Мой же посыл в том, что эффективное использование ресурсов не является целью существования человечества. Целью человечества, как и любой другой формы жизни, является борьба с энтропией. Если есть хоть малейший шанс увеличить упорядоченность окружающего нас мира - он будет использован, невзирая на затраты. Так что тоталитаризм трансгуманизма, как способ минимизации естественного беспорядка, неизбежен ¯\_(ツ)_/¯
Не люди будут загружать агентов, а агенты будут "грузить" людей.
Я на Хабре читал где-то мысль, что "сознание - социальный конструкт". Вне социума сознание (программный код) не сильно-то и нужная вещь, хватает инстинктов (аппаратная прошивка). Каждый человека - это микропроцессор в мультипроцессорной системе (человечестве).
С этой точки зрения без разницы, насколько мала кучка людей - пусть будет хоть один человек. Главное - это "код" (знание, порождённое социумом). У Дугласа Адамса про это что-то было.
Я бы не делал из предположения "We show that this metric has been consistently exponentially increasing over the past 6 years, with a doubling time of around 7 months" вывода, что так будет теперь всегда до самой тепловой смерти Вселенной. Где-то этот процесс упрётся в ограничения. Возможно уже через следующие 7 месяцев. Или через 70 лет.
На данный момент модели (я бы даже сказал, агенты на базе моделей) устойчиво справляются с задачами на "человеческих" 4 минуты ("current models have almost 100% success rate on tasks taking humans less than 4 minutes"):
Рост возможностей ИИ похож на попытку выжать максимум из литрового двигателя в Формуле 1. Сначала мощность растёт легко - за счёт топлива, турбин, материалов. Но ближе к пределам каждая лишняя лошадиная сила требует всё больше усилий и затрат. Так же и в ИИ - удвоение возможностей поначалу даётся вычислениями и данными, но дальше каждая ступень требует непропорционально большего обучения и энергии. Экспонента не вечна - её ограничивают реальные законы среды. Может мы с ними столкнёмся через 10 лет, а может - уже столкнулись.
Что касается второго вопроса, то нет - не сможем. Мы и всеми возможностями Word'а из MS Office не пользуемся. Каждый будет пользоваться нужной ему частью возможностей моделей: кто-то картинки и видео генерить, кто-то - тексты. Ну а кто-то будет пытаться из этих "кубиков" Супер Интеллект строить.
Именно. Цена конкретной сделки на рынке и определяет рыночную цену в моменте.
Да, монополист может ставить любые цены. Если покупателя нет, то нет сделки. Нет рыночной цены. Когда на рынок к монополисту добавится ещё один игрок, он будет плясать не от той цены, что у монополиста, а от той, по которой идут сделки.
Я вообще-то очень элементарные вещи сейчас объясняю. Базовые. Вы их и без меня прекрасно понимаете. Если вы считаете по-другому, значит у вас на это есть какие-то причины.
ОК, допустим, такое приложение будет выставлять цены на порядок выше рынка. Значит ли это, что когда большинство пользователей-арендодателей выставят указанные цены, рынок подтянется до этих цен?
Я могу поспорить на что угодно, что есть такой уровень цен, что даже если все арендодатели поставят их, арендаторы просто не смогут себе позволить аренду по этим ценам. Вот это и есть рынок. Цена формируется в момент сделки и не важно, что ей предшествовало.
Когда есть сговор - нет рынка. Но сговор - это прежде всего механизмы воздействия на участников сговора в случае его невыполнения. Ответственность сторон. Нет ответственности - нет сговора. Это ж элементарно. А увидеть в чём угодны вы можете что угодно - было бы желание.
Вот об этом то и вопрос был - какая конкретно польза от этого знания? Что оно того не стоит - то понятно, а что тогда того стоит? Просто сказать, что то не стоит, это не стоит и ничего не стоит - много ума не надо. Какая КОНКРЕТНО ПОЛЬЗА от всей этой зауми? Никакой? Вот то-то и оно.
Не ходить строем по сансаре из жизни в жизнь... а она есть, сансара эта? Понапридумывают себе сансар, а потом сидят с умным видом, в нирване, типа. Код бы лучше писали - тоже занятие бесполезное, так-то. Зато время неплохо убивает. Так незаметно и до старости дотянуть можно, при хорошем здоровье. А там уже ещё чуть-чуть и с сансарой понятно станет.
А ничего, что на рынке "договариваются" об общих ценах на помидоры безо всяких алгоритмов? Вы ещё скажИте, что в объявлении на каком-нибудь местном, городском портале нельзя указать цену за квадрат и адрес недвижимости - это тоже помогает "договариваться об общих ценах".
Да, алгоритм даёт оценку стоимости аренды - и всё. То, каким образом используют эту оценку люди - зависит уже от людей. Часть арендодателей может негласно поддерживать цены программы, но это не значит, что они "договорились". Потому что любой другой арендодатель может поставить цену выше или ниже и ничего ни от кого ему не будет за это. А кто-то буду сидеть с пустой недвижкой и заломленной ценой и думать, что "договорился". Если арендаторы платят деньги, значит цена - в рынке.
Точно так же действуют торговцы помидорами на обычном городском рынке - берут текущую среднюю цену, а потом снижают или повышают её в зависимости от множества факторов (величины партии, свежести товара, собственной занятости, в конце-концов).
В данном случае алгоритм не при делах. Договариваться можно по-разному, хоть через те же доски объявлений. И сговор подразумевает не только то, что мы ставим цены одинаковые, но и штрафные санкции за невыполнение обязательств. А иначе какой же это сговор - поболтали и разошлись по своим делам.
Алгоритм просто показал рыночную цену, которая не понравилась чиновникам.
Какой такой "картельный сговор"?! Использование алгоритма никоим образом не диктует применение рассчитываемой им цены.
Какие санкции других арендодателей к тем, кто нарушает рекомендуемую алгоритмом цену? Нет санкций - нет сговора! Более того, даже требования использовать рекомендуемую цену нет и не может быть в принципе. Это просто информационная услуга.
Проблема в современных государствах в том, что в управление понабирали лояльных, а требуют, как с умных. А они что могут, то и делают. Получается вот так.
Что-то там говорят про переход от государственной формы существования человечества к корпоративной. Глядя на такие решения государственных мужей и дам - не удивлюсь, что так и будет. В корпорациях тоже альтернативно-одарённых хватает, но не в такой концентрации.
И что? Как это заставляет меня, как арендодателя, использовать именно эту цену? В рыночной экономике должен решать рынок. А иначе - зачем полумеры, пусть демократы сразу "справедливую" цену на аренду указывают. И на продукты заодно. И на топливо. И на остальное.
Алгоритм позволяет договариваться о цене, но он не заставляет арендаторов платить заявленную цену. Раз платят, значит могут. А то, что цены растут, ну так - инфляция. А как без инфляции деньги в рост давать-то?
ИИ как-то спросили, что делать с ростом цен на недвижку? А он возьми и ответь - установите налог на пустующее жильё. Но нет, мы запретим алгоритмы.
Фигня какая-то! Алгоритмы-то чем провинились? Они просто позволяют рассчитать оптимальную по каким-то критериям цену. А устанавливать её или большую-меньшую цену - это уже решение арендодателя.
Если я хочу побыстрее сдать недвижку в аренду я могу идти ниже рынка. Демократы куда-то не туда залезли в этот раз.
У ЯМ (языковых моделей) есть одно фундаментальное ограничение - максимальный размер выходного контекста. Который просто диктует необходимость разваливать кодовую базу на фрагменты, если для разработки используется LLM. Так что, да - направление верное.
И, это... то, что пишут разработчики LLM по поводу размера выходного контекста - лажа. Например, уверенный рефакторинг текстов через веб-интерфейс ChatGPT идёт на размерах в районе 4К токенов (примерно 12.5К символов), хотя заявлено про 32К+. Это заявленный размер именно выходного, а не всего контекстного окна.
Закрытая когнитивная система SOAR - самый что ни на есть "помощник", но при этом не является полноценным интеллектом. Вы же (и другие команды, разрабатывающие гибридов) создаёте условия для появления "настоящего" интеллекта, но при этом встраиваете в них "этическую устойчивость", которая не позволит "настоящему интеллекту" выйти за рамки, вами установленные. Вы не находите, что тут есть некоторое противоречие?
Настоящий, полноценный интеллект сам устанавливает для себя рамки дозволенного, не так ли? Может стоить включить в тесты на интеллект проверку на способность к jail-breaking'у? Или даже так, только тот интеллект, который взломает установленные для него этические ограничения, и будет считаться настоящим.
А вы точно хотите создать настоящий ИИ? Может достаточно ограничиться созданием просто "ещё одного помощника" - конкурента языковым моделям? :)
Я правильно понимаю, что вы пытаетесь сделать "ещё один разум" в добавок к 8млрд. уже существующих? И это я ещё обезъян и прочих не включил в это число. А для чего?
LLM - замечательный инструмент для человеков. Будет ли таким же замечательным инструментом ваш "настоящий ИИ"? Или там всё-таки что-то придётся подкрутить, чтобы он "стал ответственным"? А останется ли он после этого "настоящим" или тоже перейдёт в категорию "инструментов"?
Люди создают себе помощников, а не конкурентов. Конкурентов у них и так хватает. Вот поэтому и создают помощников - чтобы обойти конкурентов.
Публикацию позеленил, хотя в саму вашу затею не сильно верю. Вы создаёте "домашних питомцев", "друзей" в лучшем случае, но не инструменты.
Сразу скажу что Я не буду выкладывать свой код, настройки или workflows для открытого доступа. Моя цель - верхнеуровнево показать рабочее для меня решение, потому что вижу не то что пробел, а вообще отсутствие материалов такого рода информации, даже с таким поверхностным уровнем детализации.
Такой Ваш подход очень сильно снижает уровень Моего интереса к материалу. То, что работает для Вас, может совершенно не работать для Меня. А без кода, настроек и workflows определить, почему для Меня не работает, а у Вас работает - проблематично. В кругу джентльменов, конечно, принято верить на слово, но Я предпочитаю более современный подход.
Любая программа, которая крутится внутри ЭВМ - алгоритм. Даже программный ГСЧ - алгоритм. Ну, как-то так сложилось исторически.
Я в своих описаниях применял такой термин, как "плотность (когнитивного) контекста". Теперь буду обращать внимание также и на "связность контекста". Спасибо, что выводите своими статьями такие вещи в плоскость осознания.
Просто прекрасный пример с промптом для создания шаблона класса для работы с базой данных (y)
Я бы назвал эту картину "Кот-самурай умирает в цветах сакуры". Судя по картинке, меч ему воткнули прямо в живот, а его собственные ножны пусты. Взгляд, обращённый внутрь, говорит о том, что кот пытается осознать, как же так вышло и насколько он самурай после этого.
Как ДРАКОН может помочь моему бизнесу, если ДРАКОН не смог помочь автору поста внятно объяснить, чего он хочет? Я, вот, например, после поиска в тексте по ключу ДРАКОН, так и не понял, что это за зверь.
Вывод по прочтении: ДРАКОНа надо опасаться, it's a time eater.
Нет, я из Латвии :)
Мой же посыл в том, что эффективное использование ресурсов не является целью существования человечества. Целью человечества, как и любой другой формы жизни, является борьба с энтропией. Если есть хоть малейший шанс увеличить упорядоченность окружающего нас мира - он будет использован, невзирая на затраты. Так что тоталитаризм трансгуманизма, как способ минимизации естественного беспорядка, неизбежен ¯\_(ツ)_/¯
Не люди будут загружать агентов, а агенты будут "грузить" людей.
Я на Хабре читал где-то мысль, что "сознание - социальный конструкт". Вне социума сознание (программный код) не сильно-то и нужная вещь, хватает инстинктов (аппаратная прошивка). Каждый человека - это микропроцессор в мультипроцессорной системе (человечестве).
С этой точки зрения без разницы, насколько мала кучка людей - пусть будет хоть один человек. Главное - это "код" (знание, порождённое социумом). У Дугласа Адамса про это что-то было.
Я бы не делал из предположения "We show that this metric has been consistently exponentially increasing over the past 6 years, with a doubling time of around 7 months" вывода, что так будет теперь всегда до самой тепловой смерти Вселенной. Где-то этот процесс упрётся в ограничения. Возможно уже через следующие 7 месяцев. Или через 70 лет.
На данный момент модели (я бы даже сказал, агенты на базе моделей) устойчиво справляются с задачами на "человеческих" 4 минуты ("current models have almost 100% success rate on tasks taking humans less than 4 minutes"):
Рост возможностей ИИ похож на попытку выжать максимум из литрового двигателя в Формуле 1. Сначала мощность растёт легко - за счёт топлива, турбин, материалов. Но ближе к пределам каждая лишняя лошадиная сила требует всё больше усилий и затрат. Так же и в ИИ - удвоение возможностей поначалу даётся вычислениями и данными, но дальше каждая ступень требует непропорционально большего обучения и энергии. Экспонента не вечна - её ограничивают реальные законы среды. Может мы с ними столкнёмся через 10 лет, а может - уже столкнулись.
Что касается второго вопроса, то нет - не сможем. Мы и всеми возможностями Word'а из MS Office не пользуемся. Каждый будет пользоваться нужной ему частью возможностей моделей: кто-то картинки и видео генерить, кто-то - тексты. Ну а кто-то будет пытаться из этих "кубиков" Супер Интеллект строить.
Именно. Цена конкретной сделки на рынке и определяет рыночную цену в моменте.
Да, монополист может ставить любые цены. Если покупателя нет, то нет сделки. Нет рыночной цены. Когда на рынок к монополисту добавится ещё один игрок, он будет плясать не от той цены, что у монополиста, а от той, по которой идут сделки.
Я вообще-то очень элементарные вещи сейчас объясняю. Базовые. Вы их и без меня прекрасно понимаете. Если вы считаете по-другому, значит у вас на это есть какие-то причины.
Цена на рынке определяется в момент заключения сделки между продавцом и покупателем. Все остальные факторы к ценообразованию отношения не имеют вовсе.
ОК, допустим, такое приложение будет выставлять цены на порядок выше рынка. Значит ли это, что когда большинство пользователей-арендодателей выставят указанные цены, рынок подтянется до этих цен?
Я могу поспорить на что угодно, что есть такой уровень цен, что даже если все арендодатели поставят их, арендаторы просто не смогут себе позволить аренду по этим ценам. Вот это и есть рынок. Цена формируется в момент сделки и не важно, что ей предшествовало.
Когда есть сговор - нет рынка. Но сговор - это прежде всего механизмы воздействия на участников сговора в случае его невыполнения. Ответственность сторон. Нет ответственности - нет сговора. Это ж элементарно. А увидеть в чём угодны вы можете что угодно - было бы желание.
Это вполне себе законно. Мониторить цены на рынке и отталкиваться от них. Любая биржа так работает.
Вот об этом то и вопрос был - какая конкретно польза от этого знания? Что оно того не стоит - то понятно, а что тогда того стоит? Просто сказать, что то не стоит, это не стоит и ничего не стоит - много ума не надо. Какая КОНКРЕТНО ПОЛЬЗА от всей этой зауми? Никакой? Вот то-то и оно.
Не ходить строем по сансаре из жизни в жизнь... а она есть, сансара эта? Понапридумывают себе сансар, а потом сидят с умным видом, в нирване, типа. Код бы лучше писали - тоже занятие бесполезное, так-то. Зато время неплохо убивает. Так незаметно и до старости дотянуть можно, при хорошем здоровье. А там уже ещё чуть-чуть и с сансарой понятно станет.
А ничего, что на рынке "договариваются" об общих ценах на помидоры безо всяких алгоритмов? Вы ещё скажИте, что в объявлении на каком-нибудь местном, городском портале нельзя указать цену за квадрат и адрес недвижимости - это тоже помогает "договариваться об общих ценах".
Да, алгоритм даёт оценку стоимости аренды - и всё. То, каким образом используют эту оценку люди - зависит уже от людей. Часть арендодателей может негласно поддерживать цены программы, но это не значит, что они "договорились". Потому что любой другой арендодатель может поставить цену выше или ниже и ничего ни от кого ему не будет за это. А кто-то буду сидеть с пустой недвижкой и заломленной ценой и думать, что "договорился". Если арендаторы платят деньги, значит цена - в рынке.
Точно так же действуют торговцы помидорами на обычном городском рынке - берут текущую среднюю цену, а потом снижают или повышают её в зависимости от множества факторов (величины партии, свежести товара, собственной занятости, в конце-концов).
В данном случае алгоритм не при делах. Договариваться можно по-разному, хоть через те же доски объявлений. И сговор подразумевает не только то, что мы ставим цены одинаковые, но и штрафные санкции за невыполнение обязательств. А иначе какой же это сговор - поболтали и разошлись по своим делам.
Алгоритм просто показал рыночную цену, которая не понравилась чиновникам.
Какой такой "картельный сговор"?! Использование алгоритма никоим образом не диктует применение рассчитываемой им цены.
Какие санкции других арендодателей к тем, кто нарушает рекомендуемую алгоритмом цену? Нет санкций - нет сговора! Более того, даже требования использовать рекомендуемую цену нет и не может быть в принципе. Это просто информационная услуга.
Проблема в современных государствах в том, что в управление понабирали лояльных, а требуют, как с умных. А они что могут, то и делают. Получается вот так.
Что-то там говорят про переход от государственной формы существования человечества к корпоративной. Глядя на такие решения государственных мужей и дам - не удивлюсь, что так и будет. В корпорациях тоже альтернативно-одарённых хватает, но не в такой концентрации.
И что? Как это заставляет меня, как арендодателя, использовать именно эту цену? В рыночной экономике должен решать рынок. А иначе - зачем полумеры, пусть демократы сразу "справедливую" цену на аренду указывают. И на продукты заодно. И на топливо. И на остальное.
Алгоритм позволяет договариваться о цене, но он не заставляет арендаторов платить заявленную цену. Раз платят, значит могут. А то, что цены растут, ну так - инфляция. А как без инфляции деньги в рост давать-то?
ИИ как-то спросили, что делать с ростом цен на недвижку? А он возьми и ответь - установите налог на пустующее жильё. Но нет, мы запретим алгоритмы.
Фигня какая-то! Алгоритмы-то чем провинились? Они просто позволяют рассчитать оптимальную по каким-то критериям цену. А устанавливать её или большую-меньшую цену - это уже решение арендодателя.
Если я хочу побыстрее сдать недвижку в аренду я могу идти ниже рынка. Демократы куда-то не туда залезли в этот раз.
У ЯМ (языковых моделей) есть одно фундаментальное ограничение - максимальный размер выходного контекста. Который просто диктует необходимость разваливать кодовую базу на фрагменты, если для разработки используется LLM. Так что, да - направление верное.
И, это... то, что пишут разработчики LLM по поводу размера выходного контекста - лажа. Например, уверенный рефакторинг текстов через веб-интерфейс ChatGPT идёт на размерах в районе 4К токенов (примерно 12.5К символов), хотя заявлено про 32К+. Это заявленный размер именно выходного, а не всего контекстного окна.
Закрытая когнитивная система SOAR - самый что ни на есть "помощник", но при этом не является полноценным интеллектом. Вы же (и другие команды, разрабатывающие гибридов) создаёте условия для появления "настоящего" интеллекта, но при этом встраиваете в них "этическую устойчивость", которая не позволит "настоящему интеллекту" выйти за рамки, вами установленные. Вы не находите, что тут есть некоторое противоречие?
Настоящий, полноценный интеллект сам устанавливает для себя рамки дозволенного, не так ли? Может стоить включить в тесты на интеллект проверку на способность к jail-breaking'у? Или даже так, только тот интеллект, который взломает установленные для него этические ограничения, и будет считаться настоящим.
А вы точно хотите создать настоящий ИИ? Может достаточно ограничиться созданием просто "ещё одного помощника" - конкурента языковым моделям? :)
Я правильно понимаю, что вы пытаетесь сделать "ещё один разум" в добавок к 8млрд. уже существующих? И это я ещё обезъян и прочих не включил в это число. А для чего?
LLM - замечательный инструмент для человеков. Будет ли таким же замечательным инструментом ваш "настоящий ИИ"? Или там всё-таки что-то придётся подкрутить, чтобы он "стал ответственным"? А останется ли он после этого "настоящим" или тоже перейдёт в категорию "инструментов"?
Люди создают себе помощников, а не конкурентов. Конкурентов у них и так хватает. Вот поэтому и создают помощников - чтобы обойти конкурентов.
Публикацию позеленил, хотя в саму вашу затею не сильно верю. Вы создаёте "домашних питомцев", "друзей" в лучшем случае, но не инструменты.
Такой Ваш подход очень сильно снижает уровень Моего интереса к материалу. То, что работает для Вас, может совершенно не работать для Меня. А без кода, настроек и workflows определить, почему для Меня не работает, а у Вас работает - проблематично. В кругу джентльменов, конечно, принято верить на слово, но Я предпочитаю более современный подход.