Ключевое слово тут "ответственность". Агенты, увы, ни за что не отвечают и случись чего - ответственность все равно на мясе))) Так что тут все относительно просто - выделяешь точки ответственности, которые нельзя делегировать - и оставляешь контроль за собой. В остальном кремний может резвиться)))
Всегда теряюсь, когда о таком читаю. Какая-то запредельная наивность. Ладно, пускай ИИ администрирует - но хотя бы архивы-то нужно держать под собственным контролем.
Приведу пример применительно к авиации - самолет проектируется под определенный двигатель. Просто заменить его на, предположим, в пять раз более мощный невозможно. Придется перепроектировать весь самолет.
И это настолько очевидно, что никакой авиационный инженер никогда не будет ставить так вопрос.
Я как-то раз провел вот какой эксперимент. Несколько дней подряд читал все новости, касающиеся некоторой быстроменяющейся области человеческих отношений. Настроил себе фильтр и как только что-то появлялось - читал и фиксировал свою реакцию.
Результат был - все плохо.
Потом сделал так - копил новости и после того, как их станет больше десяти - читал и фиксировал реакцию уже на такую вот пачку. И знаете, обычно получалось, что все не так уж и плохо.
Я это объясняю так - в первом случае имеем реакцию на событие, а во втором случае в голове выстраивается процесс. Первый случай во многом рандомный, каждая новость была как обухом по голове. Во втором случае - видишь уже взаимосвязи, что на что влияет, и приходит какое-никакое, а понимание, то, что понимаешь тревожит все-таки меньше.
Так вы же не принцип реактивного движения описываете, вы берете один очень маленький элемент очень большой системы и пытаетесь его улучшить. При этом совершенно не демонстрируя понимая работы системы в целом. Вы начали совершенно не с того конца, если уж начистоту.
Начинать нужно с того, что вас не устраивает в человека в целом. Потом выяснить, что лежит в корне этого, какие процессы, что за них отвечает. И только потом - как это можно улучшить, и как это улучшение повлияет на все остальные процессы - так как в нашем организме нет ничего, что отвечало бы за один-единственный процесс.
Пока могу сделать вывод, что вы не понимаете, что такое оптимальность и путаете ее с экстремумом. Верный признак человека, который с реально сложными системами дела никогда не имел.
Ага. И оно будет верным до тех пор, пока необходимость улучшения не будет обоснована.
Тем более, что вы даете очень спекулятивные аналогии. Клетка - не паровоз, а система движения и перевозки грузов. В ней есть склады, логистика, система подвоза топлива и удаления отходов, есть расписания, которые должны строго выполняться - иначе вся система встанет. И подвох в том, что замена паровозов на электровозы систему нафиг разрушит. Потому, что не нужен будет уголь, подвоз, склады и пр., а нужны будут электричество, электростанции и т.п. Потому, что изменение скорости передвижения логистику приведет к краху. И так далее.
И начинать переустройство системы надо не с паровозов, а с новых принципов ее функционирования.
А авторы статьи вцепились именно в паровозы. И всех уверяют, что проблема именно в них и их замена на что-то более быстрое улучшит всю систему. Нет, она ее разрушит.
Вы "избыточность" постулируете. Типа, рибосома тратит много. Но так не делается - вы должны это доказать. То есть, показать, что клетке этой энергии не хватает.
Вы же, похоже, исходите из того, что любая экономия - это хорошо. Это совершенно не так. Клетка тратит ровно столько, сколько нужно. Вы считаете, что столько не нужно? Нормально, но одних слов мало, вы хоть как-то это обосновать должны.
Вот это ключевое: "Автогенерация снимает когнитивную нагрузку. "
А развитие возможно только при ее наличии. А если развития нет - начинается деградация, тут третьего не дано. Нужно двигаться, чтобы просто на месте оставаться.
В сложной системе, состоящей из большого количества взаимозависимых элементов "абсолютный оптимум" состоит из множества оптимумов локальных. Если вы какой-то локальный оптимум вытащите вверх, то вся система рухнет. Простой пример - проблемы при пересадке сердца, организм привык к неисправному мотору, и простая замена его на новый зачастую ведет к каскадным отказам - почки, сосуды и далее по списку.
В статье про это вообще ничего нет. Никакого намека на комплексный подход - например, куда мы будем девать сэкономленные кДж?
Человек покамест не умеет работать со столь сложными системами. Вцепиться в локальную особенность, объявить ее "проблемой" и предложить ее "оптимизировать" - на самом деле очень легко. Но это путь в никуда.
Проблемы, которые описаны в статье - они придуманные. То есть их с данным подходом и на данном этапе не было.
Интереснее было бы, если б автор либо дошел до них сам, либо что-то обоснованно предположил: через пару итераций случилось бы вот такое, и нам бы пришлось...
Потому, что принимать на работу таких вот декораторов или не принимать - это вопрос вкуса, а вот что они могут с собой принести - это и есть корень проблемы. И покопаться хотелось бы именно в нем.
У Владлена Бахнова на эту тему был фантастических рассказ, довольно давно. Там чувак открыл компанию "У вас был миллион". Записывали воспоминания разорившихся миллионеров (за кругленькую сумму), а потом имплантировали эти воспоминания клиентам - чтобы и они себя чувствовали прожигателями жизни. Разорился - конкуренты стали искать не миллионеров, а его клиентов и скачивали воспоминания с них)))))
Вот интересно, какое из утверждений более верно:
Dream Chaser есть наследие программы Спираль
Спираль есть наследие программы DynaSoar
Ключевое слово тут "ответственность". Агенты, увы, ни за что не отвечают и случись чего - ответственность все равно на мясе))) Так что тут все относительно просто - выделяешь точки ответственности, которые нельзя делегировать - и оставляешь контроль за собой. В остальном кремний может резвиться)))
Всегда теряюсь, когда о таком читаю. Какая-то запредельная наивность. Ладно, пускай ИИ администрирует - но хотя бы архивы-то нужно держать под собственным контролем.
И в этот миг был достигнут max_new_tokens
Извините, если обидел.
Приведу пример применительно к авиации - самолет проектируется под определенный двигатель. Просто заменить его на, предположим, в пять раз более мощный невозможно. Придется перепроектировать весь самолет.
И это настолько очевидно, что никакой авиационный инженер никогда не будет ставить так вопрос.
А ваше предложение именно такое.
Любопытно, у правительства Китая есть ли какие-то проблемы со своими разработчиками ИИ?
Я как-то раз провел вот какой эксперимент. Несколько дней подряд читал все новости, касающиеся некоторой быстроменяющейся области человеческих отношений. Настроил себе фильтр и как только что-то появлялось - читал и фиксировал свою реакцию.
Результат был - все плохо.
Потом сделал так - копил новости и после того, как их станет больше десяти - читал и фиксировал реакцию уже на такую вот пачку. И знаете, обычно получалось, что все не так уж и плохо.
Я это объясняю так - в первом случае имеем реакцию на событие, а во втором случае в голове выстраивается процесс. Первый случай во многом рандомный, каждая новость была как обухом по голове. Во втором случае - видишь уже взаимосвязи, что на что влияет, и приходит какое-никакое, а понимание, то, что понимаешь тревожит все-таки меньше.
Так вы же не принцип реактивного движения описываете, вы берете один очень маленький элемент очень большой системы и пытаетесь его улучшить. При этом совершенно не демонстрируя понимая работы системы в целом. Вы начали совершенно не с того конца, если уж начистоту.
Начинать нужно с того, что вас не устраивает в человека в целом. Потом выяснить, что лежит в корне этого, какие процессы, что за них отвечает. И только потом - как это можно улучшить, и как это улучшение повлияет на все остальные процессы - так как в нашем организме нет ничего, что отвечало бы за один-единственный процесс.
Пока могу сделать вывод, что вы не понимаете, что такое оптимальность и путаете ее с экстремумом. Верный признак человека, который с реально сложными системами дела никогда не имел.
Ага. И оно будет верным до тех пор, пока необходимость улучшения не будет обоснована.
Тем более, что вы даете очень спекулятивные аналогии. Клетка - не паровоз, а система движения и перевозки грузов. В ней есть склады, логистика, система подвоза топлива и удаления отходов, есть расписания, которые должны строго выполняться - иначе вся система встанет. И подвох в том, что замена паровозов на электровозы систему нафиг разрушит. Потому, что не нужен будет уголь, подвоз, склады и пр., а нужны будут электричество, электростанции и т.п. Потому, что изменение скорости передвижения логистику приведет к краху. И так далее.
И начинать переустройство системы надо не с паровозов, а с новых принципов ее функционирования.
А авторы статьи вцепились именно в паровозы. И всех уверяют, что проблема именно в них и их замена на что-то более быстрое улучшит всю систему. Нет, она ее разрушит.
Да при чем здесь это?
Вы "избыточность" постулируете. Типа, рибосома тратит много. Но так не делается - вы должны это доказать. То есть, показать, что клетке этой энергии не хватает.
Вы же, похоже, исходите из того, что любая экономия - это хорошо. Это совершенно не так. Клетка тратит ровно столько, сколько нужно. Вы считаете, что столько не нужно? Нормально, но одних слов мало, вы хоть как-то это обосновать должны.
Вот это ключевое:
"Автогенерация снимает когнитивную нагрузку. "
А развитие возможно только при ее наличии. А если развития нет - начинается деградация, тут третьего не дано. Нужно двигаться, чтобы просто на месте оставаться.
В сложной системе, состоящей из большого количества взаимозависимых элементов "абсолютный оптимум" состоит из множества оптимумов локальных. Если вы какой-то локальный оптимум вытащите вверх, то вся система рухнет. Простой пример - проблемы при пересадке сердца, организм привык к неисправному мотору, и простая замена его на новый зачастую ведет к каскадным отказам - почки, сосуды и далее по списку.
В статье про это вообще ничего нет. Никакого намека на комплексный подход - например, куда мы будем девать сэкономленные кДж?
Человек покамест не умеет работать со столь сложными системами. Вцепиться в локальную особенность, объявить ее "проблемой" и предложить ее "оптимизировать" - на самом деле очень легко. Но это путь в никуда.
Хорошо бы услышать более подробный ответ))))
И что при таком подходе получится в итоге? Вы предлагаете начать, не думая о том, что будет на следующем шаге?
Проблемы, которые описаны в статье - они придуманные. То есть их с данным подходом и на данном этапе не было.
Интереснее было бы, если б автор либо дошел до них сам, либо что-то обоснованно предположил: через пару итераций случилось бы вот такое, и нам бы пришлось...
Потому, что принимать на работу таких вот декораторов или не принимать - это вопрос вкуса, а вот что они могут с собой принести - это и есть корень проблемы. И покопаться хотелось бы именно в нем.
А если по теме - сие не есть хорошо. Повторение лишает возможности делать полностью свое.
У Владлена Бахнова на эту тему был фантастических рассказ, довольно давно. Там чувак открыл компанию "У вас был миллион". Записывали воспоминания разорившихся миллионеров (за кругленькую сумму), а потом имплантировали эти воспоминания клиентам - чтобы и они себя чувствовали прожигателями жизни.
Разорился - конкуренты стали искать не миллионеров, а его клиентов и скачивали воспоминания с них)))))
Нет, в еще более лохматом 1965-м))) Это год ее первого полета
Голый return True LLMки часто в функции заталкивают.
А статья классная спасибо!
Мне стало любопытно - а какие еще бывают компы?