так, вот мы и подобрались к некоторым условиям... например, необходимо дать LLM доступ к инструментам, так же как человек по мере своего развития получал доступ к перу, бумаге, что бы записывать эти эксперименты и строить математические модели. Может быть проблема в том, что LLM оперируя лишь только языковыми инструментами встречает преграды на пути к "мышлению"? Вы кажется недавно писали о проблеме нехватки "контекста" для LLM, но этот контекст не обязательно в прямом смысле "контекст", возможно стоит подумать над вопросом "загрузки" в LLM аналогий наших других инструментов исследования мира, такие как ощущения, зрение и т.д.
Позвольте попробую не согласиться: В части "если мы обучим llm на наборе данных доступным античным философам, то сможет ли эта модель сформулировать законы физики ньютона?" ваш ответ - "нет", а что если разобрать путь от набора данных античных философов до открытия закона ньютона, в контексте LLM - это огромная длиннющая цепочка вопросов и ответов, который в конечном итоге привели к открытию закона Ньютона... получается если от эпохи Платона и Аристотеля пойти шагами в виде вопрос-ответ, то мы рано или поздно, если задавать верные вопросы придём к "Всякое тело продолжает удерживаться в своём состоянии покоя или равномерного и прямолинейного движения, пока и поскольку оно не понуждается приложенными силами изменить это состояние." Мне кажется это довольно логично и не требует пояснений, но проблема в другом - в том, что человеческий разум находится в режиме активного исследователя, а "разум" LLM в режиме "пассивного ответчика", почему? Потому что человек обладает телом и физика побуждает его накормить тело, помыть тело, держать его в здравии, нами движет ЧТО-ТО, а LLM-кой движет лишь "You are a helpful assistant") Так что я полагаю, что если LLM'ке внедрить некую "тягу к жизни", дать "смысл жизни", вместо задачи быть helpful assistant, то она технически вполне себе может пройти путь от Аристотеля для Ньютона и далее)
Однозначно плюсую за статью! Читая, осознал, что система "обезопашивания" себя "надёжными паролями" похожа на пирамиду... вы придумываете себе пароль, содержащий название любимой группы детства и годом рождения брата/сестры, затем усложняете его, ведь вам нужен "надёжный пароль", добавив еще пару цифр, а потом какой-то из сайтов, просит вас добавить символ к паролю... в итоге у вас голове строится пирамида из говно-паролей, которую вы сами не можете упорядочить и запомнить и в итоге, как и многие пирамиды, она рушится) и вы придумываете очередной "надёжный пароль" с нуля..., начиная новый уровень нового этажа пирамиды на руинах предыдущей))))
так, вот мы и подобрались к некоторым условиям... например, необходимо дать LLM доступ к инструментам, так же как человек по мере своего развития получал доступ к перу, бумаге, что бы записывать эти эксперименты и строить математические модели. Может быть проблема в том, что LLM оперируя лишь только языковыми инструментами встречает преграды на пути к "мышлению"? Вы кажется недавно писали о проблеме нехватки "контекста" для LLM, но этот контекст не обязательно в прямом смысле "контекст", возможно стоит подумать над вопросом "загрузки" в LLM аналогий наших других инструментов исследования мира, такие как ощущения, зрение и т.д.
Позвольте попробую не согласиться:
В части "если мы обучим llm на наборе данных доступным античным философам, то сможет ли эта модель сформулировать законы физики ньютона?" ваш ответ - "нет", а что если разобрать путь от набора данных античных философов до открытия закона ньютона, в контексте LLM - это огромная длиннющая цепочка вопросов и ответов, который в конечном итоге привели к открытию закона Ньютона... получается если от эпохи Платона и Аристотеля пойти шагами в виде вопрос-ответ, то мы рано или поздно, если задавать верные вопросы придём к "Всякое тело продолжает удерживаться в своём состоянии покоя или равномерного и прямолинейного движения, пока и поскольку оно не понуждается приложенными силами изменить это состояние." Мне кажется это довольно логично и не требует пояснений, но проблема в другом - в том, что человеческий разум находится в режиме активного исследователя, а "разум" LLM в режиме "пассивного ответчика", почему? Потому что человек обладает телом и физика побуждает его накормить тело, помыть тело, держать его в здравии, нами движет ЧТО-ТО, а LLM-кой движет лишь "You are a helpful assistant")
Так что я полагаю, что если LLM'ке внедрить некую "тягу к жизни", дать "смысл жизни", вместо задачи быть helpful assistant, то она технически вполне себе может пройти путь от Аристотеля для Ньютона и далее)
Однозначно плюсую за статью!
Читая, осознал, что система "обезопашивания" себя "надёжными паролями" похожа на пирамиду... вы придумываете себе пароль, содержащий название любимой группы детства и годом рождения брата/сестры, затем усложняете его, ведь вам нужен "надёжный пароль", добавив еще пару цифр, а потом какой-то из сайтов, просит вас добавить символ к паролю... в итоге у вас голове строится пирамида из говно-паролей, которую вы сами не можете упорядочить и запомнить и в итоге, как и многие пирамиды, она рушится) и вы придумываете очередной "надёжный пароль" с нуля..., начиная новый уровень нового этажа пирамиды на руинах предыдущей))))