Не люблю оправдываться, но сам, как автор на Хабре, уже переживал нападки от комментаторов, которые, как потом выяснялось, были «не в теме». Поэтому упреждающе ответил на вопрос «А ты кто такой?».
Я не уверен в успехе начинания Андрея Бреслав (это его стартап). С ним, кстати последнее время несколько видео на YouTube опубликовано, например вот это: https://www.youtube.com/watch?v=0lBmqwlkWVI Советую посмотреть.
Подозреваю, они надеются как-то научить LLM (возможно через тюнинг, возможно с помощью RAG) генерировать по спекам код и наоборот.
А Вы просто предлагаете очередной формат для спецификаций в надежде, что он лучше других подойдет для LLM. А почему? Где аргументы? Где эксперименты? Где сравнения с другими?
Я крайне редко пишу негативные комментарии. Но тут не удержусь.
Чем дальше я продвигался по статье, тем больше надеялся, что в конце автор пояснит, в чём суть шутки. А оказывается, и автор и комментаторы воспринимают это серъёзно.
Если кто-то дочитает до моего комментария, и также будет считать, что это серьезно, ответьте мне пожалуйста:
в то время как Vibe++ вариант всего 50 Мб
Даже если учесть, что наверняка львиную долю этих 50 Мб составляют файлы или кодировки изображений, разве это не маркер, что автор вас разыгрывает?
А автор и читателей не смущает, что подобного результат можно добиться, если из всего текста на Vibe++ оставить (по моим оценкам) пять предложений? Остальное можно просто выкинуть или заменить другими словами.
Рискну предположить, что и одного предложения хватит. LLM видела тысячи страниц с анимацией кубика Рубика и наверняка справится.
А что делать, если страниц надо много, и они должны взаимодействовать? Во что превратиться тогда ваше Vibe++ описание?
Если Вы, автор, написали это на полном серъёзе, то поверте мне: это тупик.
Поверьте, мне, я знаю о чем говорю. Я разрабатываю много проектов, практически не прикасаясь к коду руками. Один такой проект описан недавно мной на Хабре: https://habr.com/ru/articles/1016102/
Если вы подписаны на десятки активных каналов, активность в которых очень неровная, то обрабатывать их ручками, без интеллигентных скриптов весьма затруднительно.
Такие запросы, разумеется, ни в каком поисковике ничего полезного не выдадут, если в него не встроен ИИ (а они почти во все уже встроены). Т.е. если просто смотреть результаты собственно поиска - это список ссылок, где встречаются слова из фразы.
как LLM поняла фразу
Слово "поняла" тоже можно ставить в кавычки. Но, надеюсь, и так понятно, о чём я. Разумеется, читателям и уж тем более автору этой статьи более-менее известно, как работает LLM. Но пока без "очеловечивания" трудно использовать LLM на практике. Например, проще стремиться к тому, чтобы модель "поняла", что я от неё хочу, даже отдавая себе отчёт, что по факты мы пытаемся инициировать процесс, когда LLM сгенерирует нам нужный результат.
Категорически не согласен. Но это очень обширный вопрос.
Что такое «смыслы» я не знаю
И я не знаю. Поэтому слово и поставил в кавычки. Но какое-то похожее понятие представляется необходимым, если мы пытаемся разобраться, как LLM поняла фразу:
На каком-то этапе другой Copilot (который инкарнирован как апп от Microsoft) показывал ход своих рассуждений. Сейчас он этого больше не делает. Так вот, там было чётко видно, что в «продвинутом» режиме он на первом этапе он всё переводил на английский. Это приводило к большим проблемам при глубоком поиске по русскоязычным источникам.
Ну а вообще-то это часть магии, которая от нас большей часть скрыта.
В GitHub Copilot в режиме дебагинга можно видеть общение агентов между собой. Но что они делают на своих серверах, до конца не видно.
Базовая математика LLM относительно проста. Похоже ничего особенно другого они не применяют. Работают с токенами и «смыслами», а не с словами и буквами. И, очевидно, LLM может без проблем «напрямую» понимать запросы на очень многих языках и с использованием многих языков в одном запросе.
Мой опыт показывает, что ситуация меняется со временем и для разных моделей разная. Я пару раз натолкнулся на большие проблемы из-за неоднозначности перевода. Поэтому решил стараться общаться с моделями только на английском.
Статьи уважаемого автора @OlegSivchenkoмне очень нравятся. Дело не в содержании (которое иногда спорное, а бывает - местами и не очень верное), а в тех мыслях, которые эти статьи порождают у меня и, как я очень часто констатирую - у других комментаторов этих статей. Эта статья - не исключение. Можно ли определить понятие "здравого смысла" у людей? Особенно, если предположить, что наличие оного проявляется через поступки и принятые решения и, кроме того, является очевидным необходимым условием для того, чтобы человеку можно было поручить ответственное дело. И если бы мы научились измерять "здравосмысловость" отдельных людей, то очевидно, что самые ответственные посты и задания надо было бы поручать людям с самыми высокими показателями "здравосмысленности". Но тупых начальников и антинародных правителей в нашем мире пруд пруди. Не действуют механизмы отбора по "здравосмыслению" или само понятие "здравого смысла" бессмысленно? Рискну высказать гипотезу, что верны оба утверждения.
То что со здравым смыслом что-то не так, уже десятилетия успешно доказывают своими многочисленными сценками "Уральские пельмени". В них в обычных условиях сталкиваются персонажи со своими моделями мира и правилами поведения. Их внутренние "здравые смыслы" противоречат друг-другу. Что и приводит к комическому результату. Понятие "здравого смысла", на мой взгляд, на бытовом уровне включает в себя, как минимум, две слабо зависящие друг от друга составляющие: рациональное поведение и умение находить творческие (сейчас говорят - креативные) решения. С точки зрения онтологии слабая взаимосвязь составляющих компонент даёт подозрение на искусственность термина. Появление ИИ вызвало необходимость для людей заново подумать над многими устоявшимися терминами. Похоже, что "здравый смысл" - из их числа. Так что - спасибо автору за статью!
На мой взгляд, эта статья замечательна не столько своим содержанием, сколько размышлениями, которые она «индуцирует» у читателя.
Я думаю, что со временем наука придумает или подберёт подходящий термин для описываемого феномена, поскольку «размерность» здесь используется скорее как метафора, а не как строгое понятие.
Очевидно, что классическая «физическая размерность» и миллиарды параметров нейросетей - вещи очень разные.
Спасибо за интересную статью, заставляющую задуматься!
Не люблю оправдываться, но сам, как автор на Хабре, уже переживал нападки от комментаторов, которые, как потом выяснялось, были «не в теме». Поэтому упреждающе ответил на вопрос «А ты кто такой?».
Я не уверен в успехе начинания Андрея Бреслав (это его стартап). С ним, кстати последнее время несколько видео на YouTube опубликовано, например вот это: https://www.youtube.com/watch?v=0lBmqwlkWVI Советую посмотреть.
Подозреваю, они надеются как-то научить LLM (возможно через тюнинг, возможно с помощью RAG) генерировать по спекам код и наоборот.
А Вы просто предлагаете очередной формат для спецификаций в надежде, что он лучше других подойдет для LLM. А почему? Где аргументы? Где эксперименты? Где сравнения с другими?
В общем, погорячились Вы с таким сравнением.
Я крайне редко пишу негативные комментарии. Но тут не удержусь.
Чем дальше я продвигался по статье, тем больше надеялся, что в конце автор пояснит, в чём суть шутки. А оказывается, и автор и комментаторы воспринимают это серъёзно.
Если кто-то дочитает до моего комментария, и также будет считать, что это серьезно, ответьте мне пожалуйста:
Даже если учесть, что наверняка львиную долю этих 50 Мб составляют файлы или кодировки изображений, разве это не маркер, что автор вас разыгрывает?
А автор и читателей не смущает, что подобного результат можно добиться, если из всего текста на Vibe++ оставить (по моим оценкам) пять предложений? Остальное можно просто выкинуть или заменить другими словами.
Рискну предположить, что и одного предложения хватит. LLM видела тысячи страниц с анимацией кубика Рубика и наверняка справится.
А что делать, если страниц надо много, и они должны взаимодействовать? Во что превратиться тогда ваше Vibe++ описание?
Если Вы, автор, написали это на полном серъёзе, то поверте мне: это тупик.
Посмотрите, что делают другие, например, вот сюда: https://codespeak.dev/
Поверьте, мне, я знаю о чем говорю. Я разрабатываю много проектов, практически не прикасаясь к коду руками. Один такой проект описан недавно мной на Хабре: https://habr.com/ru/articles/1016102/
Как я уже объяснил, это шутка.
Это в планы не входит. Но можно добавлять, исправлять и удалять отдельные сообщения.
На этот вопрос я ответил выше.
Разумеется, если кому-то инструмент не нужен, он может его не использовать.
Но статистика скачиваний показывает, что он людям интересен. И не только людям русскоговорящим.
Вы правы. Заменил "Спасать" на "сохранить".
Например, надеяться, что кто-то напишет синхронизатор между Телеграмом и ВКонтакте, используя описанный в этой статье проект.
Голосуйте за этот вариант.
Этот инструмент многоцелевой. Целей много, а заголовок должен быть один. Или вы придираетесь?😉
Если вы подписаны на десятки активных каналов, активность в которых очень неровная, то обрабатывать их ручками, без интеллигентных скриптов весьма затруднительно.
Например, чтобы обрабатывать историю локально.
Такие запросы, разумеется, ни в каком поисковике ничего полезного не выдадут, если в него не встроен ИИ (а они почти во все уже встроены). Т.е. если просто смотреть результаты собственно поиска - это список ссылок, где встречаются слова из фразы.
Слово "поняла" тоже можно ставить в кавычки. Но, надеюсь, и так понятно, о чём я. Разумеется, читателям и уж тем более автору этой статьи более-менее известно, как работает LLM.
Но пока без "очеловечивания" трудно использовать LLM на практике.
Например, проще стремиться к тому, чтобы модель "поняла", что я от неё хочу, даже отдавая себе отчёт, что по факты мы пытаемся инициировать процесс, когда LLM сгенерирует нам нужный результат.
Категорически не согласен. Но это очень обширный вопрос.
И я не знаю. Поэтому слово и поставил в кавычки. Но какое-то похожее понятие представляется необходимым, если мы пытаемся разобраться, как LLM поняла фразу:
Реализуй interseptor …
Да еще и с опечатками на обоих языках.
Польщён. Спасибо. 😌
На каком-то этапе другой Copilot (который инкарнирован как апп от Microsoft) показывал ход своих рассуждений. Сейчас он этого больше не делает. Так вот, там было чётко видно, что в «продвинутом» режиме он на первом этапе он всё переводил на английский. Это приводило к большим проблемам при глубоком поиске по русскоязычным источникам.
Ну а вообще-то это часть магии, которая от нас большей часть скрыта.
В GitHub Copilot в режиме дебагинга можно видеть общение агентов между собой. Но что они делают на своих серверах, до конца не видно.
Базовая математика LLM относительно проста. Похоже ничего особенно другого они не применяют. Работают с токенами и «смыслами», а не с словами и буквами. И, очевидно, LLM может без проблем «напрямую» понимать запросы на очень многих языках и с использованием многих языков в одном запросе.
Из простой математики получается магия…
Мой опыт показывает, что ситуация меняется со временем и для разных моделей разная. Я пару раз натолкнулся на большие проблемы из-за неоднозначности перевода. Поэтому решил стараться общаться с моделями только на английском.
Минутка размышлений и история вызывает большие сомнения, если вы занимались электронной торговлей.
Статьи уважаемого автора @OlegSivchenkoмне очень нравятся.
Дело не в содержании (которое иногда спорное, а бывает - местами и не очень верное), а в тех мыслях, которые эти статьи порождают у меня и, как я очень часто констатирую - у других комментаторов этих статей.
Эта статья - не исключение.
Можно ли определить понятие "здравого смысла" у людей? Особенно, если предположить, что наличие оного проявляется через поступки и принятые решения и, кроме того, является очевидным необходимым условием для того, чтобы человеку можно было поручить ответственное дело.
И если бы мы научились измерять "здравосмысловость" отдельных людей, то очевидно, что самые ответственные посты и задания надо было бы поручать людям с самыми высокими показателями "здравосмысленности".
Но тупых начальников и антинародных правителей в нашем мире пруд пруди.
Не действуют механизмы отбора по "здравосмыслению" или само понятие "здравого смысла" бессмысленно?
Рискну высказать гипотезу, что верны оба утверждения.
То что со здравым смыслом что-то не так, уже десятилетия успешно доказывают своими многочисленными сценками "Уральские пельмени". В них в обычных условиях сталкиваются персонажи со своими моделями мира и правилами поведения. Их внутренние "здравые смыслы" противоречат друг-другу. Что и приводит к комическому результату.
Понятие "здравого смысла", на мой взгляд, на бытовом уровне включает в себя, как минимум, две слабо зависящие друг от друга составляющие: рациональное поведение и умение находить творческие (сейчас говорят - креативные) решения.
С точки зрения онтологии слабая взаимосвязь составляющих компонент даёт подозрение на искусственность термина.
Появление ИИ вызвало необходимость для людей заново подумать над многими устоявшимися терминами.
Похоже, что "здравый смысл" - из их числа.
Так что - спасибо автору за статью!
Пожелаем успехов в новом начинании!
На мой взгляд, эта статья замечательна не столько своим содержанием, сколько размышлениями, которые она «индуцирует» у читателя.
Я думаю, что со временем наука придумает или подберёт подходящий термин для описываемого феномена, поскольку «размерность» здесь используется скорее как метафора, а не как строгое понятие.
Очевидно, что классическая «физическая размерность» и миллиарды параметров нейросетей - вещи очень разные.
Спасибо за интересную статью, заставляющую задуматься!