Какая удивительная и, главное, правдоподобная история) вообще неожиданно конечно, что для кодерства нужен кодер, а не человек с улицы. ИИ это всего лишь инструмент
Я не понимаю для какой цели писать простыни текста, в которых вы разговариваете сами с собой на темы, которые в статье даже не поднимались) пока что не увидела в ваших комментариях ни одного тезиса про то, какие в статье допущены ошибки, так что не вижу смысла подробно отвечать, извините)
А можно узнать в чем ошибка то?) А то возникло впечатление, что саму статью перед написанием комментария вы не читали.
Один из самых эффективных способов борьбы с галлюцинациями предоставить LLM доступ к реальным фактам во время выполнения задачи. Именно это и делает RAG. Идея проста, прежде чем модель ответит на вопрос или выполнит задачу, мы извлекаем релевантную информацию из внешнего источника знаний (например, из базы данных, документации или интернета) и передаем ее модели как дополнительный контекст.
Обычно pipeline RAG использует что-то вроде векторной базы данных или поискового API для нахождения документов, связанных с запросом пользователя. Например, если пользователь спрашивает о политике компании, система может извлечь соответствующий раздел документа политики компании. Извлеченный текст затем добавляется к запросу, и модель запрашивает генерирование ответа с учетом этого контекста.
Хотелось бы также добавить, что RAG не "работает" ни перед, ни после LLM, поскольку он вообще не работает в принципе - это метод оптимизации, идея которого заключается в дополнении промпта. Вы просто пересказали эту идею (которая также была и в статье) своими словами, чтобы... Чтобы что? Не понимаю.)
Причем здесь поиск в интернете? Полагаю вас интересует почему в статье упомянут интернет в качестве внешнего источника данных для RAG - рекомендую ознакомиться с таким понятием, как гибридные RAG.
Следующий пункт. Статья не устарела. Статья дает фундаментальное, базовое понимание. Это все равно что сказать, что статьи про TCP/IP устарели, потому что сейчас есть Kubernetes.
Двигаемся дальше. Утверждать, что качественные промпты такие же, как не качественные = глупость. Чем более четкий промпт, тем более четкий ответ. Вопрос в другом, а вы не видите разницу? В формулировке "ты эксперт который никогда не врёт и всегда проверяет факты" и
Вы — полезный помощник, который всегда подкрепляет утверждения доказательствами и никогда не выдумывает информацию. Если вы чего-то не знаете, вы ясно говорите, что не знаете
Разобьем промпт на части:
Вы — полезный помощник: если это системный промпт, который используется в настройке чата для клиентов, он задает роль, чтобы на вопрос "кто ты?", помощник корректно отвечал.
который всегда подкрепляет утверждения доказательствами: настройка для того, чтобы каждое приведенное утверждение содержало ссылку на доказательство, из которого было взято
никогда не выдумывает информацию: какое-то количество галлюцинаций данная формулировка снижает
Если вы чего-то не знаете, вы ясно говорите, что не знаете: очевидно, также снижает количество галлюцинаций, поскольку это явная задача
Ни один промпт не может гарантировать отсутствие галлюцинаций, но правильный промпт может быть полезным.
LLM лучше следует ограничениям, когда они конкретные, операционализируемые и не противоречат друг другу.
Не то чтобы я хотела спорить, но вы сами взяли цитату из статьи, сказали, что "нет, не так" и начали объяснять почему не так на примере классического rag, хотя в статье вообще не было раздела с его классификацией и рассматривали идею в целом)) так что вполне логично, если мы говорим про идею, то то, что справедливо для классического, то не справедливо для гибридного. Довольно странно, не находите?
Ну вы же просто пересказали чуть подробнее, но то же самое) и мне кажется вы путаете источник данных со способом поиска. О гибридном/не гибридном RAG в статье речи не было, зато здесь хочется передать основную идею RAG - использование извлеченной информации как контекста
Так они предсказывают следующий токен на основе предыдущих токенов, а при обучении учатся статистическим зависямостям между токенами. В чем статья этому противоречит?
Только в случае если это единственный или основной метод защиты информации во-первых и во-вторых, в случае с ограничениями, цель не обеспечить неуязвимость методам обхода, а отсрочить их блокировку. Массовое раскрытие почти всегда ведёт к быстрому обнаружению и блокированию.
Обожаю хабр за обоснованность его минусов. Как будто ВВ в попу публично расцеловала.
Поясню за комментарий. Не считаю Хабр местом, где необходимо выкладывать инструкции для обхода ограничений. Чем популярнее и доступнее ресурс, а Хабр уже давно набрал обширную аудиторию, тем сложнее обходить блокировки и сильнее ужесточения.
Старая поговорка про инвестиции, когда акциями заинтересовался сапожник, пора их продавать. Так вот мне кажется, чем быстрее большое количество людей, сидящих у телека, узнает про возможность обхода блокировок, тем быстрее мы окажемся в интранете.
Я вот не хочу жить в эпоху Чебурнета. Я не права? Объясните почему.
Давайте теперь популяризировать эту тему, чтобы у людей вообще не осталось возможности обходить ограничения благодаря тому, что подобные сборщики плюсов на каждом углу кричат про впн и агрят РКН.
Я не думаю, что ваша статья про свободу. Если бы она была про свободу, она была бы выложена на другом ресурсе.
Испытательный срок для вас шутка какая-то? Ревью кода тоже шутка?
Вы нанимаете человека для решения конкретных задач. Если он решает эти задачи, отвалите от него. И научитесь нормально собесы проводить, а то многие взяли моду с листочка читать, когда сами в теме не шарят и даже уточняющих вопросов дать не могут, которые реальный опыт проверят.
Спасибо за внимательное чтение, но склонна с вами не согласиться.
Статья вводная и упрощенная, она ориентирована на людей, которые только начинают. Упрощения здесь допущены сознательно (да и уровень сложности, как вы видите, указан простой). Статья, может, и поверхностная, но человек с околонулевым опытом, по крайней мере не сойдёт с ума, при знакомстве с новыми терминами и сможет уже дальше копать в более техническую сторону.
Мои слова о том, что разница только в том, как доставляются события, подразумевают разницу в прикладном уровне использования апи. Здесь речь об архитектурных различиях не идёт.
На счёт дешевизны вебхуков - это также вопрос формулировки. Вебхуки снижают сетевую нагрузку. Если мы уже говорим про инфраструктуру с тысячами пользователей, там уже да, действительно другие факторы добавляются, но это не тот кейс.
Программа готова тогда, когда она удовлетворяет требования бизнеса. Не существует ПО, в котором нет багов
А что на счёт платежей за тг премиум, которые могут признать финансированием терроризма?
А разве это человеку не на онбординге рассказать должны?
Какая удивительная и, главное, правдоподобная история) вообще неожиданно конечно, что для кодерства нужен кодер, а не человек с улицы. ИИ это всего лишь инструмент
Я не понимаю для какой цели писать простыни текста, в которых вы разговариваете сами с собой на темы, которые в статье даже не поднимались) пока что не увидела в ваших комментариях ни одного тезиса про то, какие в статье допущены ошибки, так что не вижу смысла подробно отвечать, извините)
А можно узнать в чем ошибка то?) А то возникло впечатление, что саму статью перед написанием комментария вы не читали.
Хотелось бы также добавить, что RAG не "работает" ни перед, ни после LLM, поскольку он вообще не работает в принципе - это метод оптимизации, идея которого заключается в дополнении промпта. Вы просто пересказали эту идею (которая также была и в статье) своими словами, чтобы... Чтобы что? Не понимаю.)
Причем здесь поиск в интернете? Полагаю вас интересует почему в статье упомянут интернет в качестве внешнего источника данных для RAG - рекомендую ознакомиться с таким понятием, как гибридные RAG.
Следующий пункт. Статья не устарела. Статья дает фундаментальное, базовое понимание. Это все равно что сказать, что статьи про TCP/IP устарели, потому что сейчас есть Kubernetes.
Двигаемся дальше. Утверждать, что качественные промпты такие же, как не качественные = глупость. Чем более четкий промпт, тем более четкий ответ. Вопрос в другом, а вы не видите разницу? В формулировке "ты эксперт который никогда не врёт и всегда проверяет факты" и
Разобьем промпт на части:
Вы — полезный помощник: если это системный промпт, который используется в настройке чата для клиентов, он задает роль, чтобы на вопрос "кто ты?", помощник корректно отвечал.
который всегда подкрепляет утверждения доказательствами: настройка для того, чтобы каждое приведенное утверждение содержало ссылку на доказательство, из которого было взято
никогда не выдумывает информацию: какое-то количество галлюцинаций данная формулировка снижает
Если вы чего-то не знаете, вы ясно говорите, что не знаете: очевидно, также снижает количество галлюцинаций, поскольку это явная задача
Ни один промпт не может гарантировать отсутствие галлюцинаций, но правильный промпт может быть полезным.
LLM лучше следует ограничениям, когда они конкретные, операционализируемые и не противоречат друг другу.
Не то чтобы я хотела спорить, но вы сами взяли цитату из статьи, сказали, что "нет, не так" и начали объяснять почему не так на примере классического rag, хотя в статье вообще не было раздела с его классификацией и рассматривали идею в целом)) так что вполне логично, если мы говорим про идею, то то, что справедливо для классического, то не справедливо для гибридного. Довольно странно, не находите?
Если сильная команда не даёт результата, посмотрите на руководителя этой команды
А если мы будем говорить о гибридных RAG? А если найденную информацию мы хотим переиспользовать в будущем?
Ну вы же просто пересказали чуть подробнее, но то же самое) и мне кажется вы путаете источник данных со способом поиска. О гибридном/не гибридном RAG в статье речи не было, зато здесь хочется передать основную идею RAG - использование извлеченной информации как контекста
Так они предсказывают следующий токен на основе предыдущих токенов, а при обучении учатся статистическим зависямостям между токенами. В чем статья этому противоречит?
Только в случае если это единственный или основной метод защиты информации во-первых и во-вторых, в случае с ограничениями, цель не обеспечить неуязвимость методам обхода, а отсрочить их блокировку. Массовое раскрытие почти всегда ведёт к быстрому обнаружению и блокированию.
Обожаю хабр за обоснованность его минусов. Как будто ВВ в попу публично расцеловала.
Поясню за комментарий. Не считаю Хабр местом, где необходимо выкладывать инструкции для обхода ограничений. Чем популярнее и доступнее ресурс, а Хабр уже давно набрал обширную аудиторию, тем сложнее обходить блокировки и сильнее ужесточения.
Старая поговорка про инвестиции, когда акциями заинтересовался сапожник, пора их продавать. Так вот мне кажется, чем быстрее большое количество людей, сидящих у телека, узнает про возможность обхода блокировок, тем быстрее мы окажемся в интранете.
Я вот не хочу жить в эпоху Чебурнета. Я не права? Объясните почему.
Давайте теперь популяризировать эту тему, чтобы у людей вообще не осталось возможности обходить ограничения благодаря тому, что подобные сборщики плюсов на каждом углу кричат про впн и агрят РКН.
Я не думаю, что ваша статья про свободу. Если бы она была про свободу, она была бы выложена на другом ресурсе.
А у нас что, уже разрешили статьи про впн писать?
Испытательный срок для вас шутка какая-то? Ревью кода тоже шутка?
Вы нанимаете человека для решения конкретных задач. Если он решает эти задачи, отвалите от него. И научитесь нормально собесы проводить, а то многие взяли моду с листочка читать, когда сами в теме не шарят и даже уточняющих вопросов дать не могут, которые реальный опыт проверят.
Я не знаю кто вообще в здравом уме полезет делать бизнес из тг канала)
да, кстати, вы, кажется, прочли статью невнимательно, поскольку в ней есть диаграммы как для шорт, так и для лонг поллинга) ну либо вы их перепутали
Спасибо за внимательное чтение, но склонна с вами не согласиться.
Статья вводная и упрощенная, она ориентирована на людей, которые только начинают. Упрощения здесь допущены сознательно (да и уровень сложности, как вы видите, указан простой). Статья, может, и поверхностная, но человек с околонулевым опытом, по крайней мере не сойдёт с ума, при знакомстве с новыми терминами и сможет уже дальше копать в более техническую сторону.
Мои слова о том, что разница только в том, как доставляются события, подразумевают разницу в прикладном уровне использования апи. Здесь речь об архитектурных различиях не идёт.
На счёт дешевизны вебхуков - это также вопрос формулировки. Вебхуки снижают сетевую нагрузку. Если мы уже говорим про инфраструктуру с тысячами пользователей, там уже да, действительно другие факторы добавляются, но это не тот кейс.
динамический анализ это один из методов реверс инжиниринга и поскольку статья вводная и "для самых маленьких", то это вполне корректно)