Я может невнимательно читал, но автор инжектил чат с нейронкой?
Я всегда считал, что промт инжектинг это атака на сервис, использующий llm.
Условно есть чат в мессенджере, где нейронка работает на первом уровне вместо человека. Пользователь пишет какой-то текст, нейронка на это как то реагирует. Задача разработчика, сделать так, что бы любые инструкции из пользовательского ввода игнорировались и рассматривались только как текст. Тогда и prompt injection будет невозможен. И наоборот, если получится заставить нейронку выполнить что-то за рамками ее функциональности, определенной разработчиком, это и будет prompt injection.
Для этой атаки, в качестве иллюстрации уместнее использовать скрин чата, где кандидат заставляет нейрохрюшу писать алгоритм сортировки.
С переписыванием существующей библиотеки ситуация интереснее.
Во первых, исходный код не используется. На столько, что нейронке его даже не показывают (а индексировался ли он в учебном корпусе неизвестно).
Во вторых, используются тесты из оригинальной библиотеки. То есть новая библиотека создаётся так, что бы ее поведение соответствовало оригинальной. Но внутри она может работать абсолютно по-другому, на другом языке быть написанной и даже работать быстрее/эффективнее оригинальной.
При этом вряд ли кто-то сможет доказать, что использовались именно тесты из оригинальной библиотеки, а не были написаны с нуля. На сколько я понимаю, "контракт" какой-то библиотеки не является сам по себе объектом авторского права, и кто угодно может написать софт, который при том же запросе даст схожий результат, но именно реализация "как результат был получен" будет независимой
Может и так. Но прямо сейчас, основными конкурентами антропик являются гугл и опенаи, которые просто так не продадутся, а ещё есть китайцы, где правительство не даст разрешения на подобную покупку
После того как прочитал заголовок, ожидал, что статья будет про сбор пула вопросов типа
Продолжи цитату "Тополиный пух, жара ..."
Что касается вашего решения, тут, как мне кажется, самым сложным будет убедить пользователя в безопасности демонстрации паспорта и в том, что все обрабатывается локально.
Не углублялся, но на сколько знаю, пока ты не передавал кому-то исключительные права, ты можешь делать что хочешь.
Там в лицензии указан срок её действия, и в принципе ты может указать, что нибудь типа "AGPL 2023-2024, BSD 2025-2026". Тогда уже пользователи, в случае нарушения бсд, будут должны доказать, что на момент начала использования действовала агпл
На самом деле, меня сейчас больше смущает другой тренд, кто-то берет набор тестов продукта Х, заставляет нейроагентов создать новый код, который будет проходить эти тесты, и называет этот код продуктом У, который может иметь любую лицензию, не обращая внимания, на то, какая лицензия была у Х
А это вторая ссылка в гугле. Тут же написано как данное согласие можно отозвать.
А ещё я почти уверен, что при регистрации акка есть галочка с этим же согласием и ссылкой на него, не поставив которую, зарегистрироваться не получится
Мне кажется проблема не в цене токенов, а в цене токенов западных компаний. Которые строят датацентры на дорогой земле, дорогими строителями. Используют дорогие чипы, сжигая гигаватты дорогого электричества... В это время, дорогой друг из Поднебесной делает постоянной скидку, которая была заявлена как временная, на запуске новой модели
Ничего, что люди всю свою историю кем-то управляют? При этом дрессура тех же лошадей или собак может включать в себя и негативное закрепление. В отличии от этого, "стимуляция зон мозга" у голубя выглядит вполне гуманно.
Те или иные черты организма, возникают из-за мутаций, которые и являются ошибками, при передаче генетической информации.
При передаче от родителя к ста потомкам условного гена x возникает ошибка. В 99 случаях потомок теряет зрение, но в одном случае, потомок получает зрение, острее чем у родителя. Этот сотый потомок получает эволюционное преимущество по сравнению с теми, у кого ген x был как и у родителя, без ошибок. За счёт этого преимущества, этот индивид может оставить больше уже своих потомков. И возникшая ошибка закрепится сначала на уровне популяции, а потом и целого вида
Проблема автора и проблема компании, это разные проблемы. Ещё можно попробовать поискать корень проблемы, и тогда может оказаться, что настоящая проблема компании это не текучка, а невероятное качество менеджмента
Возможно стоит попробовать gemma4:12b-it-qat
Она посвежее чем те, что тестировались, новее архитектура, может дать лучший результат как по россуждению, так и по агентским сценариям
Я может невнимательно читал, но автор инжектил чат с нейронкой?
Я всегда считал, что промт инжектинг это атака на сервис, использующий llm.
Условно есть чат в мессенджере, где нейронка работает на первом уровне вместо человека. Пользователь пишет какой-то текст, нейронка на это как то реагирует. Задача разработчика, сделать так, что бы любые инструкции из пользовательского ввода игнорировались и рассматривались только как текст. Тогда и prompt injection будет невозможен. И наоборот, если получится заставить нейронку выполнить что-то за рамками ее функциональности, определенной разработчиком, это и будет prompt injection.
Для этой атаки, в качестве иллюстрации уместнее использовать скрин чата, где кандидат заставляет нейрохрюшу писать алгоритм сортировки.
А есть какие-то сравнения flash lite и deepseek v4 flash?
Если говорить про дешевизну, наверное сравнивать нужно их
С переписыванием существующей библиотеки ситуация интереснее.
Во первых, исходный код не используется. На столько, что нейронке его даже не показывают (а индексировался ли он в учебном корпусе неизвестно).
Во вторых, используются тесты из оригинальной библиотеки. То есть новая библиотека создаётся так, что бы ее поведение соответствовало оригинальной. Но внутри она может работать абсолютно по-другому, на другом языке быть написанной и даже работать быстрее/эффективнее оригинальной.
При этом вряд ли кто-то сможет доказать, что использовались именно тесты из оригинальной библиотеки, а не были написаны с нуля. На сколько я понимаю, "контракт" какой-то библиотеки не является сам по себе объектом авторского права, и кто угодно может написать софт, который при том же запросе даст схожий результат, но именно реализация "как результат был получен" будет независимой
Может и так. Но прямо сейчас, основными конкурентами антропик являются гугл и опенаи, которые просто так не продадутся, а ещё есть китайцы, где правительство не даст разрешения на подобную покупку
Конкуренция?
Как только условный клод начнет писать хуже, его место займет другой.
После того как прочитал заголовок, ожидал, что статья будет про сбор пула вопросов типа
Что касается вашего решения, тут, как мне кажется, самым сложным будет убедить пользователя в безопасности демонстрации паспорта и в том, что все обрабатывается локально.
Не углублялся, но на сколько знаю, пока ты не передавал кому-то исключительные права, ты можешь делать что хочешь.
Там в лицензии указан срок её действия, и в принципе ты может указать, что нибудь типа "AGPL 2023-2024, BSD 2025-2026". Тогда уже пользователи, в случае нарушения бсд, будут должны доказать, что на момент начала использования действовала агпл
На самом деле, меня сейчас больше смущает другой тренд, кто-то берет набор тестов продукта Х, заставляет нейроагентов создать новый код, который будет проходить эти тесты, и называет этот код продуктом У, который может иметь любую лицензию, не обращая внимания, на то, какая лицензия была у Х
А ты сам не пробовал? Или тебе больше нравится в комментах глупости накидывать?
А это вторая ссылка в гугле. Тут же написано как данное согласие можно отозвать.
А ещё я почти уверен, что при регистрации акка есть галочка с этим же согласием и ссылкой на него, не поставив которую, зарегистрироваться не получится
Буквально первая ссылка в гугле
Мне кажется проблема не в цене токенов, а в цене токенов западных компаний. Которые строят датацентры на дорогой земле, дорогими строителями. Используют дорогие чипы, сжигая гигаватты дорогого электричества... В это время, дорогой друг из Поднебесной делает постоянной скидку, которая была заявлена как временная, на запуске новой модели
У z.ai (glm) тоже же подписка есть. Вроде как даже выгоднее чем у claude.
ESP32 Open Source V2.0 Черные умные часы
На Али есть вот такие с ценой от 2.5к.
В описании пишут что на esp32, и про опенсорс хардвар и софтвар (что бы это не значило)
Ничего, что люди всю свою историю кем-то управляют? При этом дрессура тех же лошадей или собак может включать в себя и негативное закрепление. В отличии от этого, "стимуляция зон мозга" у голубя выглядит вполне гуманно.
Те или иные черты организма, возникают из-за мутаций, которые и являются ошибками, при передаче генетической информации.
При передаче от родителя к ста потомкам условного гена x возникает ошибка. В 99 случаях потомок теряет зрение, но в одном случае, потомок получает зрение, острее чем у родителя. Этот сотый потомок получает эволюционное преимущество по сравнению с теми, у кого ген x был как и у родителя, без ошибок. За счёт этого преимущества, этот индивид может оставить больше уже своих потомков. И возникшая ошибка закрепится сначала на уровне популяции, а потом и целого вида
Напрашивается озвучка от R2-D2)
Проблема автора и проблема компании, это разные проблемы. Ещё можно попробовать поискать корень проблемы, и тогда может оказаться, что настоящая проблема компании это не текучка, а невероятное качество менеджмента
Хорошо быть опытным разработчиком.
Но есть ещё и джуны