Тут такое дело что любой другой антивирус стал компромиссом. Между безопасностью и возможностью устанавливать неподписанные экзешники и прочую фигню. Ведь мы же говорим о кряках итд. И совсем без защиты оставаться нельзя. Так как тебя в любой момент майнером или бэкдором или трояном накрасить попробуют. Конечно же есть другие варианты.
Ставишь Касперского, и эта бабуйня от тебя отстаёт. Если и он ругается на кряки. В режим тишины на 10-15 минут потом исключения настраивается. Щас без этого не одну бабуйню не установить.
Две 5060ti 16gb крутит проект по квантованию в районе 3-5к строк кода с мат частью и обёрткой её в код работает гораздо лучше чем 3.6. Агент так же квиновский. Что заметил в отличии от 3.6 делает сама заметки по проекту. Расставляя акценты. Так же если ей дать невнятное тз которое противоречит изначальной идеии будет дефать артефакт(фокус) парадигму. Думать стала больше. Что несколько замедляет работу. Однако её автономность это компинсирует. Появилась уверенность что на тестовом запуске не будит сдесяток ошибок. В целом куда лучше держит структуру проэкта что облегчает разработку. В целом прогресс на лицо.
Простите но я сделаю предположение что в данном случае идет либо осознанное либо не осознаоне искажение задачи. Автор обучает модель на 100к парамтерах запоминать фон. И подменяет задчу semantic object detection на low-level pixel difference detection. На эти мысли меня наводит размер модели. Размер обучающей выборки. И в целом при таком подходе вполне реально получить результаты о которых говорит автор. И в целом для это узкого набора задач вполне не плохое решение.......А остальное вполне может быть просто маркетинг............ В прочем что то доказывать и кого то в чем то уверять не стану.
Меня вот что смущает. Авторы уже 2 раз пишут о том что они создали вандервафлю с 100 тысячами параметров вместо миллионов. Но я задам один простой вопрос. А обобщающая способность у модели вообще присутствует? Или вы просто переобучили крошечную модель на конкретных патернах и обобщение у неё около 0. И любой пример отличающийся от шаблона идет лесом?
Это вопрос не на математику, а на рекурсивную вложеность и правильное разложение. Любая ллм которая не видила такую задачу в обучающей выборки некогда не сможет её решить. Ибо это их слабое звено. Одако я, допускаю что в ближайшем будущем не на трансформерах появятся полноценные слои которые смогут качественно подобные кейсы разбирать. А пока просто берём слово "интерпритации" или похожие и просим посчитать буквы "и" в слове. И наслаждаемся своим приемуществом.
Эта статья вынудила меня зарегистрироваться. Я не понимаю, почему вы вступаете в дискуссию с автором. Он подменяет понятия на каждом шагу: называет LLM искусственным интеллектом, а нейросетями — только LLM, полностью игнорируя все остальные архитектуры: RNN, CNN и другие. Тем самым он формирует у читателя обывательское представление, будто LLM и есть весь ИИ.
Простите, но давайте начистоту. Если бы вы серьёзно занимались изучением хотя бы LLM, то удосужились бы ознакомиться с Long Range Arena и принципами работы трансформера и не делали бы поспешных выводов. В LRA достаточно эмпирически ясно показаны как сильные, так и слабые стороны трансформеров. В частности, бенчмарк выявил, что стандартные трансформеры плохо справляются даже с относительно простыми задачами на длинных последовательностях, а архитектуры вроде State Space Models (SSM) значительно их превосходят. Эти результаты были подтверждены и в более поздних исследованиях (см., например, работу «On the Long Range Abilities of Transformers», 2023).
Однако вы этот факт игнорируете и не пытаетесь ни показать существующие решения, ни хотя бы указать на уже известные проблемы. Если называть вещи своими именами — это неглубокая аналитика, которая скорее вредит индустрии, чем помогает.
Также необходимо упомянуть проблемы с рекуррентными связями в LLM. Сейчас они решаются лишь внешними системами и инженерными трюками, что лишний раз указывает на фундаментальные ограничения архитектуры, которые автор старательно обходит стороной. Называя тупиком.......
Тут такое дело что любой другой антивирус стал компромиссом. Между безопасностью и возможностью устанавливать неподписанные экзешники и прочую фигню. Ведь мы же говорим о кряках итд. И совсем без защиты оставаться нельзя. Так как тебя в любой момент майнером или бэкдором или трояном накрасить попробуют. Конечно же есть другие варианты.
Ставишь Касперского, и эта бабуйня от тебя отстаёт. Если и он ругается на кряки. В режим тишины на 10-15 минут потом исключения настраивается. Щас без этого не одну бабуйню не установить.
Смотря на такое интересно только одно. Дробовик его быстро уложит?
Две 5060ti 16gb крутит проект по квантованию в районе 3-5к строк кода с мат частью и обёрткой её в код работает гораздо лучше чем 3.6. Агент так же квиновский. Что заметил в отличии от 3.6 делает сама заметки по проекту. Расставляя акценты. Так же если ей дать невнятное тз которое противоречит изначальной идеии будет дефать артефакт(фокус) парадигму. Думать стала больше. Что несколько замедляет работу. Однако её автономность это компинсирует. Появилась уверенность что на тестовом запуске не будит сдесяток ошибок. В целом куда лучше держит структуру проэкта что облегчает разработку. В целом прогресс на лицо.
Спасибо за статью. А что мешает onnx оптимизацию сделать? Я благодаря ей нейронки в мобильные приложения запихиваю.....
Простите но я сделаю предположение что в данном случае идет либо осознанное либо не осознаоне искажение задачи. Автор обучает модель на 100к парамтерах запоминать фон. И подменяет задчу semantic object detection на low-level pixel difference detection. На эти мысли меня наводит размер модели. Размер обучающей выборки. И в целом при таком подходе вполне реально получить результаты о которых говорит автор. И в целом для это узкого набора задач вполне не плохое решение.......А остальное вполне может быть просто маркетинг............ В прочем что то доказывать и кого то в чем то уверять не стану.
Меня вот что смущает. Авторы уже 2 раз пишут о том что они создали вандервафлю с 100 тысячами параметров вместо миллионов. Но я задам один простой вопрос. А обобщающая способность у модели вообще присутствует? Или вы просто переобучили крошечную модель на конкретных патернах и обобщение у неё около 0. И любой пример отличающийся от шаблона идет лесом?
Это вопрос не на математику, а на рекурсивную вложеность и правильное разложение. Любая ллм которая не видила такую задачу в обучающей выборки некогда не сможет её решить. Ибо это их слабое звено. Одако я, допускаю что в ближайшем будущем не на трансформерах появятся полноценные слои которые смогут качественно подобные кейсы разбирать. А пока просто берём слово "интерпритации" или похожие и просим посчитать буквы "и" в слове. И наслаждаемся своим приемуществом.
Эта статья вынудила меня зарегистрироваться. Я не понимаю, почему вы вступаете в дискуссию с автором. Он подменяет понятия на каждом шагу: называет LLM искусственным интеллектом, а нейросетями — только LLM, полностью игнорируя все остальные архитектуры: RNN, CNN и другие. Тем самым он формирует у читателя обывательское представление, будто LLM и есть весь ИИ.
Простите, но давайте начистоту. Если бы вы серьёзно занимались изучением хотя бы LLM, то удосужились бы ознакомиться с Long Range Arena и принципами работы трансформера и не делали бы поспешных выводов. В LRA достаточно эмпирически ясно показаны как сильные, так и слабые стороны трансформеров. В частности, бенчмарк выявил, что стандартные трансформеры плохо справляются даже с относительно простыми задачами на длинных последовательностях, а архитектуры вроде State Space Models (SSM) значительно их превосходят. Эти результаты были подтверждены и в более поздних исследованиях (см., например, работу «On the Long Range Abilities of Transformers», 2023).
Однако вы этот факт игнорируете и не пытаетесь ни показать существующие решения, ни хотя бы указать на уже известные проблемы. Если называть вещи своими именами — это неглубокая аналитика, которая скорее вредит индустрии, чем помогает.
Также необходимо упомянуть проблемы с рекуррентными связями в LLM. Сейчас они решаются лишь внешними системами и инженерными трюками, что лишний раз указывает на фундаментальные ограничения архитектуры, которые автор старательно обходит стороной. Называя тупиком.......