По моему опыту обе модели применяются достаточно часто. Сомневаюсь, что push выпилят, настолько много "неправильного" народу его использует. Так что ИМХО лучше использовать тот подход, который удобнее.
TLDR: облачный провайдер сам подставляет ваш реальный IP, при доступе к российским серверам.
В данном случае не по злому умыслу, а по причине экономии трафика и более адекватной работы с российскими сервисами, где зарубежные IP бывают забанены. Но это лишний раз доказывает, что все сторонние провайдеры не дают никаких гарантий анонимности. И их удел - использование их канала как способа проброса до своего VPS, откуда трафик будет идти уже наружу. Потому что надо признать, коммерческие решения часто хуже режутся ТСПУ.
Скорее всего профессионализм человека, который будет это делать. Он же помешает ему понять какие вещи нужно фиксить, а какие - нет. Он же помешает их пофиксить. Он же помешает понять, что фиксы от нейронки могут сломать логику в другом месте.
Пока проект только в начале, прошу - рассмотрите возможность простого добавления индивидуального шифрования. Буквально хуки уровня:
void before_stream_write_user_hook(byte *inbuf, int inbuf_len, byte outbuf, int outbuf_len);
void before_stream_read_user_hook(byte inbuf, int inbuf_len, byte outbuf, int *outbuf_len);
А в хуке можно хоть шифровать поверх, хоть вставлять задержку в n микросекунд, хоть вставлять мусорные данные. Короче, чтобы с самого начала была заложена возможность быстрой смены сигнатур протокола.
Гугл говорит, что цена такого - больше миллиона долларов. А как обстоят дела по всему миру в институтах, где бюджеты не резиновые? Там же наверняка еще живы секвенсоры, которым 10-20 лет. И насколько тяжело и медленно работают они?
>Если вы думаете, что усредненный художник постоянно придумывает какие-то радикально новые стили искусства - то глубоко ошибаетесь.
Однако же усредненный художник выбирает количество пальцев у рисуемого им субъекта отнюдь не стохастически. И если, в случае художника, перерисовать неудачный результат можно, то в случае адвоката все не так просто. И цена ошибки может быть очень большой.
И говоря об адвокатуре, я бы вообще начал с того, что каждый человек слышит то что хочет слышать. И если кожаный адвокат задаст какие-то наводящие отрезвляющие вопросы, то ЛЛМ-ка, только раззадорит некомпетентного человека, свято уверенного в своей правоте.
Так если такую тему поднять, можно увидеть на лице HR омерзение и дальше не пройти. Потому что нужны опытные люди с психотипом восторженного вкатуна. Но сочетание этих двух качеств в одном человеке может говорить либо о небучаемости и неумении делать выводы из пережитого опыта, либо о шизофрении.
но разраб с агентом сегодня может легко работать в 4-5 раз быстрее, выдавая код лучшего качества, чем без агентов.
Не может. Вернее может, но очень короткий промежуток времени. Потому что все будет упираться в когнитивную способность пропускать через себя эти потоки кода. Даже не ревью кода написанного людьми приходится тратить кучу сил. И любителей этим заниматься этим нет. Ну кроме тех, кто любит тыкать в чужие ошибки и набивать себе значимость. Но я думаю, такие не будут получать удовольствия от козления нейронки.
Короче говоря, то как я вижу ближайшее будущее кодописательства - обезумевшие менеджеры будут выжимать программистов досуха и нанимать следующих. Цикл при этом будет полгода-год. Когнитивная нагрузка будет огромной, зарплаты будут падать, из профессии будут уходить все. Те, кто пришли за деньгами и те, кому нравилось писать код. Мифические "программисты, которым нравится решать задачи" будут существовать только в мечтах бизнеса. Потому что если задачу может решить нейронка, значит задача уже решенная, в ней нет новизны и интереса.
Так, что те, кто любит козырнуть, что он дескать не луддит, а передовой разработчик, либо троллят либо очень наивны. Вы просто будете теперь делать за смену не 1 отчет а 4-5 отчетов. Платить вам будут столько же. А потом когда активная фаза разработки закончится, вас, выгоревшего, просто выкинут, потому что такой штат не нужен.
Так что первым в этой гонке на истощение сдохнет не бизнес, у которого запас прочности больше, а разработчики. И ничего прогрессивного в этом не будет. Обычная потогонка.
Так вот именно, что для определенных проектов. Если вы точно знаете что будете пускать и знаете что оно заработает - это отличный выбор. Мое предостережение скорее для людей, которые хотят вкатиться в мир нейронок, попробовать не только чатовые LLM, но и генерацию музыки, видео, изображений и т.п. Последним я сильно не рекомендую брать v100, p40 и прочие списанные карты, которые сейчас подешевели.
Подумайте дважды перед тем как брать эти "халявные" видеокарты. Сейчас у сборок pytorch минимальная версия CUDA - 12.6 . И то, даже под 12.6 уже не все модели можно запустить - ace step например не запускается.
Короче с каждым днем все больше шансов на то, что модель или интерфейс к модели не заработает на этих картах 2018 и древнее. Поэтому если вы не готовы сутками сидеть и перебирать версии драйверов, куды, моделей, а потом компилировать все вручную - подумайте дважды, может стоит подкопить и взять что-то с поддержкой CUDA поновее.
Риск спама есть, если вы настроили сервер как открытый relay. Тогда спамеры смогут через ваш почтовый сервер отправлять письма. Но также есть риск, что письма от вас будут попадать в спам у получателей. Третий риск - это спам вам, о котором написали выше.
TLDR: вместо проброса всех соединений через балансировщик, яндекс сделал так, чтобы клиент стучался к брокеру, а тот говорил с каким сервером клиент должен общаться напрямую. Таким образом на брокер, заменяющий классический балансировщик, приходились только легкие запросы связанные с выбором сервера, а сами данные через брокер не гоняются.
У кого-то есть опыт портирования этой ОСи на дешевые китайские смартфоны на распространенных SoC? Ну например какой-то Jiayu или Dexp/DNS 10-летней давности, для которых максимум есть рут и известен SoC. Короче на все то, где 4, максимум 5 андройд, 512-1024 рамы, и что стоит на авито рублей 500. Бог с ней с камерой и модемом, хотя бы до уровня что оно видится по ssh и может запускать apache.
Ключевыми заклинаниями становятся вопросы: "всё ли мы правильно делаем?", "соответствует ли наш код общепринятым практикам?", "какие ожидаются проблемы?", "где код может сломаться?", "корректно ли мы обрабатываем ошибки?". И прочие метавопросы.
И на все эти метавопросы вам будет выдана куча ответов некоторые из которых:
устаревшие, но вы в виду отсутствия экспертизы этого не поймете
несущественные, но вы в виду отсутствия экспертизы этого не поймете
сгаллюцинированные, но вы в виду отсутствия экспертизы этого не поймете
не относящиеся к задаче, но вы в виду отсутствия экспертизы этого не поймете
Если, по примеру примера из статьи, у вас будет опыт с Vue/Angular и вы что-то слышали про React, то вы заподозрите, что все эти фреймворки должны иметь роутер. Если нет, то вы в лучшем случае закончите с routerjs вместо react router, а в худшем - вообще без него.
Какое низкое пердольство полуживого забавлять.
По моему опыту обе модели применяются достаточно часто. Сомневаюсь, что push выпилят, настолько много "неправильного" народу его использует. Так что ИМХО лучше использовать тот подход, который удобнее.
TLDR: облачный провайдер сам подставляет ваш реальный IP, при доступе к российским серверам.
В данном случае не по злому умыслу, а по причине экономии трафика и более адекватной работы с российскими сервисами, где зарубежные IP бывают забанены. Но это лишний раз доказывает, что все сторонние провайдеры не дают никаких гарантий анонимности. И их удел - использование их канала как способа проброса до своего VPS, откуда трафик будет идти уже наружу. Потому что надо признать, коммерческие решения часто хуже режутся ТСПУ.
Скорее всего профессионализм человека, который будет это делать. Он же помешает ему понять какие вещи нужно фиксить, а какие - нет. Он же помешает их пофиксить. Он же помешает понять, что фиксы от нейронки могут сломать логику в другом месте.
Пока проект только в начале, прошу - рассмотрите возможность простого добавления индивидуального шифрования. Буквально хуки уровня:
void before_stream_write_user_hook(byte *inbuf, int inbuf_len, byte outbuf, int outbuf_len);
void before_stream_read_user_hook(byte inbuf, int inbuf_len, byte outbuf, int *outbuf_len);
А в хуке можно хоть шифровать поверх, хоть вставлять задержку в n микросекунд, хоть вставлять мусорные данные. Короче, чтобы с самого начала была заложена возможность быстрой смены сигнатур протокола.
Гугл говорит, что цена такого - больше миллиона долларов. А как обстоят дела по всему миру в институтах, где бюджеты не резиновые? Там же наверняка еще живы секвенсоры, которым 10-20 лет. И насколько тяжело и медленно работают они?
>Если вы думаете, что усредненный художник постоянно придумывает какие-то радикально новые стили искусства - то глубоко ошибаетесь.
Однако же усредненный художник выбирает количество пальцев у рисуемого им субъекта отнюдь не стохастически. И если, в случае художника, перерисовать неудачный результат можно, то в случае адвоката все не так просто. И цена ошибки может быть очень большой.
И говоря об адвокатуре, я бы вообще начал с того, что каждый человек слышит то что хочет слышать. И если кожаный адвокат задаст какие-то наводящие отрезвляющие вопросы, то ЛЛМ-ка, только раззадорит некомпетентного человека, свято уверенного в своей правоте.
Так если такую тему поднять, можно увидеть на лице HR омерзение и дальше не пройти. Потому что нужны опытные люди с психотипом восторженного вкатуна. Но сочетание этих двух качеств в одном человеке может говорить либо о небучаемости и неумении делать выводы из пережитого опыта, либо о шизофрении.
Не может. Вернее может, но очень короткий промежуток времени. Потому что все будет упираться в когнитивную способность пропускать через себя эти потоки кода. Даже не ревью кода написанного людьми приходится тратить кучу сил. И любителей этим заниматься этим нет. Ну кроме тех, кто любит тыкать в чужие ошибки и набивать себе значимость. Но я думаю, такие не будут получать удовольствия от козления нейронки.
Короче говоря, то как я вижу ближайшее будущее кодописательства - обезумевшие менеджеры будут выжимать программистов досуха и нанимать следующих. Цикл при этом будет полгода-год. Когнитивная нагрузка будет огромной, зарплаты будут падать, из профессии будут уходить все. Те, кто пришли за деньгами и те, кому нравилось писать код. Мифические "программисты, которым нравится решать задачи" будут существовать только в мечтах бизнеса. Потому что если задачу может решить нейронка, значит задача уже решенная, в ней нет новизны и интереса.
Так, что те, кто любит козырнуть, что он дескать не луддит, а передовой разработчик, либо троллят либо очень наивны. Вы просто будете теперь делать за смену не 1 отчет а 4-5 отчетов. Платить вам будут столько же. А потом когда активная фаза разработки закончится, вас, выгоревшего, просто выкинут, потому что такой штат не нужен.
Так что первым в этой гонке на истощение сдохнет не бизнес, у которого запас прочности больше, а разработчики. И ничего прогрессивного в этом не будет. Обычная потогонка.
Повезло, если купили, а не сам прилетел.
Так вот именно, что для определенных проектов. Если вы точно знаете что будете пускать и знаете что оно заработает - это отличный выбор. Мое предостережение скорее для людей, которые хотят вкатиться в мир нейронок, попробовать не только чатовые LLM, но и генерацию музыки, видео, изображений и т.п. Последним я сильно не рекомендую брать v100, p40 и прочие списанные карты, которые сейчас подешевели.
Подумайте дважды перед тем как брать эти "халявные" видеокарты. Сейчас у сборок pytorch минимальная версия CUDA - 12.6 . И то, даже под 12.6 уже не все модели можно запустить - ace step например не запускается.
Короче с каждым днем все больше шансов на то, что модель или интерфейс к модели не заработает на этих картах 2018 и древнее. Поэтому если вы не готовы сутками сидеть и перебирать версии драйверов, куды, моделей, а потом компилировать все вручную - подумайте дважды, может стоит подкопить и взять что-то с поддержкой CUDA поновее.
https://www.reddit.com/r/LocalLLaMA/comments/1kg7768/nvidia_to_drop_cuda_support_for_maxwell_pascal/
Спасибо за статью. Все еще самое лучшее объяснение принципа из всех что мне попадались.
Этим шмелем был Альберт Эйнштейн.
Риск спама есть, если вы настроили сервер как открытый relay. Тогда спамеры смогут через ваш почтовый сервер отправлять письма. Но также есть риск, что письма от вас будут попадать в спам у получателей. Третий риск - это спам вам, о котором написали выше.
TLDR: вместо проброса всех соединений через балансировщик, яндекс сделал так, чтобы клиент стучался к брокеру, а тот говорил с каким сервером клиент должен общаться напрямую. Таким образом на брокер, заменяющий классический балансировщик, приходились только легкие запросы связанные с выбором сервера, а сами данные через брокер не гоняются.
У кого-то есть опыт портирования этой ОСи на дешевые китайские смартфоны на распространенных SoC? Ну например какой-то Jiayu или Dexp/DNS 10-летней давности, для которых максимум есть рут и известен SoC. Короче на все то, где 4, максимум 5 андройд, 512-1024 рамы, и что стоит на авито рублей 500. Бог с ней с камерой и модемом, хотя бы до уровня что оно видится по ssh и может запускать apache.
Насколько оно того стоит?
А можете вкратце рассказать что случилось с этой технологией?
И на все эти метавопросы вам будет выдана куча ответов некоторые из которых:
устаревшие, но вы в виду отсутствия экспертизы этого не поймете
несущественные, но вы в виду отсутствия экспертизы этого не поймете
сгаллюцинированные, но вы в виду отсутствия экспертизы этого не поймете
не относящиеся к задаче, но вы в виду отсутствия экспертизы этого не поймете
Если, по примеру примера из статьи, у вас будет опыт с Vue/Angular и вы что-то слышали про React, то вы заподозрите, что все эти фреймворки должны иметь роутер. Если нет, то вы в лучшем случае закончите с routerjs вместо react router, а в худшем - вообще без него.
В народе - колхозник.
В магазине - продавец.