Да нет, очень жизненно. Особенно момент когда ты не разобрался в гениальности очередного набора костылей и используешь его вопреки замыслами автора. И для себя я сделал важный критерий в плане адекватности людей и стоит ли с ними работать. Если человек понимает, что он просто написал очередное решение под задачу, возможно не самое лучшее, и готов рассказать(или написать внятную документацию), то с таким легаси можно работать. Если же тебе говорят, что все очевидно, ты просто не умеешь читать код, но при этом код других проектов ты нормально читал, то нужно линять из этого места. Потому что такие "гении" где-то в глубине души понимают что они накодовертили, и на любые попытки объяснения начинаются срывы.
Даже при высоком качестве проекта(настоящие ирландцы передают вам привет), не всегда можно сделать тестовый контур такого же объема с теми же данными, что и прод. И часто бывает так, что на словах менеджментом постулируется высокое качество, а на деле сам требует это качество снижать в угоду скорости выкатки.
Всевозможные обвязки помогают настроить агентов, но их столько, что, только чтобы выбрать нужное, нужно обладать опытом и знаниями.
Эти знания меняются каждые полгода. Хуже того, большая часть из этих знаний не верифицируема, это шаманство. Еще хуже, немалая часть этих знаний это умение урвать токены/видяхи/санкционные модели, а не настройка всего этого. Еще хуже технология ИИ видится многим заказчикам как волшебная таблетка, хотя приводя сказочные аналогии больше напоминает кашу из топора. Экономическая эффективность этого ИИ-фуфла тоже под большим вопросом, если касаться широких областей, в которых у среднего айтишника есть экспертиза.
Потом вопросы безопасности.
В ЛЛМ моделях они не решаемы на фундаментальном уровне.
Поэтому никто из тех кто раньше писал массово не повалит настраивать ИИ. В текущем варианте это ближе к бизнесу, причем с приставкой нае-.
Я предлагаю смириться с тем, что если у человека будут деньги на российский аналог Теслы или Лифа, то он купит последние, а не российский аналог. И после этого уже думать, а есть ли вообще смысл делать что-то под имеющийся спрос.
А я думаю, что запрос на нищемашины просто огромный. Не такого уровня как китайские трициклы с кабиной, но такие как Ока или ВАЗ-2108. Российские машины не будут статусными, это нужно признать сразу и отсеять эту часть потенциальной аудитории. На оставшейся части, конечно, много не заработаешь. Но продажи могут быть большими.
нужен современный аналог праворульного лифа, коих тысячи на дорогах, даже убитых, значит у людей есть запрос:
Не выйдет создать российский leaf-но-не-leaf так чтобы он полноценно конкурировал с leaf. Потому что уже есть leaf. А еще есть Tesla со своей гигафабрикой. И Китай с сотней моделей. И каждый раз покупатель будет сравнивать с ними и говорить - российское на 10 000 $ дороже, так на кой черт оно надо? А сделать аналог импортного, но дешевле не получится, по многим причинам. Поэтому единственный, на мой взгляд, способ занять хоть какой-то рынок - это залезть в нишу между китайскими и индийскими инвалидками и грантой или вестой.
Сделайте нео-электро-калину за 1М!
Да, суть именно в том, чтобы российские разработчики наконец сдались и прекратили сходу сделать что-то эдакое. Обычная дешевая рабочая лошадка без выпендрежа, которая бы в отличие от китайских микрокаров брала бы:
нормальным металлом
наличием запчастей
более грамотной проектировкой
не-одноразовостью, чтобы это можно было гонять по 20 лет как тазы, и чтобы это легко чинилось/тюнилось
Мне кажется, что в России электрички нужно начинать выпускать в виде условной Оки, но на электротяге, которая гарантировано едет 200-300 км. Этот вариант пойдет тем, кому нужна машина для города(не всем, да), дачникам всяким, любителям сэкономить, как первая машина и т.п.
Потому что давайте будем честными: большая часть стоимости машины - это батарейка. Цена батарейки, которая позволит по параметрам конкурировать с бензиновыми авто в одной весовой категории, еще долгое время будет такой, что вычеркнет из списка 90% потенциальных покупателей. Выход из строя батарейки зачастую делает ремонт машины экономически бессмысленным.
Так что единственный жизнеспособный план делать экономически окупаемые электрички - это условная Ока, едущая 200-300 км. Еще желательно и с модульной в несколько частей батареей, в которой можно относительно легко менять сдохшие/поврежденные в аварии сегменты. И никакого выпендрежа с футуризмом, что-то уровня ВАЗ-1111Э .
По моему опыту обе модели применяются достаточно часто. Сомневаюсь, что push выпилят, настолько много "неправильного" народу его использует. Так что ИМХО лучше использовать тот подход, который удобнее.
TLDR: облачный провайдер сам подставляет ваш реальный IP, при доступе к российским серверам.
В данном случае не по злому умыслу, а по причине экономии трафика и более адекватной работы с российскими сервисами, где зарубежные IP бывают забанены. Но это лишний раз доказывает, что все сторонние провайдеры не дают никаких гарантий анонимности. И их удел - использование их канала как способа проброса до своего VPS, откуда трафик будет идти уже наружу. Потому что надо признать, коммерческие решения часто хуже режутся ТСПУ.
Скорее всего профессионализм человека, который будет это делать. Он же помешает ему понять какие вещи нужно фиксить, а какие - нет. Он же помешает их пофиксить. Он же помешает понять, что фиксы от нейронки могут сломать логику в другом месте.
Пока проект только в начале, прошу - рассмотрите возможность простого добавления индивидуального шифрования. Буквально хуки уровня:
void before_stream_write_user_hook(byte *inbuf, int inbuf_len, byte outbuf, int outbuf_len);
void before_stream_read_user_hook(byte inbuf, int inbuf_len, byte outbuf, int *outbuf_len);
А в хуке можно хоть шифровать поверх, хоть вставлять задержку в n микросекунд, хоть вставлять мусорные данные. Короче, чтобы с самого начала была заложена возможность быстрой смены сигнатур протокола.
Гугл говорит, что цена такого - больше миллиона долларов. А как обстоят дела по всему миру в институтах, где бюджеты не резиновые? Там же наверняка еще живы секвенсоры, которым 10-20 лет. И насколько тяжело и медленно работают они?
>Если вы думаете, что усредненный художник постоянно придумывает какие-то радикально новые стили искусства - то глубоко ошибаетесь.
Однако же усредненный художник выбирает количество пальцев у рисуемого им субъекта отнюдь не стохастически. И если, в случае художника, перерисовать неудачный результат можно, то в случае адвоката все не так просто. И цена ошибки может быть очень большой.
И говоря об адвокатуре, я бы вообще начал с того, что каждый человек слышит то что хочет слышать. И если кожаный адвокат задаст какие-то наводящие отрезвляющие вопросы, то ЛЛМ-ка, только раззадорит некомпетентного человека, свято уверенного в своей правоте.
Так если такую тему поднять, можно увидеть на лице HR омерзение и дальше не пройти. Потому что нужны опытные люди с психотипом восторженного вкатуна. Но сочетание этих двух качеств в одном человеке может говорить либо о небучаемости и неумении делать выводы из пережитого опыта, либо о шизофрении.
но разраб с агентом сегодня может легко работать в 4-5 раз быстрее, выдавая код лучшего качества, чем без агентов.
Не может. Вернее может, но очень короткий промежуток времени. Потому что все будет упираться в когнитивную способность пропускать через себя эти потоки кода. Даже не ревью кода написанного людьми приходится тратить кучу сил. И любителей этим заниматься этим нет. Ну кроме тех, кто любит тыкать в чужие ошибки и набивать себе значимость. Но я думаю, такие не будут получать удовольствия от козления нейронки.
Короче говоря, то как я вижу ближайшее будущее кодописательства - обезумевшие менеджеры будут выжимать программистов досуха и нанимать следующих. Цикл при этом будет полгода-год. Когнитивная нагрузка будет огромной, зарплаты будут падать, из профессии будут уходить все. Те, кто пришли за деньгами и те, кому нравилось писать код. Мифические "программисты, которым нравится решать задачи" будут существовать только в мечтах бизнеса. Потому что если задачу может решить нейронка, значит задача уже решенная, в ней нет новизны и интереса.
Так, что те, кто любит козырнуть, что он дескать не луддит, а передовой разработчик, либо троллят либо очень наивны. Вы просто будете теперь делать за смену не 1 отчет а 4-5 отчетов. Платить вам будут столько же. А потом когда активная фаза разработки закончится, вас, выгоревшего, просто выкинут, потому что такой штат не нужен.
Так что первым в этой гонке на истощение сдохнет не бизнес, у которого запас прочности больше, а разработчики. И ничего прогрессивного в этом не будет. Обычная потогонка.
Так вот именно, что для определенных проектов. Если вы точно знаете что будете пускать и знаете что оно заработает - это отличный выбор. Мое предостережение скорее для людей, которые хотят вкатиться в мир нейронок, попробовать не только чатовые LLM, но и генерацию музыки, видео, изображений и т.п. Последним я сильно не рекомендую брать v100, p40 и прочие списанные карты, которые сейчас подешевели.
Подумайте дважды перед тем как брать эти "халявные" видеокарты. Сейчас у сборок pytorch минимальная версия CUDA - 12.6 . И то, даже под 12.6 уже не все модели можно запустить - ace step например не запускается.
Короче с каждым днем все больше шансов на то, что модель или интерфейс к модели не заработает на этих картах 2018 и древнее. Поэтому если вы не готовы сутками сидеть и перебирать версии драйверов, куды, моделей, а потом компилировать все вручную - подумайте дважды, может стоит подкопить и взять что-то с поддержкой CUDA поновее.
Да нет, очень жизненно. Особенно момент когда ты не разобрался в гениальности очередного набора костылей и используешь его вопреки замыслами автора. И для себя я сделал важный критерий в плане адекватности людей и стоит ли с ними работать. Если человек понимает, что он просто написал очередное решение под задачу, возможно не самое лучшее, и готов рассказать(или написать внятную документацию), то с таким легаси можно работать. Если же тебе говорят, что все очевидно, ты просто не умеешь читать код, но при этом код других проектов ты нормально читал, то нужно линять из этого места. Потому что такие "гении" где-то в глубине души понимают что они накодовертили, и на любые попытки объяснения начинаются срывы.
Даже при высоком качестве проекта(настоящие ирландцы передают вам привет), не всегда можно сделать тестовый контур такого же объема с теми же данными, что и прод. И часто бывает так, что на словах менеджментом постулируется высокое качество, а на деле сам требует это качество снижать в угоду скорости выкатки.
Эти знания меняются каждые полгода. Хуже того, большая часть из этих знаний не верифицируема, это шаманство. Еще хуже, немалая часть этих знаний это умение урвать токены/видяхи/санкционные модели, а не настройка всего этого. Еще хуже технология ИИ видится многим заказчикам как волшебная таблетка, хотя приводя сказочные аналогии больше напоминает кашу из топора. Экономическая эффективность этого ИИ-фуфла тоже под большим вопросом, если касаться широких областей, в которых у среднего айтишника есть экспертиза.
В ЛЛМ моделях они не решаемы на фундаментальном уровне.
Поэтому никто из тех кто раньше писал массово не повалит настраивать ИИ. В текущем варианте это ближе к бизнесу, причем с приставкой нае-.
Т.е. легальный механизм оплаты валютной удаленки в условиях санкций таки появился?
Я предлагаю смириться с тем, что если у человека будут деньги на российский аналог Теслы или Лифа, то он купит последние, а не российский аналог. И после этого уже думать, а есть ли вообще смысл делать что-то под имеющийся спрос.
А я думаю, что запрос на нищемашины просто огромный. Не такого уровня как китайские трициклы с кабиной, но такие как Ока или ВАЗ-2108. Российские машины не будут статусными, это нужно признать сразу и отсеять эту часть потенциальной аудитории. На оставшейся части, конечно, много не заработаешь. Но продажи могут быть большими.
Не выйдет создать российский leaf-но-не-leaf так чтобы он полноценно конкурировал с leaf. Потому что уже есть leaf. А еще есть Tesla со своей гигафабрикой. И Китай с сотней моделей. И каждый раз покупатель будет сравнивать с ними и говорить - российское на 10 000 $ дороже, так на кой черт оно надо? А сделать аналог импортного, но дешевле не получится, по многим причинам. Поэтому единственный, на мой взгляд, способ занять хоть какой-то рынок - это залезть в нишу между китайскими и индийскими инвалидками и грантой или вестой.
Да, суть именно в том, чтобы российские разработчики наконец сдались и прекратили сходу сделать что-то эдакое. Обычная дешевая рабочая лошадка без выпендрежа, которая бы в отличие от китайских микрокаров брала бы:
нормальным металлом
наличием запчастей
более грамотной проектировкой
не-одноразовостью, чтобы это можно было гонять по 20 лет как тазы, и чтобы это легко чинилось/тюнилось
Мне кажется, что в России электрички нужно начинать выпускать в виде условной Оки, но на электротяге, которая гарантировано едет 200-300 км. Этот вариант пойдет тем, кому нужна машина для города(не всем, да), дачникам всяким, любителям сэкономить, как первая машина и т.п.
Потому что давайте будем честными: большая часть стоимости машины - это батарейка. Цена батарейки, которая позволит по параметрам конкурировать с бензиновыми авто в одной весовой категории, еще долгое время будет такой, что вычеркнет из списка 90% потенциальных покупателей. Выход из строя батарейки зачастую делает ремонт машины экономически бессмысленным.
Так что единственный жизнеспособный план делать экономически окупаемые электрички - это условная Ока, едущая 200-300 км. Еще желательно и с модульной в несколько частей батареей, в которой можно относительно легко менять сдохшие/поврежденные в аварии сегменты. И никакого выпендрежа с футуризмом, что-то уровня ВАЗ-1111Э .
Какое низкое пердольство полуживого забавлять.
По моему опыту обе модели применяются достаточно часто. Сомневаюсь, что push выпилят, настолько много "неправильного" народу его использует. Так что ИМХО лучше использовать тот подход, который удобнее.
TLDR: облачный провайдер сам подставляет ваш реальный IP, при доступе к российским серверам.
В данном случае не по злому умыслу, а по причине экономии трафика и более адекватной работы с российскими сервисами, где зарубежные IP бывают забанены. Но это лишний раз доказывает, что все сторонние провайдеры не дают никаких гарантий анонимности. И их удел - использование их канала как способа проброса до своего VPS, откуда трафик будет идти уже наружу. Потому что надо признать, коммерческие решения часто хуже режутся ТСПУ.
Скорее всего профессионализм человека, который будет это делать. Он же помешает ему понять какие вещи нужно фиксить, а какие - нет. Он же помешает их пофиксить. Он же помешает понять, что фиксы от нейронки могут сломать логику в другом месте.
Пока проект только в начале, прошу - рассмотрите возможность простого добавления индивидуального шифрования. Буквально хуки уровня:
void before_stream_write_user_hook(byte *inbuf, int inbuf_len, byte outbuf, int outbuf_len);
void before_stream_read_user_hook(byte inbuf, int inbuf_len, byte outbuf, int *outbuf_len);
А в хуке можно хоть шифровать поверх, хоть вставлять задержку в n микросекунд, хоть вставлять мусорные данные. Короче, чтобы с самого начала была заложена возможность быстрой смены сигнатур протокола.
Гугл говорит, что цена такого - больше миллиона долларов. А как обстоят дела по всему миру в институтах, где бюджеты не резиновые? Там же наверняка еще живы секвенсоры, которым 10-20 лет. И насколько тяжело и медленно работают они?
>Если вы думаете, что усредненный художник постоянно придумывает какие-то радикально новые стили искусства - то глубоко ошибаетесь.
Однако же усредненный художник выбирает количество пальцев у рисуемого им субъекта отнюдь не стохастически. И если, в случае художника, перерисовать неудачный результат можно, то в случае адвоката все не так просто. И цена ошибки может быть очень большой.
И говоря об адвокатуре, я бы вообще начал с того, что каждый человек слышит то что хочет слышать. И если кожаный адвокат задаст какие-то наводящие отрезвляющие вопросы, то ЛЛМ-ка, только раззадорит некомпетентного человека, свято уверенного в своей правоте.
Так если такую тему поднять, можно увидеть на лице HR омерзение и дальше не пройти. Потому что нужны опытные люди с психотипом восторженного вкатуна. Но сочетание этих двух качеств в одном человеке может говорить либо о небучаемости и неумении делать выводы из пережитого опыта, либо о шизофрении.
Не может. Вернее может, но очень короткий промежуток времени. Потому что все будет упираться в когнитивную способность пропускать через себя эти потоки кода. Даже не ревью кода написанного людьми приходится тратить кучу сил. И любителей этим заниматься этим нет. Ну кроме тех, кто любит тыкать в чужие ошибки и набивать себе значимость. Но я думаю, такие не будут получать удовольствия от козления нейронки.
Короче говоря, то как я вижу ближайшее будущее кодописательства - обезумевшие менеджеры будут выжимать программистов досуха и нанимать следующих. Цикл при этом будет полгода-год. Когнитивная нагрузка будет огромной, зарплаты будут падать, из профессии будут уходить все. Те, кто пришли за деньгами и те, кому нравилось писать код. Мифические "программисты, которым нравится решать задачи" будут существовать только в мечтах бизнеса. Потому что если задачу может решить нейронка, значит задача уже решенная, в ней нет новизны и интереса.
Так, что те, кто любит козырнуть, что он дескать не луддит, а передовой разработчик, либо троллят либо очень наивны. Вы просто будете теперь делать за смену не 1 отчет а 4-5 отчетов. Платить вам будут столько же. А потом когда активная фаза разработки закончится, вас, выгоревшего, просто выкинут, потому что такой штат не нужен.
Так что первым в этой гонке на истощение сдохнет не бизнес, у которого запас прочности больше, а разработчики. И ничего прогрессивного в этом не будет. Обычная потогонка.
Повезло, если купили, а не сам прилетел.
Так вот именно, что для определенных проектов. Если вы точно знаете что будете пускать и знаете что оно заработает - это отличный выбор. Мое предостережение скорее для людей, которые хотят вкатиться в мир нейронок, попробовать не только чатовые LLM, но и генерацию музыки, видео, изображений и т.п. Последним я сильно не рекомендую брать v100, p40 и прочие списанные карты, которые сейчас подешевели.
Подумайте дважды перед тем как брать эти "халявные" видеокарты. Сейчас у сборок pytorch минимальная версия CUDA - 12.6 . И то, даже под 12.6 уже не все модели можно запустить - ace step например не запускается.
Короче с каждым днем все больше шансов на то, что модель или интерфейс к модели не заработает на этих картах 2018 и древнее. Поэтому если вы не готовы сутками сидеть и перебирать версии драйверов, куды, моделей, а потом компилировать все вручную - подумайте дважды, может стоит подкопить и взять что-то с поддержкой CUDA поновее.
https://www.reddit.com/r/LocalLLaMA/comments/1kg7768/nvidia_to_drop_cuda_support_for_maxwell_pascal/
Спасибо за статью. Все еще самое лучшее объяснение принципа из всех что мне попадались.