Нет, я говорю именно о размазывании модели на несколько карт через llama.cpp(и обёртки над ней типа lmstudio). Нет, там нет активного обмена. Как бы что в плотных что в moe моделях генерация каждого следующего токена идёт сквозь все слои последовательно(в moe работают не все веса слоя). А обмен требуется только на моменте когда следующий слой лежит не на том же gpu который только что отработал. Представьте себе конвеер, в котором 100 операций каждая из которых длится по часу. Если такой конвеер разнести на 2 цеха по 50 операци в каждом, транспортировка между которыми тоже занимает час-вы всего на 1% потеряете в скорости.)
Для инференса совершенно некритично чем карты между собой соединены. Там трафик минимальный, а kv кэш у каждого слоя свой. Сами подумайте, даже на скорости в 300 токенов в секунду(что для домашней сборки и для большой модели нереалистично много) данные гоняться будут всего те же 300 раз в секунду. При этом данных там будет далеко не так много. Типа это настолько неважно, что даже запуск на двух машинах одна из которых просто получает команды от другой через rpc не даёт каких то существенных просадок относительно двух карт в одной машине.
Скорость соединения между картами важна в обучении нейронок. Там да, там чудовищьный трафик. Ещё вроде как важна в дифузионных моделях, но там я не вникал сильно. А во всех этих квенах, геммах, орнитах-вообще без разницы. Главное чтобы у каждого из гпу память была побыстрее, и сам чип не дохлый.
>А поиски бага в коде, который писал не ты, да ещё и не человек превращаются в проблему.
На самом деле нет. Тот же claude через cursor при достаточно чёткой постановке задачи может указать места потенциально приходящие к той или иной проблеме.
Да и про понимание кода сгенеренного через LLM-тут ведь тоже зависит от того как именно пользоваться, и насколько подробно задачу ставить. Если просто впизтвать в ту или иную агенту систему текст таски и ждать что оно само как нибудь там накодит-да, будут проблемы. Если же рассказать модели что именно она должна сделать-всё намного более предсказуемо и читабелбно получается.
>Это мы еще не считаем того времени, которое убито на освоение ИИ.
Ну, смотрите: установка cursor, или какого нибудь Cline занимает минут 5. Ну хорошо, час если вы из РФ, и ещё не знаете как оплачивать за границей всякое. Дальше всё что вам нужно-понимание, что ai это не волшебная палочка, и что даже в агентском режиме ему лучше бы предоставить хотя бы часть уже существующих файлов проекта с которыми связана задача, и саму задачу развернуть из состояние "понятно человеку знакомому с проектом" в состояние "понятно штуке, у которой по сути нет памяти о проекте"(cursor rules в расчёт не берём, там всё равно далеко не всё будет). Всё, на этом этапе вы уже middle vibecoding developer.
Я не далее чем за вчера и сегодня сгенерировал несколько тысяч строк... простеньких крудов и фроненда к ним, реализующих работу с рядом api shopify, и интеграцию всего жтого дела в проект над которым тружусь. Не сомневаюсь, что задача для вас смешная, и слишком простая. Но уж поверьте моему опыту, без помощи нейронок я бы это всё делал недели полторы если бы сильно старался. Просто потому, что работа хоть и простая и рутинная, но этой рутины много.
Так qr для вайфая считается и без интернета. Проверенно неоднократно. Мой телефон такие qr генератор шоб сетью поделиться с окружающими при необходимости.)
А штука в том, что чатгпт не улучшает квалификацию программиста, а лишь безропотно(и не всегда корректно) выполняет поставленную задачу.
Помочь чатгптили тот же копайлот и вправду могут(я, например, для генерации регулярно бингчат(тот же гпт4) пользую, очень уж туго у меня с ними). Но они не сделает из джуна мидла а из мидла сеньёра. Он в текущем виде просто позволяет немного быстрее делать то что ты и так можешь. При этом важно помнить, что не стоит просить гпт сделать что то, чего ты сам не сможешь понять и проверить. Ведь написало оно, а отвечать за этот код тебе.)
В случае записи без сжатия мы по сути записываем ряд фиксированных по длине чисел описывающих положение мембраны устройства в каждый следующий "тик" кодека. А поскольку у нас частота(количество тиков в секунду), и битность(в общем то количество бит задействованых на один "тик") не меняются-конечная информация тоже будет такой же.
Сильно упрощая: если у нас 2 бита то тишина(полная) выглядит как то так :"00 00 00 00 00", а какой то звук так:"01 11 00 01 10". Количество звуковой информации поменялось, количество информации записанной-нет. Именно потому что кодек без сжатия. Был бы со сжатием-заархивировал бы повторяющиеся куски.
Вы, кажется, не до конца понимаете физику процесса. Добавляя новые инструменты мы не увеличиваем битрейт, мы меняем форму звуковой волны внутри заданного битрейта. Как в оьщем то и в реальной жизни. Всё что воспринимают ваши уши-колебания среды, которых может быть больше или меньше, но это всегда статичный набор именно информации. Иными словами можно записать тишину с тем же битрейтом что и эта ваша скрипка, а можно и целый оркестр, количество информации в случае записи без сжатия не изменится, изменится только её неоднородность.
Не уверен проблема это винды, или конкретной пиратки. Но на winxp sp1(или даже без sp) по крайней мере устанавливавшейся с одного конкретного диска которые гуляли по посёлку была скрытая учётка. И шоб получить доступ к компу запароленному достаточно было на логскрине нажать alt+ctrl+delete, и ввести логин admin
У меня старенький ipad mini 2 с duet display вторым экраном трудится. Через часа полтора правда нагревается, и начинает меньше фпс выдавать(в районе 15-20, по умолчанию 30 в разрешении 1024х768), но я на него как правило околостатичные штуки вывожу с которыми редко взаимодействую, так что даже не бесит.
Владею гелекси с9. Тут есть и олед и светодиод над экраном. Так вот: вы не понимаете, это другое. Светодиод нужен в моментах когда к экрану пряглядываться неудобно. Например с другого конца комнаты его отлично видно, а что там именно с экраном происходит-непонятно. В оьщем я за и олед с олвейс он дисплеем, и светодиод состояния.
Sbc-да, плохо(но не во всех случаях, sbc может давать звук не хуже aptx, но его надо насильно в те параметры вогнать).
А версия блютуза на звук не влияет.
Нет, я говорю именно о размазывании модели на несколько карт через llama.cpp(и обёртки над ней типа lmstudio). Нет, там нет активного обмена. Как бы что в плотных что в moe моделях генерация каждого следующего токена идёт сквозь все слои последовательно(в moe работают не все веса слоя). А обмен требуется только на моменте когда следующий слой лежит не на том же gpu который только что отработал. Представьте себе конвеер, в котором 100 операций каждая из которых длится по часу. Если такой конвеер разнести на 2 цеха по 50 операци в каждом, транспортировка между которыми тоже занимает час-вы всего на 1% потеряете в скорости.)
Для инференса совершенно некритично чем карты между собой соединены. Там трафик минимальный, а kv кэш у каждого слоя свой. Сами подумайте, даже на скорости в 300 токенов в секунду(что для домашней сборки и для большой модели нереалистично много) данные гоняться будут всего те же 300 раз в секунду. При этом данных там будет далеко не так много. Типа это настолько неважно, что даже запуск на двух машинах одна из которых просто получает команды от другой через rpc не даёт каких то существенных просадок относительно двух карт в одной машине.
Скорость соединения между картами важна в обучении нейронок. Там да, там чудовищьный трафик. Ещё вроде как важна в дифузионных моделях, но там я не вникал сильно. А во всех этих квенах, геммах, орнитах-вообще без разницы. Главное чтобы у каждого из гпу память была побыстрее, и сам чип не дохлый.
Тем что эта с гуем, например. Командлайн это уважаемо, но всё же не все любят туда лазить(я, например, при наличии выбора чаще выбираю гуй)
>А поиски бага в коде, который писал не ты, да ещё и не человек превращаются в проблему.
На самом деле нет. Тот же claude через cursor при достаточно чёткой постановке задачи может указать места потенциально приходящие к той или иной проблеме.
Да и про понимание кода сгенеренного через LLM-тут ведь тоже зависит от того как именно пользоваться, и насколько подробно задачу ставить. Если просто впизтвать в ту или иную агенту систему текст таски и ждать что оно само как нибудь там накодит-да, будут проблемы. Если же рассказать модели что именно она должна сделать-всё намного более предсказуемо и читабелбно получается.
>Это мы еще не считаем того времени, которое убито на освоение ИИ.
Ну, смотрите: установка cursor, или какого нибудь Cline занимает минут 5. Ну хорошо, час если вы из РФ, и ещё не знаете как оплачивать за границей всякое. Дальше всё что вам нужно-понимание, что ai это не волшебная палочка, и что даже в агентском режиме ему лучше бы предоставить хотя бы часть уже существующих файлов проекта с которыми связана задача, и саму задачу развернуть из состояние "понятно человеку знакомому с проектом" в состояние "понятно штуке, у которой по сути нет памяти о проекте"(cursor rules в расчёт не берём, там всё равно далеко не всё будет). Всё, на этом этапе вы уже middle vibecoding developer.
Я не далее чем за вчера и сегодня сгенерировал несколько тысяч строк... простеньких крудов и фроненда к ним, реализующих работу с рядом api shopify, и интеграцию всего жтого дела в проект над которым тружусь. Не сомневаюсь, что задача для вас смешная, и слишком простая. Но уж поверьте моему опыту, без помощи нейронок я бы это всё делал недели полторы если бы сильно старался. Просто потому, что работа хоть и простая и рутинная, но этой рутины много.
Так qr для вайфая считается и без интернета. Проверенно неоднократно. Мой телефон такие qr генератор шоб сетью поделиться с окружающими при необходимости.)
Всё так.)
Это не серебрянная пуля. Это просто ещё один инструмент. Инструменты сами по себе не делают нас лучше.)
А штука в том, что чатгпт не улучшает квалификацию программиста, а лишь безропотно(и не всегда корректно) выполняет поставленную задачу.
Помочь чатгптили тот же копайлот и вправду могут(я, например, для генерации регулярно бингчат(тот же гпт4) пользую, очень уж туго у меня с ними). Но они не сделает из джуна мидла а из мидла сеньёра. Он в текущем виде просто позволяет немного быстрее делать то что ты и так можешь. При этом важно помнить, что не стоит просить гпт сделать что то, чего ты сам не сможешь понять и проверить. Ведь написало оно, а отвечать за этот код тебе.)
В случае записи без сжатия мы по сути записываем ряд фиксированных по длине чисел описывающих положение мембраны устройства в каждый следующий "тик" кодека. А поскольку у нас частота(количество тиков в секунду), и битность(в общем то количество бит задействованых на один "тик") не меняются-конечная информация тоже будет такой же.
Сильно упрощая: если у нас 2 бита то тишина(полная) выглядит как то так :"00 00 00 00 00", а какой то звук так:"01 11 00 01 10". Количество звуковой информации поменялось, количество информации записанной-нет. Именно потому что кодек без сжатия. Был бы со сжатием-заархивировал бы повторяющиеся куски.
Вы, кажется, не до конца понимаете физику процесса. Добавляя новые инструменты мы не увеличиваем битрейт, мы меняем форму звуковой волны внутри заданного битрейта. Как в оьщем то и в реальной жизни. Всё что воспринимают ваши уши-колебания среды, которых может быть больше или меньше, но это всегда статичный набор именно информации. Иными словами можно записать тишину с тем же битрейтом что и эта ваша скрипка, а можно и целый оркестр, количество информации в случае записи без сжатия не изменится, изменится только её неоднородность.
Была ещё от них же сильно раньше реплика дюка не приуроченная ни к чему. У самого уж года 3 иакая лежит.
Флеш-картриджи давно существуют, в том числе на гба (у меня такой есть). Задача стала бы только проще. Конвертнул, и закинул на флешку.)
Не уверен проблема это винды, или конкретной пиратки. Но на winxp sp1(или даже без sp) по крайней мере устанавливавшейся с одного конкретного диска которые гуляли по посёлку была скрытая учётка. И шоб получить доступ к компу запароленному достаточно было на логскрине нажать alt+ctrl+delete, и ввести логин admin
ЕМНИП в инсайдерскмх сборках отличается цвет бсода.
У меня старенький ipad mini 2 с duet display вторым экраном трудится. Через часа полтора правда нагревается, и начинает меньше фпс выдавать(в районе 15-20, по умолчанию 30 в разрешении 1024х768), но я на него как правило околостатичные штуки вывожу с которыми редко взаимодействую, так что даже не бесит.
Владею гелекси с9. Тут есть и олед и светодиод над экраном. Так вот: вы не понимаете, это другое. Светодиод нужен в моментах когда к экрану пряглядываться неудобно. Например с другого конца комнаты его отлично видно, а что там именно с экраном происходит-непонятно. В оьщем я за и олед с олвейс он дисплеем, и светодиод состояния.
Sbc-да, плохо(но не во всех случаях, sbc может давать звук не хуже aptx, но его надо насильно в те параметры вогнать).
А версия блютуза на звук не влияет.