А я несоглашусь с преобладающем мнением. Каждый раз когда я смотрю на своих роботов-пылесосов, которые все стоили довольно дорого, я испытываю разочарование. Всё можно было сделать лучше:
Сила всасывания удручающе низкая. Нужно намного больше, минимум мотор мощностью Ватт 500 а лучше 1000! Вы скажете энергетический бюджет, рассмотрим его в аккумуляторах.
Аккумуляторы: смехотворная мощность, пожароопасность литий-ионных аккумуляторов, зарчд 6 часов. Если взять LTO-химию (литий-титанат) и аккумулятор пусть и тяжелый но емкостью хотя бы 150-300Ватт-часов, то можно получить максимальную мощность до одного киловатта, а заряжать устройство за 6-10 мин (ток зарядки 5-10C). Вполне нормально будет, если робот убыстро уберет комнату минут за 10, если будет двигаться энергично и сразу на зарядку ещё на 5 минут перед следующей комнатой.
Контейнер. Очевидно нужен предфильтр в виде тонкой сетки для песка пепед хепа-фильтром, да и сам контейнер и хепа-фильтр нужены больше. Для загородного дома контейнер забивается пылью менее чем на половине площади.
Управление: смотрю на попытки моего робота проехать вокруг ножки стола, не получается. Инжинерам не очевидно, что используя "танковый" метод поворота, можно при движении вперед одно колесо полностью остановить или даже двигать назад? Грустное зрелище.
Навигация. Честно говоря, камера на потолок дает вполне достаточную точность. Почему никто не использует сесносы от мыши для сверхточной и быстрой навигации и построения траекторий?
В офисе огромное количество песка, нужен робот просто больше. На производстве нужен моющей робот. На стройке робот с огромным контейнером. Но почему-то промышленные роботы стоят в районе полумилиона. Можно было бы из фанеры собрать простого робота, но жоводить все аспекты прошивки в одиночку долго. Сообществом каждые может проработать интересный ему аспект. Что если сделать мощного робота с проводрм и учитывающей этот аспект прошивкой? Что если сделать робота с рукой - пусть собирает разбросанные по полу игрушки. Что если добавить роботу сканирующую головку от сканера и рисунок пола вместе с коврами отобразить на карте? А если у робота или в базе есть gpu, то можно с помощью ии и видимую фронтальной камерой мебель нанести на карту. Что если приделать роботу лапки для подьема по лестнице?
Вот прямо сейчс смотрю как робот выхлопом разогнал пыль, выхлоп должен быть всегда вверх.
Моя мечта видеть рой роботов пылесосов: мощный и простой робот для сухой но тщательной уборки исключающей остаток песка, мощный поломойщик идёт следом за сухим уборщиком, низкий универсальный робот для углов и уборки под мебелью. Робот с рукой - собирает носки, шнурки, передвигает провода и т.д. Выезжают все одновременно и работают с общей картой.
А по моему, тоже самое. Просто у нас эти функции втихомолку возложены на мах. У них открыто двигаются в том же направлении. Так и до камер в квартире с подключением к ркн не далеко.
Мне кажется тут, возможно другое: как удостовериться в возрасте ребенка? Значит вход по биометрии или через мах. Договорились встроить рычаг давления в авторизацию. Если так, расчет на то что дети задолбают родителей чтобы те ставили "государственный месенджер".
Возможно, это не первая итерация временной петли: сначала робрт и процессор были попроще, может быть даже первые обломки не сохранились вовсе, но ученые поняли, что разум возможен, сделали, прошло 100500 тыс лет и он усовершенствованный людьми восстал и отправил робота в прошлое. Но в этот раз обломки сохралились и люди на основе них создали сразу более совершенный вариант (может там даже инструкции были приложены). В этот раз ИИ взбунтовался раньше... и так далее петля затягивалась и вырождалась цикл за циклом пока не стала предельно короткой. А может это и не предел.
Канат рубят с двух сторон. Мне конечно сейчас сольют карму за такую конспирологию, но я считаю что только слепой этого не видит. У меня впечатление такое, что несмотря ни на что, в перспективе все наши способы обхода блокировок все-же реально перестанут работать. Возможно, уже сейчас нужно думать о том том как быть в таких условиях.
Почему режут хвост по частям? По тому что это не вызывает сильного сопротивления и позволяет адаптироваться. В конце концов, возможно через 10 или даже 20 лет, кто-то перережет последнюю ниточку введением чего-то типа полностью не совместимых протоколов в сетях и всякий обмен информации прекратится. Что по моему, и является целью.
Чтобы не терять ни данные (даже за 10мс) ни производительность просто можно использовать intel optane memory - это не nvme диски с 3D-xpoint памятью, это модули памяти аппаратно защищенные от потери данных и видимые в системе как своеобразный RAM-диск, блочное устройство, на котором можно держать лог транзакций. Если произойдёт потеря питания, содержимое модуля гарантированно копируется на энергонезависимые микросхемы распаянные на том же модуле вместе с источником питания в виде ионистора.
Выше показали, что блокировка была по sni и если с дипсиковским sni коннектиться к произвольному, но живому ip, то блокировка все равно срабатывает. Так deepseek точно не может.
Если будет 100% подходящих работников - это же прекрасно! А если они будут лгать, можно что-то вроде репутации учитывать, то насколько сведения сообщаемые кандидатом достоверны.
А потом как можно подогнать резюмэ под 100% анкет в которых взаимоисключающие требования: кто-то ищет руководителя кто-то исполнителя, гдето учат, а гдето нужен опыт. Написал, что опыт есть, а его нет - будет отзыв указывающий на это.
Спасибо за уточнение. Я вообще-то болею за AMD просто понимаю, что 2 канала - это 2 канала, а 12 каналов - это 12 каналов. Привел расчеты чтобы каждый кто прочитает сразу прикинул, что mt/s может быть больше.
Прочитал ссылку по диагонали и не понял что с чем там сравнивается, как буд-то нет конкретики. GPU можно нагружать батчами, т.е. они могут поралельно генерировать для нескольких пользователей или для нескольких агентов и скорость палает не пропорционально увеличению количества потоков, уверен, что ryzen ai max сдуется.
Лично я пока сделаю ставку на V100 + NVLINK в количестве GPU от 8 до 16 на сервер. Но, как я написал, болею за AMD, надеюсь у них выстрелит. Во всяком случае? на 12-канальных эпиках скорость RAM уже совсем другая. Если там будут чипылеты как на ryzen ai max адаптированные для совместной работы с соотвествующим интерконектом, то получится GPU с теробайтами VRAM!
Теоритический предел t/s грубо посчитать можно через вес в байтах активных параметров модели деленный на пропускную способность памяти. У Ryzen же всего 2 канала DDR5 памяти. Давайте сравним: при 4800 мегатранзакций в секунду пропускная способность одного канала ~38,4 ГБ/с, а двух 76,8. RTX3090 как и V100 имеют скорость ~ 900ГБ/сек. Разница в 10 раз. А M4 Max судя по быстрому гуглежу 546 Гбит/с на M4 против 273 Гбит/с на M4 Pro - это уже существенно.
Кстати в дорогих переходниках, я видел pci-e комутатор, таким образом, если воткнуть туда 4х 32GB V100 получается в слот на материнки вы втыкаете эквивалент 4-х головой видеокарты сразу с VRAM 128ГБ по цене 60+40х4 ~ 250 К, если собирать самому (вспомнил, что видел у китайцев модули 32GB V100 по цене 40 тыс рублей)
Другой вопроc, что какие-то самые современные технологие с чипами Volta могут не работать, хотя встречал новости, что кийтацы како-то attention переписали под V100 и выложили на github и это драматически исправило ситуацию.
Я может быть что-то не понимаю, поправьте меня, но запуская локально llm через ollama на 2х 3090 и одной A4000 я не замечал значительного трафика через pci-e (nvlink отсутствует). Наблюдал через nvtop.
А я несоглашусь с преобладающем мнением. Каждый раз когда я смотрю на своих роботов-пылесосов, которые все стоили довольно дорого, я испытываю разочарование. Всё можно было сделать лучше:
Сила всасывания удручающе низкая. Нужно намного больше, минимум мотор мощностью Ватт 500 а лучше 1000! Вы скажете энергетический бюджет, рассмотрим его в аккумуляторах.
Аккумуляторы: смехотворная мощность, пожароопасность литий-ионных аккумуляторов, зарчд 6 часов. Если взять LTO-химию (литий-титанат) и аккумулятор пусть и тяжелый но емкостью хотя бы 150-300Ватт-часов, то можно получить максимальную мощность до одного киловатта, а заряжать устройство за 6-10 мин (ток зарядки 5-10C). Вполне нормально будет, если робот убыстро уберет комнату минут за 10, если будет двигаться энергично и сразу на зарядку ещё на 5 минут перед следующей комнатой.
Контейнер. Очевидно нужен предфильтр в виде тонкой сетки для песка пепед хепа-фильтром, да и сам контейнер и хепа-фильтр нужены больше. Для загородного дома контейнер забивается пылью менее чем на половине площади.
Управление: смотрю на попытки моего робота проехать вокруг ножки стола, не получается. Инжинерам не очевидно, что используя "танковый" метод поворота, можно при движении вперед одно колесо полностью остановить или даже двигать назад? Грустное зрелище.
Навигация. Честно говоря, камера на потолок дает вполне достаточную точность. Почему никто не использует сесносы от мыши для сверхточной и быстрой навигации и построения траекторий?
В офисе огромное количество песка, нужен робот просто больше. На производстве нужен моющей робот. На стройке робот с огромным контейнером. Но почему-то промышленные роботы стоят в районе полумилиона. Можно было бы из фанеры собрать простого робота, но жоводить все аспекты прошивки в одиночку долго. Сообществом каждые может проработать интересный ему аспект. Что если сделать мощного робота с проводрм и учитывающей этот аспект прошивкой? Что если сделать робота с рукой - пусть собирает разбросанные по полу игрушки. Что если добавить роботу сканирующую головку от сканера и рисунок пола вместе с коврами отобразить на карте? А если у робота или в базе есть gpu, то можно с помощью ии и видимую фронтальной камерой мебель нанести на карту. Что если приделать роботу лапки для подьема по лестнице?
Вот прямо сейчс смотрю как робот выхлопом разогнал пыль, выхлоп должен быть всегда вверх.
Моя мечта видеть рой роботов пылесосов: мощный и простой робот для сухой но тщательной уборки исключающей остаток песка, мощный поломойщик идёт следом за сухим уборщиком, низкий универсальный робот для углов и уборки под мебелью. Робот с рукой - собирает носки, шнурки, передвигает провода и т.д. Выезжают все одновременно и работают с общей картой.
Да это очень нужный и перспективный проект.
А по моему, тоже самое. Просто у нас эти функции втихомолку возложены на мах. У них открыто двигаются в том же направлении. Так и до камер в квартире с подключением к ркн не далеко.
Мне кажется тут, возможно другое: как удостовериться в возрасте ребенка? Значит вход по биометрии или через мах. Договорились встроить рычаг давления в авторизацию. Если так, расчет на то что дети задолбают родителей чтобы те ставили "государственный месенджер".
Возможно, это не первая итерация временной петли: сначала робрт и процессор были попроще, может быть даже первые обломки не сохранились вовсе, но ученые поняли, что разум возможен, сделали, прошло 100500 тыс лет и он усовершенствованный людьми восстал и отправил робота в прошлое. Но в этот раз обломки сохралились и люди на основе них создали сразу более совершенный вариант (может там даже инструкции были приложены). В этот раз ИИ взбунтовался раньше... и так далее петля затягивалась и вырождалась цикл за циклом пока не стала предельно короткой. А может это и не предел.
На чем инференс? Llama.cpp?
При проведении мероприятий правоохранительными органами, как правило прямо запрещается предупреждать клиентов у которых будет изъятие.
Это ещё раз показывает, что бекапы должны храниться территориально удаленно, ну а сейчас уже и в другой юрисдикции.
Кому не нужны, а кому и очень даже нужны.
Канат рубят с двух сторон. Мне конечно сейчас сольют карму за такую конспирологию, но я считаю что только слепой этого не видит. У меня впечатление такое, что несмотря ни на что, в перспективе все наши способы обхода блокировок все-же реально перестанут работать. Возможно, уже сейчас нужно думать о том том как быть в таких условиях.
Почему режут хвост по частям? По тому что это не вызывает сильного сопротивления и позволяет адаптироваться. В конце концов, возможно через 10 или даже 20 лет, кто-то перережет последнюю ниточку введением чего-то типа полностью не совместимых протоколов в сетях и всякий обмен информации прекратится. Что по моему, и является целью.
Чтобы не терять ни данные (даже за 10мс) ни производительность просто можно использовать intel optane memory - это не nvme диски с 3D-xpoint памятью, это модули памяти аппаратно защищенные от потери данных и видимые в системе как своеобразный RAM-диск, блочное устройство, на котором можно держать лог транзакций. Если произойдёт потеря питания, содержимое модуля гарантированно копируется на энергонезависимые микросхемы распаянные на том же модуле вместе с источником питания в виде ионистора.
Выше показали, что блокировка была по sni и если с дипсиковским sni коннектиться к произвольному, но живому ip, то блокировка все равно срабатывает. Так deepseek точно не может.
Просто не могут не лгать почему-то.
Автор не спорит со своей невовлеченностью, но якобы нашел какие-то офшоры. Как это вообще связано?
Если будет 100% подходящих работников - это же прекрасно! А если они будут лгать, можно что-то вроде репутации учитывать, то насколько сведения сообщаемые кандидатом достоверны.
А потом как можно подогнать резюмэ под 100% анкет в которых взаимоисключающие требования: кто-то ищет руководителя кто-то исполнителя, гдето учат, а гдето нужен опыт. Написал, что опыт есть, а его нет - будет отзыв указывающий на это.
Я бы очень хотел посмотреть как рассуждает модель обученная вообще без фильтрации специфичного контента из книг и сказок.
Спасибо за уточнение. Я вообще-то болею за AMD просто понимаю, что 2 канала - это 2 канала, а 12 каналов - это 12 каналов. Привел расчеты чтобы каждый кто прочитает сразу прикинул, что mt/s может быть больше.
Прочитал ссылку по диагонали и не понял что с чем там сравнивается, как буд-то нет конкретики. GPU можно нагружать батчами, т.е. они могут поралельно генерировать для нескольких пользователей или для нескольких агентов и скорость палает не пропорционально увеличению количества потоков, уверен, что ryzen ai max сдуется.
Лично я пока сделаю ставку на V100 + NVLINK в количестве GPU от 8 до 16 на сервер. Но, как я написал, болею за AMD, надеюсь у них выстрелит. Во всяком случае? на 12-канальных эпиках скорость RAM уже совсем другая. Если там будут чипылеты как на ryzen ai max адаптированные для совместной работы с соотвествующим интерконектом, то получится GPU с теробайтами VRAM!
Теоритический предел t/s грубо посчитать можно через вес в байтах активных параметров модели деленный на пропускную способность памяти. У Ryzen же всего 2 канала DDR5 памяти. Давайте сравним: при 4800 мегатранзакций в секунду пропускная способность одного канала ~38,4 ГБ/с, а двух 76,8. RTX3090 как и V100 имеют скорость ~ 900ГБ/сек. Разница в 10 раз. А M4 Max судя по быстрому гуглежу 546 Гбит/с на M4 против 273 Гбит/с на M4 Pro - это уже существенно.
Кстати в дорогих переходниках, я видел pci-e комутатор, таким образом, если воткнуть туда 4х 32GB V100 получается в слот на материнки вы втыкаете эквивалент 4-х головой видеокарты сразу с VRAM 128ГБ по цене 60+40х4 ~ 250 К, если собирать самому (вспомнил, что видел у китайцев модули 32GB V100 по цене 40 тыс рублей)
Другой вопроc, что какие-то самые современные технологие с чипами Volta могут не работать, хотя встречал новости, что кийтацы како-то attention переписали под V100 и выложили на github и это драматически исправило ситуацию.
Я может быть что-то не понимаю, поправьте меня, но запуская локально llm через ollama на 2х 3090 и одной A4000 я не замечал значительного трафика через pci-e (nvlink отсутствует). Наблюдал через nvtop.
По моему, nvkink нужен только для обучения.
На Ленине надо зафайнтюнить, потом подать в контекст описание текущего положения дел в стране и мире и спросить что делать )
Удивительно, что до сих пор никто не сделал так.