Суть моей мысли в том, что зрячие ученые тоже не могут увидеть многие явления - электромагнитное изучение за пределами видимого спектра, гравитацию, атомы, элементарные частицы и т.д. Открывали их очень по-разному, что-то случайно, как побочный эффект в других экспериментах, что-то сначала сформулировали математически, а потом подтвердили, что-то стало возможно исследовать благодаря техническому совершенствованию инструментов (телескопы, микроскопы, ускорители частиц...). Поэтому придумывать, как конкретно к этим открытиям бы пришли слепые ученые - неблагодарное занятие, вариантов масса, но я не вижу тут непреодолимой границы.
Раз сервер звук не микширует, участники обязаны соединяться друг с другом сами. Для двоих это одно соединение, для группы «каждый с каждым» число соединений растёт как : впятером это 10, вдесятером уже 45, и каждый шлёт свой звук всем остальным отдельным потоком.
Почему бы для обхода этого недостатка не назначить одного из пиров главным (мастер-нода) и чтобы все остальные подключались к нему? Уменьшится количество соединений, можно микшировать поток в одном месте и раздавать его всем пирам, плюс появляются возможности управления трансляцией, принудительного отключения пиров, например. Из минусов - нагрузка на мастер-ноду: должна быть хорошая сеть и достаточно ресурсов и, если мастер-нода отвалится то всё.
Все данные на виртуальном рабочем месте в корпоративном облаке. А на ноутбуке залоченная напрочь ОС с заранее настроенным корпоративным VPN и клиентом для доступа на удаленный рабочий стол.
Да какая там цепочка. Выяснили, что существует некий источник, который нагревает предметы. Построили некий прибор, который измеряет это явление. Далее, в процессе совершенствования этого прибора будет измерена скорость света, проведен двухщелевой опыт, а далее уже открыт прямой путь к квантовой физике. Как конкретно будет реализован этот прибор, сколько времени займет его создание и совкршенствование можно фантазировать, но это уже тема большая, в комментарии такое писать долго и лень. В качестве референса можно посмотреть историю открытия ионизирующего излучения.
Идею, которую вы пытались донести я в принципе понял, но аналогия считаю, неудачная. Слепые учёные вполне могут догадаться о существовании электромагнитного излучения без визуального наблюдения оного (например, по теплу от солнца). А после этого создание приборов, которые могут его измерять уже дело техники. Проблема современной науки в том, что она подошла к пределам, которые невозможно преодолеть инструментальными методами, хотя теория пазывает, что там есть "что-то", но подтвердить или опровергнуть это невозможно.
Упор идет в память. На 2080ti qwen3.6-35b грузит cuda-ядра на 60-70%, при этом дает 70т/с. У 5070ti пропускная способность примерно на 30% выше (память быстрее, но шина более узкая). Поэтому я так оцениваю. Gpu быстрее, но при генерации он простаивает из-за того что память не успевает подгружать новые данные. Вот prefill может быть значительно быстрее, поскольку он обрабатывает токены пачками.
По скорости (это моя оценка, исходя из пропускной скорости памяти и бенчмарков) 5070 ti будет 30-50% быстрее чем 2080 ti. Просто на 22гб врам уже реально запустить кванты хороших локальных ллм типа qwen3.6 или gemma4, а на 16гб не получится (можно попробовать moe с выгрузкой экспертов в ram, но это все равно будет сильно медленнее). В общем то решать вам, я просто подсветил, что есть такой вариант на рынке и можно его рассмотреть.
Вспомнил старый анекдот про человека будущего, у которого будут очень маленькие руки, потому что ему не надо будет работать руками, очень маленькие ноги, потому что ему не надо будет ходить, очень маленький рот, потому что он будет питаться специальными капсулами, которые будут содержать все необходимое для жизни, и огромный мозг, которым он будет все время думать... Думать, как добыть эти самые капсулы ))
Я после выхода qwen 3.6 пересел на них. Сетап 2080 ti 22gb + 3060 12gb. Llama.cpp в режиме тензорного параллелизма с mtp дает в районе 30 т/с для 27b модели. Квант больше всего понравился IQ4_NL. Иногда даю задачу и думаю, "вот с этим точно не справится", потом смотрю - справилась. Некоторые задачи требуют скиллов, например, то что касается ui, прошу написать скилл у большой модели через чат, потом добавляю скилл в проект и модель хорошо по нему отрабатывает. В целом, такое ощущение что работаешь с опытным full-stack разработчиком, который знает все концепции, но в силу очень широкой предметной области не помнит все тонкости в деталях, надо ингода докидывать специфические детали или предложить поискать в документации.
Browser API вообще вещь недооцененная. Там есть все, от доступа к com-порту до 3d графики и gpu-вычислениям. И это все кросс-платформенное из коробки. Т.е. теоретически можно например сделать панель управления каким-нибудь чпу-станком с отображением в реальном времени всех актуаторов и это все завернуть в HTML, который будет работать под любую платформу, где можно запустить современные браузеры.
Про дистилляцию и дистиллированную воду, это вы ловко придумали. Я даже не понял сначала.
Суть моей мысли в том, что зрячие ученые тоже не могут увидеть многие явления - электромагнитное изучение за пределами видимого спектра, гравитацию, атомы, элементарные частицы и т.д. Открывали их очень по-разному, что-то случайно, как побочный эффект в других экспериментах, что-то сначала сформулировали математически, а потом подтвердили, что-то стало возможно исследовать благодаря техническому совершенствованию инструментов (телескопы, микроскопы, ускорители частиц...).
Поэтому придумывать, как конкретно к этим открытиям бы пришли слепые ученые - неблагодарное занятие, вариантов масса, но я не вижу тут непреодолимой границы.
Это комментарий к словам "ощущения не те" ))
Почему бы для обхода этого недостатка не назначить одного из пиров главным (мастер-нода) и чтобы все остальные подключались к нему? Уменьшится количество соединений, можно микшировать поток в одном месте и раздавать его всем пирам, плюс появляются возможности управления трансляцией, принудительного отключения пиров, например. Из минусов - нагрузка на мастер-ноду: должна быть хорошая сеть и достаточно ресурсов и, если мастер-нода отвалится то всё.
А user_id - инкрементальный счетчик ))?
Да нормально, работать можно. Даже по 4G. Если это не геймдев какой-нибудь. При обычной работе (кодинг, документы) 200мс задержка не особо напрягает.
Аналогия с незащищенным c*ксом глубже чем кажется - ощущения конечно не те, но и риск подцепить вирус или нежелательного пассажира кратно меньше ))
Все данные на виртуальном рабочем месте в корпоративном облаке. А на ноутбуке залоченная напрочь ОС с заранее настроенным корпоративным VPN и клиентом для доступа на удаленный рабочий стол.
Да какая там цепочка. Выяснили, что существует некий источник, который нагревает предметы. Построили некий прибор, который измеряет это явление. Далее, в процессе совершенствования этого прибора будет измерена скорость света, проведен двухщелевой опыт, а далее уже открыт прямой путь к квантовой физике. Как конкретно будет реализован этот прибор, сколько времени займет его создание и совкршенствование можно фантазировать, но это уже тема большая, в комментарии такое писать долго и лень. В качестве референса можно посмотреть историю открытия ионизирующего излучения.
Идею, которую вы пытались донести я в принципе понял, но аналогия считаю, неудачная. Слепые учёные вполне могут догадаться о существовании электромагнитного излучения без визуального наблюдения оного (например, по теплу от солнца). А после этого создание приборов, которые могут его измерять уже дело техники. Проблема современной науки в том, что она подошла к пределам, которые невозможно преодолеть инструментальными методами, хотя теория пазывает, что там есть "что-то", но подтвердить или опровергнуть это невозможно.
Если что-то и существует, то это просто наша недоработка)))
Не понятно, как сетевое подключение в таких сборках реализовано. Через USB?
Упор идет в память. На 2080ti qwen3.6-35b грузит cuda-ядра на 60-70%, при этом дает 70т/с. У 5070ti пропускная способность примерно на 30% выше (память быстрее, но шина более узкая). Поэтому я так оцениваю. Gpu быстрее, но при генерации он простаивает из-за того что память не успевает подгружать новые данные. Вот prefill может быть значительно быстрее, поскольку он обрабатывает токены пачками.
По скорости (это моя оценка, исходя из пропускной скорости памяти и бенчмарков) 5070 ti будет 30-50% быстрее чем 2080 ti. Просто на 22гб врам уже реально запустить кванты хороших локальных ллм типа qwen3.6 или gemma4, а на 16гб не получится (можно попробовать moe с выгрузкой экспертов в ram, но это все равно будет сильно медленнее). В общем то решать вам, я просто подсветил, что есть такой вариант на рынке и можно его рассмотреть.
Если скорость важнее объёма vram, то 5070 ti будет конечно быстрее. Просто на 16 гб быстро станет тесно.
Вспомнил старый анекдот про человека будущего, у которого будут очень маленькие руки, потому что ему не надо будет работать руками, очень маленькие ноги, потому что ему не надо будет ходить, очень маленький рот, потому что он будет питаться специальными капсулами, которые будут содержать все необходимое для жизни, и огромный мозг, которым он будет все время думать... Думать, как добыть эти самые капсулы ))
Поищи 2080 ti с 22gb vram, их можно найти за 35-40т.р.
Я после выхода qwen 3.6 пересел на них. Сетап 2080 ti 22gb + 3060 12gb. Llama.cpp в режиме тензорного параллелизма с mtp дает в районе 30 т/с для 27b модели. Квант больше всего понравился IQ4_NL. Иногда даю задачу и думаю, "вот с этим точно не справится", потом смотрю - справилась. Некоторые задачи требуют скиллов, например, то что касается ui, прошу написать скилл у большой модели через чат, потом добавляю скилл в проект и модель хорошо по нему отрабатывает. В целом, такое ощущение что работаешь с опытным full-stack разработчиком, который знает все концепции, но в силу очень широкой предметной области не помнит все тонкости в деталях, надо ингода докидывать специфические детали или предложить поискать в документации.
Browser API вообще вещь недооцененная. Там есть все, от доступа к com-порту до 3d графики и gpu-вычислениям. И это все кросс-платформенное из коробки. Т.е. теоретически можно например сделать панель управления каким-нибудь чпу-станком с отображением в реальном времени всех актуаторов и это все завернуть в HTML, который будет работать под любую платформу, где можно запустить современные браузеры.
Нас **ут, а мы крепчаем.