А еще этот инструмент позволяет собрать самую лучшую из возможных обучающую базу для создания deep fake. Так что, если ваши данные утекут...
Есть лишь один гарантированно надежный инструмент защиты от подобного... и он, к сожалению, называется "полный запрет на подтверждение личности по биометрии без личного присутствия".
Информационно-психологические операции на данный момент являются одним из ключевых элементов гибридных войн.
Специальные службы многих стран целенаправленно распространяют специальные материалы и намеренно радикализируют население стран противников.
Это применяется не единично. Массово.
Очень велика вероятность ответного удара или сопутствующего ущерба, т.к население стран не однородно и не постоянно. Присутствует постоянная миграция. Риски растут.
Особенно, с приходом ИИ, который выводит эту работу на совершенно новый, уровень.
Подобные инициативы, как описаны в новости, появляются именно из-за осознания реальности и значительности проблемы в верхах.
Сама по себе инициатива по выявлению является, несомненно, положительной, однако может использоваться и для помощи, и, как оружие.
Например, при выявлении радикально настроенных элементов на территории противника, их могут скрытно направлять не в службу помощи, а в какую-нить спецслужбу и использовать для организации терактов, протестов и/или разведки.
Проконтролировать это со стороны невозможно, без доступа к инфраструктуре.
Массовая автоматизированная вербовка среди широчайшей аудитории.
Это слишком лакомый кусок для спецслужб, чтобы им не пользоваться.
Это будет гарантировано использовано как оружие, и знать об этом, помимо спецслужб, будут только несколько сотрудников ИИ компаний, которых будет можно пересчитать по пальцам, которые будут действовать на основании секретного ордера, о существовании которого не будет знать, вероятно, даже руководство компаний.
Кстати... я еще вангую появление рынка "легального VPN"...
Легальный VPN, это такой VPN, который работает на серверах внутри страны, соблюдает законодательство и блокировки, но, при этом, позволяет обойти GeoFence зарубежных сервисов. Т.е. в нем можно обновить Винду, купить игры в Steam, оплатить подписку Anthropic и т.п. не нарушая при этом местное законодательство, и, при этом, для пользователей это будет внутренним трафиком.
Попадание в список подразумевает оплату и потерю анонимности... так что... если будет вся страна, то результатом будет усиление контроля и много денег на инфраструктуру для него.
Однако, полезность VPN сильно переоценена, и, оптимистично, верхний предел для пользователей VPN это 10% населения. Остальным хватит российских платформ или "бесплатных 15 гигабайт в месяц".
Суть в том, что ТСПУ это дорого. Эту инфраструктуру надо оплачивать, и вместо того, чтобы оплачивать ее из карманов всех налогоплательщиков и бюджета ее должны бы оплачивать те самые пользователи, которые создают повышенный риск, и, по сути, для контроля которых она и существует...
Плюс... знание всех пользователей VPN по паспорту сильно упрощает все...
А, оплата подразумевает знание того, кто оплатил...
Эпоха свободного интернета, к сожалению, закончилась... Контроль за пользователями интернета поставлен на поток, и самые "развитые и свободные" страны парадоксально впереди планеты всей по уровню и качеству контроля. Так что, пора уже принять реальность и перестать ныть.
Усилия Forbes по вбросу дезинформации с целью создания внутриполитической напряженности в РФ... умиляют... своей наивностью... как и те, кто продолжают этому верить...
Реальность же такова, что платформы вынуждены блокировать пользователей VPN самостоятельно, и уже давно это делают, потому что с адресов этих VPN сервисов их, внезапно, ДДОСят... кто бы мог подумать... что такое может случиться, если пользоваться "шаблоном VPN сервера от анонима разворачиваемым в один клик"...
Но, почему-то, до сих пор, в этой беде все винят ДДОСеров, а не правительство РФ... и, именно эту "несправедливость" в Forbes и хотят исправить...
Вы только что прочитали рекламу программного обеспечения для управления роями БПЛА, распространенную с целью популяризации этого программного обеспечения и усложнения работы спецслужб по выявлению его пользователей и контролю за его распространением.
По качеству результата я между 4 и 6 большой разницы не заметил, а, вот, по скорости, 4 бит почему-то работало медленнее чем 6. Вероятно, это особенности рантайма. Я гонял их на вот этом с Vulkan в качестве бэкенда: https://www.techpowerup.com/gpu-specs/radeon-840m.c4385
Гонял недавно 80m Qwen-Coder-Next (тот самый из статьи) на полном диапазоне от 1 до 8ми бит квантизации, и, субъективно, заметил, что 4-6 бит дают наилучший результат. Долго думал, почему, и, пришел к выводу, что ниже 4х бит начинается заметная деградация связей. Модель тупеет. А, выше 6ти, модель наоборот начинает видеть гораздо больше взаимосвязей, однако, ей просто "не хватает мозгов" (количества параметров) чтобы их учитывать, и, эти сигналы превращаются в шум, который мешает основной задаче.
Это, вы еще про поискового провайдера забыли... И, потенциально, про любой сайт, куда оно залезет в процессе поиска и зарегистрируется "без СМС" для доступа к "очень полезным данным"....
Я уточню комментарий пользователя выше по вашей ситуации. Извне в Россию не ограничивают, как кажется, только протоколы VPN, которые не пытаются маскировать трафик.
Проблема отсутствия софта под новое железо в условиях наличия ИИ, - сильно переоценена.
Да, ИИ не может полностью написать софт сам, но, при поддержке квалифицированных инженеров, и, при наличии исходников софта от производителей конкурирующего железа в качестве образца, - сроки разработки из годов начинают измеряться месяцами.
Фигня все это. Как только задача становится слишком сложной, - LLM просто начинает отбрасывать "лишние" ограничения.
Только вчера сталкивался с "парадоксом игнорирования контекста". Вроде как в claude.md написано, - если пользователь просит сделать то-то и то-то, то делай вот это и вот это.
Открываем новую сессию, говорим что нужно сделать... и... Клод упорно делает по-своему. В новой сессии.
Однако... стоит сначала попросить "прочитать руководство", - магия срабатывает.
Видимо, из-за того, что пользователи напихивают слишком много подобной фигни в контекст, с каждой новой итерацией модели учатся все лучше подобный контекст игнорировать)
Пунктик есть, но в некоторых юрисдикциях его невозможно энфорсить, т.к. запрещено местным законодательством. А закон имеет в таких спорах приоритет. Причем, в разных штатах законодательство может отличаться.
Все правильно. Обучение в torch, экспорт в ONNX с квантизацией, инференс на GPU через TensorRT. Ускорение кратное. Стандартный продакшен пайплайн.
Единственное, я добавлю, что использование Python для работы с ONNX тоже имеет свой overhead. Самую большую производительность из ONNX получалось выжимать в C++ проекте, который статически линкуется с ONNX рантаймом, собираемым из сорцов на той же машине, с включенным LTCG и всеми оптимизациями.
Ускорение бывало до двух раз в сравнении с Python, особенно заметно на CPU. Но, и на GPU из-за отсутствия промежуточного слоя между Python и C++ тоже заметно. Сам ONNX то, - на С++ написан.
ТСПУ физически не может отличить фрейм CONNECT (открывающий VPN-туннель) от фрейма GET /index.html, так как оба они зашифрованы одним и тем же ключом TLS.
Вообще-то может. По размеру фрейма. Или статистическим анализом трафика.
Я думаю, что этого, в сочетании со скоординированным по времени, достаточно радикальным по содержанию, заявлением от самого мессенджера https://habr.com/ru/news/979764/, в сочетании с его принадлежностью корпорации Meta, которая уже признана в России экстремистской организацией и запрещена, будет достаточно, чтобы полностью мессенджер заблокировать в ближайшее время, как FB, по соответствующей статье, с навешиванием соответствующего ярлыка. При этом, у подписавшихся под этим иском есть большой риск прочувствовать на себе все последствия этого резкого изменения статуса в очень неприятной форме.
А еще этот инструмент позволяет собрать самую лучшую из возможных обучающую базу для создания deep fake. Так что, если ваши данные утекут...
Есть лишь один гарантированно надежный инструмент защиты от подобного... и он, к сожалению, называется "полный запрет на подтверждение личности по биометрии без личного присутствия".
Информационно-психологические операции на данный момент являются одним из ключевых элементов гибридных войн.
Специальные службы многих стран целенаправленно распространяют специальные материалы и намеренно радикализируют население стран противников.
Это применяется не единично. Массово.
Очень велика вероятность ответного удара или сопутствующего ущерба, т.к население стран не однородно и не постоянно. Присутствует постоянная миграция. Риски растут.
Особенно, с приходом ИИ, который выводит эту работу на совершенно новый, уровень.
Подобные инициативы, как описаны в новости, появляются именно из-за осознания реальности и значительности проблемы в верхах.
Сама по себе инициатива по выявлению является, несомненно, положительной, однако может использоваться и для помощи, и, как оружие.
Например, при выявлении радикально настроенных элементов на территории противника, их могут скрытно направлять не в службу помощи, а в какую-нить спецслужбу и использовать для организации терактов, протестов и/или разведки.
Проконтролировать это со стороны невозможно, без доступа к инфраструктуре.
Массовая автоматизированная вербовка среди широчайшей аудитории.
Это слишком лакомый кусок для спецслужб, чтобы им не пользоваться.
Это будет гарантировано использовано как оружие, и знать об этом, помимо спецслужб, будут только несколько сотрудников ИИ компаний, которых будет можно пересчитать по пальцам, которые будут действовать на основании секретного ордера, о существовании которого не будет знать, вероятно, даже руководство компаний.
Кстати... я еще вангую появление рынка "легального VPN"...
Легальный VPN, это такой VPN, который работает на серверах внутри страны, соблюдает законодательство и блокировки, но, при этом, позволяет обойти GeoFence зарубежных сервисов. Т.е. в нем можно обновить Винду, купить игры в Steam, оплатить подписку Anthropic и т.п. не нарушая при этом местное законодательство, и, при этом, для пользователей это будет внутренним трафиком.
Попадание в список подразумевает оплату и потерю анонимности... так что... если будет вся страна, то результатом будет усиление контроля и много денег на инфраструктуру для него.
Однако, полезность VPN сильно переоценена, и, оптимистично, верхний предел для пользователей VPN это 10% населения. Остальным хватит российских платформ или "бесплатных 15 гигабайт в месяц".
Ну.. я про плату ничего выше и не писал... только про блокировки пользователей VPN со стороны платформ, что является дезинформацией чистой воды...
Но, если введут плату за VPN, скажу, что давно пора...
Вот моя статья на эту тему написанная еще 5 лет назад: https://habr.com/ru/articles/515376/
Суть в том, что ТСПУ это дорого. Эту инфраструктуру надо оплачивать, и вместо того, чтобы оплачивать ее из карманов всех налогоплательщиков и бюджета ее должны бы оплачивать те самые пользователи, которые создают повышенный риск, и, по сути, для контроля которых она и существует...
Плюс... знание всех пользователей VPN по паспорту сильно упрощает все...
А, оплата подразумевает знание того, кто оплатил...
Эпоха свободного интернета, к сожалению, закончилась... Контроль за пользователями интернета поставлен на поток, и самые "развитые и свободные" страны парадоксально впереди планеты всей по уровню и качеству контроля. Так что, пора уже принять реальность и перестать ныть.
Усилия Forbes по вбросу дезинформации с целью создания внутриполитической напряженности в РФ... умиляют... своей наивностью... как и те, кто продолжают этому верить...
Реальность же такова, что платформы вынуждены блокировать пользователей VPN самостоятельно, и уже давно это делают, потому что с адресов этих VPN сервисов их, внезапно, ДДОСят... кто бы мог подумать... что такое может случиться, если пользоваться "шаблоном VPN сервера от анонима разворачиваемым в один клик"...
Но, почему-то, до сих пор, в этой беде все винят ДДОСеров, а не правительство РФ... и, именно эту "несправедливость" в Forbes и хотят исправить...
Согласно моему анализу статьи...
Вы только что прочитали рекламу программного обеспечения для управления роями БПЛА, распространенную с целью популяризации этого программного обеспечения и усложнения работы спецслужб по выявлению его пользователей и контролю за его распространением.
Однако, это всего лишь предположение...
По качеству результата я между 4 и 6 большой разницы не заметил, а, вот, по скорости, 4 бит почему-то работало медленнее чем 6. Вероятно, это особенности рантайма. Я гонял их на вот этом с Vulkan в качестве бэкенда: https://www.techpowerup.com/gpu-specs/radeon-840m.c4385
Гонял недавно 80m Qwen-Coder-Next (тот самый из статьи) на полном диапазоне от 1 до 8ми бит квантизации, и, субъективно, заметил, что 4-6 бит дают наилучший результат. Долго думал, почему, и, пришел к выводу, что ниже 4х бит начинается заметная деградация связей. Модель тупеет. А, выше 6ти, модель наоборот начинает видеть гораздо больше взаимосвязей, однако, ей просто "не хватает мозгов" (количества параметров) чтобы их учитывать, и, эти сигналы превращаются в шум, который мешает основной задаче.
Это, вы еще про поискового провайдера забыли... И, потенциально, про любой сайт, куда оно залезет в процессе поиска и зарегистрируется "без СМС" для доступа к "очень полезным данным"....
Я уточню комментарий пользователя выше по вашей ситуации. Извне в Россию не ограничивают, как кажется, только протоколы VPN, которые не пытаются маскировать трафик.
Проблема отсутствия софта под новое железо в условиях наличия ИИ, - сильно переоценена.
Да, ИИ не может полностью написать софт сам, но, при поддержке квалифицированных инженеров, и, при наличии исходников софта от производителей конкурирующего железа в качестве образца, - сроки разработки из годов начинают измеряться месяцами.
Фигня все это. Как только задача становится слишком сложной, - LLM просто начинает отбрасывать "лишние" ограничения.
Только вчера сталкивался с "парадоксом игнорирования контекста". Вроде как в claude.md написано, - если пользователь просит сделать то-то и то-то, то делай вот это и вот это.
Открываем новую сессию, говорим что нужно сделать... и... Клод упорно делает по-своему. В новой сессии.
Однако... стоит сначала попросить "прочитать руководство", - магия срабатывает.
Видимо, из-за того, что пользователи напихивают слишком много подобной фигни в контекст, с каждой новой итерацией модели учатся все лучше подобный контекст игнорировать)
Пунктик есть, но в некоторых юрисдикциях его невозможно энфорсить, т.к. запрещено местным законодательством. А закон имеет в таких спорах приоритет. Причем, в разных штатах законодательство может отличаться.
До десяти, но не у всех. В среднем по больнице, - в три раза.
Все правильно. Обучение в torch, экспорт в ONNX с квантизацией, инференс на GPU через TensorRT. Ускорение кратное. Стандартный продакшен пайплайн.
Единственное, я добавлю, что использование Python для работы с ONNX тоже имеет свой overhead. Самую большую производительность из ONNX получалось выжимать в C++ проекте, который статически линкуется с ONNX рантаймом, собираемым из сорцов на той же машине, с включенным LTCG и всеми оптимизациями.
Ускорение бывало до двух раз в сравнении с Python, особенно заметно на CPU. Но, и на GPU из-за отсутствия промежуточного слоя между Python и C++ тоже заметно. Сам ONNX то, - на С++ написан.
Вообще-то может. По размеру фрейма. Или статистическим анализом трафика.
Интересно, можно ли собрать планку DDR5 из HBM чипов?
Судя по тексту, путем Фэйсбука и Меты, которая уже признана в РФ экстремистской организацией и запрещена.
Я думаю, что этого, в сочетании со скоординированным по времени, достаточно радикальным по содержанию, заявлением от самого мессенджера https://habr.com/ru/news/979764/, в сочетании с его принадлежностью корпорации Meta, которая уже признана в России экстремистской организацией и запрещена, будет достаточно, чтобы полностью мессенджер заблокировать в ближайшее время, как FB, по соответствующей статье, с навешиванием соответствующего ярлыка. При этом, у подписавшихся под этим иском есть большой риск прочувствовать на себе все последствия этого резкого изменения статуса в очень неприятной форме.