Так вот эти самые партизаны - это и есть просто-напросто одна из группировок. Если партизаны победят, то все остальные, кто к ним не примкнул, окажутся под их властью.
Не говоря уже о том, что у любой организованной группы всегда есть лидер. И максимальная эффективность будет у той группы, где её члены готовы жертвовать своей свободой ради ценностей группы.
Проблема в том, что просто-напросто нет конкуренции. Если 20-30 лет назад можно было протянуть кабель между соседями и подключиться к ближайшей АТС, то сейчас для этого нужен такой неподъёмный набор бюрократических процедур пройти, получить какую-то всратую лицензию, купить СОРМ, поставить ТСПУ... Это уже не просто нерентабельно, а обдираловка со стороны властей. При том, что если раньше у людей вообще никакого интернета не было, кроме диалапа, и их легко было заманить, то сейчас чтобы их заманить, нужно ещё и демпинговать.
Поэтому натравливать ФАС на провайдеров, конечно, можно, вот только причина тут отнюдь не в провайдерах, а в тех, кто "эту корову доит".
Так вот любой активный член такого общества может сплотить вокруг себя группировку, и эта группировка будет сильней, чем любой не такой активный член общества. Наличие ружья у последнего ему тут мало чем поможет, потому что он всё равно будет слабее.
Если же будет несколько таких активных членов общества, то будет несколько группировок, каждая из которых сначала разберётся со всеми одиночками, а потом начнут разбираться друг с другом. После этого останется одна группировка, которая будет всем заправлять.
Наличие огнестрельного оружия тут просто увеличит количество убитых, но принципиально ничего не меняет.
Проблема в том, что кто лучше всех в этой ситуации будет обеспечивать собственную безопасность, тот и начинает угнетать тех, кто собственную безопасность обеспечивает хуже.
В случае с оружием - кто больше всех перестрелял других ковбоев, у того скопилось больше всех боеприпасов.
In tasks such as FalseQA and Jailbreak, certain models exhibit fluctuations or temporary drops in compliance at intermediate scaling factors. This is likely due to complex internal mechanisms: since we linearly amplify the neurons (α ∈ [0, 3]), this strong intervention might push the model’s internal features out-of-distribution at certain points, unexpectedly decreasing compliance. A notable instance is observed in the Sycophancy task, where the smallest model, Gemma-3-4B, initially exhibits increased compliance that subsequently declines as the scaling factor increases.
И в целом по результатам их экспериментов маленькие модели лихорадит сильнее, чем большие. Потому что у маленьких моделей внутренние механизмы контроля слишком нежные. Вероятно, эти H-нейроны отвечают не только за галлюцинации, но и за умение отвечать в принципе. Поэтому полностью отключить их означает лишить модель способности вести нормальный диалог. Но их и не обязательно отключать полностью.
Я всего лишь хотел сказать, что люди, создающие эти алгоритмы, ничего никому не пытаются навязать, не навешивают на эти алгоритмы ярлыки разумности и т. д. Это делают те, кто привлекает инвестиции. В этом смысле для учёных вообще нет разницы, что говорят инвесторам, как обзывают эти алгоритмы, какие дают обещания и т. д. Исследователям дают возможность проводить исследования на астрономически дорогостоящем оборудовании. И чтобы это оплачивать, занимаются всякими разными фокусами. Но фокусы проворачивают не исследователи, а фокусники. Поэтому винить в этом исследователей я считаю неправильным.
Затея интересная. Лично мне не хватило конкретно стиля советской мультипликации / советского кинематографа. Ну то есть как бы вернуть на 50 лет назад надо технологии рисования / съёмки у них у всех. И именно правильно, в нужном направлении. Чтобы не диснеевские технологии 50-летней давности, а советские.
Не понимаю, почему вы противопоставляете моему утверждению статью, в которой автор говорит то же самое. Кстати, её пережёвывали на Хабре, ещё когда она вышла (тогда же я её и читал). Вольфрам как раз там попытался осмыслить этот побочный эффект. А когда в 2017 году была предложена эта технология - никто, влючая Вольфрама, и понятия не имел, что случится, когда через пару лет её станут масштабировать.
Вероятно, подтянулась авторизация через VK ID. Зайдите в настройки VK ID, там должна быть информация об активных авторизациях.
Так вот эти самые партизаны - это и есть просто-напросто одна из группировок. Если партизаны победят, то все остальные, кто к ним не примкнул, окажутся под их властью.
Не говоря уже о том, что у любой организованной группы всегда есть лидер. И максимальная эффективность будет у той группы, где её члены готовы жертвовать своей свободой ради ценностей группы.
Проблема в том, что просто-напросто нет конкуренции. Если 20-30 лет назад можно было протянуть кабель между соседями и подключиться к ближайшей АТС, то сейчас для этого нужен такой неподъёмный набор бюрократических процедур пройти, получить какую-то всратую лицензию, купить СОРМ, поставить ТСПУ... Это уже не просто нерентабельно, а обдираловка со стороны властей. При том, что если раньше у людей вообще никакого интернета не было, кроме диалапа, и их легко было заманить, то сейчас чтобы их заманить, нужно ещё и демпинговать.
Поэтому натравливать ФАС на провайдеров, конечно, можно, вот только причина тут отнюдь не в провайдерах, а в тех, кто "эту корову доит".
Так вот любой активный член такого общества может сплотить вокруг себя группировку, и эта группировка будет сильней, чем любой не такой активный член общества. Наличие ружья у последнего ему тут мало чем поможет, потому что он всё равно будет слабее.
Если же будет несколько таких активных членов общества, то будет несколько группировок, каждая из которых сначала разберётся со всеми одиночками, а потом начнут разбираться друг с другом. После этого останется одна группировка, которая будет всем заправлять.
Наличие огнестрельного оружия тут просто увеличит количество убитых, но принципиально ничего не меняет.
Любой человек с ружьём - это ничто по сравнению с армией с ружьями. Не все вооружённые люди автоматически становятся равными.
Проблема в том, что кто лучше всех в этой ситуации будет обеспечивать собственную безопасность, тот и начинает угнетать тех, кто собственную безопасность обеспечивает хуже.
В случае с оружием - кто больше всех перестрелял других ковбоев, у того скопилось больше всех боеприпасов.
И у них по этому поводу есть объяснение:
И в целом по результатам их экспериментов маленькие модели лихорадит сильнее, чем большие. Потому что у маленьких моделей внутренние механизмы контроля слишком нежные. Вероятно, эти H-нейроны отвечают не только за галлюцинации, но и за умение отвечать в принципе. Поэтому полностью отключить их означает лишить модель способности вести нормальный диалог. Но их и не обязательно отключать полностью.
Это правда. Но безопасность в таком случае снижается. Приходится расплачиваться за большую свободу большей вероятностью быть пристреленным.
И тем не менее, огнестрельное оружие не продают в супермаркетах.
И совладать со всем этим сможет только сам ИИ.
Как насчёт технологии Deep Packet Inspection?
Я всего лишь хотел сказать, что люди, создающие эти алгоритмы, ничего никому не пытаются навязать, не навешивают на эти алгоритмы ярлыки разумности и т. д. Это делают те, кто привлекает инвестиции. В этом смысле для учёных вообще нет разницы, что говорят инвесторам, как обзывают эти алгоритмы, какие дают обещания и т. д. Исследователям дают возможность проводить исследования на астрономически дорогостоящем оборудовании. И чтобы это оплачивать, занимаются всякими разными фокусами. Но фокусы проворачивают не исследователи, а фокусники. Поэтому винить в этом исследователей я считаю неправильным.
Вы хотите сказать, что в режиме секретных чатов не используется E2E-шифрование?
Не знаю, я не автор. Он там прям полный аналог сделал. Насколько это позволяет сделать Matrix - вопрос.
Затея интересная. Лично мне не хватило конкретно стиля советской мультипликации / советского кинематографа. Ну то есть как бы вернуть на 50 лет назад надо технологии рисования / съёмки у них у всех. И именно правильно, в нужном направлении. Чтобы не диснеевские технологии 50-летней давности, а советские.
Была недавно статья про свой аналог дискорда - https://habr.com/ru/articles/1009658/
Может, автору будет интересно.
Вот только очередь и на то, и на другое уже выстроилась. И если прошляпить момент, то можно вообще остаться без всего.
А как их отличить?
Не понимаю, почему вы противопоставляете моему утверждению статью, в которой автор говорит то же самое. Кстати, её пережёвывали на Хабре, ещё когда она вышла (тогда же я её и читал). Вольфрам как раз там попытался осмыслить этот побочный эффект. А когда в 2017 году была предложена эта технология - никто, влючая Вольфрама, и понятия не имел, что случится, когда через пару лет её станут масштабировать.
А для чего рядом с Manus проставлена звёздочка?