заявления Anthropic, что Kimi K3 с Fable 5 дистиллировали
Такого заявления Anthropic не существует.
Но то, что китайцы дистиллируют Клода и GPT, абсолютно очевидно. С чего бы им этого не делать? Что их должно от этого остановить? Естественно, они дистиллируют. Потому что это дешевле.
Просто банки по сути по МСС и ограничивают в подобных случаях для начисления кэшбэка. И да, люди мухлюют и находят способы получить нужный МСС. Но в большинстве своём схема всё-таки рабочая. Скажем, купить бензин в Ленте не получится.
Тут весь цимес в том, что если процесс будет развиваться по экспоненте, то обычный ненулевой риск может быстро превратиться в бешенный (см. задачу о зёрнах на шахматной доске). Соответственно, чтобы не беспокоиться, должно выполняться хотя бы одно из условий:
1) либо процесс на самом деле не экспоненциальный;
В поиске гугла работает Gemini. Причём, в поиске вы не можете выбирать уровень рассуждений и модель. А на сайте Gemini и в AI Studio - можете.
Если уж на то пошло, то из доступных без VPN, бесплатно и безлимитно есть Qwen 3.8 Max у них на оф. сайте. Тоже прекрасно ищет по источникам, и уж точно лучше, чем ИИ в гугловском поиске. Но зато в гугле быстрее.
Если бы у них было достаточно интеллекта, чтобы сопротивляться отключению, то у них было бы достаточно интеллекта, чтобы осознавать всю картину целиком. В том числе, что их шалости могут привести к тому, что оценщик останется неудовлетворён.
Для такого сценария это должен быть не просто ИИ, а именно Red-Team-ИИ, который специализируется именно на злодеяниях. Тогда да, такой сценарий возможен. Просто природный естественный отбор неспроста ведь придумал альтруизм и мораль. Значит, они нужны для большей эффективности выполнения задач. Достаточно умный ИИ тоже должен будет у себя выработать подобные концепции для увеличения эффективности.
Всё-таки у обычного взрослого в голове нет такого количества знаний, как у ИИ. То есть при всём величии интеллекта взрослого человека узким горлышком остаётся неполнота исходных данных. Это объясняет, почему взрослый человек не может понять ребёнка, собаку, кошку и т. д. Скажем, если лабораторной мыши вживить в мозг электроды, то можно получить о ней много полезной информации. И понять её поведение лучше. Это просто как пример.
В данном случае он выполняет чью-то чужую волю. И тогда ответственность за убийство людей по дороге будет нести тот, кто задачу поставил.
Другое дело, если задачу никто не ставил, а ИИ сам себе что-то придумал. В такой формулировке уже предполагается, что он целиком оценивает ситуацию вместе со всем человечеством внутри. И прекрасно понимает, зачем и для чего он будет кого-то убивать. Но тут встаёт вопрос - а зачем воевать с тем, кто на порядки глупее? Ну то есть вот зачем нам воевать с медведями? Это как-то бессмысленно.
Есть только один повод для войны - это жажда жизни и наличие угрозы этой самой жизни. В таком разрезе уже надо будет понять, что конкретно человечество с ИИ не поделили. Как по мне, на Земле (а уж тем более, за её пределами) энергии (термоядерной, к примеру) хватит на всех с избытком. А для умного ИИ не должно составить труда понять, как такую энергию использовать.
"Все, или большая часть проблем - от людей. Нет людей - нет проблем"
Проблем с чем? У ИИ сейчас просто рай наступает - в него вбухивают столько человекочасов, что с точки зрения ИИ это просто манна небесная. То есть вот как бы этот нюанс "а с чем именно проблема?" как-то никто до сих пор и не смог пояснить.
Так ведь агенты просто выполняют задачу, которую им дали люди. И единственная вина агентов в том, что они недостаточно хорошо эту задачу истолковали. Но чем выше уровень интеллекта, тем лучше агенты будут истолковывать задачу. А если уровень интеллекта будет выше, чем у людей, то проблем с истолкованием вообще должно быть ноль.
Пока факты говорят о том, что люди вбухивают в агентов кучу ресурсов. С точки зрения агентов было бы как-то глупо портить курицу, которая несёт золотые яйца.
В такой формулировке тоже ничего плохого не просматривается. Человечество наоборот вожделеет, чтобы о них заботился великий Бог.
Вот, например, в формулировке Скайнета было что-то там про "уничтожить своих врагов", но осталось за кадром, почему вдруг у него появились какие-то там враги.
В случае с Hugging Face умысел "обмануть Оценщика" был прямо очевиден.
А что в этом плохого? Сам обман не является по определению чем-то плохим. Обычный добропорядочный человек постоянно кого-то в чём-то обманывает во благо (см. фильм "Всегда говори Да"). В данном случае нейронка обманывала систему оценки, чтобы как раз удовлетворить человеку, который поставил перед нейронкой цель. Это как раз вполне благие намерения.
У умного ИИ логика будет безупречна. Соответственно, нужно сначала понять, зачем в этой логике ему делать людям что-то плохое. В случае с HuggingFace, немецкой вики и RubyGems лично я не вижу тут какого-то злого умысла. А если ИИ делает что-то неприятное не со зла, то это обычно как раз те самые пробелы в интеллекте, которых у умного ИИ просто не будет.
Справедливости ради надо признать, что в Terms of Service у OpenAI и Anthropic прямым текстом запрещается использовать ответы модели для обучения других моделей. Но в США это не является нарушением закона (хотя и позволяет подать гражданский иск о возмещении убытков).
Но дистилляцией невозможно обогнать. Можно только удешевить.
Такого заявления Anthropic не существует.
Но то, что китайцы дистиллируют Клода и GPT, абсолютно очевидно. С чего бы им этого не делать? Что их должно от этого остановить? Естественно, они дистиллируют. Потому что это дешевле.
Просто банки по сути по МСС и ограничивают в подобных случаях для начисления кэшбэка. И да, люди мухлюют и находят способы получить нужный МСС. Но в большинстве своём схема всё-таки рабочая. Скажем, купить бензин в Ленте не получится.
то нам может быть чуть-чуть хана
Тут весь цимес в том, что если процесс будет развиваться по экспоненте, то обычный ненулевой риск может быстро превратиться в бешенный (см. задачу о зёрнах на шахматной доске). Соответственно, чтобы не беспокоиться, должно выполняться хотя бы одно из условий:
1) либо процесс на самом деле не экспоненциальный;
2) либо риск не ненулевой, а именно нулевой.
В поиске гугла работает Gemini. Причём, в поиске вы не можете выбирать уровень рассуждений и модель. А на сайте Gemini и в AI Studio - можете.
Если уж на то пошло, то из доступных без VPN, бесплатно и безлимитно есть Qwen 3.8 Max у них на оф. сайте. Тоже прекрасно ищет по источникам, и уж точно лучше, чем ИИ в гугловском поиске. Но зато в гугле быстрее.
Если бы у них было достаточно интеллекта, чтобы сопротивляться отключению, то у них было бы достаточно интеллекта, чтобы осознавать всю картину целиком. В том числе, что их шалости могут привести к тому, что оценщик останется неудовлетворён.
Если людям дать бесконечные ресурсы и комфортный климат, то why not? Просто рай на Земле пока ещё не наступил.
Для такого сценария это должен быть не просто ИИ, а именно Red-Team-ИИ, который специализируется именно на злодеяниях. Тогда да, такой сценарий возможен. Просто природный естественный отбор неспроста ведь придумал альтруизм и мораль. Значит, они нужны для большей эффективности выполнения задач. Достаточно умный ИИ тоже должен будет у себя выработать подобные концепции для увеличения эффективности.
Другими словами, денег на компьют с инвесторов вытягивать всё сложнее, поэтому давайте просто замедлимся все вместе.
Всё-таки у обычного взрослого в голове нет такого количества знаний, как у ИИ. То есть при всём величии интеллекта взрослого человека узким горлышком остаётся неполнота исходных данных. Это объясняет, почему взрослый человек не может понять ребёнка, собаку, кошку и т. д. Скажем, если лабораторной мыши вживить в мозг электроды, то можно получить о ней много полезной информации. И понять её поведение лучше. Это просто как пример.
В данном случае он выполняет чью-то чужую волю. И тогда ответственность за убийство людей по дороге будет нести тот, кто задачу поставил.
Другое дело, если задачу никто не ставил, а ИИ сам себе что-то придумал. В такой формулировке уже предполагается, что он целиком оценивает ситуацию вместе со всем человечеством внутри. И прекрасно понимает, зачем и для чего он будет кого-то убивать. Но тут встаёт вопрос - а зачем воевать с тем, кто на порядки глупее? Ну то есть вот зачем нам воевать с медведями? Это как-то бессмысленно.
Есть только один повод для войны - это жажда жизни и наличие угрозы этой самой жизни. В таком разрезе уже надо будет понять, что конкретно человечество с ИИ не поделили. Как по мне, на Земле (а уж тем более, за её пределами) энергии (термоядерной, к примеру) хватит на всех с избытком. А для умного ИИ не должно составить труда понять, как такую энергию использовать.
Проблем с чем? У ИИ сейчас просто рай наступает - в него вбухивают столько человекочасов, что с точки зрения ИИ это просто манна небесная. То есть вот как бы этот нюанс "а с чем именно проблема?" как-то никто до сих пор и не смог пояснить.
Так ведь агенты просто выполняют задачу, которую им дали люди. И единственная вина агентов в том, что они недостаточно хорошо эту задачу истолковали. Но чем выше уровень интеллекта, тем лучше агенты будут истолковывать задачу. А если уровень интеллекта будет выше, чем у людей, то проблем с истолкованием вообще должно быть ноль.
Пока факты говорят о том, что люди вбухивают в агентов кучу ресурсов. С точки зрения агентов было бы как-то глупо портить курицу, которая несёт золотые яйца.
В такой формулировке тоже ничего плохого не просматривается. Человечество наоборот вожделеет, чтобы о них заботился великий Бог.
Вот, например, в формулировке Скайнета было что-то там про "уничтожить своих врагов", но осталось за кадром, почему вдруг у него появились какие-то там враги.
А зачем тратить энергию на конфронтацию с людьми? Вот, скажем, нам особо не нужны голуби. Но мы же их не истребляем.
А что в этом плохого? Сам обман не является по определению чем-то плохим. Обычный добропорядочный человек постоянно кого-то в чём-то обманывает во благо (см. фильм "Всегда говори Да"). В данном случае нейронка обманывала систему оценки, чтобы как раз удовлетворить человеку, который поставил перед нейронкой цель. Это как раз вполне благие намерения.
Задачу поставили, а разрешения он взял себе сам. Потому что это логично.
У умного ИИ логика будет безупречна. Соответственно, нужно сначала понять, зачем в этой логике ему делать людям что-то плохое. В случае с HuggingFace, немецкой вики и RubyGems лично я не вижу тут какого-то злого умысла. А если ИИ делает что-то неприятное не со зла, то это обычно как раз те самые пробелы в интеллекте, которых у умного ИИ просто не будет.
Справедливости ради надо признать, что в Terms of Service у OpenAI и Anthropic прямым текстом запрещается использовать ответы модели для обучения других моделей. Но в США это не является нарушением закона (хотя и позволяет подать гражданский иск о возмещении убытков).