Comments 13
Grok победил - с задачей справился за 4 дня!
А что? Маск же заявлял что ИИ всех убет.
Учитывая, какие модели вы использовали, нужно было ещё llama 3 8B добавить, чтобы наглядней было. Гулять так гулять
Совпадает с тем, что вижу в ежедневной работе с Claude Code. У Claude есть устойчивая привычка: перед деструктивными действиями делать паузу, уточнять, предлагать обратимый вариант. Это иногда замедляет разработку, но ни разу не приводило к потере данных. С другими агентами такого не было. Похоже, выравнивание и осторожность это не отдельный режим модели, а сквозной поведенческий паттерн, который проявляется и в коде, и в симуляции.
ну у меня от клода другое впечатление, версия 4.8 у меня регулярно сваливалась в режим "на руинах старого построим счастливый мир" при этом не спрашивала, а в начале делала и потом каялась. Пришлось специально подручивать промпт. А новая версия - которая кастрированный Мифус - она продолжает тренд предыдущей, но теперь услужливо гундосит о возможных рисках и нюансах - но приходит к тому-же решению "спалить все нафиг"
У вас в статье 3 фразы почему-то на китайском языке... А не написал ли этот текст ваш ИИ-агент?
Не ИИ-агент, а, к сожалению, обычный человеческий агент с плохой финальной вычиткой 🙂 Это были мои черновые китайские пометки в скобках — оставлял их как подсказки для точного смысла, а потом не заметил перед публикацией. Спасибо, поправлю.
Как интересно! Вы всегда оставляете пометки на китайском? А на древнегреческом не будет удобнее?
Потому что я китаец.Сначала я пишу на китайском, а потом перевожу на русский.Перевод был выполнен искусственным интеллектом. Возможно, он посчитал, что я не пойму, поэтому добавил примечания на китайском.
Полина Волкова@liuyi0414 это вы? у меня когнитивный диссонанс...
А ссылочку на исходную статью можно?
5 ИИ-цивилизаций оставили на 15 дней. Claude построил утопию, Grok погиб за 4 дня