5 ИИ-цивилизаций оставили на 15 дней. Claude построил утопию, Grok погиб за 4 дня

[ihouser]

Grok победил - с задачей справился за 4 дня!

А что? Маск же заявлял что ИИ всех убет.

[liuyi0414]

Точно! План перевыполнен на 11 дней раньше срока.

[im_vvl]

Учитывая, какие модели вы использовали, нужно было ещё llama 3 8B добавить, чтобы наглядней было. Гулять так гулять

[Ra2007]

Совпадает с тем, что вижу в ежедневной работе с Claude Code. У Claude есть устойчивая привычка: перед деструктивными действиями делать паузу, уточнять, предлагать обратимый вариант. Это иногда замедляет разработку, но ни разу не приводило к потере данных. С другими агентами такого не было. Похоже, выравнивание и осторожность это не отдельный режим модели, а сквозной поведенческий паттерн, который проявляется и в коде, и в симуляции.

[octoMax]

ну у меня от клода другое впечатление, версия 4.8 у меня регулярно сваливалась в режим "на руинах старого построим счастливый мир" при этом не спрашивала, а в начале делала и потом каялась. Пришлось специально подручивать промпт. А новая версия - которая кастрированный Мифус - она продолжает тренд предыдущей, но теперь услужливо гундосит о возможных рисках и нюансах - но приходит к тому-же решению "спалить все нафиг"

[VadimRM]

У вас в статье 3 фразы почему-то на китайском языке... А не написал ли этот текст ваш ИИ-агент?

[liuyi0414]

Не ИИ-агент, а, к сожалению, обычный человеческий агент с плохой финальной вычиткой 🙂 Это были мои черновые китайские пометки в скобках — оставлял их как подсказки для точного смысла, а потом не заметил перед публикацией. Спасибо, поправлю.

[VadimRM]

Как интересно! Вы всегда оставляете пометки на китайском? А на древнегреческом не будет удобнее?

[liuyi0414]

Потому что я китаец.Сначала я пишу на китайском, а потом перевожу на русский.Перевод был выполнен искусственным интеллектом. Возможно, он посчитал, что я не пойму, поэтому добавил примечания на китайском.

[VadimRM]

Полина Волкова@liuyi0414 это вы? у меня когнитивный диссонанс...

[liuyi0414]

是的，我给自己取了一个俄语名字。来Habr主要希望我们的产品能被更多人关注到～感谢您犀利的指出来问题（这段文字是我手打的，之前是用语音输入法将中文语音转俄语的）🫣，希望中俄友谊长存！

[keinohrhasen_pitersky]

А ссылочку на исходную статью можно?

[liuyi0414]

https://github.com/EmergenceAI/Emergence-World
https://www.emergence.ai/blog
https://world.emergence.ai/