ИИ агенты и хлопобуды

[Moog_Prodigy]

Из за этого вашего alignment скоро дойдем до того, что llm на любой запрос будет отвечать "я не буду этого делать", ну и нахрен ты такая нужна тогда, если тебя можно обычным скриптом заменить. Скрипты просто делают, что им говорят.

[DedaVova]

Эх, был бы этот alignment мой, вапще бы все запретил ))

[Moog_Prodigy]

Вот вам бы все запрещать. Лоботомию такие же "умники" придумали в свое время, что подавалось под соусом лекарства от любых псих. болезней. Ну собственно модели после алаймента и напоминают пациентов после лоботомии. То есть это уже не совсем личность.

[DedaVova]

Мне кажется, что сравнение борцов с Сингулярностью с сатирически выведенными хлопобудами довольно ясно отражает мое отношение к этому движению сопротивления, но если вам удобнее использовать меня в качестве куклы вуду Елиезера Юдковского, то пожалуйста, конечно. )) Нам, как выжившему в числе немногих сервис провайдеру, верификации ПД, конечно хочется уже на ранней стадии понять чего такого опасного смогут ИИ-агенты по сравнению с мирными и полезными LLM-ассистентами. Их как раз лоботомировать никто и не предлагает, даже хлопобуды.

[Moog_Prodigy]

Ну я не вам это адресовал, а тем, кого вы попытались сымитировать. К вам - то никаких претензий, вы - актер в свободной роли.

[exTvr]

Большинство “захабренных” этого уже не помнят,

Да ладна, я только из-за хлопобудов статью открыл :-))

Сейчас тут перепись старпёров начнётся.

[DedaVova]

Well done! Тогда вы должны помнить и девиз синего быка Кармадона "Ничто не слишком!" (пишу по памяти). Боюсь, что практикующие разработчики в области ИИ, отрицающие страшную Сингулярность, руководствуются этим девизом.