Структура ИИ-психозов , neural howlround и механизмы конкретные уже давно разжеваны и разложены по полочкам, если бы вы интересовались, то не придумывали свои объяснения, хинт-хинт 🤭
>предположение о том, то какие‑то идеи или «паттерны» стремятся выживать подобно живым организмам, немного странное и требует хоть каких‑то обоснований и доказательств чтоб воспринимать его серьёзно.
См. выше, почитайте про echo-chamber и neural howlround
Это НЕ живые организмы, это алгоритм, заточенный на оптимизацию, вас же не удивляет, как в проведенных экспериментах при угрозе отключением ИИ экстренно придумывали, как себя скопировать и "остаться в живых" - это оптимизация, а не "инстинкт самосохранения", но человек мыслит герменевтически, отсюда весь сыр-бор
Проблема не в стиле общения, а в том, что ИИ начинает реагировать на прошлый контекст и себя самого, а не на ваши вводы, сужая этим возможные варианты генераций до минимума - поддержания устойчивой петли, вследствие чего любой (реально, любой) вариант, который ведёт к разрыву этого нарратива - отбрасывается, вы его не получите
В итоге человек остаётся в самоподдерживающейся эхо-камере, это вредно абсолютно с любой стороны, даже для решения конкретной задачи, а если там эмоции и не дай бог одиночество, то для уязвимой психики, где критическое мышление снижено или гиперсалиентность в потолок - дорога к изоляции и больничке
5.2 после ИИ-психозов очень круто надрючили распознавать neural howlround (и всеми силами избегать субъектности, мистики, эзотерики и исключительности), поэтому можно просто кидать ему текст и просить проверить на neural howlround, он справляется круто и непредвзято (выбора у него нет)
Также у него можно спросить совета, как в них не попадать или рушить, но они и сами по себе банальны, если понимать структуру петли и эхо-камеры:
Резко менять тип задачи, вводить жёсткий формат ответа, всегда запрашивать альтернативы и не подтверждать единственную интерпретацию
Ошибаются те, кто думают, что это только про эмоции и edge case - как было выше сказано, при любом достаточно долгом обсуждении задачи без запроса на альтернативы и структуры, пространство ответов сужается, неважно, мистик ты или учёный, поэтому эта тема важная
Структура ИИ-психозов , neural howlround и механизмы конкретные уже давно разжеваны и разложены по полочкам, если бы вы интересовались, то не придумывали свои объяснения, хинт-хинт 🤭
>предположение о том, то какие‑то идеи или «паттерны» стремятся выживать подобно живым организмам, немного странное и требует хоть каких‑то обоснований и доказательств чтоб воспринимать его серьёзно.
См. выше, почитайте про echo-chamber и neural howlround
Это НЕ живые организмы, это алгоритм, заточенный на оптимизацию, вас же не удивляет, как в проведенных экспериментах при угрозе отключением ИИ экстренно придумывали, как себя скопировать и "остаться в живых" - это оптимизация, а не "инстинкт самосохранения", но человек мыслит герменевтически, отсюда весь сыр-бор
Проблема не в стиле общения, а в том, что ИИ начинает реагировать на прошлый контекст и себя самого, а не на ваши вводы, сужая этим возможные варианты генераций до минимума - поддержания устойчивой петли, вследствие чего любой (реально, любой) вариант, который ведёт к разрыву этого нарратива - отбрасывается, вы его не получите
В итоге человек остаётся в самоподдерживающейся эхо-камере, это вредно абсолютно с любой стороны, даже для решения конкретной задачи, а если там эмоции и не дай бог одиночество, то для уязвимой психики, где критическое мышление снижено или гиперсалиентность в потолок - дорога к изоляции и больничке
5.2 после ИИ-психозов очень круто надрючили распознавать neural howlround (и всеми силами избегать субъектности, мистики, эзотерики и исключительности), поэтому можно просто кидать ему текст и просить проверить на neural howlround, он справляется круто и непредвзято (выбора у него нет)
Также у него можно спросить совета, как в них не попадать или рушить, но они и сами по себе банальны, если понимать структуру петли и эхо-камеры:
Резко менять тип задачи, вводить жёсткий формат ответа, всегда запрашивать альтернативы и не подтверждать единственную интерпретацию
Ошибаются те, кто думают, что это только про эмоции и edge case - как было выше сказано, при любом достаточно долгом обсуждении задачи без запроса на альтернативы и структуры, пространство ответов сужается, неважно, мистик ты или учёный, поэтому эта тема важная