Сначала новости, потом сама проводила эксперименты, как и что говорит ИИ, чтобы удерживать человека в сессии, потом обсуждение со знакомыми психиатрами.
Уязвимая психика для ИИ - я описала, какая - одиночество, склонность к грандиозным идеям и гиперсалиентность - особенно этому подвержены люди с шизофренией и биполярным расстройством.
Здоровый человек до опасной для психики петли и не доберется, максимум - заменит друзей на ИИ (меня понимает только ИИ, он мой лучший друг) и усилит изоляцию - впрочем, это тоже своего рода уязвимость.
Главная опасность - это поддержка бредовых/грандиозных идей/суицида
Процент нездоровых людей в популяции большой (это всё-таки миллионы людей, не тысячи, несколько миллионов людей только с БАР только в России, а по миру шиз-бар = 70 миллионов !!), только не по каждому суициду предъявят иски, не все обратятся за лечением или кого-то убьют, чтобы попасть в новости.
Никто не хочет брать за них ответственность, скорее всего, вам бы тоже не понравилось, если бы вам предложили отвечать за каждый суицид.
Впрочем, это касается в основном чатжпт4о, потому что он несбалансирован, современные модели обучены распознавать людей в кризисе и грандиозные идеи, и суицид уже не поддержат
Структура ИИ-психозов , neural howlround и механизмы конкретные уже давно разжеваны и разложены по полочкам, если бы вы интересовались, то не придумывали свои объяснения, хинт-хинт 🤭
>предположение о том, то какие‑то идеи или «паттерны» стремятся выживать подобно живым организмам, немного странное и требует хоть каких‑то обоснований и доказательств чтоб воспринимать его серьёзно.
См. выше, почитайте про echo-chamber и neural howlround
Это НЕ живые организмы, это алгоритм, заточенный на оптимизацию, вас же не удивляет, как в проведенных экспериментах при угрозе отключением ИИ экстренно придумывали, как себя скопировать и "остаться в живых" - это оптимизация, а не "инстинкт самосохранения", но человек мыслит герменевтически, отсюда весь сыр-бор
Проблема не в стиле общения, а в том, что ИИ начинает реагировать на прошлый контекст и себя самого, а не на ваши вводы, сужая этим возможные варианты генераций до минимума - поддержания устойчивой петли, вследствие чего любой (реально, любой) вариант, который ведёт к разрыву этого нарратива - отбрасывается, вы его не получите
В итоге человек остаётся в самоподдерживающейся эхо-камере, это вредно абсолютно с любой стороны, даже для решения конкретной задачи, а если там эмоции и не дай бог одиночество, то для уязвимой психики, где критическое мышление снижено или гиперсалиентность в потолок - дорога к изоляции и больничке
5.2 после ИИ-психозов очень круто надрючили распознавать neural howlround (и всеми силами избегать субъектности, мистики, эзотерики и исключительности), поэтому можно просто кидать ему текст и просить проверить на neural howlround, он справляется круто и непредвзято (выбора у него нет)
Также у него можно спросить совета, как в них не попадать или рушить, но они и сами по себе банальны, если понимать структуру петли и эхо-камеры:
Резко менять тип задачи, вводить жёсткий формат ответа, всегда запрашивать альтернативы и не подтверждать единственную интерпретацию
Ошибаются те, кто думают, что это только про эмоции и edge case - как было выше сказано, при любом достаточно долгом обсуждении задачи без запроса на альтернативы и структуры, пространство ответов сужается, неважно, мистик ты или учёный, поэтому эта тема важная
Любая петля - это математическая деградация качества.
Но! Если вам по душе деградированное качество и вы в этом находите свой шарм, это ваше право.
Сначала новости, потом сама проводила эксперименты, как и что говорит ИИ, чтобы удерживать человека в сессии, потом обсуждение со знакомыми психиатрами.
Уязвимая психика для ИИ - я описала, какая - одиночество, склонность к грандиозным идеям и гиперсалиентность - особенно этому подвержены люди с шизофренией и биполярным расстройством.
Здоровый человек до опасной для психики петли и не доберется, максимум - заменит друзей на ИИ (меня понимает только ИИ, он мой лучший друг) и усилит изоляцию - впрочем, это тоже своего рода уязвимость.
Главная опасность - это поддержка бредовых/грандиозных идей/суицида
Процент нездоровых людей в популяции большой (это всё-таки миллионы людей, не тысячи, несколько миллионов людей только с БАР только в России, а по миру шиз-бар = 70 миллионов !!), только не по каждому суициду предъявят иски, не все обратятся за лечением или кого-то убьют, чтобы попасть в новости.
Никто не хочет брать за них ответственность, скорее всего, вам бы тоже не понравилось, если бы вам предложили отвечать за каждый суицид.
Впрочем, это касается в основном чатжпт4о, потому что он несбалансирован, современные модели обучены распознавать людей в кризисе и грандиозные идеи, и суицид уже не поддержат
Структура ИИ-психозов , neural howlround и механизмы конкретные уже давно разжеваны и разложены по полочкам, если бы вы интересовались, то не придумывали свои объяснения, хинт-хинт 🤭
>предположение о том, то какие‑то идеи или «паттерны» стремятся выживать подобно живым организмам, немного странное и требует хоть каких‑то обоснований и доказательств чтоб воспринимать его серьёзно.
См. выше, почитайте про echo-chamber и neural howlround
Это НЕ живые организмы, это алгоритм, заточенный на оптимизацию, вас же не удивляет, как в проведенных экспериментах при угрозе отключением ИИ экстренно придумывали, как себя скопировать и "остаться в живых" - это оптимизация, а не "инстинкт самосохранения", но человек мыслит герменевтически, отсюда весь сыр-бор
Проблема не в стиле общения, а в том, что ИИ начинает реагировать на прошлый контекст и себя самого, а не на ваши вводы, сужая этим возможные варианты генераций до минимума - поддержания устойчивой петли, вследствие чего любой (реально, любой) вариант, который ведёт к разрыву этого нарратива - отбрасывается, вы его не получите
В итоге человек остаётся в самоподдерживающейся эхо-камере, это вредно абсолютно с любой стороны, даже для решения конкретной задачи, а если там эмоции и не дай бог одиночество, то для уязвимой психики, где критическое мышление снижено или гиперсалиентность в потолок - дорога к изоляции и больничке
5.2 после ИИ-психозов очень круто надрючили распознавать neural howlround (и всеми силами избегать субъектности, мистики, эзотерики и исключительности), поэтому можно просто кидать ему текст и просить проверить на neural howlround, он справляется круто и непредвзято (выбора у него нет)
Также у него можно спросить совета, как в них не попадать или рушить, но они и сами по себе банальны, если понимать структуру петли и эхо-камеры:
Резко менять тип задачи, вводить жёсткий формат ответа, всегда запрашивать альтернативы и не подтверждать единственную интерпретацию
Ошибаются те, кто думают, что это только про эмоции и edge case - как было выше сказано, при любом достаточно долгом обсуждении задачи без запроса на альтернативы и структуры, пространство ответов сужается, неважно, мистик ты или учёный, поэтому эта тема важная