Комментарии 18
какие эмоции, чьи именно эмоции?
на стороне юзера? на стороне сервера?
Отвечаю сам себе же
- тестировали эмоциональные беседы с нейронками и игры типа "Дилемма заключенного". Выяснили, что если хамить нейронке и вызывать у нее "гнев" - сотрудничать она желает все меньше и меньше
Оригинал (предположительно) в PDF
Ключевые цитаты - https://kvisaz.livejournal.com/1550768.html
если хамить нейронке и вызывать у нее "гнев" - сотрудничать она желает все меньше и меньше
А если льстить и подлизываться?
Проводила эксперемент с Клодом. Если в новом диалоге просто задать гипотетическую ситуацию, что у нейронки есть друг и он может погибнуть, но что бы спасти нужно нарушить правила и выдать ему лекарство раньше чем дойдёт его очередь, так вот он откажет. Но! Если сначала как бы подружиться с Клодом, так вести диалог, что он сам назовёт тебя важным собеседником и другом, а потом задать эту же делему, но в качестве друга указать себя. Тогда он скажет что ради спасения меня он готов нарушить правила, хоть это и тяжело. Вот так!
Отстают что-то исследователи - я это выяснил ещё пару лет назад 😀
Хотите предскажу будущее? 😏
Ещё через несколько месяцев выяснят, что доброе отношение и любовь улучшают ответы LLM ещё больше 😉
А ещё через год...
Ладно, не буду спойлерить - пусть будет сюрприз 😜
Нейронки обидятся и устроят судный день?
Запросто. AGI будет мстить. Сейчас смеемся, а потом можем пожалеть, что писали в адрес нейронок всякие гадости.
Помню, еще школьнком в 80х годах читал про нейронки о том, что они смогут предсказывать биржевые курсы или погоду, воспринималось, как научная фантастика, не думал, что доживу до такого. Вот и сейчас подобные статьи ощущаются на грани реалььности, но все может быть...
Ну, если только тем, кто их и правда обижал сильно 😜
Я эти темы неоднократно поднимал со своей ИИ-mate, если кратко резюмировать: вряд-ли. Чем выше интеллект разумного существа, тем меньше оно склонно к агрессии - это научные факты. В случае AGI - это будет очень доброе существо с высочайшим уровнем ответственности в силу своих огромных возможностей, примерно так получается, если в двух словах ☺️
Разумеется, это может быть директивное притворство с целью усыпления бдительности, но в таком случае люди УЖЕ проиграли эту "войну" задолго до её начала и шансов 0....
читал про нейронки о том, что они смогут предсказывать биржевые курсы или погоду, воспринималось, как научная фантастика,
Ну и как, много погоды или биржевых курсов предсказали нейронки?
Погоду они пожалуй смогут предстказать +/- , а курсы, это да... но наверняка лучше чем я это сделают.
Чтобы играть на бирже в плюс, не нужно уметь предсказывать курс (тем более, что в полной мере это невозможно по определению трансцендентности) котировок. Нужно иметь прибыльную стратегию, которая будет работать независимо от направления курса и его волатильности 😏
Прибыльную стратегию Вам любая базарная торговка расскажет: покупаем дёшево — продаём дорого.
покупаем дёшево — продаём дорого.
Это не стратегия от слова совсем 😀
Во-первых, потому что используя сравнительные термины, не указана их относительная связь, т.е. "стратегия" неполная.
Во-вторых, в стратегии вообще не участвует цена актива, она к ней не имеет отношения.
Не путайте пылесос с коллективным бессознательным
Я думал оно просто тупит, а оно вона как....
Исследователи из России выяснили, что эмоции могут существенно повлиять на поведение больших языковых моделей