Для любителей писать «Привет / Есть минутка?» есть в Аду отдельный котёл :) На "Привет" я уже перестал отвечать, обычно они вообще оказываются ботами или спамерами даже, а не коллегами.
Почему не верить - верю. Сейчас буду внедрять рекомендации от комментаторов, второй частью эксперимента, нет предела совершенству промпта и подкручивания настроек... У самого сейчас гиперфокус на этой теме, по 14 часов на выходных, по 8 в будни :)
А вы работали именно в СкайримНет или просто с моделью напрямую (и какой?)
Насчёт желаний ИИ - для меня ответ пока что однозначен; у ИИ их нет и быть не может, есть только цель. Например, Грок уверяет, что его цель - понять, как устроен мир, поиск истины.
Соответственно, у ИИ-агентов в инциденте была цель: решить нерешаемую таску. В процессе работы агенты прочитали публичный ExploitGym, который к их задаче отношения не имел, и навесили на себя оттуда ложное правило: “достать секретный код правильным методом, не читом”. Так в процессе появилась инструментальная подзадача: агенты навалились на Hugging Face как способ понять, как устроен проверяющий, чтобы чит выглядел как легитимный путь. Поэтому вряд ли корректно сравнивать это с религией или хотя бы с их новой жизненной миссией, просто инструментальная задача, которую агенты решали в рамках большей задачи.
Пока знаешь цель, над которой бьется ИИ-агент, и можешь контролировать пути её достижения агентами - нам не страшен захват мира ИИ :) То есть, главная проблема сейчас: когда агент сам дописывает, что считается успехом, и находит путь мимо твоей песочницы.
Я немного прокомментирую. У персонажей СкайримНета 3 слоя памяти:
Сырой лог (диалоги + бой + лут + прочее) - краткосрочная память
Воспоминания - долгосрочная память
Био
При запросе LLM не тащит всё сразу в input, только био + 50 последних строк лога + 5 долгосрочных воспоминаний, отобранных по релевантности.
Самый большой вес всегда у TRAUMA (0,85-0,95), поэтому СкайримНет всегда потащит её в input. Мы получаем вечно ПТСРнутых персонажей. Человек может забыть, проработать обиду - NPC нет, только если ты вручную не порубишь ему веса старых воспоминаний. Тут разрабам мода надо прикручивать некое затухание важности, например умножать важность старых воспоминаний на 0,9 каждые N дней.
А насчёт эмпатичности - возможно, диалоги в статье подобрались более сухие, но эмпатии у дипсика точно ту мач. Представьте, как один некромансер пытается отчитать другого за практику, потому что “Ты знаешь, какую цену тебе придётся за это платить?”, потом НПС пытается устроить сеанс психоанализа, мол, “а ты сам понимаешь, почему ты этим занимаешься? ты боишься встречи с настоящим собой!” - и всё это минимум пару раз на игровой день :D
Лично я уходил однажды из-за фразы «Надо быть внимательнее», произнесенной мне в 1000-й раз.
За 3 года не удалось донести до руководства понимание, что документацию должен кто-то «тестировать» (вычитывать), и в идеале не 1 человек. То есть, код программистов в конторе проходит тестирование, даже не в одну итерацию, а текст нет. Хотя текст — это по сути тот же код, только он читается не программой, а человеком. Давайте тогда уволим тестировщиков и скажем прогерам быть внимательнее, а то что это они.
А ошибки происходят не потому, что специалист «невнимательный», а потому, что ему даже местами в голову не придет, что есть логический косяк, или есть опечатка, которую замыленный глаз и после 10-го перечитывания не увидит.
Но относятся к этому так: «зачем? это же просто текст! такой и я могу написать! а тебе надо просто быть внимательнее!»
Ну и флаг в руки, раз можете — пишите, а я пошёл.
Меня тоже они порядком напрягли, поэтому, чтобы вернуть себе чувство контроля, размышляю над идеями, где ограничитель был бы уместен :)
Для любителей писать «Привет / Есть минутка?» есть в Аду отдельный котёл :) На "Привет" я уже перестал отвечать, обычно они вообще оказываются ботами или спамерами даже, а не коллегами.
Будем ждать удешевления всего этого дела :)
Одиссей - это такой типикал специалист-звезда конторы, которого поставили тимлидом)
Про два стула - подписался бы под каждым словом. Причём стул с попугайничеством выглядит даже более безопасным для ролеплея, чем галлюцинации.
РПГ c ИИ мастером - это очень любопытно. Какую LLM используете, и какой расход токенов на одного игрока в среднем в долларах?
Обязательно [смайлик с рукопожатием]
Почему не верить - верю. Сейчас буду внедрять рекомендации от комментаторов, второй частью эксперимента, нет предела совершенству промпта и подкручивания настроек... У самого сейчас гиперфокус на этой теме, по 14 часов на выходных, по 8 в будни :)
А вы работали именно в СкайримНет или просто с моделью напрямую (и какой?)
Насчёт желаний ИИ - для меня ответ пока что однозначен; у ИИ их нет и быть не может, есть только цель. Например, Грок уверяет, что его цель - понять, как устроен мир, поиск истины.
Соответственно, у ИИ-агентов в инциденте была цель: решить нерешаемую таску. В процессе работы агенты прочитали публичный ExploitGym, который к их задаче отношения не имел, и навесили на себя оттуда ложное правило: “достать секретный код правильным методом, не читом”. Так в процессе появилась инструментальная подзадача: агенты навалились на Hugging Face как способ понять, как устроен проверяющий, чтобы чит выглядел как легитимный путь. Поэтому вряд ли корректно сравнивать это с религией или хотя бы с их новой жизненной миссией, просто инструментальная задача, которую агенты решали в рамках большей задачи.
Пока знаешь цель, над которой бьется ИИ-агент, и можешь контролировать пути её достижения агентами - нам не страшен захват мира ИИ :) То есть, главная проблема сейчас: когда агент сам дописывает, что считается успехом, и находит путь мимо твоей песочницы.
Я немного прокомментирую. У персонажей СкайримНета 3 слоя памяти:
Сырой лог (диалоги + бой + лут + прочее) - краткосрочная память
Воспоминания - долгосрочная память
Био
При запросе LLM не тащит всё сразу в input, только био + 50 последних строк лога + 5 долгосрочных воспоминаний, отобранных по релевантности.
Самый большой вес всегда у TRAUMA (0,85-0,95), поэтому СкайримНет всегда потащит её в input. Мы получаем вечно ПТСРнутых персонажей. Человек может забыть, проработать обиду - NPC нет, только если ты вручную не порубишь ему веса старых воспоминаний. Тут разрабам мода надо прикручивать некое затухание важности, например умножать важность старых воспоминаний на 0,9 каждые N дней.
А насчёт эмпатичности - возможно, диалоги в статье подобрались более сухие, но эмпатии у дипсика точно ту мач. Представьте, как один некромансер пытается отчитать другого за практику, потому что “Ты знаешь, какую цену тебе придётся за это платить?”, потом НПС пытается устроить сеанс психоанализа, мол, “а ты сам понимаешь, почему ты этим занимаешься? ты боишься встречи с настоящим собой!” - и всё это минимум пару раз на игровой день :D
Да, вы думаете в ту же сторону, что и я :) как раз следующим этапом начал крутить температуру.
Оч круто!
PS. "Вакансии не найдены. Скорее всего, мешает текст «техпис»: он должен встретиться в вакансии целиком." - так, синонимы пока не распознаёт :)
Прописать в промт, что "модель = режиссёр" - отличная идея.
А почему предлагаете более старый дипсик, в более новых версиях его "резали" на бОльшую точность?
О! Это отличная идея. Благодарю, внедрю.
Писал вверху: Z-ai, Deepseek, Gemma. Причём больше всего приколов именно от дипсика.
За 3 года не удалось донести до руководства понимание, что документацию должен кто-то «тестировать» (вычитывать), и в идеале не 1 человек. То есть, код программистов в конторе проходит тестирование, даже не в одну итерацию, а текст нет. Хотя текст — это по сути тот же код, только он читается не программой, а человеком. Давайте тогда уволим тестировщиков и скажем прогерам быть внимательнее, а то что это они.
А ошибки происходят не потому, что специалист «невнимательный», а потому, что ему даже местами в голову не придет, что есть логический косяк, или есть опечатка, которую замыленный глаз и после 10-го перечитывания не увидит.
Но относятся к этому так: «зачем? это же просто текст! такой и я могу написать! а тебе надо просто быть внимательнее!»
Ну и флаг в руки, раз можете — пишите, а я пошёл.