Comments 14
Сейчас тестируем цепочки задач в которых несколько нейро-сотрудников выполняют сложную задачу, вот пример цепочки:
Видится подобное self-hosted решение на базе Langchain + Mistral/Saiga + Gorilla для генерации произвольных API запросов. Всё таки GPT4 это дороговато и местами заблокировано.
Идея интересная. Возможно и не новая, но все же. И интересно, что оно работает.
Для личного использования вполне удобно и просто. А вот для публичного... Пару промтов и можно легко сломать выйдя за границы.
Бот очень удобный. Удивился, когда задал ему запрос с Markdown разметкой, правда, он очень долго заносил, но справился. Жалко, что 50000 тысяч токинов как-то быстро исчерпали себя.
Сейчас тестируем цепочки задач в которых несколько нейро-сотрудников выполняют сложную задачу, вот пример цепочки:
Как справляетесь с глюционированием?
Не знаю, я не увидел коммерческого применения этим технологиям из-за глюцинирование. Получить они раз почти идеальный результат, а во второй раз нечто бессвязное и непонятное без возможности повлиять или как-то предсказать поведение, терпимо для доклада и статьи.
Но для коммерческого применения, где с этим будет взаимодействовать неподготовлеый человек? Мне кажется пока до этого далеко. Во всяком случае с тем что доступно сейчас для массового пользователя
По нашему опыту у ChatGPT 4 при температуре 0 и добавке в промпте инструкции "Если ты сомневаешься в своем ответе, то ответь фразой: у меня нет достоверной информации по этому вопросу" хватает чтобы минимизировать риск галюционирования.
В данном же кейсе при работе с календарем я думаю проблема галюционирования не так важна. Кроме того в инструкции бота, управляющего календарем можно попросить перед выполнением действия показать что он собирается сделать и после подтверждения пользователем бот выполнить изменение календаря.
Не совсем понятно как бот использует код. У него компилятор есть или как?
Мы сейчас еще тестируем цепочки задач, вот прототип в котором задача ставиться по звонку на реальный телефон человеку:
А вот так задается цепочка задач
chain = [
{
'employee_id' : None,
'role' : 'Ты - ChatGPT',
'task' : 'Запроси какой график функции нужно посторить и сразу заверши диалог фразой: Хорошо, я тебя понял хозяин.',
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' : 5,
'external_dialog' : {
'client_dict' : {'name' : 'User', 'phone': '+79122710308'},
'hello_text' : 'Привет, хозяин! Какую функцию занести в календарь?',
'channel' : 'Voximplant',
'voice' : 'Morpheus_RU'
},
},
{
'employee_id' : 1202,
'role' : 'Ты - ChatGPT',
'task' : 'Нарисуй мне график функции используя Python: ##task_result##',
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' : 5,
'external_dialog' : None,
},
{
'employee_id' : 1539,
'role' : 'Ты - ChatGPT.',
'task' : f"""
Теперь ты говоришь с ботом, который умеет заносить события в Google календарь.
Твоя задача попросить бота создать событие с названием "Проанализировать график функции".
В описание задачи попроси занести текст: "##task_result##".
Задачу нужно поставить на завтра на 10 утра.
Используй данный ID календаря в Google: "tiunov.lotus1@gmail.com".
""",
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' :5,
'external_dialog' : None,
},
]
По-моему это менее удобно чем OK Google Хотя возможно в перспективе и будет иметь больше функций но Open ai уже интегрируется как помощник в Android девайсы
Даём нейро-сотруднику на ChatGPT управлять календарем Google через Telegram бот