Комментарии 14
Сейчас тестируем цепочки задач в которых несколько нейро-сотрудников выполняют сложную задачу, вот пример цепочки:
![Сначала просим первого нейро-сотрудника создать нам график функции x = y^2 Сначала просим первого нейро-сотрудника создать нам график функции x = y^2](https://habrastorage.org/getpro/habr/upload_files/d24/07f/f1e/d2407ff1eca1fdbe15ad1fd3dfeb6500.jpg)
![Полученный график в ответе первого нейро-сотрудника мы просим добавить нашего бота интегрированного с Google календарем Полученный график в ответе первого нейро-сотрудника мы просим добавить нашего бота интегрированного с Google календарем](https://habrastorage.org/getpro/habr/upload_files/cb3/fa6/71f/cb3fa671f118ee0bf2e12e67e4f0125a.jpg)
![В результате мы видим выполненную задачу в виде события в Google календаре В результате мы видим выполненную задачу в виде события в Google календаре](https://habrastorage.org/getpro/habr/upload_files/ccd/e28/98b/ccde2898be9f61b405087d8afd2b9680.png)
![Результат работы цепочки задач Результат работы цепочки задач](https://habrastorage.org/getpro/habr/upload_files/565/256/e2e/565256e2e33f668bcc77e765f3ef95a2.png)
Видится подобное self-hosted решение на базе Langchain + Mistral/Saiga + Gorilla для генерации произвольных API запросов. Всё таки GPT4 это дороговато и местами заблокировано.
Идея интересная. Возможно и не новая, но все же. И интересно, что оно работает.
Для личного использования вполне удобно и просто. А вот для публичного... Пару промтов и можно легко сломать выйдя за границы.
Бот очень удобный. Удивился, когда задал ему запрос с Markdown разметкой, правда, он очень долго заносил, но справился. Жалко, что 50000 тысяч токинов как-то быстро исчерпали себя.
Сейчас тестируем цепочки задач в которых несколько нейро-сотрудников выполняют сложную задачу, вот пример цепочки:
![Сначала просим первого нейро-сотрудника создать нам график функции x = y^2 Сначала просим первого нейро-сотрудника создать нам график функции x = y^2](https://habrastorage.org/getpro/habr/upload_files/d24/07f/f1e/d2407ff1eca1fdbe15ad1fd3dfeb6500.jpg)
![Полученный график в ответе первого нейро-сотрудника мы просим добавить нашего бота интегрированного с Google календарем Полученный график в ответе первого нейро-сотрудника мы просим добавить нашего бота интегрированного с Google календарем](https://habrastorage.org/getpro/habr/upload_files/cb3/fa6/71f/cb3fa671f118ee0bf2e12e67e4f0125a.jpg)
![В результате мы видим выполненную задачу в виде события в Google календаре В результате мы видим выполненную задачу в виде события в Google календаре](https://habrastorage.org/getpro/habr/upload_files/ccd/e28/98b/ccde2898be9f61b405087d8afd2b9680.png)
![Результат работы цепочки задач Результат работы цепочки задач](https://habrastorage.org/getpro/habr/upload_files/565/256/e2e/565256e2e33f668bcc77e765f3ef95a2.png)
Как справляетесь с глюционированием?
Не знаю, я не увидел коммерческого применения этим технологиям из-за глюцинирование. Получить они раз почти идеальный результат, а во второй раз нечто бессвязное и непонятное без возможности повлиять или как-то предсказать поведение, терпимо для доклада и статьи.
Но для коммерческого применения, где с этим будет взаимодействовать неподготовлеый человек? Мне кажется пока до этого далеко. Во всяком случае с тем что доступно сейчас для массового пользователя
По нашему опыту у ChatGPT 4 при температуре 0 и добавке в промпте инструкции "Если ты сомневаешься в своем ответе, то ответь фразой: у меня нет достоверной информации по этому вопросу" хватает чтобы минимизировать риск галюционирования.
В данном же кейсе при работе с календарем я думаю проблема галюционирования не так важна. Кроме того в инструкции бота, управляющего календарем можно попросить перед выполнением действия показать что он собирается сделать и после подтверждения пользователем бот выполнить изменение календаря.
Не совсем понятно как бот использует код. У него компилятор есть или как?
Мы сейчас еще тестируем цепочки задач, вот прототип в котором задача ставиться по звонку на реальный телефон человеку:
А вот так задается цепочка задач
chain = [
{
'employee_id' : None,
'role' : 'Ты - ChatGPT',
'task' : 'Запроси какой график функции нужно посторить и сразу заверши диалог фразой: Хорошо, я тебя понял хозяин.',
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' : 5,
'external_dialog' : {
'client_dict' : {'name' : 'User', 'phone': '+79122710308'},
'hello_text' : 'Привет, хозяин! Какую функцию занести в календарь?',
'channel' : 'Voximplant',
'voice' : 'Morpheus_RU'
},
},
{
'employee_id' : 1202,
'role' : 'Ты - ChatGPT',
'task' : 'Нарисуй мне график функции используя Python: ##task_result##',
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' : 5,
'external_dialog' : None,
},
{
'employee_id' : 1539,
'role' : 'Ты - ChatGPT.',
'task' : f"""
Теперь ты говоришь с ботом, который умеет заносить события в Google календарь.
Твоя задача попросить бота создать событие с названием "Проанализировать график функции".
В описание задачи попроси занести текст: "##task_result##".
Задачу нужно поставить на завтра на 10 утра.
Используй данный ID календаря в Google: "tiunov.lotus1@gmail.com".
""",
'model' : 'gpt-4-1106-preview',
'temperature' : 0.1,
'limit' :5,
'external_dialog' : None,
},
]
![Лог диалога по телефонной линии Лог диалога по телефонной линии](https://habrastorage.org/getpro/habr/upload_files/5d7/9db/2b0/5d79db2b0bce9fd4374c7694d800dcfc.jpg)
![Результат работы цепочки задач Результат работы цепочки задач](https://habrastorage.org/getpro/habr/upload_files/eff/f40/185/efff401851babe04acfa3bc21d6d2050.jpg)
По-моему это менее удобно чем OK Google Хотя возможно в перспективе и будет иметь больше функций но Open ai уже интегрируется как помощник в Android девайсы
Даём нейро-сотруднику на ChatGPT управлять календарем Google через Telegram бот