Comments 12
Ну блин. Я думал, на этапе запросов будет отклонение через ИИ, а не живой человек. Какой поинт, если это не автоматизация?
Но идея прикольная =) Мне понравилось =)
Спасибо за оценку.
Это ключевая защита от prompt injection - есть механики обхода даже жестко вшитых системных инструкций.
Но может после этого эксперимента соберу полный AI конвейер - как статистику соберу. Была идея собрать симуляцию - как быстро система из песочницы сбежит. Кстати, интересный эксперимент на будущее. Записал себе - теперь обдумаю всерьез ))
идея очень классная! подписался
Эксперимент весьма интересен. Ждем результатов.
Задумка интересная, но два момента убивает почти весь fun:
1. Ручная премодерация
2. Закрытые исходники
Ну и оставлю линк на похожий перформанс, но чуть другого жанра: https://github.com/yologdev/yoyo-evolve
Спасибо.
1. Да, из-за премодерации я действительно являюсь бутылочным горлышком. Но это осознанный выбор, необходимость валидировать злонамеренный prompt injection. Суть задачи и запрос на изменение я не валидирую.
2. Исходники оставил осознанно закрытыми - суть не в развитии опенсорс проекта и рассмотрении issues, PR/MR. После эксперимента, если будет запрос, я открою исходники с историей вносимых изменений.
Ссылку посмотрю. Я взял другой проект для обвязки, сделанный поверх opencode. Про обвязку pipeline напишу чуть позже статью. Почитаю документацию проекта - может будут интересные идеи для переиспользования.
Цитата: «Нагрузка на человека не исчезнет, а переедет. Скорее всего, я перестану быть нужен на кодировании и стану нужен на формулировке и разборе конфликтов. Интересно, в какую именно стадию утечёт моё время.»
Согласен. По сути, формулировка задачи — это и есть её алгоритм, только записанный не кодом, а словами. ИИ может написать реализацию, но спецификацию пишет человек. Чем точнее мы переводим смутную мысль в ясную формулировку, тем лучше результат. Пожалуй, умение «сворачивать» сложное в простое и станет главным навыком, который останется за нами.
Не совсем. Задача не является алгоритмом, зачастую это просто формулировка результата или формулировка проблемы. Алгоритм это уже способ достижения результата. В этом эксперименте много мест роста прикладной ценности человека.
Но надо изучить - где именно максимальный позитивный эффект, а где - деградация при видимом эффекте.
Спасибо, что поправили — действительно, задача и алгоритм не тождественны. Задача формулирует «что», а алгоритм — «как». Но, возможно, в этом зазоре и лежит самое интересное. Умение поставить задачу так, чтобы она не требовала уточнений и не допускала разночтений — это, по сути, новый навык. И он, кажется, пока не проверяется ни в обучении, ни при найме. Именно здесь может проявиться «прикладная ценность человека», о которой вы пишете — и здесь же может скрываться деградация, если этот навык не развивать.
Только наверное должно быть написано не разработку, а развитие/доработку
Что произойдёт с продуктом и техдолгом, если разработку отдать автономному AI: ставлю эксперимент