Я уже несколько лет веду личную Цеттелькастен-систему, и у меня есть как ежедневник, так и просто страницы с заметками. Иногда, общаясь с ИИ, я подаю целый блок файлов личной информации. Да, знаю про безопасность, но для корпораций, думаю, эта информация будет не нова, а может, неинтересна.
Подаю вот такой блок: Иван.md, Моя_история.md (ежедневник месяца), Моя_история_по_годам (свернутый ежедневник значимых событий по годам), 2026_моя_история.md (свернутый ежедневник значимых событий по месяцам), Задачи.md, Мои_планы.md, Моя_стратегия.md, Мои_цели.md. Вот такой ручной Харнес получается. Извиняюсь, если я ещё не совсем в тренде и не автоматизированный.
Прочитав статью, полез спрашивать ИИ, а правда ли это всё, мне понравилось, что он ответил: «Это современная коучинговая и психотерапевтическая адаптация», «Особенно хорошо метод работает именно для людей с сильным аналитическим мышлением». Я понял, что это для меня, и пошёл писать на бумаге вопросы и слова в колонку.
В целом я и сам практически понял смысл финального слова или даже фразы, но когда это всё оцифровал и отдал ИИ, то он дал ценную взаимосвязь моего внутреннего мира, собрав по пазлам весь путь смысла каждого слова, которое участвовало в цепочке, как слова сливались и что это для меня значит.
Финальное слово или фраза очень похожа на базовый рецепт. А-ля для боксёров — «не закрывать глаза», или для ровной осанки — «вытягивать себя за макушку». Думаю, при хорошем подходе это правило действительно хорошо направляет на решение, и да, я понимаю, что к основному правилу идут ещё куча мелких, но базовое очень помогает раскрыть все нюансы, особенно если с ИИ (или, наверно, получается, с психологом) разобрать по полочкам всю трассировку слов, которые ты написал.
Прогнал три жизненных вопроса. Потом загрузил в Opus результат, плюс часть своей базы знаний с личным ежедневником и получил много интересных мыслей. Мне понравилось.
Всё так, но это уже будет не БЯМ на трансформерах, которую пиарят, а настоящий ИИ с рефлексией.
Проблема в том, что такую модель надо ещё изобрести.
Вон, Альман уже стал по другому петь песню. Мол трансформеров докрутим и GPT нам подскажет как сделать что-то более совершенное... А может и не подскажет и придется думать естественным интеллектом.
Спасибо большое за комментарий. Протестировал загруженную в Ollama t-tech/T-pro-it-2.0:q4_K_M в сравнении с qwen3:32b. Всё на уровне, моё вам уважение. Мнение по вашей модели кардинально изменил. Это здорово, что вы такое делаете! Спасибо вам.
Единственное, начал пробовать подобрать температуру для T-pro-it-2.0-Q5_K_M.gguf. На 0.6 получше отвечать стала, но всё равно бред. Попробовал поменять ещё температуру, и у меня сломался жёсткий диск. На этом я эксперимент закончил... Но самый важный вывод я сделал — всё на уровне qwen3!
Я взял модель T-pro-it-2.0-Q5_K_M.gguf. Для быстроты тестирования я использую свой проект https://github.com/HardAndHeavy/ollama-open-webui, его клонирую и набираю make run-cuda, а затем make seed-t-pro. Дальше я просто в интерфейсе Open WebUI добавил системный промт на всякий случай, как это я делаю для других моделей: «Ты рассудительный и честный собеседник, который разговаривает на русском языке». И всё. Больше ничего не настраивал.
Протестировал модель T-Pro 2.0 в квантованной GGUF-версии на 23 Гб и столкнулся с серьёзными проблемами:
Потеря контекста: Модель не удерживает тему. На вопрос «Чем похожи карандаш и ботинок» (без знака вопроса) она начала генерировать похожие по структуре, но другие вопросы («Чем похожи замок и ключ?»), так и не дав ответа.
Галлюцинации и зацикливание: На более сложном вопросе по истории физики модель полностью «сломалась». Она ушла в 20-минутную генерацию несвязанного текста в виде чата редакторов Википедии, пока я не остановил её вручную. Даже простое «привет» на старте вызвало поток несвязного текста.
Похоже, у данной версии есть фундаментальные проблемы с удержанием контекста, что приводит к бесконтрольной генерации нерелевантного контента.
Зашёл в чат с Qwen и Minimax. Сложилось такое впечатление, что Minimax существенно проигрывает, за исключением программирования и веб-поиска, там плюс-минус одинаково.
Очень надеюсь, что да. Хоть я свои заметки веду связанно, но, видя, как рассуждает модель и пытается найти ответ, могу сказать, что шансы большие.
В целом, я продолжаю исследовать вопрос и хотел бы найти лучшее решение для корпоративной информации, где как раз идут клубки информации. Большая надежда на проект KAG.
Разумеется, я не исключаю, что это ошибка разработчиков. Особенно если учитывать, что их платное дополнение Copilot Plus находится в стадии бета-тестирования.
На текущий момент я не держусь за Copilot. Нашёл вереницу проектов с подобным функционалом и даже шире. Это не расширение для Obsidian, конечно, но это и хорошо. Например, KAG. Надо пробовать. Надеюсь, хватит времени и сил.
Не знал, что qwq поддерживает встаривание. Проверил, qwq строит индекс 20 минут против 20 секунд у bge-m3. После qwq модель отказалась отвечать и не смогла пройтись по построенному индексу.
У меня 350+ страниц, после индексации Copilot использует все на первом вопросе-теме. Со следующей темой разговора Copilot не может справиться, как будто теряя индексы. Решением нашёл закрытие и повторное открытие Obsidian с перестроением индекса.
Я уже несколько лет веду личную Цеттелькастен-систему, и у меня есть как ежедневник, так и просто страницы с заметками. Иногда, общаясь с ИИ, я подаю целый блок файлов личной информации. Да, знаю про безопасность, но для корпораций, думаю, эта информация будет не нова, а может, неинтересна.
Подаю вот такой блок: Иван.md, Моя_история.md (ежедневник месяца), Моя_история_по_годам (свернутый ежедневник значимых событий по годам), 2026_моя_история.md (свернутый ежедневник значимых событий по месяцам), Задачи.md, Мои_планы.md, Моя_стратегия.md, Мои_цели.md. Вот такой ручной Харнес получается. Извиняюсь, если я ещё не совсем в тренде и не автоматизированный.
Прочитав статью, полез спрашивать ИИ, а правда ли это всё, мне понравилось, что он ответил: «Это современная коучинговая и психотерапевтическая адаптация», «Особенно хорошо метод работает именно для людей с сильным аналитическим мышлением». Я понял, что это для меня, и пошёл писать на бумаге вопросы и слова в колонку.
В целом я и сам практически понял смысл финального слова или даже фразы, но когда это всё оцифровал и отдал ИИ, то он дал ценную взаимосвязь моего внутреннего мира, собрав по пазлам весь путь смысла каждого слова, которое участвовало в цепочке, как слова сливались и что это для меня значит.
Финальное слово или фраза очень похожа на базовый рецепт. А-ля для боксёров — «не закрывать глаза», или для ровной осанки — «вытягивать себя за макушку». Думаю, при хорошем подходе это правило действительно хорошо направляет на решение, и да, я понимаю, что к основному правилу идут ещё куча мелких, но базовое очень помогает раскрыть все нюансы, особенно если с ИИ (или, наверно, получается, с психологом) разобрать по полочкам всю трассировку слов, которые ты написал.
Прогнал три жизненных вопроса. Потом загрузил в Opus результат, плюс часть своей базы знаний с личным ежедневником и получил много интересных мыслей. Мне понравилось.
Всё так, но это уже будет не БЯМ на трансформерах, которую пиарят, а настоящий ИИ с рефлексией.
Проблема в том, что такую модель надо ещё изобрести.
Вон, Альман уже стал по другому петь песню. Мол трансформеров докрутим и GPT нам подскажет как сделать что-то более совершенное... А может и не подскажет и придется думать естественным интеллектом.
Да, этот функционал появился за месяц до публикации статьи, и разумнее его уже использовать. Но в моменте было всё актуально.
.net готов
Хорошо, ждите. Laravel уже сделал.
Добавил Laravel
Изначально решил, что будет достаточно текущих. Да, я был предвзят. Но почитал комментарии и в ближайшее время добавлю PHP. Как сделаю — напишу.
Спасибо, каюсь, в моих знаниях не было этого инструмента. Cookiecutter понравился. Мне надо время на осознание и применение. Спасибо ещё раз.
Согласен. Мой случай как раз на точке выбора «заранее выбирается ЯП». Я ищу себе мой стек на новый проект.
Спасибо большое за комментарий. Протестировал загруженную в Ollama t-tech/T-pro-it-2.0:q4_K_M в сравнении с qwen3:32b. Всё на уровне, моё вам уважение. Мнение по вашей модели кардинально изменил. Это здорово, что вы такое делаете! Спасибо вам.
Единственное, начал пробовать подобрать температуру для T-pro-it-2.0-Q5_K_M.gguf. На 0.6 получше отвечать стала, но всё равно бред. Попробовал поменять ещё температуру, и у меня сломался жёсткий диск. На этом я эксперимент закончил... Но самый важный вывод я сделал — всё на уровне qwen3!
Я взял модель T-pro-it-2.0-Q5_K_M.gguf. Для быстроты тестирования я использую свой проект https://github.com/HardAndHeavy/ollama-open-webui, его клонирую и набираю make run-cuda, а затем make seed-t-pro. Дальше я просто в интерфейсе Open WebUI добавил системный промт на всякий случай, как это я делаю для других моделей: «Ты рассудительный и честный собеседник, который разговаривает на русском языке». И всё. Больше ничего не настраивал.
Протестировал модель T-Pro 2.0 в квантованной GGUF-версии на 23 Гб и столкнулся с серьёзными проблемами:
Потеря контекста: Модель не удерживает тему. На вопрос «Чем похожи карандаш и ботинок» (без знака вопроса) она начала генерировать похожие по структуре, но другие вопросы («Чем похожи замок и ключ?»), так и не дав ответа.
Галлюцинации и зацикливание: На более сложном вопросе по истории физики модель полностью «сломалась». Она ушла в 20-минутную генерацию несвязанного текста в виде чата редакторов Википедии, пока я не остановил её вручную. Даже простое «привет» на старте вызвало поток несвязного текста.
Похоже, у данной версии есть фундаментальные проблемы с удержанием контекста, что приводит к бесконтрольной генерации нерелевантного контента.
Зашёл в чат с Qwen и Minimax. Сложилось такое впечатление, что Minimax существенно проигрывает, за исключением программирования и веб-поиска, там плюс-минус одинаково.
Спасибо.
Нет, но буду иметь в виду. В базе Ollama не нашёл, но вижу, есть GGUF на HuggingFace. В следующем анализе попробую его.
Очень надеюсь, что да. Хоть я свои заметки веду связанно, но, видя, как рассуждает модель и пытается найти ответ, могу сказать, что шансы большие.
В целом, я продолжаю исследовать вопрос и хотел бы найти лучшее решение для корпоративной информации, где как раз идут клубки информации. Большая надежда на проект KAG.
Не помогает.
Разумеется, я не исключаю, что это ошибка разработчиков. Особенно если учитывать, что их платное дополнение Copilot Plus находится в стадии бета-тестирования.
На текущий момент я не держусь за Copilot. Нашёл вереницу проектов с подобным функционалом и даже шире. Это не расширение для Obsidian, конечно, но это и хорошо. Например, KAG. Надо пробовать. Надеюсь, хватит времени и сил.
Не знал, что qwq поддерживает встаривание. Проверил, qwq строит индекс 20 минут против 20 секунд у bge-m3. После qwq модель отказалась отвечать и не смогла пройтись по построенному индексу.
У меня 350+ страниц, после индексации Copilot использует все на первом вопросе-теме. Со следующей темой разговора Copilot не может справиться, как будто теряя индексы. Решением нашёл закрытие и повторное открытие Obsidian с перестроением индекса.
Такой окрас:)