А расскажите про софт, который используете! Как задействуете 2х RTX4060ti? Цель MultiGPU ведь обойти ограничение в объёме VRAM, а не получить параллельную работу нескольких моделей?
Цены и дата начала продаж пока не объявлены Какие новинки показались интересными? Делитесь в комментариях
Приблизительно ни одна. Давно заглядываюсь на AMD AI 395, в качестве замены своей RTX 4060 Ti 16gb для инференса, чтобы бОльшие модели гонять или не настолько сильно квантованные, но пока это добро до ретейла дойдёт...
Не единственный, ещё можно взвесить свою покупательскую способность и расхотеть. А из перечисленного чот ничего миллионного, всё сравнительно бюджетное (недавно хотел купить FL Studio, но не смог из-за stripe/paypal, лол).
договориться с ними на заведение таски, в идеале вытрясти договорённость запланировать её или даже сразу сроки, возможно призвав для пущей вбедительности и политического веса кого-то из менеджмента со своей стороны, шоб накидали им в панамку и планировалось не на через два квартала, а бросили текущие задачи.
откатить ломающий код со своей стороны (раньше же работало) или подпереть костылём, если дело дошло до прода
заведение таски с блокером из п.2 на его восстановление, когда команда CRM дочинит свою сторону?
Надо какой-то триггер на число исправлений и сообщений в чате с нейронкой, который будет напоминать - хорош, кремниевый болванчик тупенький, меняй подход. Сейчас вот пришлось сесть, вспомнить алгосики и осознать, что [ДАННЫЕ УДАЛЕНЫ] - тривиальная задача. Плюс подкинуть несколько советов по порядку его обработки, ввести ещё одно ограничение в условие задачи. Код парсера сократился с 300 строк до 230 и всё заработало как надо с первого раза. Воистину болванчик - буквально фронтендер-фрилансер, который на отвали умеет говнокод на питоне лячкать, но продолбал вышку и без гугла/пинка не подбирает правильный алгоритм/структуру, скатываясь в тонны вложенных if elif с хардкодом, в которых начинает путаться сам
Вы безусловно правы, я просто страдаю от того, что не доверяю слишком толстому слою систем, который не изучал плотно (потому что времени нет). Я бы хотел 3 гарантии, после которых спокойно начал пользоваться агентскими ИИ-плюшками:
Ничего не стучится в интернет без спроса
Ничего не имеет права читать и писать за пределы директории проекта
Ни байта сгенерированного LLM кода не исполняется на моём железе без предварительного ревью
Скорее всего этого можно добиться, плотно посидев над запуском IDE в flatpak (тот предоставляет неплохие возможности по изоляции) и(ли) закодив самостоятельно очень примитивный MCP-сервер, который будет эти мои хотелки реализовывать понятным и нужным мне образом.
Но в целом это переусложнение. Идеальный для меня сценарий - облачная IDE, с загрузкой проекта целиком в облако, мобильным чатиком (времени сидеть за компом по прежнему мало) и пакими-то ресурсами на запуск тестов на тех же облачных мощностях, да так, чтобы за результаты запуска отвечала компания-владелец этой IDE. Как именно загружать - не особо принципиально, хотя слышал, что к привлекательному варианту с Git (git remote add cloud_ai git@....) тоже есть вектора атаки, главное чтобы слепок проекта был, в него можно было вносить изменения и не надо было подкидывать недостающие файлы.
Вот за такое я б даже и 2000 и 4000 готов был платить, правда заграничная карта уже просрочилась :(
Да. Иногда бывает, что на ходу записать что-то на телефоне неудобно или некогда. А так достал небольшой кружок, нажал кнопку, набубнил и через день-два обработал.
Три дневника - сильно сказано, скорее три наиболее крупные темы одного дневника (работа, сын, ремонт), которые отделены от основного, чтобы совсем уж не перемешивалось в кашу.
Странная пунктуация и форматирование. Нейросети обожают длинные тире (эм-дэши), которые редко используют в обычной переписке. Если вы видите текст, где каждое второе предложение разделено таким тире — это почти наверняка работа ИИ.
Каждое второе предложение разделено таким тире — это почти наверняка работа ИИ
На работе перешёл из разработчиков в тимлиды, там програмиирование совсем отвалилось, буквально таски живым нейронкам нарезаю в паре с системным аналитиком (кстати, полезный опыт, взаимоулучшающий - лучше промпты LLM, лучше тз людям).
Вне работы родился сын и сесть за личный комп пока что получается на полчасика-час в день, но не чанком, а размазанно по дню - минут 10-15 пока утром крые пью и минут 20, после того как на ночь уложу.
О каком-то сосредоточенном программировании и речи быть не может. Но с нейронками таки получается пилить понемногу одного пета. Убого, криво, но вроде выстроил процесс кодинга через халявный чатик с qwen (у меня и локальный есть, но размер контекста страдает на 16гб GPU и квантовка сказывается). Обычно получается инициировать задачу вот за такой урывок за компом, скормить все нужные файлики, оставить генерировать результат, ничего не проверять и уйти заниматься другими делами. Потом во время кормления мелкого в ночи с телефона проревьюить написанное и заметить 1-2 недочёта или наметить следующий шаг. А в следующий заход за комп забрать результаты, уже внимательно проревьюить и попробовать тестить/фиксить. За неделю получилось перетащить свою большую экселину в близкий к рабочему стэк с учётом своих привычек и даже намутить сносный для использования с мобилки интерфейс.
Что нравится:
Моделька не ноет на вкусовщину, ничего ей не надо доказывать, сказал - делает в 90% случаев.
В некоторые технические детали можно не вникать. В некоторые придётся - освоил наконец миграцию с pydantic v1 на pydantic v2, как-то мимо меня на работе проходило.
Получается сосредоточиться на формулировке идеи, дополнительная тренировка на формулировании мыслей через слова. Нейронку заставляю уточнять ТЗ, пока мне не надоест и со временем стал сразу писать его достаточно полным, тоже плюсик к рабочим навыкам.
Что прям показалось любопытным:
Я больше обычного стараюсь декомпозировать на отдельные файлы, сервисы итд, чтобы их копипаста нейронке не сильно раздувала контекст. Казалось бы, так и у человека контекст ограничен, ничего нового. Но раньше мне легко было проскроллить код куда надо, а теперь срез исходников надо приложить целиком. И компактные файлы удобнее процессить, ревьюить итд.
README проекта на порядки качественнее моего типового пета, потому что я сессии с нейронкой я начинаю с него + pyproject.toml.
Какая-то Vibe Driven Architecture получается.
Чувствую себя инвалидом от мира кодинга, но нейронки прям инвалидной коляской получились, которая помогает. Без них проект валялся бы в списке идей ещё пять лет, а так, я уже пользуюсь и рад.
Можно подробнее, а где это применить? Что это за "личная" база знаний?
Давайте пойдём от общего к частному. Как вы заметили, там есть раздел "Проект дома". Туда складывается вообще вся информация о доме, чтобы через 3-5 лет иметь возможность понять почему мы приняли то или иное решение. Считайте это документацией с требованиями, которых нет в дизайн-проекте (там только описание как эти требования реализовать). Там же записаны отклонения от дизайн-проекта, названия всяких материалов, где они были куплены итд.
Я, например, интересные статьи и заметки сохраняю в телеге
Я стараюсь не копировать контент. У меня база знаний, как вы видите совмещена с планировщиком и календарём. Статьи разные бывают, некоторые срочно прочитать надо, некоторые можно отложить хоть на 10 лет. И вот среднесрочное я как раз могу сразу запланировать, а долгосрочное положить в бэклог рядом с белом, которому прочтение статьи поможет. Насчёт телеги - в целом можно. Вы вот раз в год удаляете всё, то есть не относитесь к базе знаний, как к чему-то "на века" и в вашем случае телега норм. Я вот не хочу получить лишний гемор, когда кого-нибудь в РКН снова торкнет и надо будет искать способ доступа к своей базе знаний, поэтому храню всё локально (git репа на домашнем git хостинге), да и дневник это очень приватная информация.
Рефлексия и опыт. Типа дневника. Для этого использую телеграм, сделала свой канал.
Ну, блог и у меня есть. Блогу 12 лет. Для нытья есть mastodon (микроблог). Но некоторое нытьё через проход через заметки попадает в блог. А некоторое не попадает. Некоторое в паблик тащить не хочется. Из блога, к слову, про базу знаний скопирую:
Размышления
Две функции:
Поток саморефлексии. Дешевле психотерапевта, никто не торопит, ты не ограничен часом приёма. При этом, если дела совсем уж плохо пойдут, можно же и совмещать с психотерапевтом. Но пока, тьфу-тьфу, вроде норм.
Можно бухтеть как дед и никто в Интернете не узнает насколько ты дед.
Отчасти база знаний / дневник появились когда заметил, что слишком много саморефлексии уезжало в тогда ещё твиттер и по мне можно было собрать ну чрезвычайно много информации по моим постам. Сейчас тоже много, но меньше :)
Какая ценность?
Ничего не помнить и иметь приватное и надёжное место для своих мыслей и списков дел, чтобы потом никто меня на их основе не таргетил в рекламе.
Ещё иногда прикольно предаться вспоминашкам - типа что было в этот день 2, 3, 4 года назад.
Сравнить итоги года - вообще святое.
Ещё нравится где-то там же каждый раз с нуля, не подглядывая описать свои планы на 1-2-5-10-20 лет. Ретроспективно смотреть на динамику таких планов помогает мне чуть лучше понять то, кем я являюсь и как я меняюсь, неплохой способ рефлексии.
Ну и такую кучу разноплановых заметок уже нужно организовывать, чтобы в них хоть что-то найти.
то, что попало в бэклог, никогда не вернется в список дел
Ну, подумаешь, обратную стрелочку забыл. Но тут есть определённая ирония, обратно в список дел всё кочует при загадочных и неопределённых обстоятельствах. Под списком дел я подразумеваю план на ближайшие две недели. В идеале при переносе недели из календаря в список дел я могу заметить, что неделя почти свободная и можно чего-то поделать. Но это бывает очень редко в последнее время.
заметка в дневнике никогда не породит какую-то работу
И правда, нелогично. Там как правило уже обработвнные заметки и дела они порождают в 95% случаев во время обработки входящих. То есть пока заметку подчищаю и ищу куда воткнуть, понимаю - ага, надо бы ещё то и это сделать. Или наоборот - ага, можно вычеркнуть то и это. Ревью завершённых происходит сравнительно редко, как правило при дописывании в них чего-то нового. Ну, как-то так уж нелогично у меня сложилось.
Схема не рисует все возможные варианты, я зарисовал основные, которые на регулярной основе расходуют время, чтобы думать - как это автоматизировать. Там в какой-то момент в inputs была "голова", которая была соединена приблизительно со всеми квадратиками :)
Забавно, вы написали статью сравнительно в тот же период, когда я задумался над тем, что уделяю своей базе знаний слишком много времени, но в то же время я делаю это не просто так (перегруженная голова, плохая память, дешёвая по времени рефлексия, если сравнивать с психологами). Сел анализировать, что же я делаю не так и где теряю время, где можно хоть какую-то автоматизацию накрутить, где проще плюнуть на эти мысли и какие критерии для плевка. Пока получилась такая картинка.
Схема движения заметок
А вашу статейку я ещё разок перечитаю перед следающим подходом к самоанализу.
А расскажите про софт, который используете! Как задействуете 2х RTX4060ti? Цель MultiGPU ведь обойти ограничение в объёме VRAM, а не получить параллельную работу нескольких моделей?
Приблизительно ни одна. Давно заглядываюсь на AMD AI 395, в качестве замены своей RTX 4060 Ti 16gb для инференса, чтобы бОльшие модели гонять или не настолько сильно квантованные, но пока это добро до ретейла дойдёт...
Не единственный, ещё можно взвесить свою покупательскую способность и расхотеть. А из перечисленного чот ничего миллионного, всё сравнительно бюджетное (недавно хотел купить FL Studio, но не смог из-за stripe/paypal, лол).
Понял, что я, кажется, архитектор, хоть и менеджер.
Кот бы говорил. Открыл приложение билайна:
на входе модалка с "листопадом скидок" на какие-то сервисы;
зашёл а сервисы:
оплата по QR, через переводы со счёта,
реклама карты одного банка, карты с кэшбэком попугаями в одной продуктовой сети, кредиток, вероятно это 4 карточки одного и того же банка.
ээээ ювелирка?
3 одинаковых карточки в популярном, дайджесте и развлечениях.
предложение продать друга за 25000 попугаев.
ура, пополнение баланса, хоть что-то связанное с сотовой связью
дальше что-то действительно похожее на ваши сервисы
А у вас кто?
А в чём проблема:
сформулировать проблему для команды CRM,
договориться с ними на заведение таски, в идеале вытрясти договорённость запланировать её или даже сразу сроки, возможно призвав для пущей вбедительности и политического веса кого-то из менеджмента со своей стороны, шоб накидали им в панамку и планировалось не на через два квартала, а бросили текущие задачи.
откатить ломающий код со своей стороны (раньше же работало) или подпереть костылём, если дело дошло до прода
заведение таски с блокером из п.2 на его восстановление, когда команда CRM дочинит свою сторону?
Увы, без разработчиков не получается.
Вот моё недавнее gorenje.
Upd: вроде бы codex cloud прям близко к этому находится, но до чего же лень пердолиться с впн/учёткой/етц
Вы безусловно правы, я просто страдаю от того, что не доверяю слишком толстому слою систем, который не изучал плотно (потому что времени нет). Я бы хотел 3 гарантии, после которых спокойно начал пользоваться агентскими ИИ-плюшками:
Ничего не стучится в интернет без спроса
Ничего не имеет права читать и писать за пределы директории проекта
Ни байта сгенерированного LLM кода не исполняется на моём железе без предварительного ревью
Скорее всего этого можно добиться, плотно посидев над запуском IDE в flatpak (тот предоставляет неплохие возможности по изоляции) и(ли) закодив самостоятельно очень примитивный MCP-сервер, который будет эти мои хотелки реализовывать понятным и нужным мне образом.
Но в целом это переусложнение. Идеальный для меня сценарий - облачная IDE, с загрузкой проекта целиком в облако, мобильным чатиком (времени сидеть за компом по прежнему мало) и пакими-то ресурсами на запуск тестов на тех же облачных мощностях, да так, чтобы за результаты запуска отвечала компания-владелец этой IDE. Как именно загружать - не особо принципиально, хотя слышал, что к привлекательному варианту с Git (git remote add cloud_ai git@....) тоже есть вектора атаки, главное чтобы слепок проекта был, в него можно было вносить изменения и не надо было подкидывать недостающие файлы.
Вот за такое я б даже и 2000 и 4000 готов был платить, правда заграничная карта уже просрочилась :(
Говновоз?
Да. Иногда бывает, что на ходу записать что-то на телефоне неудобно или некогда. А так достал небольшой кружок, нажал кнопку, набубнил и через день-два обработал.
Три дневника - сильно сказано, скорее три наиболее крупные темы одного дневника (работа, сын, ремонт), которые отделены от основного, чтобы совсем уж не перемешивалось в кашу.
Палитесь.
Поделюсь своим опытом.
На работе перешёл из разработчиков в тимлиды, там програмиирование совсем отвалилось, буквально таски живым нейронкам нарезаю в паре с системным аналитиком (кстати, полезный опыт, взаимоулучшающий - лучше промпты LLM, лучше тз людям).
Вне работы родился сын и сесть за личный комп пока что получается на полчасика-час в день, но не чанком, а размазанно по дню - минут 10-15 пока утром крые пью и минут 20, после того как на ночь уложу.
О каком-то сосредоточенном программировании и речи быть не может. Но с нейронками таки получается пилить понемногу одного пета. Убого, криво, но вроде выстроил процесс кодинга через халявный чатик с qwen (у меня и локальный есть, но размер контекста страдает на 16гб GPU и квантовка сказывается). Обычно получается инициировать задачу вот за такой урывок за компом, скормить все нужные файлики, оставить генерировать результат, ничего не проверять и уйти заниматься другими делами. Потом во время кормления мелкого в ночи с телефона проревьюить написанное и заметить 1-2 недочёта или наметить следующий шаг. А в следующий заход за комп забрать результаты, уже внимательно проревьюить и попробовать тестить/фиксить. За неделю получилось перетащить свою большую экселину в близкий к рабочему стэк с учётом своих привычек и даже намутить сносный для использования с мобилки интерфейс.
Что нравится:
Моделька не ноет на вкусовщину, ничего ей не надо доказывать, сказал - делает в 90% случаев.
В некоторые технические детали можно не вникать. В некоторые придётся - освоил наконец миграцию с pydantic v1 на pydantic v2, как-то мимо меня на работе проходило.
Получается сосредоточиться на формулировке идеи, дополнительная тренировка на формулировании мыслей через слова. Нейронку заставляю уточнять ТЗ, пока мне не надоест и со временем стал сразу писать его достаточно полным, тоже плюсик к рабочим навыкам.
Что прям показалось любопытным:
Я больше обычного стараюсь декомпозировать на отдельные файлы, сервисы итд, чтобы их копипаста нейронке не сильно раздувала контекст. Казалось бы, так и у человека контекст ограничен, ничего нового. Но раньше мне легко было проскроллить код куда надо, а теперь срез исходников надо приложить целиком. И компактные файлы удобнее процессить, ревьюить итд.
README проекта на порядки качественнее моего типового пета, потому что я сессии с нейронкой я начинаю с него + pyproject.toml.
Какая-то Vibe Driven Architecture получается.
Чувствую себя инвалидом от мира кодинга, но нейронки прям инвалидной коляской получились, которая помогает. Без них проект валялся бы в списке идей ещё пять лет, а так, я уже пользуюсь и рад.
Давайте пойдём от общего к частному. Как вы заметили, там есть раздел "Проект дома". Туда складывается вообще вся информация о доме, чтобы через 3-5 лет иметь возможность понять почему мы приняли то или иное решение. Считайте это документацией с требованиями, которых нет в дизайн-проекте (там только описание как эти требования реализовать). Там же записаны отклонения от дизайн-проекта, названия всяких материалов, где они были куплены итд.
Я стараюсь не копировать контент. У меня база знаний, как вы видите совмещена с планировщиком и календарём. Статьи разные бывают, некоторые срочно прочитать надо, некоторые можно отложить хоть на 10 лет. И вот среднесрочное я как раз могу сразу запланировать, а долгосрочное положить в бэклог рядом с белом, которому прочтение статьи поможет. Насчёт телеги - в целом можно. Вы вот раз в год удаляете всё, то есть не относитесь к базе знаний, как к чему-то "на века" и в вашем случае телега норм. Я вот не хочу получить лишний гемор, когда кого-нибудь в РКН снова торкнет и надо будет искать способ доступа к своей базе знаний, поэтому храню всё локально (git репа на домашнем git хостинге), да и дневник это очень приватная информация.
Ну, блог и у меня есть. Блогу 12 лет. Для нытья есть mastodon (микроблог). Но некоторое нытьё через проход через заметки попадает в блог. А некоторое не попадает. Некоторое в паблик тащить не хочется. Из блога, к слову, про базу знаний скопирую:
Отчасти база знаний / дневник появились когда заметил, что слишком много саморефлексии уезжало в тогда ещё твиттер и по мне можно было собрать ну чрезвычайно много информации по моим постам. Сейчас тоже много, но меньше :)
Какая ценность?
Ничего не помнить и иметь приватное и надёжное место для своих мыслей и списков дел, чтобы потом никто меня на их основе не таргетил в рекламе.
Ещё иногда прикольно предаться вспоминашкам - типа что было в этот день 2, 3, 4 года назад.
Сравнить итоги года - вообще святое.
Ещё нравится где-то там же каждый раз с нуля, не подглядывая описать свои планы на 1-2-5-10-20 лет. Ретроспективно смотреть на динамику таких планов помогает мне чуть лучше понять то, кем я являюсь и как я меняюсь, неплохой способ рефлексии.
Ну и такую кучу разноплановых заметок уже нужно организовывать, чтобы в них хоть что-то найти.
Del
Ну, подумаешь, обратную стрелочку забыл.
Но тут есть определённая ирония, обратно в список дел всё кочует при загадочных и неопределённых обстоятельствах. Под списком дел я подразумеваю план на ближайшие две недели. В идеале при переносе недели из календаря в список дел я могу заметить, что неделя почти свободная и можно чего-то поделать. Но это бывает очень редко в последнее время.
И правда, нелогично. Там как правило уже обработвнные заметки и дела они порождают в 95% случаев во время обработки входящих. То есть пока заметку подчищаю и ищу куда воткнуть, понимаю - ага, надо бы ещё то и это сделать. Или наоборот - ага, можно вычеркнуть то и это. Ревью завершённых происходит сравнительно редко, как правило при дописывании в них чего-то нового. Ну, как-то так уж нелогично у меня сложилось.
Схема не рисует все возможные варианты, я зарисовал основные, которые на регулярной основе расходуют время, чтобы думать - как это автоматизировать. Там в какой-то момент в inputs была "голова", которая была соединена приблизительно со всеми квадратиками :)
Забавно, вы написали статью сравнительно в тот же период, когда я задумался над тем, что уделяю своей базе знаний слишком много времени, но в то же время я делаю это не просто так (перегруженная голова, плохая память, дешёвая по времени рефлексия, если сравнивать с психологами). Сел анализировать, что же я делаю не так и где теряю время, где можно хоть какую-то автоматизацию накрутить, где проще плюнуть на эти мысли и какие критерии для плевка. Пока получилась такая картинка.
А вашу статейку я ещё разок перечитаю перед следающим подходом к самоанализу.
Оно в собранном в PDF / epub виде есть где-то кроме как на Amazon за $55?
А в чём проблема сфоткаться без рубашки и выложить как есть?