(что же Вы так цепляетесь, к "4.0" - не пойму) тогда: - варианты "только (т.е. не перегруженные legacy) AI ('не врущие' - там, где это критично; И остальные - всё еще 'врущие', но только там, где выходят за Контракт, или где цена ошибки - допустима, и нет рычага тиражирования) - это "5.0".
Моя мысль проста - в перспективе, для использования (чего-то, принципиально) нового - требуется новая технология (а не "пристегивание лошадей впереди машинной повозки").
Google AI утверждает, что это не совсем одно и тоже (а я - не разбираюсь, пока не получу в руки).
я - повторил его более ранее утверждение: "Байесовские и стохастические трансформеры (применяются там, где цена ошибки ИИ критически высока: в медицине, финансовой аналитике и системах безопасности)".
А сегодня, Goggle AI ответил: { Вот как эти концепции связаны между собой:
1. Связь концепций: от простого к сложному
Confidence-слои — это попытка оценить уверенность «обычной» (детерминированной) LLM. Модель смотрит на свои внутренние слои и говорит: «Обычно, когда у меня такие активации, я права в 90% случаев». Но, как правильно замечено в тексте, это лишь самокалибровка. Если модель изначально обучена на неверных данных, она будет уверенно лгать. Это сдвиг проблемы выше, так как теперь нам нужно валидировать сам слой уверенности.
Байесовские и стохастические трансформеры — это более глубокий, фундаментальный шаг. Вместо того чтобы просто прикручивать «датчик уверенности» к стандартной модели, они меняют саму математику трансформера. Вместо жестких весов (чисел) они используют распределения вероятностей.
2. Почему они дополняют друг друга
В критически важных сферах (медицина, финансы) простой confidence-слой опасен. Поэтому там внедряют байесовские подходы, которые позволяют разделять два типа неопределенности:
Алеаторную (случайность в самих данных).
Эпистемическую (незнание самой модели из-за нехватки опыта).
Байесовский трансформер не просто выдает абстрактный «процент уверенности» (как confidence-слой), а показывает, почему модель сомневается: потому что вопрос сформулирован размыто или потому что она в принципе никогда не видела подобных медицинских кейсов на обучении }
понял, что, изначально, это я напутал (упростил и смешал. Значит, сегодня - я стал понимать, по "не врет", чуточку больше).
>В банке (и в любой регулируемой среде — финансы, медицина, инфраструктура) “выпустить, что разработалось” физически невозможно
Любопытно (может еще не сталкивались, иначе - не написали бы этой фразы), что, там, где это критично - AI не врет (например, такое уже есть - в медицине, и вроде - и в финансах: уже используются LLM со слоями другого типа - кроме "значения", вычисляется "степень уверенности": нет знаний - нет уверенности. Будут появляться такие LLM - для Бухгалтерии, и т.д. Вроде, и у Antropic - финишный слой - такой. Но только один).
Т.е. у этих - вообще нет такой проблемы (на которой Вы построили вторую часть статьи - не нужно переделывать процессы разработки). А если Вы писали - только для врущих. То "оговорка про домен" - лишняя.
Уверен, что будущее - будет из нескольких направлений. В т.ч.: - как описанное вами (костыли к AI); - так и мною (на одном AI).
>(концовка) если AI будет всё лучше создавать тексты, схемы, код и гипотезы, то ценность аналитика смещается к умению определить
- допускаю, что "всё лучше" написано - в смысле "всё лучше, и лучше" - станет существенно лучше, чем это делает AI сейчас -- т.ч. за ним не надо будет "приглядывать"; - но, в контексте всего предложения - вывода, воспринимаю, как "лучше человека" -- т.е. использование AI - дает преимущество, перед использованием человека.
Не собираюсь спорить в дележе чем, кому, заниматься.
1. Просто "отдельная мысль": Так, может, стратегически лучше (сейчас - открылось Окно возможностей): - поменять "требуемый результат", под LLM, такой, какой он есть (врущий - "искажающий", и "сочиняющий"). Беря,главное - "Ускорение", на всю длину конвейера; - чем, с упорством (доп.затратами) совмещать нового "ежа", со старой "грелкой" (моделями проектирования, разработки и внедрения. А там - подумать и про Жизненный цикл эксплуатации).
Что там "поменять" - надо думать (каждый - сам).
2. В качестве примера, вариант: Односеансовый (быстрый и простой) проект - что разработается, то и выпустить. Вместе с Контрактом! И потом, прикладывая старый контракт, Модернизировать - опять одной Вспышкой.
Если Заказчик согласится к сырым выпускам (понимаю: не в проде) - за краткие сроки и понятный бюджет. То - почему бы и нет.
Что делать с "накладными" (ОТК, контроль версий, и совместная разработка): - думать (но "старые" методы проектирования - быстро станут не конкурентны).
3. Поясню ("не конкурентны") - неминуемое продолжение про Прохиндея: - только теперь со стороны проектировщиков (это не LLM - "ставь на меня", это Рынок разработчиков, с демпингом цен и сроков). - это вокруг - будет столько "Прохиндеев", что придется отказываться от полного цикла (одновременно наращивая жир "повторного использования", как НЗ на случай позднего обнаружения бреда).
Возможно, я тут не прав, и все фирмы-разработчики жестко выполняют предписанные нормы (поведения). Но мне, (именно) нормы не попадались (не, я понимаю, что в ТЗ можно указать ГОСТы. И что определенный сегмент - работает именно так. Но "и туда - AI"? - пистолет с одной пулей приготовили?).
(еще не дочитал до конца, но уже второй раз перечитываю, дохожу до определенного места, и дальше "не могу молчать") >(3.0. AI нужно воспринимать ... как) инструмент ускорения
- опасное и массовое заблуждение (основанное на успехах в мелких задачах).
1. Как "прохиндея" (уличного мошейника, лошадь из анекдота "Ставь - на меня!").
Правильнее, что это Вы! ("ускоряете" процесс. И тогда "AI - ваш инструмент" - верно): - останавливаете любого прохожего, и спрашиваете его "Как ..." (например) "найти Биг-Бен". Чтобы от вас отвязаться, он быстро отвечает (как может, и не вкладываясь, находу). Но, вы - "не так-то просты": удерживаете его за пуговицу, и уточняете "нет, я посмотрел в путеводителе города, отсюда пешком не пройти". Получаете еще порцию (вероятно, очередного "бреда") малоценной информации. А поверив, перемещаетесь, но понимаете, что "не туда". И спрашиваете снова (другого) прохожего.
Конечно, если продолжать (верить всем прохожим), можно, ускоренно передвигаясь, в конце концов, увидеть башню (но еще придется помучиться с прохожими, чтобы "довели" только их подсказки).
2. Предлагаю: не считать/не называть новый процесс (с использованием такого "инструмента", LLM-подмастерья - который "может" врать), старым (именем: это уже не "ГОСТ xxxx-yy. Производственное взбитие масла из сливок", это - "ОБС*. Технология полимеризации пальмовых опилок". *-одна бабка сказала).
Как отметили, придется добавить еще подпроцессы, чтобы "выруливать" на старый (или его результат) - аля "ОТК" (не путать с Тестированием). И тогда - самому нести ответственность за результат (новый-старый процессов).
3 Продолжая цепочку, напрашивается, уже не считать "Аналитиком" - верящего (в истинность LLM), перестраивающего свои твердые проф.навыки, под "потом/в конце переделаем" (прямо просится "подгоним")
PS: не хочу сказать "не используйте LLM" (наоборот, "за"). Но, не обольщайтесь. С AI: - это - уже не Вы, вчерашний; - а значит, и ваши скиллы - придется заново (точного слова не могу подобрать - "переформировать"). Проще, придумать новую специальность - типа, "вайб-аналитик".
"персональный ИИ-агент" (помощник - как приказчик + экономка) - не равно "персональный ИИ". Это "персональный контекст" (сведения - ФИО, предпочтения, и настройки - ключи доступа);
"люди будут массово иметь" - наручный коммуникатор (из "Звездный путь", "Вавилон-5"). Универсальный (ладно, "смартфон");
"автономный" - в определенном смысле, но с сетью (Интернет, Wi-Fi и BT), иначе - почти бесполезен. Персональный контекст - не обязательно локальный. Но, согласен с опасениями, и надеюсь, что "придумают" защищенный (невскрываемый и атомарный) вид хранения;
Цук - не про "управление", а про "Заработать" ("несите ваши денежки (звук барабанов)", из "Приключения Буратино"). И про "Не бейте меня" (за несвершение МетаВселенских надежд).
Дзен подсунул мне источник, смотрящий на то же, но с другого ракурса: 05.06.26 Самый короткий бум в истории: почему «эпоха искусственного интеллекта» закончится раньше, чем вы думаете https://dzen.ru/a/aiFj_LQtBEVyWLU0 - хотя в названии: "само пройдет"; - но пишут: "никуда не уйдет, а настолько войдет в быт, что простые люди перестанут замечать" (и не понятно, то ли - сами будут вайб-кодить, то ли - "черт из табакерки").
(молодым) Использовать AI-инструменты - откликаться на нарастающий спрос. А то, что "старожилы" "ворчат (ой, обвалится)" - так это "вечная философия". Если "обвалится" - они-то (молодые) успеют перестроится (как и нам - "уже не раз" /Портос/ довелось). Если "повезет" (с мозгами) - их заметят и перетащат в Настоящее программирование. Если сами рискнут и выберут "экзотику" - может и повезет, развернется отрасль (знаю такие примеры).
2. Уф, тяжело (повторяться - не хочется). Зайду по-другому:
Преамбула: 1) к 1992. я - по первому высшему - радиоинженер, работал сразу и много разработчиком. Но в конце СССР, в магазинах появилась китайская электроника - дешевая до остолбенения. И я понял - "наступает закат", для электроников. Разработчиков. Ремонтники - еще будут нужны. Какое-то время - в Мастерских по ремонту (сейчас - уже и Мастерские "вымерли"/скукожилсь до пары мастеров). И ушел в Программисты, опыт - позволял (сети, ASM/C/несколько OS, в т.ч. своя/TSR для DOS. Еще "уперся", и успел, в свободное время, до ухода, натаскаться в DBase/FoxPro), 2) 200x (крах доткомов, отказ MS от развития VFP, выход .Net) - уже воспринимались, как "и вот опять": программисты с нуля/на MFC - стали "не нужны". Много знакомых - "пересели" на 1С. Жирнее/счастливее жить, от этого - не стали. Много времени - потрачено на изучение "того" и "сего". И возникло понимание "еще одного" "нового витка Спирали". 3) за остальные годы - периоды только сокращались (или темп - увеличивался).
Ответ, про ручной кодинг: Кратко: И то (рудимент), и другое (важнейший навык). Изменятся "проценты" (распределения), а значит, и отношение (в целом).
В преамбуле - я описал "сдвиги" ("Скрипач - не нужен" "Кин-дза-дза". Сейчас, музыка - звучит из любого смартфона. А за это время - исчезли (почти) целые пласты бытовой электроники. Только по теме - когда-то повально используемые винил, катушечники, плееры (кассетники, CD), цвето-музыка, радиоприемники. Но ведь "скрипачи" - "где-то" "все-еще" есть). Я - "не отдам" свои навыки (они сформировали "меня"). Сосед - обошелся без них (согласившись уйти на кирпичный завод, ради МЖК-квартиры).
Кому-то (молодым) говорить - "надо именно так" (через ручной кодинг, начиная с изучения регистров процессора, битов, ... - "да, иди ты, с ними, к царю Гороху". Если сейчас в школах - окажется, что вообще не упоминают про Таблицы Брадиса, а матричные уровнения "считают столбиком" - ну и правильно ("я в их годы": учебники - прочитывал за лето, и сидел по городским библиотекам, "в свободное" от улицы время - кому "надо", всегда "найдет". По радиоэлектронике - подшивки с 192х, и программированию - летом был с матерью на практике, рядом с ЭВМ Универстита - перфокарты, перфоленты, языки - помню назание только одного: Cobol. Мать учила уроки, потом лекции - садила меня перед собой и рассказывала. Вот "что-то, да прилипало". И в институт шел уже с "условным" "50-летним багажом". И преподы - это чувствовали. Плюс: уже с 10 лет интересовался работой мозга, и "человеко-интерфейсами"). Волны/витки Спирали - видны и там (в радио. Каждые 10-20 лет: детекторный приемник на саже и самодельные катушки, конденсаторы и динамики - свитые в воздухе, как фигурка робота из деталей, лампы и КВ-радиостанции - на металлических шасси, миниатюрные транзисторы и феритовая антенна - на текстолите и гетинаксе, травление, аналоговые ЭВМ и операционные усилители, Булева логика и цифровые серии микросхем, процессоры - серии ЭСЛ, ТТЛ Шотки и КМОП, АЦП и ЦАПы, однокристальные) Т.е. сейчас - может быть/"имет право", принципиально, "другая жвачка" для мозгов.
3. Если кому-то "из могикан", удастся изобрести новые подходы (поучаствовать в разработке новых языков, IDE) - памятник, при жизни. Не будет - "вода сама проточит дорожку" ("на подготовленной почве" - сами придумают). А заставлять, взрощенных на рафинированой пище, "скрипеть мозгами" - "кому это все надо?!" "Кин-дза-дза". Человечеству, от нашей (кодеров) "перестройки" - "не холодно, не жарко" (если вернуться к тому, что ранее описал - окружающие вообще не понимают: ну станете работать по-другому, ну и че? А сколько профессий, вы - "покосили". Вот, теперь, очередной виток - "побегайте-ка").
>Вся эта логика — в голове у владельца, но переложить её в понятные алгоритмы он не может: он отличный производственник, но не IT‑архитектор. А я — инженер, но не специалист в типографике.
1. Может: - перестать спрашивать "Аиша, разработай супер-пупер Автоматизации типографии"; - а попробовать сначала (Обзор) "составь сводную таблицу из основных существующих систем Автоматизации" (далее специфика, которую директор-производственник, "обычно", знает) "Диспетчеризации сменных заданий Типографии, и их оперативной корректировки, при поломках или недогрузе станков, при ограничениях: до десятка машин (таких-то), специализация - на визитках и подарочных открытках".
Обычно, при просмотре директором - всплывают дополнительные вопросы "А где учет выработки", "ОТК", "переработка брака", ... Но, согласен - не всегда, и не сразу.
2. Т.е. новый подход (с AI) - не должен делать "окончательное решение" (вылитое в металле; имею в виду, что надо быть еще ближе к Agile).
А раз, для AI, итерации - тяжело. То проще (и разработчику) - каждая сессия с нуля. Получается: быстро спросил, показал, отдал. И жди замечаний, но уже, как "новая разработка".
3. То, что "понравилось" - занести в Контракт (чтобы не пришлось переучивать персонал работе с новой версией). Остальное - пусть AI "творит".
Появятся (облачные) Агрегаторы (услуг) контрактов (аля нынешних online Магазинов ПО, но услуг, и на одну сессию/проект). Доступ к ним: - может войти в операционки, смартфоны, веб-браузеры; - но более вероятно - в техническом виде (MCP/ACP/A2A/завтра еще что-то), для AI-агентов/приложений.
Скорее всего, как "облачная функция". Иначе - в rutime-среде (например, операционке) - появится "быстрый деплой" (mini-приложения, из Интернета) и "изолента" (аля docker). Этому кодировщики - обрадуются, но заказов - будет мало (только от тех, кто изобрел что-то совсем новое в бизнесе), а в ходу - будет повсеместное "повторное использование", уже готовых реализаций (как Android - "стандарт" для смартфонов; на фоне пары "несовместимых"), стандартных контрактов ("РФ. Непрерывное производство. Бухгалтерия. Расчетная группа. ЗРП. Премия за месяц").
в скобках - мои вставки: Через полгода‑год (предлагаю посмотреть глобальнее, на перспективу - умножаем на 5; оставшиеся, из ранее "переметнувшихся") компании снимут розовые очки и начнут нанимать тех, у кого есть инженерный опыт, наработанный ещё до нейросетей, и кто при этом научился этими нейросетями управлять (но это им уже не поможет: старое место на рынке - будет уже занято, а если "доделать проект" - придется, но "себе в убыток").
В целом: Умные (фирмы) - полностью не перейдут (максимум, поделят портфель проектов "50 на 50").
2. Вангую, что на дальней перспективе (в пределах одного поколения - 10-20 лет, причем, где-то - быстро и, да, с отскоками): - рынок Потребителя - будет требовать быстрых и простых решений (т.е. дешовых). То, что "LLM - нельзя верить", и "самозабвенно врет (там, где нет данных)" - всех устроит, потребители адаптируются (не будут требовать/ожидать не возможного - услуги будет оказываться "только в пределах контрактов"). Цениться станут тех, кто может упрощать (эксперты бизнеса и технологий, может - современные аналитики, может - в массе, проще) и владеет номенклатурой доступных "контрактов" (что - уже есть на рынке готового, и что "простого" можно спрашивать у LLM - либо LLM будет иметь настройку "не усложнять"); - число проектов - сузится на порядок (останутся только сложные и научные); - в общем, "по больнице" - произойдет что-то похожее на переход в двухтысячных от повсеместной разработки с нуля, кодированием на "языках C/Pascal/Foxpro и их IDE", к внедрению, с минимальной разработкой - конфигураций на "1С платформы (из нескольких десятков специализированных)" (кто-то - ушел на .Net-платформу, другие - на Java, и т.п.), при сохранении нескольких "инопланетян" - ERP-систем (со своими заморочками - языками, ...). Теперь: редкими "инопланетянами" - останутся проектирование-кодирование-тестирование, а внедрение - налету (сам или через эксперта).
попробую чуть перефразировать: 1. Как исходная аксиома: Всегда, человечество пыталось упрощать. Нет предпосылок, что этого не будет происходить дальше. 2. Программирование - "еще один" способ упростить. - появился (среди гиков - "универсалов"); - занял (массовую) нишу; - и еще будет (узкие специальности, там где они выгодны. Аналогично, по проектным командам, и водопадной разработке). 3. LLM-ассистенты, вайб-кодинг - нужно другое, новое слово, чтобы не смешивать со "святым" программированием: - спец - "сам сделаю лучше", и не позволит LLM выйти в "мастера"; - универсал - вспомнит "всё - уже было: постановка задач"). 4. (Почему:) когда мы вызываем такси, (обычно!) нас и исполнителя, интересует только пара Принятых общих вопросов, но не такие детали, как марка машины, цвет, марка бензина. Они - для чего-то сложного/уникального, ближе к "проекту", чем к "кодированию (программного обеспечения)". Можно предположить, что LLM - (в будущем) будет сильнее ориентироваться в таких общих вопросах (специализироваться: помнить или получить сведения - "страна", "предпритие" пользователя, знать Бухгалтерию РФ, получить "штатное", ...). 5. Т.е. "в будущем" - "на входе" (на уровне Пользователя), всё (почти всегда, 99%) будет - просто, быстро и без лишних вопросов (появятся инструменты - языки, среды, ...). А "что там внутри" - "магистрально", тоже выродитсяпереродится (как Электричество - для пользователя, за сто лет, свелось к "220В, выключателю, лампочке и проводам". Со стандартами - внутри). 6. Бороться, на своем уровне - пожалуйста ("Прыгайте, дети!" - тов.Дынин). В целом - тенденция не умолима (никакие ошибки LLM - аля "кз", "телик, сгоревший при бросках" - не заставят отказаться. Всё - быстро подстроится). 7. Рассказывать, как было хорошо, когда все руками, уникально, и с головой - "Воспоминания юности". 8. Разработка "на века" - станет редкой, только для эстетов (типа, аудиофилов). "Сформулировал, передал (там - что-то как-то сделалось), получил и забыл" (в следующий раз, пользователь - начнет по новой, а внутри - предпочтут "выкатить с нуля").
еще одна интересная статья "в тему": Где находится сознание? Научная теория о следах «я» в работе нейронов https://dzen.ru/a/abgAKq6rNAFjjIXs - сознание - (ставя задачу) заставляет мозг "шуметь".
от себя: 1) вряд ли шум меняет свой Уровень, в зависимости от мысли - не удастся использовать, как искомую функцию L=f(намерение). А вот если "сознание - пере-/пред- настраивает нейроны мозга, стимулируя их на будущее решение задачи, то, возможно/слегка, меняется форма перехода шума от одного намерения ("о красном квадрате"), к другому ("почесать пятку"). 2. (но даже, если и "форма - не функция") Вернулись к "Азбуке Морзе" (с "лидером" и "концевиком" - как признаками "понарошку - для ЭЭГ"). По источнику: - не цепочка "вот сейчас - я думаю, а сейчас - не думаю (шпионка из комедии 'Астерикс и Обеликс: Миссия Клеопатра': https://vkvideo.ru/video18617553_166112536)" - а "резко перескакивать (левой рукой, за правую ногу)".
заказал себе standalone на ESP32 (с BT/Wi-Fi): ADS1299 Модуль сбора данных EEG WiFi+USB 8/16 канальный =36379 Type3 (8 can + 8 проводов с контактами) https://aliexpress.ru/item/1005006259582911.html
не стал связываться с Cerelog - везти из-за рубежа, и скоро выйдет “Cerelog ESP-EEG V2” - с двойным и более стабильным BT/Wi-Fi и улучшенной трассировкой платы (с меньшими шумами-наводками; но подороже).
дешевый вариант (с чипом ADS1282R) - не подходит: чип расчитан на более мощные сигналы ЭКГ, и имеет собственные шумы в 10 раз больше, чем у ADS1299 - т.е. ЭЭГ-сигналы будут слабо слышны (и придется сильнее "стараться"). Похожие характеристики у Ganglion (на чипе MCP3912). Возможно, что Muse - из этой серии ("для игр").
вариант с чипом ADS1299 - единственный ("полупрофессиональный". Судя по чуть более высокой частоте выборки в Crown - там какой-то другой чип, более современный?). Минимальные (без проводов и контактов) цены модулей (во всех - ADS1299, один или два - если со второй платой): - standalone (USB, без/с BT/Wi-Fi): 16 тр (с STM32 - искать "OpenBCI"), 33 тр (на ESP32 - "Cerelog ESP-EEG"); - shield: 27 тр (для RPi5, "PiEEG" / для ArduinoUnoR4, "ardEEG").
(накидали, с GoogleAI) бюджетный (10 тр, без учета "авоськи" на голову - служащей для быстрого одевания/удержания датчиков) DIY BCI с Motor Imagery (аналог режима Kinesis в Nerocity Crown, но без облака): https://share.google/aimode/9ouI6ZUSal5odzzjW (наверняка, AI "что-то забыл" учесть, но порядок цен - "где-то так": можно начинать с 2-х датчиков, и пробовать на себе "работает ли, в принципе": пишут, что и здесь есть свои "дальтоники").
всё правильно. добавлю, для разнообразия: Вариант N1. меня, финдиректор быстро научил "Всегда начинай с 'Чего просишь'. 'Зачем' - я и без тебя знаю" (но расчеты - ценил). И так было принято на всем производстве. Вариант N2. (ох, сколько мне позже от федеральных служб попадало, с их бюрократией - заставляли переписывать, мотивируя) "Никто - начало не смотрит, сразу - за последний абзац". Аналогичное было, и отношение к "Сколько просишь" - обе стороны знали, что принципиально "не совпадает" со "сколечко дадим" - "просить - надо часто".
(посмотрел исходник sdk-js) Список действий - хранится в облаке (как и любые "записываемые данные") и изначально пуст, а через SDK - расширяется и считывается.
Насчет "online" - интереснее: SDK может пережить временное пропадание Интернета, кэшируя (это странно, т.к. в анонсе утверждали "никакие данные не выходят, вся обработка - внутри мини-компа", и тут же "все шифруется", дополнительно к "для доступа к устройству - нужна его регистрации в облаке и ваша учетка"). Т.е. Интернет (при работе через SDK) - "нужен". Но, если используется только встроенная фцнкциональность обработки, то - "только на время login". И подозреваю, что можно и без (раз остальное "ассинхронно").
или Без консоли - ведя из кода: https://docs.neurosity.co/docs/guides/training/ - но натренированные даные - по-прежнему, летят в облако. Складывается впечатление, что весь (хотя бы регистрацию) SDK - только online (с облаком). Пока не вижу состава Списка действий (сразу ли заполнен, расширяемый ли - судя по названию "Kinesis" - вряд ли). Но уже понятно, что каждый пользователь - должен тренировать "себя" - сам, и каждое "намерение" - отдельно.
(что же Вы так цепляетесь, к "4.0" - не пойму) тогда:
- варианты "только (т.е. не перегруженные legacy) AI ('не врущие' - там, где это критично; И остальные - всё еще 'врущие', но только там, где выходят за Контракт, или где цена ошибки - допустима, и нет рычага тиражирования) - это "5.0".
Моя мысль проста - в перспективе, для использования (чего-то, принципиально) нового - требуется новая технология (а не "пристегивание лошадей впереди машинной повозки").
Google AI утверждает, что это не совсем одно и тоже (а я - не разбираюсь, пока не получу в руки).
я - повторил его более ранее утверждение: "Байесовские и стохастические трансформеры
(применяются там, где цена ошибки ИИ критически высока: в медицине, финансовой аналитике и системах безопасности)".
А сегодня, Goggle AI ответил: {
Вот как эти концепции связаны между собой:
1. Связь концепций: от простого к сложному
Confidence-слои — это попытка оценить уверенность «обычной» (детерминированной) LLM. Модель смотрит на свои внутренние слои и говорит: «Обычно, когда у меня такие активации, я права в 90% случаев». Но, как правильно замечено в тексте, это лишь самокалибровка. Если модель изначально обучена на неверных данных, она будет уверенно лгать. Это сдвиг проблемы выше, так как теперь нам нужно валидировать сам слой уверенности.
Байесовские и стохастические трансформеры — это более глубокий, фундаментальный шаг. Вместо того чтобы просто прикручивать «датчик уверенности» к стандартной модели, они меняют саму математику трансформера. Вместо жестких весов (чисел) они используют распределения вероятностей.
2. Почему они дополняют друг друга
В критически важных сферах (медицина, финансы) простой confidence-слой опасен.
Поэтому там внедряют байесовские подходы,
которые позволяют разделять два типа неопределенности:
Алеаторную (случайность в самих данных).
Эпистемическую (незнание самой модели из-за нехватки опыта).
Байесовский трансформер не просто выдает абстрактный «процент уверенности» (как confidence-слой), а показывает, почему модель сомневается: потому что вопрос сформулирован размыто или потому что она в принципе никогда не видела подобных медицинских кейсов на обучении
}
понял, что, изначально, это я напутал (упростил и смешал. Значит, сегодня - я стал понимать, по "не врет", чуточку больше).
>В банке (и в любой регулируемой среде — финансы, медицина, инфраструктура) “выпустить, что разработалось” физически невозможно
Любопытно (может еще не сталкивались, иначе - не написали бы этой фразы), что, там, где это критично - AI не врет (например, такое уже есть - в медицине, и вроде - и в финансах: уже используются LLM со слоями другого типа - кроме "значения", вычисляется "степень уверенности": нет знаний - нет уверенности.
Будут появляться такие LLM - для Бухгалтерии, и т.д.
Вроде, и у Antropic - финишный слой - такой. Но только один).
Т.е. у этих - вообще нет такой проблемы (на которой Вы построили вторую часть статьи - не нужно переделывать процессы разработки).
А если Вы писали - только для врущих. То "оговорка про домен" - лишняя.
Уверен, что будущее - будет из нескольких направлений. В т.ч.:
- как описанное вами (костыли к AI);
- так и мною (на одном AI).
>(концовка) если AI будет всё лучше создавать тексты, схемы, код и гипотезы, то ценность аналитика смещается к умению определить
- допускаю, что "всё лучше" написано - в смысле "всё лучше, и лучше" - станет существенно лучше, чем это делает AI сейчас -- т.ч. за ним не надо будет "приглядывать";
- но, в контексте всего предложения - вывода, воспринимаю, как "лучше человека" -- т.е. использование AI - дает преимущество, перед использованием человека.
Не собираюсь спорить в дележе чем, кому, заниматься.
1. Просто "отдельная мысль": Так, может, стратегически лучше (сейчас - открылось Окно возможностей):
- поменять "требуемый результат", под LLM, такой, какой он есть (врущий - "искажающий", и "сочиняющий"). Беря,главное - "Ускорение", на всю длину конвейера;
- чем, с упорством (доп.затратами) совмещать нового "ежа", со старой "грелкой" (моделями проектирования, разработки и внедрения. А там - подумать и про Жизненный цикл эксплуатации).
Что там "поменять" - надо думать (каждый - сам).
2. В качестве примера, вариант: Односеансовый (быстрый и простой) проект - что разработается, то и выпустить. Вместе с Контрактом!
И потом, прикладывая старый контракт, Модернизировать - опять одной Вспышкой.
Если Заказчик согласится к сырым выпускам (понимаю: не в проде) - за краткие сроки и понятный бюджет.
То - почему бы и нет.
Что делать с "накладными" (ОТК, контроль версий, и совместная разработка):
- думать (но "старые" методы проектирования - быстро станут не конкурентны).
3. Поясню ("не конкурентны") - неминуемое продолжение про Прохиндея:
- только теперь со стороны проектировщиков (это не LLM - "ставь на меня", это Рынок разработчиков, с демпингом цен и сроков).
- это вокруг - будет столько "Прохиндеев", что придется отказываться от полного цикла (одновременно наращивая жир "повторного использования", как НЗ на случай позднего обнаружения бреда).
Возможно, я тут не прав, и все фирмы-разработчики жестко выполняют предписанные нормы (поведения).
Но мне, (именно) нормы не попадались (не, я понимаю, что в ТЗ можно указать ГОСТы. И что определенный сегмент - работает именно так. Но "и туда - AI"? - пистолет с одной пулей приготовили?).
(еще не дочитал до конца, но уже второй раз перечитываю, дохожу до определенного места, и дальше "не могу молчать")
>(3.0. AI нужно воспринимать ... как) инструмент ускорения
- опасное и массовое заблуждение (основанное на успехах в мелких задачах).
1. Как "прохиндея" (уличного мошейника, лошадь из анекдота "Ставь - на меня!").
Правильнее, что это Вы! ("ускоряете" процесс. И тогда "AI - ваш инструмент" - верно):
- останавливаете любого прохожего, и спрашиваете его "Как ..." (например) "найти Биг-Бен". Чтобы от вас отвязаться, он быстро отвечает (как может, и не вкладываясь, находу).
Но, вы - "не так-то просты": удерживаете его за пуговицу, и уточняете "нет, я посмотрел в путеводителе города, отсюда пешком не пройти". Получаете еще порцию (вероятно, очередного "бреда") малоценной информации.
А поверив, перемещаетесь, но понимаете, что "не туда". И спрашиваете снова (другого) прохожего.
Конечно, если продолжать (верить всем прохожим), можно, ускоренно передвигаясь, в конце концов, увидеть башню (но еще придется помучиться с прохожими, чтобы "довели" только их подсказки).
2. Предлагаю: не считать/не называть новый процесс (с использованием такого "инструмента", LLM-подмастерья - который "может" врать), старым (именем: это уже не "ГОСТ xxxx-yy. Производственное взбитие масла из сливок", это - "ОБС*. Технология полимеризации пальмовых опилок". *-одна бабка сказала).
Как отметили, придется добавить еще подпроцессы, чтобы "выруливать" на старый (или его результат) - аля "ОТК" (не путать с Тестированием).
И тогда - самому нести ответственность за результат (новый-старый процессов).
3 Продолжая цепочку, напрашивается, уже не считать "Аналитиком" - верящего (в истинность LLM), перестраивающего свои твердые проф.навыки, под "потом/в конце переделаем" (прямо просится "подгоним")
PS: не хочу сказать "не используйте LLM" (наоборот, "за"). Но, не обольщайтесь. С AI:
- это - уже не Вы, вчерашний;
- а значит, и ваши скиллы - придется заново (точного слова не могу подобрать - "переформировать").
Проще, придумать новую специальность - типа, "вайб-аналитик".
"персональный ИИ-агент" (помощник - как приказчик + экономка) - не равно "персональный ИИ".
Это "персональный контекст" (сведения - ФИО, предпочтения, и настройки - ключи доступа);
"люди будут массово иметь" - наручный коммуникатор (из "Звездный путь", "Вавилон-5").
Универсальный (ладно, "смартфон");
"автономный" - в определенном смысле, но с сетью (Интернет, Wi-Fi и BT), иначе - почти бесполезен.
Персональный контекст - не обязательно локальный. Но, согласен с опасениями, и надеюсь, что "придумают" защищенный (невскрываемый и атомарный) вид хранения;
Цук - не про "управление", а про "Заработать" ("несите ваши денежки (звук барабанов)", из "Приключения Буратино").
И про "Не бейте меня" (за несвершение МетаВселенских надежд).
Дзен подсунул мне источник, смотрящий на то же, но с другого ракурса:
05.06.26 Самый короткий бум в истории: почему «эпоха искусственного интеллекта» закончится раньше, чем вы думаете
https://dzen.ru/a/aiFj_LQtBEVyWLU0
- хотя в названии: "само пройдет";
- но пишут: "никуда не уйдет, а настолько войдет в быт, что простые люди перестанут замечать" (и не понятно, то ли - сами будут вайб-кодить, то ли - "черт из табакерки").
(молодым) Использовать AI-инструменты - откликаться на нарастающий спрос.
А то, что "старожилы" "ворчат (ой, обвалится)" - так это "вечная философия".
Если "обвалится" - они-то (молодые) успеют перестроится (как и нам - "уже не раз" /Портос/ довелось).
Если "повезет" (с мозгами) - их заметят и перетащат в Настоящее программирование.
Если сами рискнут и выберут "экзотику" - может и повезет, развернется отрасль (знаю такие примеры).
2. Уф, тяжело (повторяться - не хочется). Зайду по-другому:
Преамбула:
1) к 1992.
я - по первому высшему - радиоинженер, работал сразу и много разработчиком.
Но в конце СССР, в магазинах появилась китайская электроника - дешевая до остолбенения.
И я понял - "наступает закат", для электроников. Разработчиков. Ремонтники - еще будут нужны. Какое-то время - в Мастерских по ремонту (сейчас - уже и Мастерские "вымерли"/скукожилсь до пары мастеров).
И ушел в Программисты, опыт - позволял (сети, ASM/C/несколько OS, в т.ч. своя/TSR для DOS. Еще "уперся", и успел, в свободное время, до ухода, натаскаться в DBase/FoxPro),
2) 200x (крах доткомов, отказ MS от развития VFP, выход .Net) - уже воспринимались, как "и вот опять": программисты с нуля/на MFC - стали "не нужны".
Много знакомых - "пересели" на 1С. Жирнее/счастливее жить, от этого - не стали.
Много времени - потрачено на изучение "того" и "сего".
И возникло понимание "еще одного" "нового витка Спирали".
3) за остальные годы - периоды только сокращались (или темп - увеличивался).
Ответ, про ручной кодинг:
Кратко: И то (рудимент), и другое (важнейший навык).
Изменятся "проценты" (распределения), а значит, и отношение (в целом).
В преамбуле - я описал "сдвиги" ("Скрипач - не нужен" "Кин-дза-дза". Сейчас, музыка - звучит из любого смартфона. А за это время - исчезли (почти) целые пласты бытовой электроники. Только по теме - когда-то повально используемые винил, катушечники, плееры (кассетники, CD), цвето-музыка, радиоприемники. Но ведь "скрипачи" - "где-то" "все-еще" есть).
Я - "не отдам" свои навыки (они сформировали "меня").
Сосед - обошелся без них (согласившись уйти на кирпичный завод, ради МЖК-квартиры).
Кому-то (молодым) говорить - "надо именно так" (через ручной кодинг, начиная с изучения регистров процессора, битов, ... - "да, иди ты, с ними, к царю Гороху".
Если сейчас в школах - окажется, что вообще не упоминают про Таблицы Брадиса, а матричные уровнения "считают столбиком" - ну и правильно ("я в их годы": учебники - прочитывал за лето, и сидел по городским библиотекам, "в свободное" от улицы время - кому "надо", всегда "найдет". По радиоэлектронике - подшивки с 192х, и программированию - летом был с матерью на практике, рядом с ЭВМ Универстита - перфокарты, перфоленты, языки - помню назание только одного: Cobol. Мать учила уроки, потом лекции - садила меня перед собой и рассказывала. Вот "что-то, да прилипало".
И в институт шел уже с "условным" "50-летним багажом". И преподы - это чувствовали.
Плюс: уже с 10 лет интересовался работой мозга, и "человеко-интерфейсами").
Волны/витки Спирали - видны и там (в радио. Каждые 10-20 лет: детекторный приемник на саже и самодельные катушки, конденсаторы и динамики - свитые в воздухе, как фигурка робота из деталей, лампы и КВ-радиостанции - на металлических шасси, миниатюрные транзисторы и феритовая антенна - на текстолите и гетинаксе, травление, аналоговые ЭВМ и операционные усилители, Булева логика и цифровые серии микросхем, процессоры - серии ЭСЛ, ТТЛ Шотки и КМОП, АЦП и ЦАПы, однокристальные)
Т.е. сейчас - может быть/"имет право", принципиально, "другая жвачка" для мозгов.
3. Если кому-то "из могикан", удастся изобрести новые подходы (поучаствовать в разработке новых языков, IDE) - памятник, при жизни.
Не будет - "вода сама проточит дорожку" ("на подготовленной почве" - сами придумают).
А заставлять, взрощенных на рафинированой пище, "скрипеть мозгами" - "кому это все надо?!" "Кин-дза-дза".
Человечеству, от нашей (кодеров) "перестройки" - "не холодно, не жарко" (если вернуться к тому, что ранее описал - окружающие вообще не понимают: ну станете работать по-другому, ну и че? А сколько профессий, вы - "покосили". Вот, теперь, очередной виток - "побегайте-ка").
>Вся эта логика — в голове у владельца, но переложить её в понятные алгоритмы он не может: он отличный производственник, но не IT‑архитектор. А я — инженер, но не специалист в типографике.
1. Может:
- перестать спрашивать "Аиша, разработай супер-пупер Автоматизации типографии";
- а попробовать сначала (Обзор) "составь сводную таблицу из основных существующих систем Автоматизации"
(далее специфика, которую директор-производственник, "обычно", знает) "Диспетчеризации сменных заданий Типографии, и их оперативной корректировки, при поломках или недогрузе станков, при ограничениях: до десятка машин (таких-то), специализация - на визитках и подарочных открытках".
Обычно, при просмотре директором - всплывают дополнительные вопросы "А где учет выработки", "ОТК", "переработка брака", ...
Но, согласен - не всегда, и не сразу.
2. Т.е. новый подход (с AI) - не должен делать "окончательное решение" (вылитое в металле; имею в виду, что надо быть еще ближе к Agile).
А раз, для AI, итерации - тяжело. То проще (и разработчику) - каждая сессия с нуля.
Получается: быстро спросил, показал, отдал.
И жди замечаний, но уже, как "новая разработка".
3. То, что "понравилось" - занести в Контракт (чтобы не пришлось переучивать персонал работе с новой версией).
Остальное - пусть AI "творит".
Появятся (облачные) Агрегаторы (услуг) контрактов (аля нынешних online Магазинов ПО, но услуг, и на одну сессию/проект).
Доступ к ним:
- может войти в операционки, смартфоны, веб-браузеры;
- но более вероятно - в техническом виде (MCP/ACP/A2A/завтра еще что-то), для AI-агентов/приложений.
Скорее всего, как "облачная функция".
Иначе - в rutime-среде (например, операционке) - появится "быстрый деплой" (mini-приложения, из Интернета) и "изолента" (аля docker).
Этому кодировщики - обрадуются, но заказов - будет мало (только от тех, кто изобрел что-то совсем новое в бизнесе), а в ходу - будет повсеместное "повторное использование", уже готовых реализаций (как Android - "стандарт" для смартфонов; на фоне пары "несовместимых"), стандартных контрактов ("РФ. Непрерывное производство. Бухгалтерия. Расчетная группа. ЗРП. Премия за месяц").
в скобках - мои вставки:
Через полгода‑год (предлагаю посмотреть глобальнее, на перспективу - умножаем на 5; оставшиеся, из ранее "переметнувшихся") компании снимут розовые очки и начнут нанимать тех, у кого есть инженерный опыт, наработанный ещё до нейросетей, и кто при этом научился этими нейросетями управлять (но это им уже не поможет: старое место на рынке - будет уже занято, а если "доделать проект" - придется, но "себе в убыток").
В целом:
Умные (фирмы) - полностью не перейдут (максимум, поделят портфель проектов "50 на 50").
2. Вангую, что на дальней перспективе (в пределах одного поколения - 10-20 лет, причем, где-то - быстро и, да, с отскоками):
- рынок Потребителя - будет требовать быстрых и простых решений (т.е. дешовых).
То, что "LLM - нельзя верить", и "самозабвенно врет (там, где нет данных)" - всех устроит, потребители адаптируются (не будут требовать/ожидать не возможного - услуги будет оказываться "только в пределах контрактов").
Цениться станут тех, кто может упрощать (эксперты бизнеса и технологий, может - современные аналитики, может - в массе, проще) и владеет номенклатурой доступных "контрактов" (что - уже есть на рынке готового, и что "простого" можно спрашивать у LLM - либо LLM будет иметь настройку "не усложнять");
- число проектов - сузится на порядок (останутся только сложные и научные);
- в общем, "по больнице" - произойдет что-то похожее на переход в двухтысячных от повсеместной разработки с нуля, кодированием на "языках C/Pascal/Foxpro и их IDE", к внедрению, с минимальной разработкой - конфигураций на "1С платформы (из нескольких десятков специализированных)" (кто-то - ушел на .Net-платформу, другие - на Java, и т.п.), при сохранении нескольких "инопланетян" - ERP-систем (со своими заморочками - языками, ...). Теперь: редкими "инопланетянами" - останутся проектирование-кодирование-тестирование, а внедрение - налету (сам или через эксперта).
>Если попросить Opus сходить в магазин за хлебом - он проверит погоду, ... Gemini 3 Flash - скорее всего ломанется в окно ...
Спасибо (посмеялся), за точные клейма (оценки поведения) моделей - это редкость, в наше время.
попробую чуть перефразировать:
1. Как исходная аксиома:
Всегда, человечество пыталось упрощать.
Нет предпосылок, что этого не будет происходить дальше.
2. Программирование - "еще один" способ упростить.
- появился (среди гиков - "универсалов");
- занял (массовую) нишу;
- и еще будет (узкие специальности, там где они выгодны. Аналогично, по проектным командам, и водопадной разработке).
3. LLM-ассистенты, вайб-кодинг - нужно другое, новое слово, чтобы не смешивать со "святым" программированием:
- спец - "сам сделаю лучше", и не позволит LLM выйти в "мастера";
- универсал - вспомнит "всё - уже было: постановка задач").
4. (Почему:) когда мы вызываем такси, (обычно!) нас и исполнителя, интересует только пара Принятых общих вопросов, но не такие детали, как марка машины, цвет, марка бензина.
Они - для чего-то сложного/уникального, ближе к "проекту", чем к "кодированию (программного обеспечения)".
Можно предположить, что LLM - (в будущем) будет сильнее ориентироваться в таких общих вопросах (специализироваться: помнить или получить сведения - "страна", "предпритие" пользователя, знать Бухгалтерию РФ, получить "штатное", ...).
5. Т.е. "в будущем" - "на входе" (на уровне Пользователя), всё (почти всегда, 99%) будет - просто, быстро и без лишних вопросов (появятся инструменты - языки, среды, ...).
А "что там внутри" - "магистрально", тоже
выродитсяпереродится (как Электричество - для пользователя, за сто лет, свелось к "220В, выключателю, лампочке и проводам". Со стандартами - внутри).6. Бороться, на своем уровне - пожалуйста ("Прыгайте, дети!" - тов.Дынин).
В целом - тенденция не умолима (никакие ошибки LLM - аля "кз", "телик, сгоревший при бросках" - не заставят отказаться. Всё - быстро подстроится).
7. Рассказывать, как было хорошо, когда все руками, уникально, и с головой - "Воспоминания юности".
8. Разработка "на века" - станет редкой, только для эстетов (типа, аудиофилов).
"Сформулировал, передал (там - что-то как-то сделалось), получил и забыл"
(в следующий раз, пользователь - начнет по новой, а внутри - предпочтут "выкатить с нуля").
еще одна интересная статья "в тему":
Где находится сознание? Научная теория о следах «я» в работе нейронов
https://dzen.ru/a/abgAKq6rNAFjjIXs
- сознание - (ставя задачу) заставляет мозг "шуметь".
от себя:
1) вряд ли шум меняет свой Уровень, в зависимости от мысли - не удастся использовать, как искомую функцию L=f(намерение).
А вот если "сознание - пере-/пред- настраивает нейроны мозга, стимулируя их на будущее решение задачи, то, возможно/слегка, меняется форма перехода шума от одного намерения ("о красном квадрате"), к другому ("почесать пятку").
2. (но даже, если и "форма - не функция") Вернулись к "Азбуке Морзе" (с "лидером" и "концевиком" - как признаками "понарошку - для ЭЭГ").
По источнику:
- не цепочка "вот сейчас - я думаю, а сейчас - не думаю (шпионка из комедии 'Астерикс и Обеликс: Миссия Клеопатра': https://vkvideo.ru/video18617553_166112536)"
- а "резко перескакивать (левой рукой, за правую ногу)".
заказал себе standalone на ESP32 (с BT/Wi-Fi):
ADS1299 Модуль сбора данных EEG WiFi+USB 8/16 канальный
=36379 Type3 (8 can + 8 проводов с контактами) https://aliexpress.ru/item/1005006259582911.html
не стал связываться с Cerelog - везти из-за рубежа, и скоро выйдет “Cerelog ESP-EEG V2” - с двойным и более стабильным BT/Wi-Fi и улучшенной трассировкой платы (с меньшими шумами-наводками; но подороже).
дешевый вариант (с чипом ADS1282R) - не подходит: чип расчитан на более мощные сигналы ЭКГ, и имеет собственные шумы в 10 раз больше, чем у ADS1299 - т.е. ЭЭГ-сигналы будут слабо слышны (и придется сильнее "стараться").
Похожие характеристики у Ganglion (на чипе MCP3912).
Возможно, что Muse - из этой серии ("для игр").
вариант с чипом ADS1299 - единственный ("полупрофессиональный".
Судя по чуть более высокой частоте выборки в Crown - там какой-то другой чип, более современный?).
Минимальные (без проводов и контактов) цены модулей (во всех - ADS1299, один или два - если со второй платой):
- standalone (USB, без/с BT/Wi-Fi): 16 тр (с STM32 - искать "OpenBCI"), 33 тр (на ESP32 - "Cerelog ESP-EEG");
- shield: 27 тр (для RPi5, "PiEEG" / для ArduinoUnoR4, "ardEEG").
(накидали, с GoogleAI) бюджетный (10 тр, без учета "авоськи" на голову - служащей для быстрого одевания/удержания датчиков) DIY BCI с Motor Imagery (аналог режима Kinesis в Nerocity Crown, но без облака):
https://share.google/aimode/9ouI6ZUSal5odzzjW
(наверняка, AI "что-то забыл" учесть, но порядок цен - "где-то так": можно начинать с 2-х датчиков, и пробовать на себе "работает ли, в принципе": пишут, что и здесь есть свои "дальтоники").
всё правильно.
добавлю, для разнообразия:
Вариант N1. меня, финдиректор быстро научил "Всегда начинай с 'Чего просишь'. 'Зачем' - я и без тебя знаю" (но расчеты - ценил). И так было принято на всем производстве.
Вариант N2. (ох, сколько мне позже от федеральных служб попадало, с их бюрократией - заставляли переписывать, мотивируя) "Никто - начало не смотрит, сразу - за последний абзац". Аналогичное было, и отношение к "Сколько просишь" - обе стороны знали, что принципиально "не совпадает" со "сколечко дадим" - "просить - надо часто".
(посмотрел исходник sdk-js) Список действий - хранится в облаке (как и любые "записываемые данные") и изначально пуст, а через SDK - расширяется и считывается.
Насчет "online" - интереснее: SDK может пережить временное пропадание Интернета, кэшируя (это странно, т.к. в анонсе утверждали "никакие данные не выходят, вся обработка - внутри мини-компа", и тут же "все шифруется", дополнительно к "для доступа к устройству - нужна его регистрации в облаке и ваша учетка").
Т.е. Интернет (при работе через SDK) - "нужен". Но, если используется только встроенная фцнкциональность обработки, то - "только на время login". И подозреваю, что можно и без (раз остальное "ассинхронно").
или Без консоли - ведя из кода:
https://docs.neurosity.co/docs/guides/training/
- но натренированные даные - по-прежнему, летят в облако.
Складывается впечатление, что весь (хотя бы регистрацию) SDK - только online (с облаком).
Пока не вижу состава Списка действий (сразу ли заполнен, расширяемый ли - судя по названию "Kinesis" - вряд ли).
Но уже понятно, что каждый пользователь - должен тренировать "себя" - сам, и каждое "намерение" - отдельно.