возможно ли качественно реализовывать магистерские программы за 1 год?
Вопрос не имеет особого смысла, как по мне. Это кого магистром называть. Например, взяли и 4 года обучения назвали высшим образованием - бакалавр. Выше оно среднего технического? В целом, да. Соответствует ли оно советскому 5, а то и 6 лет высшему - конечно, нет. Сильно хуже.
А так можно чему-то и за 6 месяцев обучить:-) И назвать: "инженер-ассистент исследователя", например.
Очевидно, что если к описанному курсу "прикрутить" ещё год так же качественно продуманный, то будет сильно лучше.
А проблемы уровня "Иногда новая библиотека успевает стать популярной, обязательной и устаревшей за то время, пока университет согласовывает рабочую программу дисциплины" вообще не к уровню магистра. О чем, впрочем, и сам автор пишет: "программа готовит не специалиста по одной библиотеке и не человека, умеющего только обучать модели. "
Но, конечно, если ставить вопрос как: "кто более магистр - обучившийся по сильной структурированной интенсивной программе за год или по "сборной солянке" из случайно собранных курсов за два года?" - то это "уже совсем другая история" (c). Как понимаю, МАИ выбирает первый вариант.
Спасибо, методология понятна. Насколько точными окажутся расчёты и представительными результаты - другой вопрос. Видимо, надо ждать практических результатов с рынка.
У автономии есть два способа управления риском.
С точки зрения экономики проекта имеет смысл не забывать и про классические способы управления риском по риск-менеджменту. В частности, "перенос риска" (например, оформление страховки, где применимо. Или иметь явно описанный в договора механизм оплаты потерь другой стороной договора).
Работающий и безопасный продукт получается тогда, когда вокруг ядра выстроена правильная архитектура: валидация на границах, детерминированные гарантии вместо пожеланий в промпте, продуманные права и пороги под цену ошибки. Разбор чужих инцидентов, вроде трёх в этой статье, самый дешёвый способ этому научиться.
Про "безопасный" - слишком оптимистично сказано. Вернее, "относительно безопасный". В статье приводятся три архитектурных "костыля" по результатам "разбора чужих инцидентов", но нет гарантии, что следующий инцидент для "научиться", который пока не учтён нигде в архитектуре, не случится именно у вас. Это LLM, устранить все потенциальные проблемы невозможно принципиально. Но об этом часто забывают, а ряд людей, как кажется, даже верит, что обвязка окажется абсолютной защитой.
В отношении важности управления знаниями Вы точно правы. Правда, в другой недавней статье на Хабре автор как раз и указал, что ему агент при получении проекта, как раз и описал всю систему, в которой уже никто хорошо не разбирался, и даже предложил ряд оптимизационных шагов. По логике, тогда можно дать верхнеуровневый SDD, потребовать рассмотреть его и описать систему, а затем уже уточнить SDD, используя обретённые таким путём знания.
А сам SDD подход не нов. В 20м веке он вполне себе использовался для разработки, назывался ТЗ:-) И тогда ещё даже не было разделения на аналитиков и кодеров.
Это уже вопрос терминологии, полагаю. Конечно, если говорить не о проекте, а о некой части работы с именем "задача", то это верно. Но не вижу, как из статьи и ответа можно такой вывод было сделать. Как по мне, так авторами даётся механизм вполне применимый и для реализации проекта (при необходимости - и при его декомпозиции).
Спасибо. На мой взгляд, ответа пока нет ни у кого на мой вопрос основной. Да и не очень его пока хотят получить.
А из Вашего комментария у меня также возникло ощущение, что Вы с коллегами не рассматриваете ряд сопутствующих факторов (могу ошибаться, и Вы о них просто не упомянули). Это замечание, разумеется, не в порядке злонамеренной критики, а просто как некое наблюдение, которое, возможно, чем-то поможет.
экономику определяет качество процесса вокруг агента, ну и качество самого агента и модели
Это верно в части, что это важные компоненты для экономики. Но из классического проектного треугольника эта фраза покрывает лишь качество. А ещё есть время и цена. Я даже не трогал время, но как раз и задавался вопросом, насколько агент (не именно этот) экономически эффективны.
риски действительно есть, но они измеримы
1) Методологически написанное Вами неверно. Риски принципиально не измеримы. Риск - оценочная величина. И оценка в любом случае не точная. Практика риск-менеджмента показывает, что совершенно точно рассчитать как вероятность риска, так и его влияние невозможно даже в простом проекте. 2) Вы верно написали про абсолютно необходимые компоненты (валидация и правильный процесс), вот только какова вероятность, что валидация силами LLМ, не имеющей понимания по определению, не пропустит какой-то баг, который принесёт крупные потери? Разумеется, такой вопрос применим и к выполнению задач человеком, но там мы рассчитываем на наличие понимания. И это риск также надо закладывать в расчёты экономической эффективности применения агентов на проде.
пользователи ИИ-агентов мержили примерно на 24% больше pull request'ов
Я спрашивал про экономическую эффективность. Статья как раз и говорит, что это пока непонятно: "though whether that output justifies its cost is a question of value, not throughput alone. The pressing open question is now about quality, whether this added throughput yields better software." В частности, без понимания что происходило с другими показателями, да и насколько вообще были нужны эти PR (особенно, если у кого-то KPI - именно количество PR), ответ не дать.
Это опрос. При опросе водителей в США 90% водителей считали, что они водят лучше среднего водителя (что принципиально невозможно). Нет реальных метрик экономической эффективности, не говоря уже о том, что рост производительности - лишь один из факторов, и сам по себе он не гарантирует результат.
Ваша мысль непонятна, в частности, термин "диктуется". Если значение термина равно "инициируется", то зачем изменять код исключительно на знаниях о продукте? Знание есть, и хорошо. А вот если надо менять продукт, тут и появляется необходимость изменить код.
Если же речь о том, что влияет на изменения, то оба компонента. Полагаю, фраза из статьи "Сначала агент изучает проект, задает вопросы и готовит спецификацию." как раз и должна включать в себя знания о продукте. Как и упоминание архитектуры во фразе выше "А сама спека может быть разной: ...до подробного описания ... архитектуры...и прочего".
Интересно и полезно, спасибо. Правда, немного восторженным стиль описания ощущается. Ниже пара комментариев для примера.
Такой подход к распределению вычислительной нагрузки решил главную проблему индустрии: новые AI Glasses весят менее 50 граммов, не перегреваются, работают весь день от одного заряда и внешне почти неотличимы от обычных солнцезащитных очков.
Тут слишком категорично сформулировано, как по мне. Там не одна "главная проблема". Как минимум, проблемы комфорта для глаз и когнитивной нагрузки это не снимает.
Робототехника: конец эпохи выставочных танцев и триумф воплощенного ИИ
До триумфа ещё далеко. Пока даже мытьё тарелок домашним роботом остаётся сложнейшей нерешённой задачей.
Я не разделяю популярную точку зрения о том, что AI заменит разработчиков. Наоборот, мне кажется, что по мере развития подобных инструментов требования к инженерному мышлению будут только расти. По мере развития подобных инструментов требования к инженерному мышлению будут только расти. Потому что ответственность за понимание системы, за архитектуру и за качество конечного решения по-прежнему остаётся на стороне человека.
Не вижу противоречия. Полностью, конечно, пока не заменит. И да, всё больше цениться будут постановщики задачи/контролёры, и требования к ним будут расти. Вот только вопрос, сколько нужно будет таких высокоуровневых людей. И сколько понадобится middle и junior. Предположу, что при текущей идее "агенты напишут всё" нужны будут только уровня senior да teamlead.
Спасибо за изложение подробного алгоритма работы с "трудолюбивым идиотом":-) Логично и хорошо описано. В принципе, это во многом отражает, как надо задачи ставить себе или коллективу, вот только тут полагаться на то, что "сами додумают" крайне опасно.
Интересно, а имеются ли достоверные исследования экономической эффективности подобной деятельности (и включая оценку потенциальных рисков, добавляемых LLM, за которые заплатить придётся, когда они реализуются)? Включая структурированный анализ, когда выгодно задачи разработки поручать бездумным LLM, а когда надо людям делать.
Тут или вопрос баланса (пусть ИИ решает), что не очень верно, особенно с LLM, которые в реальности понимания не имеют (а это все LLM), или, скорее, правило должно быть: "Делай, что должно, и будь, что будет" (т.е. нужно усилить запрет на ложь. Пусть даже для этого архитектуру придётся модифицировать, если просто промптами и т.д. это не обеспечить).
Спасибо. Ответы понятны. Тогда твоя программа больше похожа на набор практических курсов "здесь и сейчас" - на некий "продвинутый" бакалавриат, чем на классическую магистратуру. Та должна быть более академична (vs "у нас такой не-академический подход"), и главный фактор - точно не просто "быть в гуще событий". (Если чуть формальнее, то по ФЗ она должна обеспечить "углубление и расширение образования, научно-педагогической квалификации", иметь обязательные курсы (ИТМО, вроде, некие Core courses - "ядерные магистерские дисциплины" имел), 70% преподавателей с научными степенями (с идеей, что эти к.т.н и др. - более учёные, чем практики). Но, полагаю, эти моменты как-то формально закрыты, я более о сути).
P.s. Я не считал, что Виталий Лукин руководитель направления в ИТМО. Я о том, что не очень понятно, почему лишь в одной из ролей упоминалось имя куратора, а в других никаких имён не было. Особенно, если "95% преподавателей - это практики с основным местом работы вне университета".
"живая среда для роста ИИ-специалистов без жесткого учебного плана и одинаковой траектории для всех."- выглядит круто. Надеюсь при этом, конечно, что это реально так и работает, а не просто заявлено, и что всё же набираются курсы не просто, как кто захочет, а из каких-то блоков, где необходимые для базы обязательные курсы тоже есть.
Не очень понятно, это четыре или более учебных планов по трекам/ролям, или внутри трека/роли также можно интересующие курсы добирать?
Интересно также, с какой быстротой меняется содержание курсов? При текущем темпе, по логике, надо каждый семестр обновлять (не полностью, разумеется. Но даже при этом нагрузка на преподавателей большая должна быть).
Интересен преподавательский состав. Какое соотношение классических преподавателей и практиков? Точнее, насколько курсы с практической направленностью ведут именно практики, а "теоретические" курсы именно сильные лекторы и учёные?
Небольшие заметки по тексту:
Немного удивило, что руководитель программы в ВУЗе использует формулировку "ИИ стохастичен". Она, скорее, "бытовая", так как не весь ИИ стохастичен. Вернее было бы сказать тут "генеративный ИИ".
Полагаю, будет некоторое время путаница с названиями, так как даже в заголовке пишется про "AI инженер", а далее этим же термином обозначается только одна из семи ролей. Но это, скорее, к современному тренду с названиями, чем к автору.
"Направление ИИ-агентов и автоматизации курирует Виталий Лукин" - "сам Виталий Лукин":-). И не понятно, у остальных направлений нет кураторов или они не такие выдающиеся, как Виталий Лукин?
В "Логика конструктора" логичнее "1" заменить на буллиты, сбивает немного.
Имело бы смысл добавить ссылки на какую-то информацию, как поступать.
P.s. И да, роли продолжат уходить, и даже текущие роли ещё изменятся на горизонте нескольких лет. Не говоря о моменте, когда естественно ограниченные в своих возможностях LLM прекратят быть почти единственным направлением ИИ:-)
Предполагаю, что автор просто провоцирует читателей. Так как с подходом типа "если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов" (и таких "может" по тексту много встречается, включая финальный вывод), то да, "можно" получившееся считать сознанием:-) Это просто становится вопросом определения.
Доказывать же, что чего-то или кого-то быть не может, задача философски неверная. Этим так называемый "научный атеизм" развлекался много лет. Так что в такой парадигме, как в статье, можно ожидать возникновения сознания и в неких пока несуществующих жутко больших конечных автоматах, и даже в уже существующих андроидах, которые себя в мире моделируют и даже могут понять, когда упадут:-)
Спасибо за такой подробный ответ. Показательно, что Вы и тут пишете про определённые подмножества RС (типа LSM, SNN) с их ограничениями (это нормально, как понимаю, Вы работаете с тем, что есть), я же привёл RC скорее, как пример направления более близкого к мозгу по духу, чем обычный DL (но, конечно, как классический RC мозг тоже не работает). "Полноценные" резервуары всё же должны быть посильнее, чем "очень нишевый инструмент для узких задач". Иными словами, основной посыл моего сообщения в том, что нам, как минимум, нельзя игнорировать ключевые свойства мозга, так как это, скорее всего будет создавать ограничения для эффективности, автономности, устойчивости, непрерывного обучения, казуальных моделей мира и т.д., а, скорее всего, надо воспроизвести физическую динамику мозга. И эти недостающие у DL механизмы особенно важны для роботического, автономного и энергоэффективного AGI. "SSM модельки, по типу той же Mamba или JEPA" вряд ли эту задачу решат полностью. И, как вывод: нам нужны brain-like направления, чтобы решить проблемы, особенно в области робототехники и нейроморфного интеллекта. Резервуары на базе аттракторных сетей осцилляторов выглядят тут значительно интереснее, к примеру. Такой резервуар будет более структурированным, чем классический, у которого часто случайная рекуррентная динамика. Это может помочь с быстрым затуханием памяти (устойчивые/метастабильные состояния), с хаотичностью (управляемые аттракторы), плохой роботической динамикой (естественные моторные паттерны и центральный генератор паттернов) и многое другое. Остаётся проблема обучения (точнее, направленного обучения, чтобы она строила полезные модели мира). Отдельная большая тема. И чем больше мы будем обучать внутреннюю динамику, тем ближе подойдём к полноценной нейродинамической архитектуре. И да, гибридные архитектуры могут оказаться решением для AGI, где, например, аттракторно-осцилляторная динамика будет сочетаться с обучаемыми моделями представлений, моделями мира, памятью и планировщиками.
Биология обходится без буфера: мозг на лету сжимает поток восприятия в обновление собственных «весов». У нейросетей этот путь закрыт катастрофическим забыванием: эффект описан ещё McCloskey и Cohen в 1989-м, а DeepMind в статье про elastic weight consolidation сформулировал прямо: «нейросети в общем случае не способны» учиться последовательно
В этом и есть основная проблема. То, что называется в цитате выше "нейросетями" на самом деле только подмножество на разросшемся Deep Learning с BackPropagation, который искусственен, и который с человеческим мышлением имеет немного общего. Скорее всего, "полноценных" андроидов мы получим, когда ИИ будет сделан на каких-то других принципах. Например, многообещающими выглядят резервуарные вычисления (Reservoir Computing), которые, в частности, и сжимают поток восприятия на лету без буфера, и обучаются мгновенно без BackPropagation и т.д.
Объём спроса - генерируются новые потребности. Пример: раньше я сам искал по интернету ответы и комбинировал их из разных статей, сейчас мне проще спросить ИИ это сделать. И такого много.
Вопрос не имеет особого смысла, как по мне. Это кого магистром называть.
Например, взяли и 4 года обучения назвали высшим образованием - бакалавр. Выше оно среднего технического? В целом, да. Соответствует ли оно советскому 5, а то и 6 лет высшему - конечно, нет. Сильно хуже.
А так можно чему-то и за 6 месяцев обучить:-) И назвать: "инженер-ассистент исследователя", например.
Очевидно, что если к описанному курсу "прикрутить" ещё год так же качественно продуманный, то будет сильно лучше.
А проблемы уровня "Иногда новая библиотека успевает стать популярной, обязательной и устаревшей за то время, пока университет согласовывает рабочую программу дисциплины" вообще не к уровню магистра. О чем, впрочем, и сам автор пишет: "программа готовит не специалиста по одной библиотеке и не человека, умеющего только обучать модели. "
Но, конечно, если ставить вопрос как: "кто более магистр - обучившийся по сильной структурированной интенсивной программе за год или по "сборной солянке" из случайно собранных курсов за два года?" - то это "уже совсем другая история" (c).
Как понимаю, МАИ выбирает первый вариант.
Статья выглядит, как верхнеуровневое повторение достаточно известных вещей.
Было бы интересно узнать, а что-то новое удалось обнаружить?
И не понятно, как содержание статьи соответствует заголовку. Что относится к "шпионским играм"?
Спасибо, методология понятна. Насколько точными окажутся расчёты и представительными результаты - другой вопрос. Видимо, надо ждать практических результатов с рынка.
С точки зрения экономики проекта имеет смысл не забывать и про классические способы управления риском по риск-менеджменту. В частности, "перенос риска" (например, оформление страховки, где применимо. Или иметь явно описанный в договора механизм оплаты потерь другой стороной договора).
Про "безопасный" - слишком оптимистично сказано. Вернее, "относительно безопасный". В статье приводятся три архитектурных "костыля" по результатам "разбора чужих инцидентов", но нет гарантии, что следующий инцидент для "научиться", который пока не учтён нигде в архитектуре, не случится именно у вас.
Это LLM, устранить все потенциальные проблемы невозможно принципиально. Но об этом часто забывают, а ряд людей, как кажется, даже верит, что обвязка окажется абсолютной защитой.
В отношении важности управления знаниями Вы точно правы. Правда, в другой недавней статье на Хабре автор как раз и указал, что ему агент при получении проекта, как раз и описал всю систему, в которой уже никто хорошо не разбирался, и даже предложил ряд оптимизационных шагов.
По логике, тогда можно дать верхнеуровневый SDD, потребовать рассмотреть его и описать систему, а затем уже уточнить SDD, используя обретённые таким путём знания.
А сам SDD подход не нов. В 20м веке он вполне себе использовался для разработки, назывался ТЗ:-) И тогда ещё даже не было разделения на аналитиков и кодеров.
Это уже вопрос терминологии, полагаю. Конечно, если говорить не о проекте, а о некой части работы с именем "задача", то это верно. Но не вижу, как из статьи и ответа можно такой вывод было сделать. Как по мне, так авторами даётся механизм вполне применимый и для реализации проекта (при необходимости - и при его декомпозиции).
Спасибо. На мой взгляд, ответа пока нет ни у кого на мой вопрос основной. Да и не очень его пока хотят получить.
А из Вашего комментария у меня также возникло ощущение, что Вы с коллегами не рассматриваете ряд сопутствующих факторов (могу ошибаться, и Вы о них просто не упомянули). Это замечание, разумеется, не в порядке злонамеренной критики, а просто как некое наблюдение, которое, возможно, чем-то поможет.
Это верно в части, что это важные компоненты для экономики. Но из классического проектного треугольника эта фраза покрывает лишь качество. А ещё есть время и цена. Я даже не трогал время, но как раз и задавался вопросом, насколько агент (не именно этот) экономически эффективны.
1) Методологически написанное Вами неверно. Риски принципиально не измеримы. Риск - оценочная величина. И оценка в любом случае не точная. Практика риск-менеджмента показывает, что совершенно точно рассчитать как вероятность риска, так и его влияние невозможно даже в простом проекте.
2) Вы верно написали про абсолютно необходимые компоненты (валидация и правильный процесс), вот только какова вероятность, что валидация силами LLМ, не имеющей понимания по определению, не пропустит какой-то баг, который принесёт крупные потери?
Разумеется, такой вопрос применим и к выполнению задач человеком, но там мы рассчитываем на наличие понимания. И это риск также надо закладывать в расчёты экономической эффективности применения агентов на проде.
Я спрашивал про экономическую эффективность. Статья как раз и говорит, что это пока непонятно: "though whether that output justifies its cost is a question of value, not throughput alone. The pressing open question is now about quality, whether this added throughput yields better software."
В частности, без понимания что происходило с другими показателями, да и насколько вообще были нужны эти PR (особенно, если у кого-то KPI - именно количество PR), ответ не дать.
Это опрос. При опросе водителей в США 90% водителей считали, что они водят лучше среднего водителя (что принципиально невозможно). Нет реальных метрик экономической эффективности, не говоря уже о том, что рост производительности - лишь один из факторов, и сам по себе он не гарантирует результат.
Ваша мысль непонятна, в частности, термин "диктуется". Если значение термина равно "инициируется", то зачем изменять код исключительно на знаниях о продукте? Знание есть, и хорошо. А вот если надо менять продукт, тут и появляется необходимость изменить код.
Если же речь о том, что влияет на изменения, то оба компонента. Полагаю, фраза из статьи "Сначала агент изучает проект, задает вопросы и готовит спецификацию." как раз и должна включать в себя знания о продукте. Как и упоминание архитектуры во фразе выше "А сама спека может быть разной: ...до подробного описания ... архитектуры...и прочего".
Интересно и полезно, спасибо. Правда, немного восторженным стиль описания ощущается. Ниже пара комментариев для примера.
Тут слишком категорично сформулировано, как по мне. Там не одна "главная проблема". Как минимум, проблемы комфорта для глаз и когнитивной нагрузки это не снимает.
До триумфа ещё далеко. Пока даже мытьё тарелок домашним роботом остаётся сложнейшей нерешённой задачей.
Не вижу противоречия. Полностью, конечно, пока не заменит. И да, всё больше цениться будут постановщики задачи/контролёры, и требования к ним будут расти. Вот только вопрос, сколько нужно будет таких высокоуровневых людей. И сколько понадобится middle и junior. Предположу, что при текущей идее "агенты напишут всё" нужны будут только уровня senior да teamlead.
Спасибо за изложение подробного алгоритма работы с "трудолюбивым идиотом":-)
Логично и хорошо описано. В принципе, это во многом отражает, как надо задачи ставить себе или коллективу, вот только тут полагаться на то, что "сами додумают" крайне опасно.
Интересно, а имеются ли достоверные исследования экономической эффективности подобной деятельности (и включая оценку потенциальных рисков, добавляемых LLM, за которые заплатить придётся, когда они реализуются)?
Включая структурированный анализ, когда выгодно задачи разработки поручать бездумным LLM, а когда надо людям делать.
Тут или вопрос баланса (пусть ИИ решает), что не очень верно, особенно с LLM, которые в реальности понимания не имеют (а это все LLM), или, скорее, правило должно быть: "Делай, что должно, и будь, что будет" (т.е. нужно усилить запрет на ложь. Пусть даже для этого архитектуру придётся модифицировать, если просто промптами и т.д. это не обеспечить).
Спасибо. Ответы понятны. Тогда твоя программа больше похожа на набор практических курсов "здесь и сейчас" - на некий "продвинутый" бакалавриат, чем на классическую магистратуру. Та должна быть более академична (vs "у нас такой не-академический подход"), и главный фактор - точно не просто "быть в гуще событий".
(Если чуть формальнее, то по ФЗ она должна обеспечить "углубление и расширение образования, научно-педагогической квалификации", иметь обязательные курсы (ИТМО, вроде, некие Core courses - "ядерные магистерские дисциплины" имел), 70% преподавателей с научными степенями (с идеей, что эти к.т.н и др. - более учёные, чем практики). Но, полагаю, эти моменты как-то формально закрыты, я более о сути).
P.s. Я не считал, что Виталий Лукин руководитель направления в ИТМО. Я о том, что не очень понятно, почему лишь в одной из ролей упоминалось имя куратора, а в других никаких имён не было. Особенно, если "95% преподавателей - это практики с основным местом работы вне университета".
Хорошая реклама (без сарказма - интересно читать), спасибо.
"живая среда для роста ИИ-специалистов без жесткого учебного плана и одинаковой траектории для всех."- выглядит круто. Надеюсь при этом, конечно, что это реально так и работает, а не просто заявлено, и что всё же набираются курсы не просто, как кто захочет, а из каких-то блоков, где необходимые для базы обязательные курсы тоже есть.
Не очень понятно, это четыре или более учебных планов по трекам/ролям, или внутри трека/роли также можно интересующие курсы добирать?
Интересно также, с какой быстротой меняется содержание курсов? При текущем темпе, по логике, надо каждый семестр обновлять (не полностью, разумеется. Но даже при этом нагрузка на преподавателей большая должна быть).
Интересен преподавательский состав. Какое соотношение классических преподавателей и практиков? Точнее, насколько курсы с практической направленностью ведут именно практики, а "теоретические" курсы именно сильные лекторы и учёные?
Небольшие заметки по тексту:
Немного удивило, что руководитель программы в ВУЗе использует формулировку "ИИ стохастичен". Она, скорее, "бытовая", так как не весь ИИ стохастичен. Вернее было бы сказать тут "генеративный ИИ".
Полагаю, будет некоторое время путаница с названиями, так как даже в заголовке пишется про "AI инженер", а далее этим же термином обозначается только одна из семи ролей. Но это, скорее, к современному тренду с названиями, чем к автору.
"Направление ИИ-агентов и автоматизации курирует Виталий Лукин" - "сам Виталий Лукин":-).
И не понятно, у остальных направлений нет кураторов или они не такие выдающиеся, как Виталий Лукин?
В "Логика конструктора" логичнее "1" заменить на буллиты, сбивает немного.
Имело бы смысл добавить ссылки на какую-то информацию, как поступать.
P.s. И да, роли продолжат уходить, и даже текущие роли ещё изменятся на горизонте нескольких лет. Не говоря о моменте, когда естественно ограниченные в своих возможностях LLM прекратят быть почти единственным направлением ИИ:-)
ничего интересного. точно не форс-мажор. Форм-мажор по-простому - то, что невозможно ни предвидеть достоверно, ни защиту от него сделать.
Предполагаю, что автор просто провоцирует читателей.
Так как с подходом типа "если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов" (и таких "может" по тексту много встречается, включая финальный вывод), то да, "можно" получившееся считать сознанием:-) Это просто становится вопросом определения.
Доказывать же, что чего-то или кого-то быть не может, задача философски неверная. Этим так называемый "научный атеизм" развлекался много лет. Так что в такой парадигме, как в статье, можно ожидать возникновения сознания и в неких пока несуществующих жутко больших конечных автоматах, и даже в уже существующих андроидах, которые себя в мире моделируют и даже могут понять, когда упадут:-)
Спасибо за такой подробный ответ. Показательно, что Вы и тут пишете про определённые подмножества RС (типа LSM, SNN) с их ограничениями (это нормально, как понимаю, Вы работаете с тем, что есть), я же привёл RC скорее, как пример направления более близкого к мозгу по духу, чем обычный DL (но, конечно, как классический RC мозг тоже не работает). "Полноценные" резервуары всё же должны быть посильнее, чем "очень нишевый инструмент для узких задач".
Иными словами, основной посыл моего сообщения в том, что нам, как минимум, нельзя игнорировать ключевые свойства мозга, так как это, скорее всего будет создавать ограничения для эффективности, автономности, устойчивости, непрерывного обучения, казуальных моделей мира и т.д., а, скорее всего, надо воспроизвести физическую динамику мозга. И эти недостающие у DL механизмы особенно важны для роботического, автономного и энергоэффективного AGI. "SSM модельки, по типу той же Mamba или JEPA" вряд ли эту задачу решат полностью.
И, как вывод: нам нужны brain-like направления, чтобы решить проблемы, особенно в области робототехники и нейроморфного интеллекта.
Резервуары на базе аттракторных сетей осцилляторов выглядят тут значительно интереснее, к примеру. Такой резервуар будет более структурированным, чем классический, у которого часто случайная рекуррентная динамика. Это может помочь с быстрым затуханием памяти (устойчивые/метастабильные состояния), с хаотичностью (управляемые аттракторы), плохой роботической динамикой (естественные моторные паттерны и центральный генератор паттернов) и многое другое. Остаётся проблема обучения (точнее, направленного обучения, чтобы она строила полезные модели мира). Отдельная большая тема. И чем больше мы будем обучать внутреннюю динамику, тем ближе подойдём к полноценной нейродинамической архитектуре.
И да, гибридные архитектуры могут оказаться решением для AGI, где, например, аттракторно-осцилляторная динамика будет сочетаться с обучаемыми моделями представлений, моделями мира, памятью и планировщиками.
1) Учитывая сообщения про "ализаровщину", это уже не первый подобный выход данного автора. И где видно снижение рейтинга из-за этого?
На данный момент:
В рейтинге - 12-й (а на момент публикации статьи был 15м), 2 592 Подписчики.
"нет той чепухи, которая не нашла бы себе подходящего читателя" (с)
Я, например, бросил читать эту наивную пропаганду на первом абзаце, но я не собираюсь утверждать на этом основании, что, значит, и все бросят.
2) Кстати, а кому конкретно Вы писали: "Ребята, у вас же клевый блог!"
Кто эти "ребята" и какой конкретно блог?
В этом и есть основная проблема. То, что называется в цитате выше "нейросетями" на самом деле только подмножество на разросшемся Deep Learning с BackPropagation, который искусственен, и который с человеческим мышлением имеет немного общего. Скорее всего, "полноценных" андроидов мы получим, когда ИИ будет сделан на каких-то других принципах. Например, многообещающими выглядят резервуарные вычисления (Reservoir Computing), которые, в частности, и сжимают поток восприятия на лету без буфера, и обучаются мгновенно без BackPropagation и т.д.
Объём спроса - генерируются новые потребности. Пример: раньше я сам искал по интернету ответы и комбинировал их из разных статей, сейчас мне проще спросить ИИ это сделать. И такого много.
P.s. Пропустил Ваш ответ, извините.