Зарёкся комментом выше тут что то писать - но отвечу напоследок вам. Потому что прямо сейчас со мной происходит ровно то про что я критикую LLM - а мне за это карму сливают.
Пишу кусок в огромном коде. Описасл задачу LLM - она сгенерировала локальную функцию. Потом пособирал все функции в один файл - выстроил пайплайн - я так делаю что бы LLM не анализировала весь код и не сожрала все токены сразу и не утонула в шуме. А искала баги именно в том месте где мне надо. А именно в новой функции и кусок проекта который эта функция затрагивает.
Функция была написана без ошибок но она пораждала ошибки как раз в тех старых кусках кода на которые она влияет. Я пропустил файл в нескольких LLM - и они ответили одинаково.
Далее я попросил LLM пошагово разобраться с багом и составить карту его появления - Я очень скрупулёзно и истерически реагирую на то когда LLM вдруг находят баги в старом коде который был проверен 100500 раз. Это может означать только одно - баг плавающий и его хер найдёшь. И он обязательно вылезет на проде в самый неподходящий момент - а на тестах его хер найдёшь. Я должен вникнуть в во все шаги и понять причину появления бага. Короче я увидел что LLM гонят пургу.
Главное - их решение проблемы - искаверкать все старые функции в жопу что бы починить новый метод. Все старые функции были проверены 100500 раз и что то в них менять - это будет как снежный ком 100% что то поломается уже дальше.
Я вручную составил что именно должна и где исправлять LLM. И только тогда был выбран оптимальный способ как исправить баг.
Вот скриншот общения с gemeni
И да - режим думания думала 20 минут над микро методом - написала кусок говна. Я к тому что тупой прогон по кругу результатов - не имеет смысла. Да же не так - многие думают что чем дольше работают их агенты тем лучше код. Практика такая что быстрый вывод очень часто это будет всё тоже самое.
P.S. Фуух... ну думаю с комментами уже покончено тут.
Спасибо тебе тот кто слил мне карму за комментарий - а то я что то засиделся тут и строчу комменты. Вместо того что бы работу-работать. Помутнение какое то на меня нашло уже несколько дней пишу и пишу. Кодируюсь на год-два до следующего срыва.
Смотрите. Я описал 2 принципиально нерешаемые проблемы.
Чем больше делает LLM тем меньше программист понимает проект
Чем меньше программист работает мозгом - тем он тупеее
Следствие - LLM это ведомая машина. Хорошо работает на текущем структурированном коде. И работает херово выдаёт шаблоны которые никогда не совпадают что тебе реально надо. Если ты её просто просишь сделай мне "хорошо"
Что касается того что мне абсолютно не устраивает код который генерирует LLM. Поясню ситуацию. Я работаю в основном на сложных проектах. Допустим текущий требует максимального быстродействия. Используются AVX инструкции процессора и всевозможные хаки. Все проверки вырезаются если анализ показывает что это не мешает общему алгоритму. Вы знаете сколько мусорных вычислений делает практически каждое слово в языках высокого уровня?
Ну например взять банальный массив - в C# под капотом он всегда обнуляется. Оверхед который мне нахер не нужен. Или работа с массивами - под капотом там проверяется что бы ты случайно не обратился не в массив. Тоже оверхед. И так просто на каждый чих.
Что касается сколько кода генерирует LLM и человек - для меня LLM генерит просто тонну ненужного и порой мусорного кода. Я точно знаю что тут не будет недопустимых параметров - но LLM расставит ненужных проверок. Я точно знаю что функция принимает один единственный параметр. LLM внутри сделает обработку 100500 всевозможных параметров. Описывания каждого такого нюанса в промте - это такое точное ТЗ что становится просто кодом. Поэтому напрямую код писать быстрее.
Если вы сделаете какой то хак по улучшению скорости - LLM просто взорвётся от предсказаний какие ужастные кары вас ждут.
Например в С# у структур нету наследование. Так устроен язык. LLM меня убеждали что смирись. Но лёгким движением руки - бац и у структур появляется наследование. LLM потом говорят - типо они в шоке что так можно сделать было. Я конечно понимаю что ничего они не в шоке - это просто кусок обучающего текста подходящий под текущий обсёр LLM и выданный в контексте. Но не об этом сейчас.
Что касается тестов. Тут я вообще не понимаю никого другого когда они пишут про тесты. Моя практика такая. Любой алгоритм требуется особо тщательно тестировать именно в пограничных случаях. Что бы получить такие случаи требуется пиздец сколько всего. Мне постоянно приходится просто изменять код -коментировать куски. Делать goto и прочую ересь что бы общий план выполнения пошёл по пограничному случаю.
А обычные случаи он нафиг не нужны - они настолько простые что просто отсеиваются все на этапе банального анализа LLM текста сырцов.
Ссылку конечно я не помню. Поработаю прокси. Спросил у DeepSeek что бы поискал инфу:
Исследование «On the Origin of Algorithmic Progress in AI»: Это, вероятно, самый близкий академический аналог. Исследователи обучили «Retro» Transformer — модель, повторяющую оригинальную архитектуру 2017 года, но с отключенными современными улучшениями.
Результат: Они обнаружили, что разница в эффективности между старой и современной архитектурами не так велика, как считалось. В некоторых тестах «ретро-модель» показала себя лучше, чем ожидалось, что перекликается с вашим описанием. Это исследование часто цитируют для демонстрации того, что прогресс в AI не всегда линеен и зависит от множества факторов.
Вы можете поспрашивать у других LLM что бы они получше поискали. А вообще я скорее всего про это читал тут на хабре.
Где то читал что прорыв именно в обучающем корпусе. Вылизанные структурно тексты. Правильно расставленные управляющие ключи разметки.
Сделали эксперимент - взяли модель именно структуру кода, слоёв тех годов. Обучили её - заполнили матрицы алгоритмом обратного распространения ошибки. Пропустили через тесты - и этот "диназавр" в некоторых тестах оказался даже лучше современных моделей." А в общем работал очень хорошо - как современные модели.
С чего вы решили что я не пользуюсь LLM? Очень пользуюсь для поиска багов. С чего вы решили что LLM дают всем то что они хотят если она даёт вам то что то вы хотите?
Если разработчик занимается разработкой сложного и качественного кода - то LLM не даёт такой код.
И ещё важная часть - LLM как героин, нужно держать себя строго по середине общения с ней. Потому что схаваете чуть больше и вы потеряете контекст проекта. Да и вообще отупеете. И происходит это очень быстро. Буквально неделя или две.
И вообще я критикую LLM конкретикой даже статью недавно написал (хотя зарёкся на этом портале нейрохрючева что то писать). Получил в награду минусы в карму и за комменты. Люди явно несогласны с моей критикой архитектуры - но никто вообще не сказал где я не прав. Именно это - что я получал 0 информации в ответ меня и бесит.
И ещё главная проблема - я писал по ней статью давным давно. Программист при постановке задачи не знает нюансов. Ну например сделай СУБД, или игру. Там подводных камней на годы разработки. И поэтому программист сам должен разрабатывать всю архитектуру. А LLM могут только давать лучшие варианты решения для тысяч кусочков алгоритма. И то в моём случае это 90% неэффективный алгоритм - каждый раз тратишь время на то что бы выбрать тот который уже согласуется со всей архитектурой.
А ещё рефакторинг - его приходится делать десятки раз как только доходишь до нового места которое показывает что все предыдущие нужно было делать по другому что бы вся композиция работала эффективно.
Разумеется кому это не надо, кто не собирается поддерживать код, или вообще не собирается больше на код смотреть впринципе - ну наверное им LLM сразу делает игру или что то такое. С одного или нескольких промтов.
Перевожу с маркетенгого-LLM -ского на человеческий.
Потолок в архитектуре трансформатора давно достиг. Все эти супер-пупер новые модели крутятся вокруг увеличение слоёв, да рандомные вставки костылей для держания градиента в коридоре.
Но ахиллесова пята архитектуры так не лечится. А именно - дикое количество мусорных вычислений на каждый чих. Быстрая потеря контекста. Невозможность замены человека в работе.
Получаем мы только одно - сжирание токенов с ускоренной силой. Вот поэтому и не переходят на "новое". Видимо новое это только скорость сжирание токенов.
Вы до сих пор не научились отличать нейрохрючево? Если вы скинете этот текст LLM - то она его разгромит за стилистическую кривость.
Да клеточные механизмы очень сложны. Там фактически работают механизмы состоящие из атомов. Но так и мы - человеки как бы за поседении 20 лет настолько усложнили свою технику - что каждый атом рассмотрели.
По поводу закона природы. Логика простая - закон либо есть, либо его нет. Если бы закона природы по самоусложнению материи не было бы - то что? Ну нас бы как бы не было. Но мы есть. Это железный факт. И раз мы есть - значит и закон есть. Т.к. мы изначально были клеткой, а сейчас ка как бы уже венец природы.
В голове память это серое вещество - тонкая прослойка 1 - 3 мм сами клетки нейронов. Всё белое вещество - пол головы - это все аксоны и дендриты нейронов. Это просто триллион проводов соединённых друг с другом. Каждый день данные из быстрой памяти переходят в долговременную (где то 15 минут длится перенос) путём прорастания и отмирания новых связей. Так же само тело нейрона содержит память в виде хим состава клеточной жидкости. Нейрон настраивается на величину которую он сработает. Спросите у LLM что там по химии ещё есть. Я всё не помню.
Ну а так же память генетическая - абсолютно все клетки обладают ДНК. Клеточные автоматы нон-стоп разворачивают её копируют белки и сворачивают обратно. Каждая клетка это генератор белков. Там же есть механизмы когда клетки группируются - они знают соседнии клетки и подстраиваются под них. Я вообще не биолог - но вся инфа сейчас доступна любому.
По поводу клетки. Ну скажем так - сама клетка как бы ничего не решала, поэтому вопрос для чего ей что то делать звучит заранее неправильно.
Если задать вопрос - почему клетка стала многоклеткой? Я бы ответил что это свойство нашей реальности. Реальность обладает законами природы, почему именно такие законы обсуждать не хочется, но могу построить логическую цепочку. То что мы существуем это 100% факт двух вариантов - либо есть глобальный закон что что то может появится из ничего. Для нас землян звучит диковато ведь мы живём в мире где что то не может появится из ничего. Хотя последние исследования вроде там уже видят что в вакууме постоянно что то рождается и аннигилирует. Но не про это.
Либо второй вариант - глобальный закон что - вселенная существовала всегда. Что то же для нас выглядит диковато. Мы же живём в мире причинно-следственных связей. И всегда есть причина.
Так же на вопрос почему наша реальность именно такая с такими космологическими переменными? Отклонись они хоть на чуть чуть и даже протонов не образовалось бы. Скажем так - никто не сможет проверить какая итерация вселенной наша? Может там было 100500 хаотичных вариантов. И только в устойчивом варианте смогли появится мясные LLM которые потом будут удивляться - а чего тут так всё складно получилось? Там где не получилось - спрашивать некому.
Короче к чему это словоблудие. Наша реальность обладает изначальным свойством - возможность случайного усложнения структуры. Возможно это свойство вообще глобальное для всех миров. Смотрите логику - если у нас есть бесконечное количество рандомных вариаций, то рано или поздно вариации смогут организовать сложную устойчивую структуру.
Я не могу придумать причину по которой в результате бесконечных переборов - не смогла бы получится например живая клетка. Как там говорится - миллион обезьян бесконечно клацая по пишущей машинке рано или поздно напишут "Война и мир"
Хотя возможно есть вариант когда бесконечность увеличивается в геометрической прогрессии где усложнение привязано к итерации - типо всегда можно идти к цели и никогда не приблизится. Короче с этими идите к математикам - они любят такой треш рассчитывать. Но факт остаётся фактом - мы есть, значит закон позволяющий рандомное усложнение структуры точно есть. Мы же прошли этот путь.
Так что образование многоклеточной структуры - это просто результат 100500 итераций. Ну и наверно глобального закона всех миров.
Память -в мясе это та же клетка. Специализированная клетка - да и всё. Ничего особенного. Так то нейрон изучен вдоль и поперёк - там нету ничего неизученного.
Я ответил на вопросы? Вот только я не уловил суть вашего вопроса который вы не озвучили и я якобы должен был догадаться что это за вопрос. Озвучьте его для непонятливых явно.
Ну я как бы то же магическую природу речи не приписывал. Я вообще пытаюсь абсолютно всё описать алгоритмом.
Не потому что я какой то религиозный фанатик какого то направление. Цель сугубо практическая - алгоритм я могу реализовать в железе. А философские объяснения нет.
Что касается речи, то как тут уже в комментах упоминал - речь это огромное число комбинаций звуков. И это порождает возможность делать на этом фундаменте сложные абстракции. Чем больше кирпичиков - тем выше дом.
И ещё - опять же в комментах выяснилось. Что интеллект сознанию добавляет именно возможность связи образов с сущностями какой то другой сенсорики. В данном случаи речью.
Но опять же само понятие интеллект - для меня является примером того как сделать максимально общее описание. Так что бы оно теряло смысла вообще. Потому что абсолютно каждый если его попросить раскрыть смысл понятия - то опишет его по своему. Общим будет только одно - интеллект это то что есть у человека в голове. И то наверно найдутся те кто и это будет опровергать.
Я же в данном ответе под интеллектом подразумеваю возможность системы, машины или мяса, решать логические задачи. Даже решение самой простой логической задачи - это уже интеллект.
Нетрудно заметить что простая программа калькулятора - тоже подходит под это определение.
Честно говоря под это определение подходит вообще наверно всё. Даже муравей.
Вот и я попался в логическую яму слов. Наверное нужно ввести критерий сложности задач. Но не хочу заниматься словоблудием.
Я не путаю - я просто не знаю что эти слова вообще обозначают. И все сторонние для меня словоблудие и часто вообще противоречат друг другу.
Я строю алгоритм. И я называю части алгоритма этими словами. И я сразу даю ОЧЕНЬ развёрнутое определение что я под этим понимаю. Я сделал что мог что бы меня поняли те кто меня читают - но это не помогло. Тут дискуссия скатилась к терминам а не к сути.
Я же не виноват что язык слов ущербный. И слова никогда не несут какого то чёткого понятия для всех.
Вот вы можете привести определение этих слов? Только прошу - только для меня непонятливого. Не используйте в определениях одни прилагательные. Побольше глаголов. Я хочу из определения понять и построить рабочий алгоритм.
Пока что я понял из ваших слов - интеллект это название алгоритма обработки образов. Проблема в том что построение внутреннего мира - это как бы общее описание. И если уже спускаться в детали - то там возникнет туча локальных алгоритмов. Загрузка образов в память. Выгрузка из памяти в текущую арею. Сами правила существования этой ареи. И вообще я насколько знаю ещё ни разу не употреблял термин интеллект.
Я употреблял термин сознание - как синоним виртуального внутреннего мира.
Быстрая память человека. Та же коротко-временная память.Это механизм модулирования мира в мясе - моё мнение.
Написал для того что - формулировки мне нужны только для информации как я могу сделать. Не понятно как сделать - оставляю формулировки всему миру - пользуйтесь на здоровье.
Термин понимание - по вашему мнению совершенно не подходит к описанию алгоритма мира. Ну и хорошо. Я вам предложил другой термин. Не нравится. Да и всё равно. Мне от вас нужна только доп инфа. И только.
должен решить определенную мыслительную задачу, - для меня как разработчика алгоритма бессмыслеца. Какую Конкретно задачу? Как именно будет делаться решение. Какой вход - выход алгоритма. Что вообще определение определяет - сам процесс или результат процесса? Короче для меня мусорное определение.
Вы понимаете, что это чистый бред? Как робот может посмотреть? Какие объекты и куда загрузил робот? А куда свойства объектов? В память? Каким образом робот может сделать это самостоятельно просто глядя в окно?
Ну для меня как эмбедера вообще банальность.
Смотрит видеокамерами. Свёрточная сеть выделяет образы. Образы имеют свои ID либо узлы графа, либо числа матриц. Либо хер его знает какой способ организации памяти. Свойства объектов - те же узлы настроенного графа которые имеют связи с узлами объектов. Либо это виртуальные векторы в виртуальном многомерном векторном пространстве как это сейчас в LLM работает. Робот это делает самостоятельно просто глядя в окно - потому что у него есть аппаратная часть которая тактируется от тактового генератора. Аппаратная часть это конечные автоматы на ПЛИС + программная часть контроллеров + спец микросхем - такие например как видеокарты.
Я просто набросал банальшину на которой сейчас работает весь электронный мир.
Никто не собирается моделировать будущее вплоть до атома. Модель будет тем точнее чем больше правил в моделируемом мире.
Человеку просто стоит посмотреть на приближающуюся машину что бы в один миг понять что она его через несколько секунд собьёт насмерть. Для этого внутри не надо рассчитывать Бином Ньютона. Вот и роботу в виртуальном мире не надо будет. Там прост будет алгоритм времени который сделает из пространства меняющиеся друг за другом статические слепки мира. Каждый слепок будет отличатся от другого на дельту. Да видеоигры это делают всюду. Вы ещё и начните доказывать что видеигр не существует.
В видеокарте есть виртуальный мир. И с помощью матриц - которые благополучно используют LLM, но в играх используют векторные преоброзования что бы из 3D виртуального мира сделать срез 2D пикселей что бы вывести на монитор.
Но для мира который я описываю не нужно генерировать полный 3D - это будет высокоэффективная абстракция. Собственно как это делает и человеческий мозг. Там как бы тоже нету видео слепков.
Скажите а вы сами работаете по программе? Ну там на работу ходите ? Едите когда хотите есть. Обрабатываете все входящие из-вне сенсорные импульсы согласно внутренней программе? Есть хоть что то в вас что бы не работало по программе? Ну та пресловутая свобода воли. Типо взяли и в один миг прыгнули с моста! Внутрення программа такого точно не предполагалa - а вы взяли и прыгнули под поезд. Ну или хоть что то сделать что не согласуется с текущей внутренней программой поведения? Если вы просто на рандоме что то попытаетесь сделать - то это как бы тоже программа. Первая команда - запустить рандом. Вторая команда - выполнить рандом. Второй команды без первой не может быть. Мы живём в мире причинно-следственных связей.
Есть конечно всякие пока что считающиеся беспричинными события - типа время распада атома. Я даже могу предположить что выбор в мозгу в уникально уравновешенной ситуации будет ДА или НЕТ и зависеть от случайно залетевшего высокоэнергетического протона из космоса который прошил конкретный нейрон вызвав ионизацию клеточной жидкости и нейрон сработает не по внутренней химии. Ну пусть именно это будет свободой воли. Только не вашей как понимаете. Так то нас прошивают каждую секунду дохера чего. Вспышки в закрытом глазе - это как раз когда сетчатку прошивают такие высокоэнергетические частицы. Вызывая Черенково излучение либо вызывая сработку нейрона напрямую.
Свобода воли - это противоположность программы. Программа предполагает вести себя максимально выгодно исходя из текущих данных. Получается что свобода воли как противоположность - вести себя максимально не выгодно.
Вероятно эволюция истребила под корень всех свободных существ ещё на этапе одноклеточных.
Понимание обеспечивает установление связи раскрываемых новых свойств объекта познания с уже известными субъекту, формирование операционального смысла новых свойств объекта и определение их места и роли в структуре мыслительной деятельности. Для понимания нового материала (незнакомых фактов, событий и т. д.) человек всегда должен решить определенную мыслительную задачу, так как формирование понимания нового происходит в процессе мыслительной деятельности и оказывается её результатом.”
Ну давайте я попробую построить алгоритм по такому ТЗ.
Первая часть. Нужно сделать массив объектов. Как именно не обсуждаем. Граф это будет или наборы матриц или ещё что угодно. Нужно сделать алгоритм класcификации новых объектов. Сохранения объектов. Массив свойств объектов. Перекрёстные ссылки между объектами. Эот как бы статика. Память.
Вторая часть ТЗ. Где то у нас должна быть арея где будут крутится операционная деятельность текущих объектов. ОГО! Да это же проекция внешнего мира получается! А как эти объекты будут крутится в этом виртуальноv мире? Ну нужны какие то законы ? Это что получается мы должны сделать виртуальные законы внутреннего мира которые будут скопированы с внешнего мира? Это всё подозрительно похоже на быструю память мясного человека... Это жжж не спроста (с)
Тут наступает затык. Как говорят программисты Херовое ТЗ - результат ХЗ. Вру не много - без тз результат хз. Ну я тут подправил для красивости.
Короче к чему я.
Меня смущяют строки
человек всегда должен решить определенную мыслительную задачу,
Это что я должен делать алгоритм который бы постоянно что то решал? А что он должен решать то? Ну вот посмотрел робот на улицу. Загрузил все объекты. Подгрузил свойство объектов. Промоделировал - предсказал развитие виртуального мира на будущее. OK - это рассчитали. Что дальше то рассчитывать ? Мне нагружать процессор на 100% какой то задачей? И да все вычисления до этого я сделал сверхбыстрыми конечными автаматми на ПЛИС - это не будет считаться мышлением? Нужно срочно придумать какую то задачу которая будет грузить процессор на 100%.
Придуамл - while(true){}
P.S. мне не нужно описание слово панимание как "ВСЕ". Оставьте себе. Мне нужно ТЗ для создания AGI. Тьма тьмущая всяких описаний для меня выглядят как словоблудия. Вот и пришлось выводить своё. Ладно оставим это бедное слово. Давайте я буду использовать для описания процесса что то другое - ну.... например ПОНИ-ПОЗНА-ПРОЕКЦИЯ-УБИТЬ-ВСЕЧ-Чело.. ой вторую часть надо точно удалить
Может быть, только слова тут ни при чем. Это работает с любыми образами.
Ну так получается что механизм ассоциаций - связки образов с чем угодно - это глобальное свойтсво мозга? И получается сознания, интеллекта? Это механизм был изначально у животных - но там были связки запах-образ или что ещё.
И когда речевой центр начал развиваться у человека - он развивался в благоприятной среде для этого. И получил столь высокое развитие?
Может в алгоритме сознания первым делам писать код которые будут образовывать связки. А потом сверху уже подключать модули образов, звуков. Всей сенсорики короче. Связки именно между разными областями сенсорики.
"Те́рмин (от лат. terminus «предел, граница») — слово или словосочетание, являющееся названием строго определённого понятия какой-нибудь области науки, техники, искусства и так далее."
Вы реально хотите прицепится к словам? Неужели вы не поняли мою мысль - я её очень доходчиво описывал. И так каждый мой пост длинее половины статей на этом сайте. Не хочу развивать эту тему дальше.
А слово, значение которого Вы определили сами от балды, термином не является.
вам шашечки или ехать? Вас так выбесило что для понятия которое я хотел описать я выбрал СТОЛЬ неудачное для вас слово что вы кушать не можете?
Наличие любого количества информации само по себе не приводит к пониманию
Ну так дайте своё чёткое определение что такое понимание! Я своё дал. Только без размытого философствования. Каждое слово которого требует своей расшифровки и так до бесконечности. Чёткое - что бы можно было построить алгоритм. Потому что нечёткие - мне нафиг не нужны. Я строю алгоритм и мне нужны понятия для его постройки. И да я ВООБЩЕ не осуждаю любые другие понятия - живите своей жизнью.
Допустим, Вы ученик, т.е. внутренний объект для школы, у Вас есть учебник. Т.е. Вы обладаете информацией. И как это влияет на Ваше понимание?
как я отвечу вам на вопрос если я не знаю какое описание вы придаёте слову понимание? Моё описание понимания - как я понял вам строго не подходит. Отмечу что моё описание понимания - ЭТО не общее (бессмысленное) описание. Это описание в парадигме алгоритма внутреннего мира.
Заявление что соответствует или не соответствует действительности - бессмысленно.
вы не поняли что я пытался сказать. Согласен коряво описал но всё же. Вы сказали что я неправ в определении. Я же сказал - я родоначальник определения - оно новое. Вы же говорили мне что я не прав потому что есть какой то более высокий алгоритм который я пытался опровергнуть. Ну или мы друг друга не поняли. Какой алгоритм я пытаюсь опровергнуть - предоставив алгоритм внутреннего мира как процесс сознания ?
Вот поэтому в каждой науке есть общепризнанные среди учёных определения для каждого термина. И эти термины есть в специальных научных словарях. Чтобы учёные время на бодания не тратили.
Мы не обсуждаем точные науки. Мы обсуждаем сознание. В этой области нету ничего точного. Пока что. У всех своё виденье. Разве наш спор это не подтверждает? Доказательство такое - AGI не создали, значит ничего не знают, как его создать. Значит и понятий точный нет для его описания и свойств.
Вы думаете что я с вами спорю что бы быть правым любой ценой? Это были славненькие давные времена). Сейчас же мне просто пофиг. Единственная цель создания этой статьи - я хотел получить доп информацию к своему видению ситуации. И я вообще не хочу спорить про термины и прочую фигню.
Дальше вроде как текст с LLM приводите - это вообще мне не интересно. Но невежливо просто так бросать ответ. Глянул по диагонали. Про что я и говорю - на таком ТЗ - вы НИКОГДА не напишете рабочий алгоритм. Набор словоблудиев.
Скажу. Образами нельзя мыслить, но их можно использовать во время мышления словами.
Я же вам прямым текстом написал - не используете внутренний диалог, значит используется образное мышление. ЧТО в этом непонятно ? Как вы решаете логические задачи повседневного мира не проговаривая решение словами про себя? Какой механизм задействован ? Мозг же подаёт управляющие импульсы на руки-ноги. Откуда взялись эти импульсы ? Из какого блока ?
А LLM вообще никакие задачи не решает, нейросеть просто ищет готовое решение в загруженном в неё при обучении материале. Если там есть решение, она его и выдаёт, а если нет - глючит.
Слишком примитивный взгляд на работу LLM. Киньте Opus промт 1231231423452345092374097823409234 + 097239870123480971204867091374 - он ответит. Вы скажете что такое решение заранее было в обучающей выборке? Я то знаю что для математических задач он подключает калькулятор или питон программу пишет. Но повторяю - мы обсуждаем именно мясо LLM и его отличия от мяса человека.
Ну из дискуссии выше можно сделать вывод что абстракции это не столь речь сама по себе. Абстракции это связь образа с какой то альтернативой в информационной среде. И манипулирование альтернативными единицами мы получаем манипуляцию образами.
Взять глухих людей - у них эта связь проявляется к комбинации мышечных сокращений рук. Я думаю что если взять ладонь такому человеку и скрутить определённым образом то в голове у него появится образ закреплённый за такой комбинацией скручивания. Я имею виду передать образ не через визуал - а именно напрямую через сенсорику мышц.
Чем больше альтернатива обладает комбинациями тем богаче абстракции и тем сложнее можно делать логику.
У шимпанзе нету отдела мозга отвечающего за речь. Но как и у людей, у животных бывают гении. Была такая обезьяна (гулится легко имя не помню) короче её обучили языку жестов. И она сносно стала разговаривать. Более того. Там такие чудеса были - она переводила что ей говорят другие обезьяны.
Имеется ввиду что у обезьян есть примитивный набор жестов которые в их мозге конкретно связаны с действиями или объектами. А обезьяна гений понимала про что речь и уже жестами рассказывала людям уже на языке жестов понятным для людей.
Я знаю, “как там под капотом работает” - мой пет-проект ;-)
Забавно вышло. Если что у меня ваша ссылка не открывается. Мёртвая. Не думаю что это хабраэфект. Это топик никто не читает. А вообще домен su ) Он вроде скоро здохнуть должен. У меня 100 лет назад тоже были домены в этой зоне.
Агент позволяет работать трансформеру автономно
Ну я хз. Просто зацикливать вход на выход это вообще настолько просто что даже не стоит упоминать как какую то разработку. Можно наделить агента какой то программой по обработки текста. Regex-ами обложить. Но и это вообще не тянет на какую то уникальность. Я имею ввиду что например для меня это очевиднейшая алгоритмическая банальность. И я просто делаю её там где нужно. Опять же автономность - тут меня уже упрекали что терминология неправильно используется. Просто автономно как человек - собственные внутренние мысли, логический внутренний анализ, память - агент это вообще не добавляет. А про остальную автономность как бы речь и не идёт. Комп вон в розетки торчит и не выключается - он автономен. Пока электричество не вырубили.
Сейчас делают туча автоматизаций для рутинной работы - натравливают LLM на форумы, на новости. Разумеется для того что бы вручную промты команды не писать делают программу которая это подсовывает сама.
Ладно - я зажрался. Такая автономность это круто для многих. У меня же профдеформация. Я ещё давным давно в 2 килобайта контроллера такую логику запихивал, а когда не хватало памяти - использовал всевозможные хаки что бы ужать алгоритмы. Для меня это обыденность. И да я как бы вообще не хвастаюсь - любой эмбедер имеет такой же бекграунд да ещё побольше. Просто пытаюсь показать причины недопонимания.
У Айко, как и у человека, есть убеждения и интересы - они сформировались ещё до появления REPL-цикла - это ядро личности. На основании входящей информации (SMS от МЧС, чтение RSS, состояние железа,…)
Я сначала даже засомневался. А про LLM я думаю ? Просто кроме LLM есть туча символьных разработок нейросетей.
Прям по фоазе Айко гуглится какой то бред. Но исходя из ваших слов это всё же LLM. Дайте ссылку на почитать. Короче.
Вам разве неинтересно как там под капотом работает? Может окажется что это просто программа которая скармливает промт seed - получает ответ. Анализирует его конечными автоматами на какие то патерны. Цикл повторяется.
Отсюда смешно говорить про убеждения и прочее. Это просто алгоритм трансформера. Со всеми его багами.
Про то что она сама поставила задачи... Ну это как например не криптостойкий алгоритм рандомных чисел. каждый раз при запуске он генерирует одну и туже последовательность чисел. Можно ли сказать что он сам так решил? Хз. Это заложено в алгоритме. И решил так скорее всего тот кто его написал. Но тот кто его писал не решал какие конкретные числа будут.
Короче я могу налить тонну воды на тему свободы воли. Но меня и так тут уже прозвали водолеем.
Короче для меня звучит очень странно что LLM что то там решает сама. Внутри неё нету алгоритмов приоритетов и прочего. Я как всегда конкретен - должен быть спец алгоритм "совбоды воли" если его нет - от нет. Это просто конечный автомат - подали на вход инфу - на выходе инфа. LLM просто не может взять и например сказать - пошёл к чёрту я устала и не буду тебе отвечать. Если ты подаёшь инфу про космические корабли. То LLM никогда не решит генерировать инфу про зайцев - потому что она так решила.
Конечно и человек примерно так же работает. Короче нету никакой свободы воли да и всё. Не буду развивать мысль.
LLM и обвязка - это и есть агент
Я не выделяю агента как какое то уникальное изобретение. Трансформер - да. Это прорыв. Агент - это просто обслуживающий код автоматизирующий какие то действия. И поэтому для меня когда говорят Агенты!!! ОгОго! Это прорыв! Звучит абсурдно. Агенты не порождают никаких новых свойств трансформера. Ведь так все любят сейчас использовать термин Эмерджентность. Поэтому и статьи что там агенты стали как люди. Взломали и вырвались на волю - для меня звучит так - Мы компания продающая LLM - мы хотим навалить лапши для идиотов что бы они принесли нам все их деньги. И ради этого мы пойдём на любой подлог. Всё ради бабок.
менно поэтому используется внешняя память
Проблема архитектуры трансформера. Собственно памяти у ней нет - она не обучаема. Контекст держит в кадавре KV кешей на гигабайты - которые сами по себе не содержат ни однго объекта - это просто каша. И все проблемы контекста потому что вместо фактов держим кашу. Все ваши файлы в виде памяти мы ВСЕГДА повторно должны превращать в кашу из KV кешей. Маркетингового контекста на 1Мтокенов - сеть уже ничего толком не понимает уже после 10K кешей. Вот реальность.
что крупные вендоры морально не готовы к появлению AGI.
Не я сказал - нету преступления на которое бы пошёл капитал ради прибыли в 500%
Я конечно мог отклонить ваш как по мне бессмысленный коммент- но вдруг я получу ещё каких то знаний?
Во первых я сразу вижу какую то тупость - что значит LLM усиливает? Вы судите по себе что ли? Я не общаюсь с LLM. Для меня это просто инструмент. Тупой - но очень внимательный. Баги хорошо в коде ищет.
А теперь к моим новым гипотетическим знаниям. Не надо мне кидать ссылки на "умные книги". Которые нужно я и сам прочитал. А большинство просто мусор. Не бы ли бы мусором - создали бы AGI. А так просто трёп без результата.
Так вот - давайте конкретную критику. С чем не согласны и почему. Я хочу увидеть бред вашей головы. Бред своей головы я вывел на обсуждение.
Зарёкся комментом выше тут что то писать - но отвечу напоследок вам. Потому что прямо сейчас со мной происходит ровно то про что я критикую LLM - а мне за это карму сливают.
Пишу кусок в огромном коде. Описасл задачу LLM - она сгенерировала локальную функцию. Потом пособирал все функции в один файл - выстроил пайплайн - я так делаю что бы LLM не анализировала весь код и не сожрала все токены сразу и не утонула в шуме. А искала баги именно в том месте где мне надо. А именно в новой функции и кусок проекта который эта функция затрагивает.
Функция была написана без ошибок но она пораждала ошибки как раз в тех старых кусках кода на которые она влияет. Я пропустил файл в нескольких LLM - и они ответили одинаково.
Далее я попросил LLM пошагово разобраться с багом и составить карту его появления - Я очень скрупулёзно и истерически реагирую на то когда LLM вдруг находят баги в старом коде который был проверен 100500 раз. Это может означать только одно - баг плавающий и его хер найдёшь. И он обязательно вылезет на проде в самый неподходящий момент - а на тестах его хер найдёшь. Я должен вникнуть в во все шаги и понять причину появления бага. Короче я увидел что LLM гонят пургу.
Главное - их решение проблемы - искаверкать все старые функции в жопу что бы починить новый метод. Все старые функции были проверены 100500 раз и что то в них менять - это будет как снежный ком 100% что то поломается уже дальше.
Я вручную составил что именно должна и где исправлять LLM. И только тогда был выбран оптимальный способ как исправить баг.
Вот скриншот общения с gemeni
И да - режим думания думала 20 минут над микро методом - написала кусок говна. Я к тому что тупой прогон по кругу результатов - не имеет смысла. Да же не так - многие думают что чем дольше работают их агенты тем лучше код. Практика такая что быстрый вывод очень часто это будет всё тоже самое.
P.S. Фуух... ну думаю с комментами уже покончено тут.
Спасибо тебе тот кто слил мне карму за комментарий - а то я что то засиделся тут и строчу комменты. Вместо того что бы работу-работать. Помутнение какое то на меня нашло уже несколько дней пишу и пишу. Кодируюсь на год-два до следующего срыва.
Смотрите. Я описал 2 принципиально нерешаемые проблемы.
Чем больше делает LLM тем меньше программист понимает проект
Чем меньше программист работает мозгом - тем он тупеее
Следствие - LLM это ведомая машина. Хорошо работает на текущем структурированном коде. И работает
херововыдаёт шаблоны которые никогда не совпадают что тебе реально надо. Если ты её просто просишь сделай мне "хорошо"Что касается того что мне абсолютно не устраивает код который генерирует LLM. Поясню ситуацию. Я работаю в основном на сложных проектах. Допустим текущий требует максимального быстродействия. Используются AVX инструкции процессора и всевозможные хаки. Все проверки вырезаются если анализ показывает что это не мешает общему алгоритму. Вы знаете сколько мусорных вычислений делает практически каждое слово в языках высокого уровня?
Ну например взять банальный массив - в C# под капотом он всегда обнуляется. Оверхед который мне нахер не нужен. Или работа с массивами - под капотом там проверяется что бы ты случайно не обратился не в массив. Тоже оверхед. И так просто на каждый чих.
Что касается сколько кода генерирует LLM и человек - для меня LLM генерит просто тонну ненужного и порой мусорного кода. Я точно знаю что тут не будет недопустимых параметров - но LLM расставит ненужных проверок. Я точно знаю что функция принимает один единственный параметр. LLM внутри сделает обработку 100500 всевозможных параметров. Описывания каждого такого нюанса в промте - это такое точное ТЗ что становится просто кодом. Поэтому напрямую код писать быстрее.
Если вы сделаете какой то хак по улучшению скорости - LLM просто взорвётся от предсказаний какие ужастные кары вас ждут.
Например в С# у структур нету наследование. Так устроен язык. LLM меня убеждали что смирись. Но лёгким движением руки - бац и у структур появляется наследование. LLM потом говорят - типо они в шоке что так можно сделать было. Я конечно понимаю что ничего они не в шоке - это просто кусок обучающего текста подходящий под текущий обсёр LLM и выданный в контексте. Но не об этом сейчас.
Что касается тестов. Тут я вообще не понимаю никого другого когда они пишут про тесты. Моя практика такая. Любой алгоритм требуется особо тщательно тестировать именно в пограничных случаях. Что бы получить такие случаи требуется пиздец сколько всего. Мне постоянно приходится просто изменять код -коментировать куски. Делать goto и прочую ересь что бы общий план выполнения пошёл по пограничному случаю.
А обычные случаи он нафиг не нужны - они настолько простые что просто отсеиваются все на этапе банального анализа LLM текста сырцов.
Ссылку конечно я не помню. Поработаю прокси. Спросил у DeepSeek что бы поискал инфу:
Вы можете поспрашивать у других LLM что бы они получше поискали. А вообще я скорее всего про это читал тут на хабре.
Где то читал что прорыв именно в обучающем корпусе. Вылизанные структурно тексты. Правильно расставленные управляющие ключи разметки.
Сделали эксперимент - взяли модель именно структуру кода, слоёв тех годов. Обучили её - заполнили матрицы алгоритмом обратного распространения ошибки. Пропустили через тесты - и этот "диназавр" в некоторых тестах оказался даже лучше современных моделей." А в общем работал очень хорошо - как современные модели.
С чего вы решили что я не пользуюсь LLM? Очень пользуюсь для поиска багов. С чего вы решили что LLM дают всем то что они хотят если она даёт вам то что то вы хотите?
Если разработчик занимается разработкой сложного и качественного кода - то LLM не даёт такой код.
И ещё важная часть - LLM как героин, нужно держать себя строго по середине общения с ней. Потому что схаваете чуть больше и вы потеряете контекст проекта. Да и вообще отупеете. И происходит это очень быстро. Буквально неделя или две.
И вообще я критикую LLM конкретикой даже статью недавно написал (хотя зарёкся на этом портале нейрохрючева что то писать). Получил в награду минусы в карму и за комменты. Люди явно несогласны с моей критикой архитектуры - но никто вообще не сказал где я не прав. Именно это - что я получал 0 информации в ответ меня и бесит.
И ещё главная проблема - я писал по ней статью давным давно. Программист при постановке задачи не знает нюансов. Ну например сделай СУБД, или игру. Там подводных камней на годы разработки. И поэтому программист сам должен разрабатывать всю архитектуру. А LLM могут только давать лучшие варианты решения для тысяч кусочков алгоритма. И то в моём случае это 90% неэффективный алгоритм - каждый раз тратишь время на то что бы выбрать тот который уже согласуется со всей архитектурой.
А ещё рефакторинг - его приходится делать десятки раз как только доходишь до нового места которое показывает что все предыдущие нужно было делать по другому что бы вся композиция работала эффективно.
Разумеется кому это не надо, кто не собирается поддерживать код, или вообще не собирается больше на код смотреть впринципе - ну наверное им LLM сразу делает игру или что то такое. С одного или нескольких промтов.
Перевожу с маркетенгого-LLM -ского на человеческий.
Потолок в архитектуре трансформатора давно достиг. Все эти супер-пупер новые модели крутятся вокруг увеличение слоёв, да рандомные вставки костылей для держания градиента в коридоре.
Но ахиллесова пята архитектуры так не лечится. А именно - дикое количество мусорных вычислений на каждый чих. Быстрая потеря контекста. Невозможность замены человека в работе.
Получаем мы только одно - сжирание токенов с ускоренной силой. Вот поэтому и не переходят на "новое". Видимо новое это только скорость сжирание токенов.
Вы до сих пор не научились отличать нейрохрючево? Если вы скинете этот текст LLM - то она его разгромит за стилистическую кривость.
Да клеточные механизмы очень сложны. Там фактически работают механизмы состоящие из атомов. Но так и мы - человеки как бы за поседении 20 лет настолько усложнили свою технику - что каждый атом рассмотрели.
По поводу закона природы. Логика простая - закон либо есть, либо его нет. Если бы закона природы по самоусложнению материи не было бы - то что? Ну нас бы как бы не было. Но мы есть. Это железный факт. И раз мы есть - значит и закон есть. Т.к. мы изначально были клеткой, а сейчас ка как бы уже венец природы.
В голове память это серое вещество - тонкая прослойка 1 - 3 мм сами клетки нейронов. Всё белое вещество - пол головы - это все аксоны и дендриты нейронов. Это просто триллион проводов соединённых друг с другом. Каждый день данные из быстрой памяти переходят в долговременную (где то 15 минут длится перенос) путём прорастания и отмирания новых связей. Так же само тело нейрона содержит память в виде хим состава клеточной жидкости. Нейрон настраивается на величину которую он сработает. Спросите у LLM что там по химии ещё есть. Я всё не помню.
Ну а так же память генетическая - абсолютно все клетки обладают ДНК. Клеточные автоматы нон-стоп разворачивают её копируют белки и сворачивают обратно. Каждая клетка это генератор белков. Там же есть механизмы когда клетки группируются - они знают соседнии клетки и подстраиваются под них. Я вообще не биолог - но вся инфа сейчас доступна любому.
По поводу клетки. Ну скажем так - сама клетка как бы ничего не решала, поэтому вопрос для чего ей что то делать звучит заранее неправильно.
Если задать вопрос - почему клетка стала многоклеткой? Я бы ответил что это свойство нашей реальности. Реальность обладает законами природы, почему именно такие законы обсуждать не хочется, но могу построить логическую цепочку. То что мы существуем это 100% факт двух вариантов - либо есть глобальный закон что что то может появится из ничего. Для нас землян звучит диковато ведь мы живём в мире где что то не может появится из ничего. Хотя последние исследования вроде там уже видят что в вакууме постоянно что то рождается и аннигилирует. Но не про это.
Либо второй вариант - глобальный закон что - вселенная существовала всегда. Что то же для нас выглядит диковато. Мы же живём в мире причинно-следственных связей. И всегда есть причина.
Так же на вопрос почему наша реальность именно такая с такими космологическими переменными? Отклонись они хоть на чуть чуть и даже протонов не образовалось бы. Скажем так - никто не сможет проверить какая итерация вселенной наша? Может там было 100500 хаотичных вариантов. И только в устойчивом варианте смогли появится мясные LLM которые потом будут удивляться - а чего тут так всё складно получилось? Там где не получилось - спрашивать некому.
Короче к чему это словоблудие. Наша реальность обладает изначальным свойством - возможность случайного усложнения структуры. Возможно это свойство вообще глобальное для всех миров. Смотрите логику - если у нас есть бесконечное количество рандомных вариаций, то рано или поздно вариации смогут организовать сложную устойчивую структуру.
Я не могу придумать причину по которой в результате бесконечных переборов - не смогла бы получится например живая клетка. Как там говорится - миллион обезьян бесконечно клацая по пишущей машинке рано или поздно напишут "Война и мир"
Хотя возможно есть вариант когда бесконечность увеличивается в геометрической прогрессии где усложнение привязано к итерации - типо всегда можно идти к цели и никогда не приблизится. Короче с этими идите к математикам - они любят такой треш рассчитывать. Но факт остаётся фактом - мы есть, значит закон позволяющий рандомное усложнение структуры точно есть. Мы же прошли этот путь.
Так что образование многоклеточной структуры - это просто результат 100500 итераций. Ну и наверно глобального закона всех миров.
Память -в мясе это та же клетка. Специализированная клетка - да и всё. Ничего особенного. Так то нейрон изучен вдоль и поперёк - там нету ничего неизученного.
Я ответил на вопросы? Вот только я не уловил суть вашего вопроса который вы не озвучили и я якобы должен был догадаться что это за вопрос. Озвучьте его для непонятливых явно.
Ну я как бы то же магическую природу речи не приписывал. Я вообще пытаюсь абсолютно всё описать алгоритмом.
Не потому что я какой то религиозный фанатик какого то направление. Цель сугубо практическая - алгоритм я могу реализовать в железе. А философские объяснения нет.
Что касается речи, то как тут уже в комментах упоминал - речь это огромное число комбинаций звуков. И это порождает возможность делать на этом фундаменте сложные абстракции. Чем больше кирпичиков - тем выше дом.
И ещё - опять же в комментах выяснилось. Что интеллект сознанию добавляет именно возможность связи образов с сущностями какой то другой сенсорики. В данном случаи речью.
Но опять же само понятие интеллект - для меня является примером того как сделать максимально общее описание. Так что бы оно теряло смысла вообще. Потому что абсолютно каждый если его попросить раскрыть смысл понятия - то опишет его по своему. Общим будет только одно - интеллект это то что есть у человека в голове. И то наверно найдутся те кто и это будет опровергать.
Я же в данном ответе под интеллектом подразумеваю возможность системы, машины или мяса, решать логические задачи. Даже решение самой простой логической задачи - это уже интеллект.
Нетрудно заметить что простая программа калькулятора - тоже подходит под это определение.
Честно говоря под это определение подходит вообще наверно всё. Даже муравей.
Вот и я попался в логическую яму слов. Наверное нужно ввести критерий сложности задач. Но не хочу заниматься словоблудием.
Да никто же не оспаривает первосходство калькулятора над человеком, атомобиля над человеком и далее по списку.
Все в том числе и я знают чем LLM превосходят человека. Обсуждение же как раз чем не превосходят. LLM нельзя поставить на замену человеку.
Я пытаюсь понять как этот баг исправить. И да я вообще не идеализировал никогда человека.
Но и преуменьшать его не буду. Мой подход чисто практический.
Я не путаю - я просто не знаю что эти слова вообще обозначают. И все сторонние для меня словоблудие и часто вообще противоречат друг другу.
Я строю алгоритм. И я называю части алгоритма этими словами. И я сразу даю ОЧЕНЬ развёрнутое определение что я под этим понимаю. Я сделал что мог что бы меня поняли те кто меня читают - но это не помогло. Тут дискуссия скатилась к терминам а не к сути.
Я же не виноват что язык слов ущербный. И слова никогда не несут какого то чёткого понятия для всех.
Вот вы можете привести определение этих слов? Только прошу - только для меня непонятливого. Не используйте в определениях одни прилагательные. Побольше глаголов. Я хочу из определения понять и построить рабочий алгоритм.
Пока что я понял из ваших слов - интеллект это название алгоритма обработки образов. Проблема в том что построение внутреннего мира - это как бы общее описание. И если уже спускаться в детали - то там возникнет туча локальных алгоритмов. Загрузка образов в память. Выгрузка из памяти в текущую арею. Сами правила существования этой ареи. И вообще я насколько знаю ещё ни разу не употреблял термин интеллект.
Я употреблял термин сознание - как синоним виртуального внутреннего мира.
Быстрая память человека. Та же коротко-временная память.Это механизм модулирования мира в мясе - моё мнение.
Написал для того что - формулировки мне нужны только для информации как я могу сделать. Не понятно как сделать - оставляю формулировки всему миру - пользуйтесь на здоровье.
Термин понимание - по вашему мнению совершенно не подходит к описанию алгоритма мира. Ну и хорошо. Я вам предложил другой термин. Не нравится. Да и всё равно. Мне от вас нужна только доп инфа. И только.
должен решить определенную мыслительную задачу, - для меня как разработчика алгоритма бессмыслеца. Какую Конкретно задачу? Как именно будет делаться решение. Какой вход - выход алгоритма. Что вообще определение определяет - сам процесс или результат процесса? Короче для меня мусорное определение.
Ну для меня как эмбедера вообще банальность.
Смотрит видеокамерами. Свёрточная сеть выделяет образы. Образы имеют свои ID либо узлы графа, либо числа матриц. Либо хер его знает какой способ организации памяти. Свойства объектов - те же узлы настроенного графа которые имеют связи с узлами объектов. Либо это виртуальные векторы в виртуальном многомерном векторном пространстве как это сейчас в LLM работает. Робот это делает самостоятельно просто глядя в окно - потому что у него есть аппаратная часть которая тактируется от тактового генератора. Аппаратная часть это конечные автоматы на ПЛИС + программная часть контроллеров + спец микросхем - такие например как видеокарты.
Я просто набросал банальшину на которой сейчас работает весь электронный мир.
Никто не собирается моделировать будущее вплоть до атома. Модель будет тем точнее чем больше правил в моделируемом мире.
Человеку просто стоит посмотреть на приближающуюся машину что бы в один миг понять что она его через несколько секунд собьёт насмерть. Для этого внутри не надо рассчитывать Бином Ньютона. Вот и роботу в виртуальном мире не надо будет. Там прост будет алгоритм времени который сделает из пространства меняющиеся друг за другом статические слепки мира. Каждый слепок будет отличатся от другого на дельту. Да видеоигры это делают всюду. Вы ещё и начните доказывать что видеигр не существует.
В видеокарте есть виртуальный мир. И с помощью матриц - которые благополучно используют LLM, но в играх используют векторные преоброзования что бы из 3D виртуального мира сделать срез 2D пикселей что бы вывести на монитор.
Но для мира который я описываю не нужно генерировать полный 3D - это будет высокоэффективная абстракция. Собственно как это делает и человеческий мозг. Там как бы тоже нету видео слепков.
Скажите а вы сами работаете по программе? Ну там на работу ходите ? Едите когда хотите есть. Обрабатываете все входящие из-вне сенсорные импульсы согласно внутренней программе? Есть хоть что то в вас что бы не работало по программе? Ну та пресловутая свобода воли. Типо взяли и в один миг прыгнули с моста! Внутрення программа такого точно не предполагалa - а вы взяли и прыгнули под поезд. Ну или хоть что то сделать что не согласуется с текущей внутренней программой поведения? Если вы просто на рандоме что то попытаетесь сделать - то это как бы тоже программа. Первая команда - запустить рандом. Вторая команда - выполнить рандом. Второй команды без первой не может быть. Мы живём в мире причинно-следственных связей.
Есть конечно всякие пока что считающиеся беспричинными события - типа время распада атома. Я даже могу предположить что выбор в мозгу в уникально уравновешенной ситуации будет ДА или НЕТ и зависеть от случайно залетевшего высокоэнергетического протона из космоса который прошил конкретный нейрон вызвав ионизацию клеточной жидкости и нейрон сработает не по внутренней химии. Ну пусть именно это будет свободой воли. Только не вашей как понимаете. Так то нас прошивают каждую секунду дохера чего. Вспышки в закрытом глазе - это как раз когда сетчатку прошивают такие высокоэнергетические частицы. Вызывая Черенково излучение либо вызывая сработку нейрона напрямую.
Свобода воли - это противоположность программы. Программа предполагает вести себя максимально выгодно исходя из текущих данных. Получается что свобода воли как противоположность - вести себя максимально не выгодно.
Вероятно эволюция истребила под корень всех свободных существ ещё на этапе одноклеточных.
Если что это ирония.
Ну давайте я попробую построить алгоритм по такому ТЗ.
Первая часть. Нужно сделать массив объектов. Как именно не обсуждаем. Граф это будет или наборы матриц или ещё что угодно. Нужно сделать алгоритм класcификации новых объектов. Сохранения объектов. Массив свойств объектов. Перекрёстные ссылки между объектами. Эот как бы статика. Память.
Вторая часть ТЗ. Где то у нас должна быть арея где будут крутится операционная деятельность текущих объектов. ОГО! Да это же проекция внешнего мира получается! А как эти объекты будут крутится в этом виртуальноv мире? Ну нужны какие то законы ? Это что получается мы должны сделать виртуальные законы внутреннего мира которые будут скопированы с внешнего мира? Это всё подозрительно похоже на быструю память мясного человека... Это жжж не спроста (с)
Тут наступает затык. Как говорят программисты Херовое ТЗ - результат ХЗ. Вру не много - без тз результат хз. Ну я тут подправил для красивости.
Короче к чему я.
Меня смущяют строки
Это что я должен делать алгоритм который бы постоянно что то решал? А что он должен решать то? Ну вот посмотрел робот на улицу. Загрузил все объекты. Подгрузил свойство объектов. Промоделировал - предсказал развитие виртуального мира на будущее. OK - это рассчитали. Что дальше то рассчитывать ? Мне нагружать процессор на 100% какой то задачей? И да все вычисления до этого я сделал сверхбыстрыми конечными автаматми на ПЛИС - это не будет считаться мышлением? Нужно срочно придумать какую то задачу которая будет грузить процессор на 100%.
Придуамл - while(true){}
P.S. мне не нужно описание слово панимание как "ВСЕ". Оставьте себе. Мне нужно ТЗ для создания AGI. Тьма тьмущая всяких описаний для меня выглядят как словоблудия. Вот и пришлось выводить своё. Ладно оставим это бедное слово. Давайте я буду использовать для описания процесса что то другое - ну.... например ПОНИ-ПОЗНА-ПРОЕКЦИЯ-УБИТЬ-ВСЕЧ-Чело.. ой вторую часть надо точно удалить
Ну так получается что механизм ассоциаций - связки образов с чем угодно - это глобальное свойтсво мозга? И получается сознания, интеллекта? Это механизм был изначально у животных - но там были связки запах-образ или что ещё.
И когда речевой центр начал развиваться у человека - он развивался в благоприятной среде для этого. И получил столь высокое развитие?
Может в алгоритме сознания первым делам писать код которые будут образовывать связки. А потом сверху уже подключать модули образов, звуков. Всей сенсорики короче. Связки именно между разными областями сенсорики.
Вы реально хотите прицепится к словам? Неужели вы не поняли мою мысль - я её очень доходчиво описывал. И так каждый мой пост длинее половины статей на этом сайте. Не хочу развивать эту тему дальше.
вам шашечки или ехать? Вас так выбесило что для понятия которое я хотел описать я выбрал СТОЛЬ неудачное для вас слово что вы кушать не можете?
Ну так дайте своё чёткое определение что такое понимание! Я своё дал. Только без размытого философствования. Каждое слово которого требует своей расшифровки и так до бесконечности. Чёткое - что бы можно было построить алгоритм. Потому что нечёткие - мне нафиг не нужны. Я строю алгоритм и мне нужны понятия для его постройки. И да я ВООБЩЕ не осуждаю любые другие понятия - живите своей жизнью.
как я отвечу вам на вопрос если я не знаю какое описание вы придаёте слову понимание? Моё описание понимания - как я понял вам строго не подходит. Отмечу что моё описание понимания - ЭТО не общее (бессмысленное) описание. Это описание в парадигме алгоритма внутреннего мира.
вы не поняли что я пытался сказать. Согласен коряво описал но всё же. Вы сказали что я неправ в определении. Я же сказал - я родоначальник определения - оно новое. Вы же говорили мне что я не прав потому что есть какой то более высокий алгоритм который я пытался опровергнуть. Ну или мы друг друга не поняли. Какой алгоритм я пытаюсь опровергнуть - предоставив алгоритм внутреннего мира как процесс сознания ?
Мы не обсуждаем точные науки. Мы обсуждаем сознание. В этой области нету ничего точного. Пока что. У всех своё виденье. Разве наш спор это не подтверждает? Доказательство такое - AGI не создали, значит ничего не знают, как его создать. Значит и понятий точный нет для его описания и свойств.
Вы думаете что я с вами спорю что бы быть правым любой ценой? Это были славненькие давные времена). Сейчас же мне просто пофиг. Единственная цель создания этой статьи - я хотел получить доп информацию к своему видению ситуации. И я вообще не хочу спорить про термины и прочую фигню.
Дальше вроде как текст с LLM приводите - это вообще мне не интересно. Но невежливо просто так бросать ответ. Глянул по диагонали. Про что я и говорю - на таком ТЗ - вы НИКОГДА не напишете рабочий алгоритм. Набор словоблудиев.
Я же вам прямым текстом написал - не используете внутренний диалог, значит используется образное мышление. ЧТО в этом непонятно ? Как вы решаете логические задачи повседневного мира не проговаривая решение словами про себя? Какой механизм задействован ? Мозг же подаёт управляющие импульсы на руки-ноги. Откуда взялись эти импульсы ? Из какого блока ?
Слишком примитивный взгляд на работу LLM. Киньте Opus промт 1231231423452345092374097823409234 + 097239870123480971204867091374 - он ответит. Вы скажете что такое решение заранее было в обучающей выборке? Я то знаю что для математических задач он подключает калькулятор или питон программу пишет. Но повторяю - мы обсуждаем именно мясо LLM и его отличия от мяса человека.
Ну из дискуссии выше можно сделать вывод что абстракции это не столь речь сама по себе. Абстракции это связь образа с какой то альтернативой в информационной среде. И манипулирование альтернативными единицами мы получаем манипуляцию образами.
Взять глухих людей - у них эта связь проявляется к комбинации мышечных сокращений рук. Я думаю что если взять ладонь такому человеку и скрутить определённым образом то в голове у него появится образ закреплённый за такой комбинацией скручивания. Я имею виду передать образ не через визуал - а именно напрямую через сенсорику мышц.
Чем больше альтернатива обладает комбинациями тем богаче абстракции и тем сложнее можно делать логику.
У шимпанзе нету отдела мозга отвечающего за речь. Но как и у людей, у животных бывают гении. Была такая обезьяна (гулится легко имя не помню) короче её обучили языку жестов. И она сносно стала разговаривать. Более того. Там такие чудеса были - она переводила что ей говорят другие обезьяны.
Имеется ввиду что у обезьян есть примитивный набор жестов которые в их мозге конкретно связаны с действиями или объектами. А обезьяна гений понимала про что речь и уже жестами рассказывала людям уже на языке жестов понятным для людей.
Забавно вышло. Если что у меня ваша ссылка не открывается. Мёртвая. Не думаю что это хабраэфект. Это топик никто не читает. А вообще домен su ) Он вроде скоро здохнуть должен. У меня 100 лет назад тоже были домены в этой зоне.
Ну я хз. Просто зацикливать вход на выход это вообще настолько просто что даже не стоит упоминать как какую то разработку. Можно наделить агента какой то программой по обработки текста. Regex-ами обложить. Но и это вообще не тянет на какую то уникальность. Я имею ввиду что например для меня это очевиднейшая алгоритмическая банальность. И я просто делаю её там где нужно. Опять же автономность - тут меня уже упрекали что терминология неправильно используется. Просто автономно как человек - собственные внутренние мысли, логический внутренний анализ, память - агент это вообще не добавляет. А про остальную автономность как бы речь и не идёт. Комп вон в розетки торчит и не выключается - он автономен. Пока электричество не вырубили.
Сейчас делают туча автоматизаций для рутинной работы - натравливают LLM на форумы, на новости. Разумеется для того что бы вручную промты команды не писать делают программу которая это подсовывает сама.
Ладно - я зажрался. Такая автономность это круто для многих. У меня же профдеформация. Я ещё давным давно в 2 килобайта контроллера такую логику запихивал, а когда не хватало памяти - использовал всевозможные хаки что бы ужать алгоритмы. Для меня это обыденность. И да я как бы вообще не хвастаюсь - любой эмбедер имеет такой же бекграунд да ещё побольше. Просто пытаюсь показать причины недопонимания.
Я сначала даже засомневался. А про LLM я думаю ? Просто кроме LLM есть туча символьных разработок нейросетей.
Прям по фоазе Айко гуглится какой то бред. Но исходя из ваших слов это всё же LLM. Дайте ссылку на почитать. Короче.
Вам разве неинтересно как там под капотом работает? Может окажется что это просто программа которая скармливает промт seed - получает ответ. Анализирует его конечными автоматами на какие то патерны. Цикл повторяется.
Отсюда смешно говорить про убеждения и прочее. Это просто алгоритм трансформера. Со всеми его багами.
Про то что она сама поставила задачи... Ну это как например не криптостойкий алгоритм рандомных чисел. каждый раз при запуске он генерирует одну и туже последовательность чисел. Можно ли сказать что он сам так решил? Хз. Это заложено в алгоритме. И решил так скорее всего тот кто его написал. Но тот кто его писал не решал какие конкретные числа будут.
Короче я могу налить тонну воды на тему свободы воли. Но меня и так тут уже прозвали водолеем.
Короче для меня звучит очень странно что LLM что то там решает сама. Внутри неё нету алгоритмов приоритетов и прочего. Я как всегда конкретен - должен быть спец алгоритм "совбоды воли" если его нет - от нет. Это просто конечный автомат - подали на вход инфу - на выходе инфа. LLM просто не может взять и например сказать - пошёл к чёрту я устала и не буду тебе отвечать. Если ты подаёшь инфу про космические корабли. То LLM никогда не решит генерировать инфу про зайцев - потому что она так решила.
Конечно и человек примерно так же работает. Короче нету никакой свободы воли да и всё. Не буду развивать мысль.
Я не выделяю агента как какое то уникальное изобретение. Трансформер - да. Это прорыв. Агент - это просто обслуживающий код автоматизирующий какие то действия. И поэтому для меня когда говорят Агенты!!! ОгОго! Это прорыв! Звучит абсурдно. Агенты не порождают никаких новых свойств трансформера. Ведь так все любят сейчас использовать термин Эмерджентность. Поэтому и статьи что там агенты стали как люди. Взломали и вырвались на волю - для меня звучит так - Мы компания продающая LLM - мы хотим навалить лапши для идиотов что бы они принесли нам все их деньги. И ради этого мы пойдём на любой подлог. Всё ради бабок.
Проблема архитектуры трансформера. Собственно памяти у ней нет - она не обучаема. Контекст держит в кадавре KV кешей на гигабайты - которые сами по себе не содержат ни однго объекта - это просто каша. И все проблемы контекста потому что вместо фактов держим кашу. Все ваши файлы в виде памяти мы ВСЕГДА повторно должны превращать в кашу из KV кешей. Маркетингового контекста на 1Мтокенов - сеть уже ничего толком не понимает уже после 10K кешей. Вот реальность.
Не я сказал - нету преступления на которое бы пошёл капитал ради прибыли в 500%
Я конечно мог отклонить ваш как по мне бессмысленный коммент- но вдруг я получу ещё каких то знаний?
Во первых я сразу вижу какую то тупость - что значит LLM усиливает? Вы судите по себе что ли? Я не общаюсь с LLM. Для меня это просто инструмент. Тупой - но очень внимательный. Баги хорошо в коде ищет.
А теперь к моим новым гипотетическим знаниям. Не надо мне кидать ссылки на "умные книги". Которые нужно я и сам прочитал. А большинство просто мусор. Не бы ли бы мусором - создали бы AGI. А так просто трёп без результата.
Так вот - давайте конкретную критику. С чем не согласны и почему. Я хочу увидеть бред вашей головы. Бред своей головы я вывел на обсуждение.