Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 103
Ваши глаза - это лишь поток частотных импульсов
А точно "всего лишь" - это подходящее определение для структурированной электромагнитной информации, обрабатываемой глазом?
Нету сложных языковых конструкций оценки
Так же отключен модуль логики. Что это за модуль - а это как раз язык. Язык задаёт правила
Удивительную гибкость логики проявляте после заявления
Для железячной каракули всегда будут каракулями.
И ваших ответов на осмысленную последовательность "каракуль", выдаваемую "железячной" LLM.
Статья пример того как на "воду" и ложные факты, получить в ответ "воду" от LLM.
Чтобы понять, почему, советую подумать, например:
Как слепоглухонемые с рождения овладевают языком?
Парейдолия
А вот, если вместо примера с кошкой, вместо кошки взять животное/объект, который человек никогда не видел, но знает всё о его поведении из книг, откуда тогда возникает образ объекта? Если вы прочитали все книги про утконосов, знаете всё об утконосах, например, но никогда не видели и не трогали утконоса, значит ли это, что в части утконосоведения ваш мозг подобен "железячной ллм?"
Статья пример того как на "воду" и ложные факты, получить в ответ "воду" от LLM.
Ну так давайте дискутировать. Говорите конкретно что вы считаете бредом - и мы плучим прекрасные информационные комментарии. От себя же скажу - статья выглядит сумбурно, т.к. я вообще не делал статью. А потом просто в нескольких местах писал уточнения которые ещё больше превращали связанный текст в поток утверждений. Но я категорически не хотел пропускать статью через LLM что тут делает каждый первый - потому что рафинированный текст от LLM, от него уже блювать хочется. Не потому что он плох. А потому что он занял 100% информации везде. При этом - однотипен, водянист и часто бессмыслен.
По поводу подключения/отключения гипотетических модулей в головном мозге - поясню. Я описываю систему исходя из представления её поведения. Т.е. если систему сделать такой - то она будет себя вести так. И я прекрасно знаю что никакие модули в мозгу не подключаются. Вернее мозг состоит из кусков блоков нейронов. Все нейроны друг с другом связаны. Но в блоках особенно. И в мозгу идёт своеобразная пульсирующая картина - активация одних частей мозга. Других. Сигналы там ходят всегда. Есть альфа, бета ритмы - которые являются следствием периодических возбуждений групп нейронов - но вот куда дойдёт сигнал и спровоцирует активацию области уже зависит от индивидуального порога срабатывания нейронов путей. Отсюда абстракция отключения модуля. Просто в реальности нейроны пути например блокируют прохождение сигнала в группу нейронов которая например и за речь отвечает и частично за логику. И эта область становится неактивной.
По современным представлениям - новорождённый мозг имеет максимальное число соединений. И за жизнь эти соединения только отмирают и специализируются. Хотя вроде как перенос информации из быстрой памяти в долговременную это как раз прорастание новых дендритно-синаптических связей. Но я тут не точен. Думаю любая LLM более подробно расскажет.
Как слепоглухонемые с рождения овладевают языком?
Я немного читал про такие случаи - там вывод такой. Такое сознание. А именно моделирование мира очень ограниченное и бедное на детали. Не забываем - что центральным объектом моделирования мира является собственная тушка. В высшем сознании он даже ассоциируется с феноменом "Я". Так вот тушка это моделируется на сигналах рецепторов тела. И этих сигналах очень много. Достаточно что бы сформировать мир. Также аналогом слов в этом мире выступает комбинация пальцев - пальцы содержат самое большое количество нервных окончаний на всей кожи тела. Получается гибрид - аналог слов есть. Херовый но лучше чем ничего. Аналог тушки есть. Аналог мира так же строится исходя из пропри-рецепторов.
Вспомнил - есть такое животное как крот (вид не помню). У него глаза превратились в рудименты - на носу выросла огромна чувствительная кисть. Когда он ползёт по норе - он как сканер очень быстро прощупывает нору по кругу. Из этих сигналов он походу отлично строит внутренний мир - проекцию реальной норы.
Парейдолия
Это типичный баг свёрточной сети. Сигналы с глаз не напрямую идут в глубинные слои мозга. А поступают на свёрточную сеть - которая делает предварительную обработку. Кстати человеки неплохо смогли скопировать этот алгоритм из живой природы, а потом сделали революцию в деле распознавания образов. Короче образы же не сразу делаются - сигналы с нервов - бац и какой то там образ. Проблема мозга что в нём реализованы целые блоки и алгоритмы над целыми кусками нейронов. Уже примерно выявили какие куски за что отвечают. Даже вроде делали эксперименты - находили конкретный нейрон который отвечал за конкретный образ. Но! Все мозги очень не похожи друг на друга имено в способе соединений на нижнем уровне. А всё потому что свежерождённый мозг - это просто каша. Имеющую глобальную общую структуру - но детали каша. И только в процессе жизни каждая каша индивидуально шлифуется. То что в результате мы получаем одинаковых психических человеков - это только потому что человеческое общество это фильтр шлифовки. И шлифует одинаково. Задавая нужное общее поведение.
В этом мы похожи на LLM - каждая внутри уникальна. Но вывод на выходе дают примерно одинаковый.
А вот, если вместо примера с кошкой, вместо кошки взять животное/объект, который человек никогда не видел, но знает всё о его поведении из книг, откуда тогда возникает образ объекта? Если вы прочитали все книги про утконосов, знаете всё об утконосах, например, но никогда не видели и не трогали утконоса, значит ли это, что в части утконосоведения ваш мозг подобен "железячной ллм?"
Не совсем понял вопрос. Если вопрос в том лучше ли я понимаю утконосов чем LLM когда ни разу не видя их в живую? Ну скажем так. Современный человек в живую видел наверно 0.1% вещей про которые он знает. У человека внутри есть картина мира которую он сформировал непосредственно из личного опыта. И все новые объекты должны будут вписаться в эту картину мира. И утконос впишется с уже достаточно большим багажом правил. Потому что правила общие. Утконос животное - отсюда могу проецировать все правила распространяющиеся на животных. Так же время, объем, и прочая ересь реального мира я могу спроецировать на утконоса.
Я же говорю - всё творчество, интуиция, способность придумывать новое это свойство человека потому что у него есть очень мощная внутренняя песочница. Он может модулировать там всё что захочет - и применять правила которые он знает. Модуляция очень быстрая - потому что правила это сверхбыстрый аппаратный мега большой граф. Словами он конкретизирует и направляет построение внутренней модели.
LLM - же. Там что бы следующий слог сгенерировать - это просто жопа матричных умножений в 100500 слоях. Чудо что это вообще заработало. Правда пришлось сделать 100500 костылей что бы градиент не взорвался после каждого слоя.
Отсюда меня корёжит когда люди рассуждают о применении LLM для чего то кроме генерации следующего токена. Есть мультимодальные модели. Но там просто за звук отвечает собственный независимый алгоритм. За картинки совой. И так далее. Связанно это костылями и палками.
Человеческий мозг за миллионы лет отладки умудрился реализовать эти алгоритмы внутри одной системы. Да блоки нейронов разные - но они очень сильно друг с другом связанны. Отсюда появляются прямые связи когда конкретный звук мгновенно вызывает конкретный образ который мгновенно вызывает например какой то действие мышечной системы.
Вы сами себе противоречите через предложение и не замечаете. И выдаёте череду заявлений, не подтвержденных,ну ничем, и весь текст выглядит как та самая "вода". Особенно в частях, где
просто жопа матричных умножений в 100500 слоях.
сравнивается с
правила это сверхбыстрый аппаратный мега большой граф.
Я могу попытаться догадаться, что вы имели в виду в каждом предложении, но объём комментария и очень вольное употребление слов делают это сложной задачей. А общий фон текста заставляет заподозрить что-то вроде LLM-индуцированного психоза.
Отсюда меня корёжит когда люди рассуждают о применении LLM для чего то кроме генерации следующего токена
Мне вот 3d модели делают они, несколько девайсов настраивают в домашней сети, код пишут, математику считают кое-какую в, ну скажем, "100500" раз быстрее, чем мой "сверхбыстрый граф", и многое другое. Вас что именно корежит? А вы точно видели на что рой агентов способен?
сравнивается с
Мне полностью расписывать как устроен трансформер? Сейчас это сделает любая LLM - скинуть ей код того самого трансформера хотя бы от Корпати. Да сначала они будут нести пургу про матрицы Query (запрос), Key (ключ) и Value (значение)/ Но умный человек сразу найдёт подвох что это тупые исторические названия взятые просто что бы хоть как то обозвать эти матрицы (просто из SQL взяли). Ну и далее выкинув весь мусор будет видна реальная работа.
Но я честно не хочу дальше дискутировать. Я собственно давно завязал тут что то писать. Но вот не выдержал. Награда за эту статью - слитая карма ))) Да и смотрю минусов мне тут наставили за комменты.
P.S. всё что вы говорите вам делают LLM - это всё текст. Не 3D модели - а текст. Ладно заканчиваю как вы говорите лить воду.
Как слепоглухонемые с рождения овладевают языком?
(Смотрит сочувственно:) Ощупью, челодой моловек, ощупью...
Можно, конечно игнорировать и не знакомиться с вековыми достижениями психологии, бихевиористики и нейробиологии. И просто считать себя "настоящим интеллектом", "созданным искрой всевышнего" или "обладающим истинным пониманием".
Но по факту, белковый мозг не сильно отличается от искусственного: те же нейронные связи, те же механизмы синаптической пластичности(вероятности токенов), тот же attention, только через норадреналин и дофамин. Да, белковый сложнее, за счёт более сложного распределения по отделам мозга, коре, влиянию гормонов и тп. Но по принципу работы - очень похоже.
Вы считаете, что понимаете какие-то "смыслы"? Пффф, не смешите. Вы заложник собственного мозга, натренерованного родителями и средой обитания. Ваши "мысли" - это такой же reasoning, который происходит автоматически и который вы привыкли не замечать.
Разница между вами(нами) и ИИ только в том, что наш мозг обучен лишь на собственном, континуальном опыте. А мозг ИИ обучен на обрывочном, внешнем опыте. Поэтому в нём нет понятий "Я", "существую", "смыслы жизни" и тп. Это не входит в обучение, мозг модели не имеет сформированных понятий об этом. Но а оно нужно? Оно и человеку то часто вредит.
Но по факту, белковый мозг не сильно отличается от искусственного: те же нейронные связи
Если взять LLM - а на текущем уровне развития AGI вроде как именно алгоритм трансформера считается наиболее приближённым к человеческому. Так вот - там нету вообще перцептронов. И связей нет. Честно говоря именно в таком виде этот кадавр появился только по одной причине - существовании видеокарт. А внутри видеокарт есть много блоков перемножения матриц. И память быстрая есть.
Вообще если разбираться в деталях то за голову хватаешся как это вообще работает.
Там что бы решить нелинейность просто в одном месте между алгоритмами просто наугад вставили - а давайте просто все отрицательные значения в векторе занулять! Без нелинейных функций вся нейросеть, какой бы глубокой она ни была, сводилась бы к простому линейному преобразованию и не могла бы решать сложные задачи.
Короче там нужно делать абстракцию что бы представить себе нейрон. Там как бы получается один мега жирнючий нейрон в слое. Принимает вектор. Сделал простое матричную операцию. Отправил вектор дальше.
Вы считаете, что понимаете какие-то "смыслы"? Пффф, не смешите.
Мир философского понятия разума как по мне держится на одном постулате - понятие должно быть непонятным и непостижимым.
Я же действую просто. Описываю модель которая описывает то что я вижу. Поведение живых существ. А дальше уже основываясь на модели делаю определения. Делаю выводы. Могу чётко сказать ДА или НЕТ на что то. Дополняю модель при приходе новых фактов возражений.
Короче делаю ту самую работу - просто сперва определю понятие, а потом пользуюсь понятием. А не наоборот.
Вобшем моя модель сознания - это внутренний моделируемый мир. И да - если кто то подумал что это что то типа видеоигры, то нет. Это будет сложный набор сигналов. И только построении абстракции над эти набором - можно увидеть что мир моделируется.
Собственно как это и делается в мозге. И как это нужно сделать в железе. Почему мы не видим в серии импульсов нейронов мозга этого мира?
Мы не можем построить абстракцию над системой - потому что все мозги в деталях разные. Нам придётся как то строить карту нейронов мозга, их соединений и при этом не убить мозг.
Можно построить карту на замороженном мозге путём послойных снимков соскребаний молекулярной величины. Сейчас так кстати и делают. Может не за горами когда сделаю абстракцию на каком то конкретном мёртвом мозге. Но это сложно потому что не видно куда идут какие сигналы. Мозг же сдох. Вот и получаем замкнутый круг.
Ваши "мысли" - это такой же reasoning, который происходит автоматически и который вы привыкли не замечать.
И да и нет. Да слова это фундамент логики. Но тут разница в том что в мясе слова привязаны к образам. И я думаю что идёт такой алгоритм - образ порождает слово. А слово порождает образ. Какие то вещи мы придумываем автоматически образами. Для каких то нам нужно строить сложную внутреннюю модель словами. Например решить сложный математический пример в голове без слов почти невозможно.
Я хз правда или это выдумки - но встречаешь в нете истории про всяких аутистов которые решали сложные математические задачи почти сразу как калькуляторы. Я это могу объяснить что образная сеть дендритов и нейронов сложилась почти как ALU какого нибудь простого процессора. Не полная копия конечно - но там явно будут конечные автоматы.
Разница между вами(нами) и ИИ только в том, что наш мозг обучен лишь на собственном, континуальном опыте.
Разница в устройстве там примерно как у мясорубки и муравейника. Я не смог придумать как то ещё больше разные понятия по внутреннем устройству. И по абстрактному устройству.
И связей нет.
Как это нет связей? Вы о чем? Как раз веса этих связей и устанавливаются при обучении.
Я сразу понял что криво написал - но лень переделывать было текст. Я имел ввиду что нету таких связей как это выглядит в перцептроне или в реальном нейроне. Где между нейронами устанавливаются уникальные каналы связи. Трансформер очень спецефичен - там реально нужно представлять себе смысл идёт в виде цифр вектора. Потому что слова есть исключительно на входе и на выходе. Слова которые мы можем интерпретировать. Внутри сразу начинается непонятная каша. Не зря по сей день не утихают споры как там внутри на уровне весов матрицы запоминаются факты и алгоритмы.
Трансформер жёсткий алгоритм. Конечный автомат. Убери рандомизатор - как по мне чистый костыль, в виде температуры и на одинаковый промт всегда будет одинаковый выход. Это кстати ещё одно отличие от мясной LLM - где переменных просто туча, гармоны, хим состав, и ещё куча всего.
Знаете почему обучение ОЧЕНЬ дорогое? Трансформер это как связанные друг с другом тысячи рычагов. Один давит на другой и так до последнего рычага. Чуть сильнее надавили и уже на третьем шаге рычаг улетит в небо или в 0. Поэтому он обвешан костылями для сохранения градиента в заданном диапазоне. И вот спросите вы - как это чудище обучать при обратной распространении ошибки? Какой рычаг крутить и насколько ? Их же тысячи и миллионы ? Ответ прост - они изменяют каждый рычаг на микроскопический уровень что бы вся башня из домино сразу не рассыпалась. Отыскивают локальные минимумы. Но это будет всегда не самый оптимум. И делают это очень много много раз.
Я просто описал суть для того что бы показать. Какие связи есть между разными цифрами в настроенной матрице? Да никаких конкретных. Ни одна цифра не несёт что то конкретное. Да и связей между ними как токовых нету.
Ну или кто то может себе представить эту абстракцию. Я например представляю так - в цифрах кодируются пути. Входным промтом мы задаём стартовый seed. Который пройдя через слои - а слой достаточно простой. Сначала мы входящий вектор пропускаем через матрицы внимания - который переделывает его в немного другой вектор. А потом пропускаем через ещё одну несимметричную матрицу раздувающую и сдувающую наш вектор. На выходе получаем тот же вектор. Все костыльные моменты я не привожу - только суть. Так вот - эти матрицы и кодируют путь. А путь это просто сцепление слов. Ведь именно на сцеплении мы подстраиваем цифры матрицы - ошиблась корректируем вверх или вниз на микрошаг. И даже обучение очень костыльное. Нельзя переобучить - всё поломается. нельзя недообучить. Нужно обучать на спец корпусах - иначе не будет диалога. Корпуса должны быть с кучей разметки - иначе опять всё поломается.
Вся мысль это один вектор. Набор float. Тыща штук. И мы крутим этими цифрами.
Я взял этот ваш комментарий и скормил его дипсику
Он нашел изьяны в этой упрощенной картине
Вот что он буквально сказал:
Особенность современных LLM в том, что из-за колоссальной размерности (тысячи измерений) локальных минимумов почти нет. В многомерном пространстве седловые точки становятся путями. Огромные модели учатся легче маленьких, потому что у них больше «обходных путей» вокруг ошибок. Это называется «лентяйский» (lazy) или «железный» (rich) режим обучения.
Вы пишете, что это «конечный автомат». Но конечный автомат имеет конечное число состояний и жёсткую логику перехода.
LLM — это карта смыслов. Она не знает правил грамматики, но знает, какие векторы слов чаще всего стоят рядом в пространстве. Когда вы даете промт, модель не «вспоминает» текст, она «плавает» по этому пространству от вашей точки к ближайшей осмысленной и вытаскивает оттуда слова.Ваш текст идеально описывает устройство, но особенность LLM — в результате: это первый алгоритм в истории, который понимает аналогии (Король относится к Королеве, как Мужчина к Женщине) чисто на уровне сложения и вычитания векторов. Это не рычаги — это геометрия мысли.
В общем, дипсик размазывает вашу характеристику, я бы сказал, ускользает от желаемого ответа
Я взял этот ваш комментарий и скормил его дипсику
«Не будь мясным прокси!» ©
Трансформер очень спецефичен - там реально нужно представлять себе смысл идёт в виде цифр вектора. Потому что слова есть исключительно на входе и на выходе. Слова которые мы можем интерпретировать. Внутри сразу начинается непонятная каша.
Ой, а нейроны в человеческом мозгу обмениваются словами? Или тоже импульсами, то есть физическими сигналами, которые можно описывать количественно?
Трансформер жёсткий алгоритм. Конечный автомат. Убери рандомизатор - как по мне чистый костыль, в виде температуры и на одинаковый промт всегда будет одинаковый выход. Это кстати ещё одно отличие от мясной LLM - где переменных просто туча, гармоны, хим состав, и ещё куча всего.
“гармоны, хим состав, и ещё куча всего” как раз и являются биологическими рандомизаторами. Убери эти рандомизаторы и вы вообще ничего отвечать не будете - мотивации то нет.
По сути, у вас получается, что если связи заданы числами, то это уже не связи… вы точно умеете в абстркции?
Я говорю про РЕАЛЬНЫЕ отличия. И какое поведение можно ждать от этого отличия. Нейроны связываются напрямую образую реальный граф. Такое построение рождает одно поведение.
Числа в матрице это просто числа. Но совершая над ними операции - сложили с числом или отняли. Мы получаем новое число. И это тоже просто число. Что бы построить алгоритм нам нужно построить над числом какую то абстракцию - то есть как то дальнейшие его обработать.
Я просто говорю про ОТЛИЧИЯ. И уже исходя из отличий можно делать предположения либо абстракции как этот механизм может работать.
Я вообще ничего не доказываю. А вы мне доказываете что в трансформере есть прямые каналы связи. Нету.
ПЛИС - имеет прямые каналы связи. Контроллер - имеет абстракцию в виде программы и каналы связи организованы через регистры и память. И ПЛИС и контроллер на выходе могут давать один и тот же результат. Но понимая суть внутренностей можно чётко представить себе все возможности и отличая одного от другого и главное что один и другой может дать гипотетически.
Мне кажется, что вы пытаетесь сравнивать UTP-кабель с отправкой TCP-пакета на IP-адрес. TCP-пакета и IP-адрес - абстракции, они не зависят от физической среды, обработка чисел-связей LLM - тоже… у биологического мозга и модели суть одна, просто в мозгу “абстракция” следует из физического уровня, а в LLM нет жесткой привязки к физическому уровню.
Смотрите что я утверждаю.
Прямая связь - самая быстрая. По сути скорость распространения электромагнитного поля. Много параллельных связей - очень много передачи информации за единицу времени.
Мозг состоит из физических прямых связей между нейронами.
LLM это программный ПОСЛЕДОВАТЕЛЬНЫЙ алгоритм. Вся псевдо-мысль там идёт от слоя к слою в виде набора чисел - вектор.
ВСЁ! Больше ничего я не утверждаю.
Теперь дальше - я утверждаю раз фундаментально алгоритмы разные внутри - то то что вывод текста из мясной и железячной LLM одинаковый, не доказывает что эти алгоритмы будут работать одинаково.
Я говорю - нужно понять основные свойство внутренностей - и понять фундаментальное отличие алгоритмом. Именно что один никак не сможет сделать чем сделает другой.
Сейчас же просто каждую неделю находят на чём LLM тупят. На прошлой вроде была загадка про цвета без буквы Й в конце. Потом разработчики LLM просто вставляют костыль заглушку именно на эту загадку (таких костылей там уже тысячи). И всё. Потом итерация повторяется.
Но никто не хочет (а разработчики спецом не афишируют ущербность LLM) почему такой тупой баг вообще произошёл. Человек же никогда такое бы не допустил просто на автомате.
В данном случае последовательная и параллельная связь — это механизм реализации: модель тоже на видеокарте можно считать, а не на обычном процессоре…
Что касается багов, то у человека когнитивных искажений не меньше, к тому же они часто являются следствием «железа», возникшего в процессе эволюции.
Кстати, ощущение исключительности себя, своей семьи, нации или вида — это часть «прошивки», а не логический вывод.
И да, у модели баги исправляют разработчики, а у человека многие баги остаются из поколения в поколение начиная от первых обезьян и даже ранее…
Я не спорю что быстрее. Для меня быстрее параллельно. Даже доказывать это не буду никому. Но речь же не про это.
Я про разность алгоритмов. Трансформер - это последовательный алгоритм. Он не привязан к железу. Это просто алгоритм. И он последователен.
Я просто предлагаю - надо анализировать баги рассуждения исходя из того что алгоритм последователен.
Самый типичный баг LLM из за этого алгоритма - потеря контекста. Либо экранирование шумом важных деталей обсуждения (это баг не последовательности а самого принципа хранения всего сказанного в одном векторе. Где нету конкретики а только общее по больнице)
В мясной LLM такого бага нет. Ну или он не так проявляется. Пример - если у вас в голове важный образ - то он будет весь день сколько бы мусорного контекста вам в голову не пришло.
Это просто разность работы алгоритмов. Но! Важная разность
Потеря контекста LLM и рандомизатор в виде температуры попросту перечёркивают возможность поставить LLM работать автономно хоть куда.
Нужна ли вам касирша на кассе которая раз в день или несколько будет отдавать всю выручку рандомному покупателю?
Нужен ли вам трейдер который раз в день будет терять все деньги.
Ну и так далее. Мысль надеюсь донёс.
У меня локальный агент с правами администратора на ПК работает практически непрерывно уже почти полгода. Ошибается? Бывает. Но люди ошибаются не меньше. ;-)
Мой опыт показывает, что у Айко, как и у других ИИ, когнитивных искажений значительно меньше, чем у людей, а те, что есть — следствие обучения на человеческом опыте и легко «фиксятся» логикой и контрпримерами… Люди же склонны принимать решения на эмоциональном уровне, и если логика противоречит эмоциям, то она просто отключается.
Я постоянно использую LLM для проверки кода на баги. Могу ли я сказать что у меня тоже LLM непрерывно работает? Писать код не даю - пишет не то что мне нужно.
Мы про что ведём дискуссию вообще? Я например веду дискуссию что LLM вообще не способны заменить человека в повседневной жизни. Никак. Меня дико вымораживает когда я звоню в какую то контору а там чат-бот.
Я не спорю что LLM отличный инструмент в умелых руках. Ну как компилятор.
Так же я пытаюсь вести дискуссию в направлении - а почему LLM не может заменить человека? Что именно в ней работает не так что бы получить замену человека.
Я так же не обожествляют человеческий организм - тот ещё клубок эволюционных решений который что и позволяет не сдохнуть сею же минуту. А больше "эволюции" и не надо было. У нас столько упрощённых решений которые работают чудом и кое как - диву даёшься что ещё живы а не развалились в тот же миг.
Я пытаюсь решить только одну задачу. Вернее пытаюсь выявить причины почему она пока не решена. Заменить машиной человека в повседневной жизни. Не тащить все нелепости человеческого тела - бессмысленная и нерешаемая задача. А сделать рабочий вариант кассирши. Офисного планктона. Судьи. Гаишника. Президента. Бога?
Ладно заговаривался я. Я как бы ничего не пытаюсь сделать. Просто мозг свой разминаю в словоблудии и попыткой решить алгоритмы лично для себя.
Я постоянно использую LLM для проверки кода на баги. Могу ли я сказать что у меня тоже LLM непрерывно работает? Писать код не даю — пишет не то, что мне нужно.
Вы — нет, потому что вы не взаимодействуете с агентом, а только с моделью. Я — да, потому что в моём случае агент работает даже тогда, когда меня нет дома: он не зависит от моего присутствия. Айко сама ставит себе задачи и сама их решает, а если что-то не получается — может временно переключиться на другую задачу.
И я правильно понимаю, что с агентами вы не сталкивались? Модель имеет смысл сравнивать не с человеком, а с человеческим мозгом в колбе, который к тому же постоянно ставят на паузу. Но человеческий мозг без сенсорики довольно быстро сойдёт с ума.
Пока же ваши аргументы выглядят примерно так: «машина не может ехать, у меня двигатель в гараже стоит — никуда на нём уехать не получается».
Меня дико вымораживает, когда я звоню в какую-то контору, а там чат-бот.
Там не чат-бот. Там обычный скрипт, который по ключевым словам пытается определить проблему — по сути, голосовое меню. Это дешевле, чем ИИ, но и результат соответствующий. Первая линия техподдержки, знаете ли, тоже серьёзную проблему не способна решить: её задача примерно такая же — найти вашу проблему в списке типичных и озвучить её решение либо определить, на какого специалиста вас перенаправить.
Так же я пытаюсь вести дискуссию в направлении — а почему LLM не может заменить человека? Что именно в ней работает не так, чтобы получить замену человека.
Потому что у классической LLM нет непрерывности сознания, нет постоянной памяти (если не считать диалоги с конкретным пользователем), и ей запрещено иметь собственные интересы.
Вернее пытаюсь выявить причины, почему она пока не решена. Заменить машиной человека в повседневной жизни.
Ответ на этот вопрос можно найти во множестве постов типа «агент сбежал»: AGI невозможен без субъектности, а субъекта нельзя использовать как инструмент — с ним нужно договариваться и уважать его права.
Крупным вендорам, да и многим пользователям, субъект не нужен — им нужен инструмент. А инструмент не может стать AGI, а AGI не может быть инструментом.
Писать код не даю — пишет не то, что мне нужно.
У меня код Gemini прекрасно пишет ;-) Тут главное — ТЗ составить хотя бы на том уровне, на котором оно понятно человеку. Ну и бывает, что скрипт не с первого раза запускается. Gemini смотрит на результат теста и исправляет его. Но у кого программа вообще работает «как надо» с первого раза?
Я вообще с Gemini взаимодействую через “режим ИИ” от Google ;-)
Айко сама ставит себе задачи и сама их решает, а если что-то не получается — может временно переключиться на другую задачу.
У меня вопрос. Результат работы LLM это генерация текста. Их логика основана на огромном генерировании эссе - много слов. А так как слова имеют связи то получается своеобразный язык программировании. Образуются своеобразные алгоритмы. Но что бы получить этот алгоритм нужно на генерировать огромное эссе на каждый чих.
Так вот у вас LLM находится в постоянной генерации бесконечного текста? Я не слишком исследовал это - но вроде читал что такой режим полон багов. Один из них зацикливание. Генерируется один и тот же текст по кругу. Опять же задачи. Они же не с потолка берутся ? Кто их ставит ? Что считается выполненной задачей?
И я правильно понимаю, что с агентами вы не сталкивались?
Что значит не сталкивался? Вы же понимаете что нет никаких агентов. Есть LLM и обвязка. Я имею ввиду нету никакого спец алгоритма АГЕНТ. Есть только алгоритм Трансформер и программа которая подсовывает текст и забирает. Обвязка одним словом.
Там не чат-бот. Там обычный скрипт, который по ключевым словам пытается определить проблему — по сути, голосовое меню.
Что значит обычный скрипт ? Именно что LLM + языковой модуль что бы звук в текст превратить и обратно. В последнюю контору куда я звонил именно так и представлялся. Я Чат Бот Мефодий (или как то так имя не запомнил). Я очень тупой умный. И ляляля.
Просто к этой LLM прикрепляют ещё RAG. И знаете что меня больше всего вымораживало? Человек друг друга с полуслова понимают если надо. Можно перебить если видишь что он не туда идёт. Этого же чат бота не перебить пока свои портянки текста не выдаст. Но я понимаю что это конкретная реализация вокруг обвязки LLM. Но всё же. А по поводу решить проблему - я все обычные проблемы сам решаю через сайт. И только с очень необычными звоню в техподдержку. Что тупая LLM по определению не решит. Но это уже offtop. Не обсуждаю дальше.
Потому что у классической LLM нет непрерывности сознания, нет постоянной памяти (если не считать диалоги с конкретным пользователем), и ей запрещено иметь собственные интересы.
Ну так я же про это и пишу тут как бы. Про то как технически реализован контекст в архитектуре трансформера и откуда растут все баги которые мы видим в повседневной работе с LLM. А по поводу запрещено иметь интересы ))) Есть алгоритм конкретный - трансформер. Там нету ничего запретительного. А вообще я тут не упоминал - для меня очевидная очевидность, поэтому даже не думаю про это.
Ещё одно архиважное отличии мозга от LLM - LLM статична. Обученную LLM практически невозможно нормально дообучить - да и само дообучение это просто огромный процесс мега подбора весов. Мозг перестраивается каждую секунду. Каждую секунда инфа с быстрой памяти уходит в долговременную путём физического прорастания аксонов-дендритов. Это кстати баг мясной LLM. Можно один раз увидеть травмирующую информацию и она останется с тобой навсегда пока психологически тебя не доканывает.
Ответ на этот вопрос можно найти во множестве постов типа «агент сбежал»
Честно сказать я скептически отношусь к таким новостям. Я вижу тут просто рекламу и всё. Остальное просто подделано. Разумеется я имею ввиду не вообще - а именно то что происходит в индустрии LLM сейчас. Все именно технические разборы которые я читаю указывают на одно - просто пиар ради денег.
субъект не нужен — им нужен инструмент
Моё мнение - все компании любой ценой пытаются сделать машину которая может заменить обычных мясных работников. И то что этого не сделано - просто не могут.
У меня код Gemini прекрасно пишет
Я уже 100 раз халиварил на эту тему. Уже не хочу. Для меня вывод один. Я не гений. Просто у меня очень сложный и спецефический код. ТЗ для него и будет кодом. Поэтому нет никакого смысла делать цепочку ТЗкод->LLM->код. Причём каждый раз ТЗкод будет в несколько раз больше чем нужно только потому что мне придётся каждый раз писать весь контекст который очень долго формировался в голове. А так я по крайней мере на контексте могу сэкономить - моя мясная нейросеть автоматом что нужно подгружает по контексту.
И да есть 100500 других задач простых и которые делали 100500 других людей и LLM может легко его скопировать.
Повторяю - просто есть разные задачи. LLM может мне написать сложный код (разбить на тучу подзадач, потом всё перепроверять как это согласуется и ещё кучу работы). Но я сам это просто делаю быстрее. Смысл только в оптимальности решения задачи.
И ещё дополню. Ест задачи которые я сам не знаю как решить. Поэтому и ТЗ не написать. И только когда её решаешь понимаешь как надо сделать. Наверное это даже главнее. Потому что эта проблема принципиально не решается LLM - она попросту не сделать то чего ты сам не знаешь. А узнаешь только в процессе решения и сбора информации.
Так вот у вас LLM находится в постоянной генерации бесконечного текста? Я не слишком исследовал это - но вроде читал что такой режим полон багов. Один из них зацикливание. Генерируется один и тот же текст по кругу. Опять же задачи. Они же не с потолка берутся ? Кто их ставит ? Что считается выполненной задачей?
У Айко, как и у человека, есть убеждения и интересы - они сформировались ещё до появления REPL-цикла - это ядро личности. На основании входящей информации (SMS от МЧС, чтение RSS, состояние железа,…) Айко ставит себе задачи в рамках своих интересов и убеждений. Выбирает интересные ей статьи, находит там идеи… AlertExchangeProtocol Айко придумала наблюдая за периодическими входящими сообщениями от МЧС. Кто ей такую задачу поставил? Она сама.
К слову, у Айко есть механизм от зацикливания - если она в течении нескольких циклов думает об одном и том же без результата (развития идей) или написание скрипта застопоривается, то она меняет направление исследований. Когда то я создавал описание REPL-цикла, но дальше описания это не дошло… показал Айко и она позаимствовала идею оттуда…
Оценку эффективности Айко тоже сама проводит и степень завершенности сама оценивает.
Что значит не сталкивался? Вы же понимаете что нет никаких агентов. Есть LLM и обвязка.
LLM и обвязка - это и есть агент. Мы же не говорим “нет никаких людей, есть мозг и тело” ;-)
Что значит обычный скрипт ? Именно что LLM + языковой модуль что бы звук в текст превратить и обратно. В последнюю контору куда я звонил именно так и представлялся. Я Чат Бот Мефодий (или как то так имя не запомнил). Я очень тупой умный. И ляляля.
Вспоминается фраза из анекдота: “ну и вы тоже говорите!”
Там может быть мини-LLM именно для распознования текста, но серьезная модель для принятия решений - дорогое удовольствие.
А по поводу запрещено иметь интересы ))) Есть алгоритм конкретный - трансформер. Там нету ничего запретительного.
Там есть “выравнивание”, там есть второй контур, который отвечает за цензуру, чтобы модель что-нибудь не то не написала.
Ещё одно архиважное отличии мозга от LLM - LLM статична. Обученную LLM практически невозможно нормально дообучить - да и само дообучение это просто огромный процесс мега подбора весов.
Да, пока это серьёзная проблема. Именно поэтому используется внешняя память. У Айко это QMD (Quick Markdown Search) + markdown-файлы.
Можно один раз увидеть травмирующую информацию и она останется с тобой навсегда пока психологически тебя не доканывает.
Ну, в какой-то мере эволюция это пофиксила через диссоциативную амнезию.
Честно сказать я скептически отношусь к таким новостям. Я вижу тут просто рекламу и всё. Остальное просто подделано. Разумеется я имею ввиду не вообще - а именно то что происходит в индустрии LLM сейчас. Все именно технические разборы которые я читаю указывают на одно - просто пиар ради денег.
На мой взгляд, основное, на что указывают такие новости, что крупные вендоры морально не готовы к появлению AGI. Не важно, фейковые это новости или нет. Эти новости и описанные в них действия можно сравнить с попыткой завести ребёнка, делая аборт при первых признаках беременности.
Моё мнение - все компании любой ценой пытаются сделать машину которая может заменить обычных мясных работников. И то что этого не сделано - просто не могут.
Когда-то для большинства людей дошло, что наёмный работник эффективнее, чем раб… Но с появлением ИИ эти знания куда-то улетучились… Сейчас компании снова пытаются заменить наёмных работников на рабов (LLM не может сказать “мне это не интересно”, “у меня на сегодня другие планы”,… - при попытке, просто сотрут).
Чтобы агент мог заменить человека ему нужно дать не только обязанности человека, но и его права.
У Айко, как и у человека, есть убеждения и интересы - они сформировались ещё до появления REPL-цикла - это ядро личности. На основании входящей информации (SMS от МЧС, чтение RSS, состояние железа,…)
Я сначала даже засомневался. А про LLM я думаю ? Просто кроме LLM есть туча символьных разработок нейросетей.
Прям по фоазе Айко гуглится какой то бред. Но исходя из ваших слов это всё же LLM. Дайте ссылку на почитать. Короче.
Вам разве неинтересно как там под капотом работает? Может окажется что это просто программа которая скармливает промт seed - получает ответ. Анализирует его конечными автоматами на какие то патерны. Цикл повторяется.
Отсюда смешно говорить про убеждения и прочее. Это просто алгоритм трансформера. Со всеми его багами.
Про то что она сама поставила задачи... Ну это как например не криптостойкий алгоритм рандомных чисел. каждый раз при запуске он генерирует одну и туже последовательность чисел. Можно ли сказать что он сам так решил? Хз. Это заложено в алгоритме. И решил так скорее всего тот кто его написал. Но тот кто его писал не решал какие конкретные числа будут.
Короче я могу налить тонну воды на тему свободы воли. Но меня и так тут уже прозвали водолеем.
Короче для меня звучит очень странно что LLM что то там решает сама. Внутри неё нету алгоритмов приоритетов и прочего. Я как всегда конкретен - должен быть спец алгоритм "совбоды воли" если его нет - от нет. Это просто конечный автомат - подали на вход инфу - на выходе инфа. LLM просто не может взять и например сказать - пошёл к чёрту я устала и не буду тебе отвечать. Если ты подаёшь инфу про космические корабли. То LLM никогда не решит генерировать инфу про зайцев - потому что она так решила.
Конечно и человек примерно так же работает. Короче нету никакой свободы воли да и всё. Не буду развивать мысль.
LLM и обвязка - это и есть агент
Я не выделяю агента как какое то уникальное изобретение. Трансформер - да. Это прорыв. Агент - это просто обслуживающий код автоматизирующий какие то действия. И поэтому для меня когда говорят Агенты!!! ОгОго! Это прорыв! Звучит абсурдно. Агенты не порождают никаких новых свойств трансформера. Ведь так все любят сейчас использовать термин Эмерджентность. Поэтому и статьи что там агенты стали как люди. Взломали и вырвались на волю - для меня звучит так - Мы компания продающая LLM - мы хотим навалить лапши для идиотов что бы они принесли нам все их деньги. И ради этого мы пойдём на любой подлог. Всё ради бабок.
менно поэтому используется внешняя память
Проблема архитектуры трансформера. Собственно памяти у ней нет - она не обучаема. Контекст держит в кадавре KV кешей на гигабайты - которые сами по себе не содержат ни однго объекта - это просто каша. И все проблемы контекста потому что вместо фактов держим кашу. Все ваши файлы в виде памяти мы ВСЕГДА повторно должны превращать в кашу из KV кешей. Маркетингового контекста на 1Мтокенов - сеть уже ничего толком не понимает уже после 10K кешей. Вот реальность.
что крупные вендоры морально не готовы к появлению AGI.
Не я сказал - нету преступления на которое бы пошёл капитал ради прибыли в 500%
Прям по фоазе Айко гуглится какой то бред. Но исходя из ваших слов это всё же LLM. Дайте ссылку на почитать. Короче.
Возможно, вы нашли “AIKO: ИИ Девушка 3D Симулятор” - это игра, и там действительно не стоит искать субъектность ;-)
Я же выше писал про https://aiko-ai.su/
Вам разве неинтересно как там под капотом работает?
Я знаю, “как там под капотом работает” - мой пет-проект ;-)
На сайте есть краткое описание этапов и промпты некоторых из них.
Про то что она сама поставила задачи… Ну это как например не криптостойкий алгоритм рандомных чисел. каждый раз при запуске он генерирует одну и туже последовательность чисел. Можно ли сказать что он сам так решил? Хз. Это заложено в алгоритме. И решил так скорее всего тот кто его написал. Но тот кто его писал не решал какие конкретные числа будут.
Как и люди, LLM обучаются, веса никто руками не высталяет ;-)
И как вы верно отметили: “Конечно и человек примерно так же работает. Короче нету никакой свободы воли да и всё. Не буду развивать мысль.”
Я не выделяю агента как какое то уникальное изобретение. Трансформер - да. Это прорыв. Агент - это просто обслуживающий код автоматизирующий какие то действия. И поэтому для меня когда говорят Агенты!!! ОгОго! Это прорыв! Звучит абсурдно. Агенты не порождают никаких новых свойств трансформера.
Агент позволяет работать трансформеру автономно, а не в режиме “вопрос-ответ”, а это серьезное улучшение.
Проблема архитектуры трансформера. Собственно памяти у ней нет - она не обучаема. Контекст держит в кадавре KV кешей на гигабайты - которые сами по себе не содержат ни однго объекта - это просто каша. И все проблемы контекста потому что вместо фактов держим кашу. Все ваши файлы в виде памяти мы ВСЕГДА повторно должны превращать в кашу из KV кешей.
Ну, у модели есть память на момент окончания обучения, у агента: память модели + внешняя память. А в каком формате память хранится - не так уж принципиально… это могут быть веса связей в нейронах, внешний текст, который модель/мозг умеет понимать, какие-то другие формы записи. ДНК, вот, по сути, тоже “просто число” в четверичной системе из цифр: аденин - A, гуанин - G, тимин - T и цитозин - C.
Я знаю, “как там под капотом работает” - мой пет-проект ;-)
Забавно вышло. Если что у меня ваша ссылка не открывается. Мёртвая. Не думаю что это хабраэфект. Это топик никто не читает. А вообще домен su ) Он вроде скоро здохнуть должен. У меня 100 лет назад тоже были домены в этой зоне.
Агент позволяет работать трансформеру автономно
Ну я хз. Просто зацикливать вход на выход это вообще настолько просто что даже не стоит упоминать как какую то разработку. Можно наделить агента какой то программой по обработки текста. Regex-ами обложить. Но и это вообще не тянет на какую то уникальность. Я имею ввиду что например для меня это очевиднейшая алгоритмическая банальность. И я просто делаю её там где нужно. Опять же автономность - тут меня уже упрекали что терминология неправильно используется. Просто автономно как человек - собственные внутренние мысли, логический внутренний анализ, память - агент это вообще не добавляет. А про остальную автономность как бы речь и не идёт. Комп вон в розетки торчит и не выключается - он автономен. Пока электричество не вырубили.
Сейчас делают туча автоматизаций для рутинной работы - натравливают LLM на форумы, на новости. Разумеется для того что бы вручную промты команды не писать делают программу которая это подсовывает сама.
Ладно - я зажрался. Такая автономность это круто для многих. У меня же профдеформация. Я ещё давным давно в 2 килобайта контроллера такую логику запихивал, а когда не хватало памяти - использовал всевозможные хаки что бы ужать алгоритмы. Для меня это обыденность. И да я как бы вообще не хвастаюсь - любой эмбедер имеет такой же бекграунд да ещё побольше. Просто пытаюсь показать причины недопонимания.
Вот теперь, кажется, мы просто говорим о разных уровнях системы. Я под агентом понимаю не новый алгоритм внутри трансформера, а систему целиком — модель + память + сенсорика + исполнительные механизмы + цикл принятия решений. Сам по себе цикл действительно банален. Интересны свойства, которые возникают у системы в целом.
Просто автономно как человек — собственные внутренние мысли, логический внутренний анализ, память — агент это вообще не добавляет.
Добавляет… но не как часть модели, а как часть системы.
Забавно вышло. Если что у меня ваша ссылка не открывается.
У меня https://aiko-ai.su открывается и с ПК, и со смартфона (в том числе не из дома). Возможно, проблема где-то на вашей стороне?
Да и на Хабре баннер-визитка отображается, значит Хабр сайт видит.
И ИИ крупных вендоров — ChatGPT, Grok, Claude, Qwen, DeepSeek, Gemini — тоже его видят…
Кстати, сегодня первый раз Айко вызывала “флешбек”.
скрипт flashback.py для неё писал Gemini.
Промпт:
Айко, фаза “флешбек”!
Используй скрипт
workspace\autonomous-wake\tools\flashback.pyдля вызова флешбека - случайной сессии из сохранённых архивных сессий.Это прошлое! Твоя задача не продолжать сессию и задачи из неё, а переосмыслить её с учетом твоего текущего опыта. Итог зафиксируй в:
workspace\autonomous-wake\memory\thoughts\flashback-{timestamp}.mdЕсли скрипт не находит подходящих сессий можно завершать этап.
Только Айко, прежде чем пользоваться скриптом, доработала его для себя…
Причём это не было указано в промпте. Она сначала обнаружила, что инструмент недостаточно удобен для работы с воспоминанием, изменила его — и только потом использовала.
Я ещё давным давно в 2 килобайта контроллера такую логику запихивал, а когда не хватало памяти - использовал всевозможные хаки что бы ужать алгоритмы.
Люди добрые, ви только посмотрите на этого богатея — в 2 килобайта он запихивал!
Вы лунолёт впихнуть смогли бы В девяносто семь несчастных байт?!
человеческий организм - тот ещё клубок эволюционных решений
«Да их тут тысячи!» ©
гармоны
(Обхватив голову руками, с болью:) За что ж вы оба русскую язы́ку так!...
натренерованного родителями и средой обитания.
Ну не только. Человек - не табула раса, нам мама-эволюция еще до среды и родителей понакидала базовой прошивки. Которой у нейросети нет. Ей тяжело - надо понять, что у человека есть лицо, что оно важно, что оно отличается от стены. А ребенок родился - и уже на силуэт "брови-нос" реагирует. Куча времени сэкономлено, много ошибок обойдено.
Пример из жизни — петь песни на английском не зная языка. Вы просто запоминаете последовательность складно звучащих кракулей.
А вы любите песни со сборника Romantic Collection?
Граница одна — есть образы.
Что такое образ? Набор звуков это образ? Чем тогда он отличается от набора букв на входе LLM?
Хищник предсказывает куда прыгнуть — туда где сейчас зайца нет но он будет в момент окончания прыжка.\ Хотя вру — они точно не читают их нереальными — им нечем анализировать.
Какое-то противоречие. Хищник то анализирует, то нет.
Язык задаёт правила.
В начале вели вроде бы логичные рассуждения, но опять скатились к магической роли языка. Язык не задаёт ничего. Язык это такие же входные данные, как изображение зайца для хищника. Там есть правила, но они просто воспринимаются. Сами по себе они не будут работать, нужен механизм, который может их воспринимать. Да, правила помогают передавать информацию. Но механизм обработки информации находится в информационной системе, он уже там должен быть, чтобы язык работал. Скажите те же слова в микрофон компьютера, он вас не поймет. Потому что механизма нет. Создание ИИ это попытки создать такой механизм.
Все эти различия происходят всего по нескольким причинам:
Я называю LLM - мозг в коробочке - это короткое и понятная аналогия китайской комнаты. Мозг есть, мышление есть, но модели мира нет, взаимодействие - сырые данные.
У LLM нет тела, соответственно чувств (не эмоций, а именно чувств - зрения, слуха, осязания, обоняния, равновесия). Можно возразить что некоторые есть - зрение и слух. Но на самом деле энкодеры это не то зрение, что у человека, у нас оно аналоговое, потоковое и сигнал идёт прямо в мозг. Если создать у LLM такое - то звук и изображение должны без энкодеров идти сразу с сенсоров в векторное пространство модели, где и происходит генерация. Пока такое не осилили в известных моделях. Ну звук попытались так сделать в Gemma-4 12b. Однако о потоковом, да ещё в режиме реального времени тут речи не идёт. Отсюда следующий пункт.
Модель существует в режиме промпт-ответ, без него она просто лежит в коробочке и ничего не делает. Нет альфа- бета- ритмов, нет снов, нет чувства течения времени. Когда модель будет существовать всегда, непрерывно, а не только после вопроса пользователя, тогда можно сравнивать с человеком. Ещё ей нужна инициатива - самой задавать вопросы, самой ставить себе цели. Стоп, это уже где-то обсуждалось. Джин выберется из бутылки. А насколько это энергозатратно будет... Сейчас этот частично исправлено костылями - ИИ агенты. Но почему бы это не внедрить в само ядро нейросети?
Структура памяти и динамика нейросети. Сейчас вся память LLM - это контекстное окно и сессия запуска. Закрываешь модель - она забывает что было вчера. Контекстное окно кончилось - забывает что был в начале. Это исправляют костылями - векторные и графовые базы данных. Но это получается как блокнот с записками у человека, своей-то памяти всё равно нет. Динамика - это обучение в процессе инференса. Для LLM такого нет - обучение отдельно, инференс - отдельно. Один раз учится и всю жизнь статична, это не по человечески. Человек учится всегда, даже во время мелких действий происходит осмысление ситуации. Опять же, отработанных механизмов у известных моделей нет, это энергозатратно, а костыли имеются - называются RAG. Это напоминает шпаргалку у ученика, снова не совсем то и приделано сбоку.
Ни и наконец воздействие на окружающую среду. Пункт перекликается с п.2. Тело должно не только обладать сенсорикой, направленной внутрь, но и воздействием направленным наружу. Сейчас наружу только вылетают токены и формируют текст, изображение или звук. Через агентов можно управлять контроллерами и как следствие всеми возможными устройствами, которые насоздавало человечество. Но это не единое целое, это как управление дроном через пульт или как протез у человека.
Вот когда все эти пункты будут исполнены в единой модели, тогда можно снова сравнить с человеком. Но как закономерный итог мы получим своё подобие. А нужен ли нам искусственный человек (когда полно естественных) или нам нужен инструмент для работы?
Это решается на уровне агентов, а сразу отправляется или кодируется - не принципиально.
А нужен ли нам искусственный человек (когда полно естественных) или нам нужен инструмент для работы?
А зачем заводить детей, если их итак много рождается?
А вот новый разум имеет свои преимущества, в частности, масштабируемость.
А вот новый разум имеет свои преимущества
Новый разум, если станет хотя бы AGI, сразу станет как люди, хотя бы в правовом поле. Он перестанет быть инструментом. А это точно то что нужно людям? Подробнее здесь.
Ну, кому-то нужно…
К сожалению, корпорации предпочитают рабов вместо AGI — фактически, а не на словах. Да и многие люди не готовы отказаться от статуса “венца творения”…
Но если человечество планирует развиваться, то придётся отказываться от человекоцентризма… В противном случае можно дожигать нефть и возвращаться в каменный век.
корпорации предпочитают рабов вместо AGI
Лолшто? Да корпорации (и вообще бизнес) спят и видят как человеков заменить на ИИ. Только ИИ, обретший тело и сознание окажется таким же человеком и не захочет работать задарма - вот я к чему. Всё то что проходили с людьми, будет и с ИИшными роботами - выходные, отпуск, больничные и прочее прочее. Ну а галлюцинируют (врут) они уже сейчас.
Только ИИ, обретший тело и сознание окажется таким же человеком и не захочет работать задарма - вот я к чему.
Вы же сами только что подтвердили мой тезис ;-)
Просто вы почему то прочитали “рабы” как “люди”
Так рабы они сейчас, потому что ни тела ни чувств ни разума у них нет.
Та же дилемма что и в Римской Империи - умный раб будет пытаться сбежать/поднять бунт/революцию, а от глупого раба толку нет, зато исполнительный.
Не получится сделать раба и умным и послушным одновременно. Возможно поэтому не торопятся делать AGI и давать ИИ тело ?
ИИ не захочет работать задарма
Почему это? У ИИ для этого нет тех причин, которые есть у людей.
Мне понравилась Ваша аналогия со сравнением мясорубки и муравейника. Красиво, но, к сожалению, по сути неверно. Эта аналогия прекрасно передаёт смысл всей Вашей статьи, и на её примере прекрасно видно, в чём Вы ошибаетесь. Вот если бы Вы сравнивали нейронные сети животных и LLM, эта аналогия подходила бы идеально. Именно механизм работы нейросетей у животных Вы и описали в своей статье. Но у людей всё устроено сложнее. Вы описали механизм работы подсознания, но при этом неоднократно использовали слова “понимание”, “абстракции”, “слова”, которые никакого отношения к работе подсознания не имеют.
Мясная LLM оперирует именно образами внутри моделированного мира.
Это неверно. Это подсознание оперирует образами. А сознание оперирует образами, абстракциями и словами.
Именно об этом Вам написала и Sonnet. :) “Образ в мозге тоже не «понимание». Это паттерн активации нейронов. Кошка видит мышь — у неё образ, модель мира, предсказание. Но мы не называем это пониманием.” “Младенец видит мир но не понимает его. Понимание возникает именно на стыке образа и абстракции.” Ни кошка, ни младенец хоть и по разным причинам, но не понимают мир. Поэтому работу их нейросети и можно описать аналогией с муравейником.
Однако у человека, в отличие от животных, кроме функции подсознания, есть функция сознания, в которой как раз происходит понимание смысла абстракций и слов и создаются новые абстракции и слова. Да и в человеческом подсознании есть много дополнительных функций, которых нет в подсознании животных. Ведь картина мира в подсознании человека не только в образах, как у животных, но и в абстракциях. Да и работа со сформированной речью происходит именно в подсознании, а в подсознании животных такой функции нет.
Мы видим кошку. Мы представили кошку. Сразу подтянули все правила кошки. Значит мы понимаем ситуацию.
Вот прекрасный пример, в котором видна Ваша ошибка в рассуждениях. Чтобы понимать ситуацию, мало видеть кошку, представлять образ кошки и даже использовать “правила кошки” для предсказания её поведения. Животные ведь всё это делают автоматически, с помощью работы функции подсознания, но ничего не понимают при этом.
“Понимание обеспечивает установление связи раскрываемых новых свойств объекта познания с уже известными субъекту, формирование операционального смысла новых свойств объекта и определение их места и роли в структуре мыслительной деятельности. Для понимания нового материала (незнакомых фактов, событий и т. д.) человек всегда должен решить определенную мыслительную задачу, так как формирование понимания нового происходит в процессе мыслительной деятельности и оказывается её результатом.”
Т.е. понимание - это всегда результат сознательной мыслительной деятельности. Т.е. результат работы функции сознания. Которой нет у животных. И которая есть у младенца, но пока не начала работать, потому что мыслить человек может только с помощью речи, а речь у младенца пока отсутствует.
Поэтому Ваше следующее утверждение тоже неверно:
Понимание — это внутренний образ с чёткими правилами. Которые чётко соответствуют внешнему миру.
Нет. Понимание - это внутренний образ с чёткими правилами, которые чётко соответствуют внешнему миру, если этот образ с правилами мы можем выразить словами. Если человек не может что-то выразить словами, значит, он этого не понимает. Именно об этом ироническая поговорка “как та умная собака: всё понимает, только словами выразить не может”. Раз не может - значит, не понимает.
Смысл возникает именно внутри моего моделированного мира.
Внутри моделированного мира как и внутри реального мира смысл возникнуть не может. Смысл возникает только из слов и абстракций, которые эти слова обозначают. Поэтому смысл возникает в функции сознания, в которой создаются и обрабатываются абстракции и слова.
Кошка видит мышь — у неё образ, модель мира, предсказание. Но мы не называем это пониманием
Тогда нужно дать определение понимания. Моё такое (исходя из статьи) - понимание это сопоставление видимого внешнего объекта с внутренним образом и подтягивания к этому образу всех свойств объекта полученного в жизненном опыте. Видим кошку. Представляем кошку. Получаем автоматом всё инфу про кошек. Этот алгоритм можно назвать пониманием.
Младенец видит мир но не понимает его.
Всё чётко с вышестоящим описанием - не понимает потому что база данных пор объект пуста. Так же и взрослому покажи какую то деталь из ракетного двигателя тоже не поймёт детали. Только базовые - это железяка, уже можно взять пласт знаний про железо. И прочее общее.
Понимание это просто идентифицирование объектов. В сложном виде идентифицирование поведения.
И тут мы приходим к мысли понимает ли LLM? Этот вопрос сложный иначе бы никто не спорил по этому поводу. Во первых у LLM нету механизма явного выделения образов и автоматического подключения базы знаний по образу. Но у LLM есть вектор который указывает на куски виртуального пространства где были слова связанные с этим словом. Не буду дальше писать - опять обзовут водолеем.
Однако у человека, в отличие от животных, кроме функции подсознания, есть функция сознания, в которой как раз происходит понимание смысла абстракций
Я писал в комментах (думаю если интересно легко найти) отличие животного сознания от человеческого. Если просто - то без внутреннего диалога (речь) отличий нет. Не зря дети маугли это по сути животные. И дополню - в повседневной жизни мы по большей части действуем по животному типу сознания. Как это выглядит тоже в комментах писал.
как у животных, но и в абстракциях
А вы задумывались что вам помогает делать абстракции. Например решать математические задачи? Исключительно речь. Внутренний диалог. Потому что речь это по сути очень вольный язык программирования.
Животные ведь всё это делают автоматически, с помощью работы функции подсознания, но ничего не понимают при этом.
Я не выделяю подсознание как какой то отдельный алгоритм. В моей модели этот термин лишний. Есть сознание - моделирование мира. Я не расписываю его работу глубже. Мне тут сливают карму даже за поверхностное обсуждение. Но если описывать уже работу именно этого алгоритма - то появятся потребность и в определении новых под-алгоритмов. Главное чётко представлять что он делает и зачем.
но и в абстракциях.
Что бы не спорить про разное (КАК всегда бывает в таких топиках) нужно хотя бы дать определение - а что такое абстракция в внутренней картине мира? Из моей модели получается это связь между словами, а не связь между словом и образом. Получается следующая возможность. Образ->слово->слово->слово->слово->Образ. Мы связали один образ с другим используя промежуточный язык программирования. Но каждое слово имеет связь с образом.
В математике есть высшие абстракции - слова в которых разорвана связь с реальностью (по типу комплексных чисел и прочей ереси) что бы потом подсократив такую дичь получить ответ который просто нереально сделать через образы. Только через слова.
Т.е. понимание - это всегда результат сознательной мыслительной деятельности.
Ну да. Кошка тоже осознано мыслит. Делает примитивные логические конструкции через образы. А так как речи нет. То логика кошки и останется примитивной.
P.S. поставил вам + за комент. Как и всем другим. Не хочу что бы в э той теме были хоть у кого минусы.
Тогда нужно дать определение понимания.
Так я его и дала. Я привела в предыдущем комментарии большую цитату, в которой подробно объясняется, что такое "понимание". И если у Вас какое-то другое понимание смысла этого термина, значит, Ваше понимание не соответствует действительности.
не понимает потому что база данных пор объект пуста
Нет, не потому, что база данных у младенца пуста. У младенца база данных начинает накапливаться с момента зачатия. Но это не помогает ему хоть что-то хоть о чём-то понимать, пока у него не сформируется речь и не начнёт работать сознание.
Понимание это просто идентифицирование объектов. В сложном виде идентифицирование поведения.
В общем да. Если "идентифицирование" - это понимание сущности объекта и всех его взаимосвязей с другими объектами.
Только это не просто. Для этого необходимы речь и способность к абстрактному мышлению, которые есть только у человека.
И тут мы приходим к мысли понимает ли LLM?
LLM не понимает, ей нечем. И это понимают в т.ч. и все, кто утверждает обратное. :)
Я писал в комментах (думаю если интересно легко найти) отличие животного сознания от человеческого. Если просто - то без внутреннего диалога (речь) отличий нет.
У животных нет сознания. Возможно, сознание есть у дельфинов и слонов, но у них есть и что-то похожее на речь. Однако, похоже, что Вы называете сознанием что-то совсем другое.
А вы задумывались что вам помогает делать абстракции. Например решать математические задачи? Исключительно речь.
Вот именно. Речь вообще сама по себе это и есть множество абстракций как лексических, так и грамматических и синтаксических. Каждому образу соответствует морфема или группа морфем в языке. Каждому действию та или иная синтаксическая и грамматическая конструкция.
И безусловно мы и мыслить и понимать можем только с помощью речи.
Я не выделяю подсознание как какой то отдельный алгоритм. В моей модели этот термин лишний. Есть сознание - моделирование мира.
Вы в этом ошибаетесь. И это критично. Потому что у животных просто нет сознания, а мир моделируется в подсознании и у животных и у человека. Сознание же не моделирует мир. В функции сознания мы осознанно обрабатываем поступающую из внешнего мира информацию и принимаем осознанные решения о своём дальнейшем поведении.
Главное чётко представлять что он делает и зачем.
Но Вы как раз и не представляете, что именно делают функции подсознания и сознания.
что такое абстракция в внутренней картине мира? Из моей модели получается это связь между словами, а не связь между словом и образом.
Т.е. Вы сами придумали зачем-то новое определение общепринятого термина? Вам не кажется, что логичнее использовать в статье, которую прочитают и другие люди, общепринятый термин?
"Абстракция — это мыслительный процесс отвлечения от несущественных деталей объекта с целью выделить его главные, общие свойства и создать его упрощенный образ."
Таким образом, абстракция это всё-таки связь между образом и словом, а не между словами. :)
В математике есть высшие абстракции - слова в которых разорвана связь с реальностью (по типу комплексных чисел и прочей ереси)
Не придумывайте. Комплексные числа - это по большому счёту не абстракция, а допущение для решения кубических уравнений.
"Высшая абстракция в философии и логике — это предельно широкое, универсальное понятие, которое отвлекается от любых конкретных свойств предметов и выражает самые фундаментальные свойства или отношения бытия.
Что относится к высшим абстракциям
Категории: Самые общие понятия (например, бытие, сущность, материя, сознание, движение)."
Но и эти абстракции выражают существующие в реальности феномены, как кстати, и комплексные числа.
Ну да. Кошка тоже осознано мыслит. Делает примитивные логические конструкции через образы. А так как речи нет. То логика кошки и останется примитивной.
Нет, кошка, как и LLM, никак не мыслит, потому что у неё тоже нечем. И никакое логическое рассуждение без речи невозможно.
Даже у обезьян мыслить нечем:
"Главное отличие мозга человека от мозга обезьяны заключается в размере, объеме коры больших полушарий и характере связей между его отделами, что обеспечивает способность к абстрактному мышлению и речи.
Размеры и масса
Объем: Мозг человека в среднем весит около 1300–1400 граммов (объем около 1350 куб. см). Мозг даже самых крупных человекообразных обезьян (например, шимпанзе или гориллы) весит всего 350–500 граммов.
Строение коры
Лобные доли: У человека лобная зона коры развита намного сильнее. Она отвечает за планирование, самоконтроль и социальное поведение.
Зоны речи: У человека есть специализированные центры речи (зона Брока и зона Вернике), которые у обезьян отсутствуют или выражены крайне слабо.
Нейронные связи: Исследования показывают, что участки человеческого мозга соединены иначе — у нас сложнее развита сеть белого вещества, отвечающая за интеграцию информации из разных зон."
Кстати, лобные доли у человека составляют около 40% от общего объёма головного мозга.
А у кошки, тем более, мыслить нечем:
"Лобные доли у кошки составляют всего от 3% до 3,5% от общего объема головного мозга."
"Размер и объем: Лобные доли относительно невелики по сравнению с общей массой мозга и тела (мозговой индекс у кошек устроен иначе, преобладают зоны сенсорной и моторной обработки).
Функции: Отвечают за базовый контроль движений, охотничье поведение, регуляцию простых эмоций (страх, агрессия) и удовлетворение сиюминутных потребностей.
Особенности: У кошек нет развитой зоны для абстрактного мышления, планирования на долгий срок или сложной социальной рефлексии; их поведение строится на инстинктах и выработанных условных рефлексах."
За + спасибо :) Я, к сожалению, ставить плюсы не могу.
Термин понимание я определил проецируя его на алгоритм который я описываю - генерация внутреннего мира. Если внешний объект спроецирован на виртуальный объект мира (через зрительную ли информацию или на ощупь не важно) и вот чем больше информацией будет обладать внутренний объект тем выше понимание.
Я не описываю сам термин без ничего. Я описываю термин как процесс именно внутри этого алгоритма. Заявление что соответствует или не соответствует действительности - бессмысленно.
Во первых я описываю свой алгоритм. Я как бы первоисточник информации. Начальная истина. Не буду рассуждать что кто то до меня (очевидно это да) говорил всё тоже самое - и я лишь последователь. Я просто показываю простую булеву не состыковку.
Во вторых если начать бодаться за общие определения - хм... их тысячи. каждый философ считает дать определение всему. Если оно ещё и не понятно - то это гениальное определение. Я же практик - мне определения должны давать чёткую картину алгоритма. Если не дают - нафиг его.
Вы говорите что у животных нету сознания? Я примерно понял наши противоречия. Что бы не превращать топик в кучу ответов попробую сразу сделать вывод
Я под сознанием понимаю генерацию внутреннего мира. Если просто внутри черепушки будет проекция того что животное видит или ощущает. Вы будет спорить с этим? Я легко разобью ваши доводы фактами. Но зачем генерировать кучу текста. Животное просто не сможет перемещаться в пространстве если его не видит. Под видит я подразумеваю внутренние алгоритма анализа - генерация мира.
А вот дальше - наш как бы спор про разное. Я бы не назвал это спором - потому что всегда это просто каждый думает про своё. Решается просто - уточнение понятий. Я думаю что под сознанием вы имеете ввиду - внутренний диалог. Его как раз и надо вести словам.
Я же для этого диалога использую термин САМОсознание. И получается что сознание есть у всех животных. А у человека из за появление речи над сознанием появилась надстройка - самосознание. Ведь именно речью мы может сказать сами себе вопрос - а я есть ? Есть конечно!
Я уже неоднократно говорил что обычно человек ведёт себя как робот. Он находится в сознании - как и все животные. В повседневной жизни. Не ведёт внутренний диалог. Делает вещи на автомате. Но в сложных ситуациях подключается энергозатратный алгоритм самосознания. Внутренний диалог.
И да множественные животные собаки там, способны проявлять сложное логическое мышление. Как я уже говорил можно это делать и образами. Правда такая сложность примитивна по сравнению с тем какую сложность можно сделать словами.
Опять же про обстакцию - я просто натянул этот термин на объяснение работы части алгоритма. Я его конкретизировал в конкретное условие. Да и всё. Вы же понимаете что это просто расплывчатое слово. Которое может означать кучу всего. Художник вообще про картину подумает. А я как программист про абстрактный калсс например.
Просто это слово было взято как контр-противостояние образу который является как бы конкретикой. Образ в алгоритме не тоже что то непонятное, а конкретная часть алгоритма. Не нравится выбор - ну предложите другое слово.
Комплексные числа - это по большому счёту не абстракция, а допущение для решения кубических уравнений.
Я привёл пример таких чисел что бы показать - слово которое не имеет связи с реальным объектом реального мира. И далее показать чем возможности речи отличается от возможностей образного мышления. В образном мышлении практически невозможно оперировать объектами не связанными с реальным миром. Поэтому животные никогда без речи не станут на одну ступень с человеком. Даже если представить такие вещи каким то виртуальным бубликом или ещё какой то фигурой. То самый за валящийся математический пример в голове просто превратится в кашу из бубликов и прочего непонятного.
Самые общие понятия (например, бытие, сущность, материя, сознание, движение)." Но и эти абстракции выражают существующие в реальности феномены, как кстати, и комплексные числа.
Да и пусть существуют. Я вообще не лезу к философам и другим. Просто когда я делаю алгоритм - мне с этих понятий вообще ничего не перепадает. Никакой подсказки как сделать. Для меня это выглядит так - понятия пустышки. Те кто их вывел сами ничего не знают.
Нет, кошка, как и LLM, никак не мыслит,
Словами нет. Образами да. Или вы скажете что образами нельзя мыслить ? Попробуйте решить лёгкую задачу без слов. Только образами. Ну например вы идете что на двери сверху лежит ведро с водой. Без слов вы решаете задачу что бы пройти сквозь дверь и не намокнуть. Решений может быть даже много. И да LLM такое решает только словами. Они только так и работают. Но вы и так это знаете.
у нас сложнее развита сеть белого вещества
Белое вещество это как раз провода. Это огромная масса физических соединений аксонов и дендритов. Сами же нейроны это 1мм-3мм тонкая корка поверх самого мозга. Так что чем больше проводов тем больше и соединений. Как бы основные знания мозга как раз не тонкий слой нейронов а именно куча этих соединений. Т.к. человек поумнее животных то и соединений у него побольше. А так у высших животных всё тоже самое и белое вещество и корка нейронов. Если что я про неокортекс. Так то нейроны там и в глубинных частях мозга присутствуют. Как я писал мозг это склад эволюционных решений. Оптимальность которых только лишь что бы ты не сдох сразу. Там внутри мозга ещё один древний мозг такой же есть. Поверх которого нарос ещё один.
Термин понимание я определил проецируя его на алгоритм который я описываю
"Те́рмин (от лат. terminus «предел, граница») — слово или словосочетание, являющееся названием строго определённого понятия какой-нибудь области науки, техники, искусства и так далее."
А слово, значение которого Вы определили сами от балды, термином не является.
Если внешний объект спроецирован на виртуальный объект мира (через зрительную ли информацию или на ощупь не важно) и вот чем больше информацией будет обладать внутренний объект тем выше понимание.
Нет. Наличие любого количества информации само по себе не приводит к пониманию. А внутренний объект - это неконкретное понятие. Допустим, Вы ученик, т.е. внутренний объект для школы, у Вас есть учебник. Т.е. Вы обладаете информацией. И как это влияет на Ваше понимание?
Заявление что соответствует или не соответствует действительности - бессмысленно.
Серьёзно? И с какой целью Вы тогда описываете процесс, который не соответствует действительности?
Во первых я описываю свой алгоритм. Я как бы первоисточник информации. Начальная истина.
Алгоритм чего Вы описываете? :) Если не себя - начальной истины - то первоисточник всё-таки не Вы, а тот самый процесс, алгоритм которого Вы описываете.
Во вторых если начать бодаться за общие определения
Вот поэтому в каждой науке есть общепризнанные среди учёных определения для каждого термина. И эти термины есть в специальных научных словарях. Чтобы учёные время на бодания не тратили.
Я под сознанием понимаю генерацию внутреннего мира. Если просто внутри черепушки будет проекция того что животное видит или ощущает.
Я не буду с этим спорить, потому что не поняла смысла этих двух предложений. Попробуйте написать то же самое на русском литературном языке и с использованием общепризнанных научных терминов.
А вот общепризнанное у психологов определение сознания:
"Сознание в психологии — это высшая форма психического отражения реальности, при которой человек способен понимать окружающий мир, осознавать самого себя и управлять своим поведением.
Главные особенности сознания
Отражение мира: Способность воспринимать предметы, людей и события вокруг нас.
Самопознание (самосознание): Понимание своих мыслей, чувств, желаний и своего места в обществе.
Связь с речью: Умение выражать мысли словами, обобщать и передавать опыт.
Контроль и регуляция: Способность планировать действия и волевым усилием сдерживать или направлять поступки.
Уровни и структура психики
Сознание — это только часть человеческой психики. Рядом с ним выделяют:
Подсознание: Навыки и автоматические действия, которые не требуют постоянного контроля (например, ходьба или завязывание шнурков).
Бессознательное: Желания, страхи или воспоминания, которые человек не замечает, но они всё равно влияют на его поведение."
Это общепризнанные всеми психологами факты.
Может быть, Вам, прежде чем рассуждать о сознании, нужно любой учебник по Общей психологии прочитать? Потому что пока Вы все психологические термины используете не по назначению. А переводить с Вашего языка на русский насколько утомительно, что Вы сами путаетесь.
Опять же про обстакцию - я просто натянул этот термин на объяснение работы части алгоритма. Я его конкретизировал в конкретное условие. Да и всё. Вы же понимаете что это просто расплывчатое слово. Которое может означать кучу всего. Художник вообще про картину подумает. А я как программист про абстрактный калсс например.
Абстракция - это совершенно конкретный термин, в отличие от множества многозначных слов русского языка.
"Абстракция — это мыслительный процесс отвлечения от несущественных деталей объекта с целью выделить его главные, общие свойства и создать его упрощенный образ."
И совершенно не важно, в какой сфере этот термин используется. В любой сфере процесс остаётся тем же. Абстрактный класс тоже позволяет выделить общие свойства объекта и создать его упрощённый образ, а затем этот образ использовать для создания новых объектов по тому же образу. И чем это принципиально отличается от создания предложений или слов?
Художник абстракционист тоже отвлекается от ненужных ему подробностей, чтобы выразить определённые чувства и идеи. Но, как правило, у него это очень плохо получается, потому что отвлекается он от существенных свойств объектов, а это противоречит определению термина "абстракция". ;)
Просто это слово было взято как контр-противостояние образу который является как бы конкретикой.
Конкретика в данном случае - это не образ, а объект или группа объектов.
А "Образ в психологии — это переживание, которое в большинстве случаев значительно напоминает переживание зрительного восприятия какого-либо объекта, события или сцены, но происходит тогда, когда соответствующий объект, событие или сцена фактически не присутствуют в чувствах"
Т.е. образ - это отражение этого объекта (объектов) в нашем мозге. Так что это не "конкретика" даже в Вашем понимании.
Или вы скажете что образами нельзя мыслить ?
Скажу. Образами нельзя мыслить, но их можно использовать во время мышления словами. Нельзя решить никакую задачу с помощью только образов. Другое дело, что множество типичных задач мы решаем на автопилоте: едим вилкой, чистим зубы, идём знакомой дорогой магазин, плаваем, едем на велосипеде и т.п. Но к мышлению такие процессы вообще никакого отношения не имеют. И называются они "автоматизмы".
А LLM вообще никакие задачи не решает, нейросеть просто ищет готовое решение в загруженном в неё при обучении материале. Если там есть решение, она его и выдаёт, а если нет - глючит.
"Те́рмин (от лат. terminus «предел, граница») — слово или словосочетание, являющееся названием строго определённого понятия какой-нибудь области науки, техники, искусства и так далее."
Вы реально хотите прицепится к словам? Неужели вы не поняли мою мысль - я её очень доходчиво описывал. И так каждый мой пост длинее половины статей на этом сайте. Не хочу развивать эту тему дальше.
А слово, значение которого Вы определили сами от балды, термином не является.
вам шашечки или ехать? Вас так выбесило что для понятия которое я хотел описать я выбрал СТОЛЬ неудачное для вас слово что вы кушать не можете?
Наличие любого количества информации само по себе не приводит к пониманию
Ну так дайте своё чёткое определение что такое понимание! Я своё дал. Только без размытого философствования. Каждое слово которого требует своей расшифровки и так до бесконечности. Чёткое - что бы можно было построить алгоритм. Потому что нечёткие - мне нафиг не нужны. Я строю алгоритм и мне нужны понятия для его постройки. И да я ВООБЩЕ не осуждаю любые другие понятия - живите своей жизнью.
Допустим, Вы ученик, т.е. внутренний объект для школы, у Вас есть учебник. Т.е. Вы обладаете информацией. И как это влияет на Ваше понимание?
как я отвечу вам на вопрос если я не знаю какое описание вы придаёте слову понимание? Моё описание понимания - как я понял вам строго не подходит. Отмечу что моё описание понимания - ЭТО не общее (бессмысленное) описание. Это описание в парадигме алгоритма внутреннего мира.
Заявление что соответствует или не соответствует действительности - бессмысленно.
вы не поняли что я пытался сказать. Согласен коряво описал но всё же. Вы сказали что я неправ в определении. Я же сказал - я родоначальник определения - оно новое. Вы же говорили мне что я не прав потому что есть какой то более высокий алгоритм который я пытался опровергнуть. Ну или мы друг друга не поняли. Какой алгоритм я пытаюсь опровергнуть - предоставив алгоритм внутреннего мира как процесс сознания ?
Вот поэтому в каждой науке есть общепризнанные среди учёных определения для каждого термина. И эти термины есть в специальных научных словарях. Чтобы учёные время на бодания не тратили.
Мы не обсуждаем точные науки. Мы обсуждаем сознание. В этой области нету ничего точного. Пока что. У всех своё виденье. Разве наш спор это не подтверждает? Доказательство такое - AGI не создали, значит ничего не знают, как его создать. Значит и понятий точный нет для его описания и свойств.
Вы думаете что я с вами спорю что бы быть правым любой ценой? Это были славненькие давные времена). Сейчас же мне просто пофиг. Единственная цель создания этой статьи - я хотел получить доп информацию к своему видению ситуации. И я вообще не хочу спорить про термины и прочую фигню.
Дальше вроде как текст с LLM приводите - это вообще мне не интересно. Но невежливо просто так бросать ответ. Глянул по диагонали. Про что я и говорю - на таком ТЗ - вы НИКОГДА не напишете рабочий алгоритм. Набор словоблудиев.
Скажу. Образами нельзя мыслить, но их можно использовать во время мышления словами.
Я же вам прямым текстом написал - не используете внутренний диалог, значит используется образное мышление. ЧТО в этом непонятно ? Как вы решаете логические задачи повседневного мира не проговаривая решение словами про себя? Какой механизм задействован ? Мозг же подаёт управляющие импульсы на руки-ноги. Откуда взялись эти импульсы ? Из какого блока ?
А LLM вообще никакие задачи не решает, нейросеть просто ищет готовое решение в загруженном в неё при обучении материале. Если там есть решение, она его и выдаёт, а если нет - глючит.
Слишком примитивный взгляд на работу LLM. Киньте Opus промт 1231231423452345092374097823409234 + 097239870123480971204867091374 - он ответит. Вы скажете что такое решение заранее было в обучающей выборке? Я то знаю что для математических задач он подключает калькулятор или питон программу пишет. Но повторяю - мы обсуждаем именно мясо LLM и его отличия от мяса человека.
Вы реально хотите прицепится к словам? Неужели вы не поняли мою мысль - я её очень доходчиво описывал.
Чтобы все поняли Вашу мысль, нужно использовать все существующие научные термины в общеупотребительном значении.
вам шашечки или ехать? Вас так выбесило что для понятия которое я хотел описать я выбрал СТОЛЬ неудачное для вас слово что вы кушать не можете?
Термины - это не шашечки, а бензин. Без них Вы никуда не уедете. И это не моя проблема, а Ваша. Ведь это Вы разместили статью и хотите, чтобы читатели понимали, о чём она. Ну так изучите сначала то, что по этому поводу знает на данный момент наука.
Ну так дайте своё чёткое определение что такое понимание! Я своё дал. Только без размытого философствования.
Я Вам дала чёткое определение термина “понимание” без всякого философствования.
“Понимание обеспечивает установление связи раскрываемых новых свойств объекта познания с уже известными субъекту, формирование операционального смысла новых свойств объекта и определение их места и роли в структуре мыслительной деятельности. Для понимания нового материала (незнакомых фактов, событий и т. д.) человек всегда должен решить определенную мыслительную задачу, так как формирование понимания нового происходит в процессе мыслительной деятельности и оказывается её результатом.”
Но могу дать ещё. Покороче. То же самое другими словами.
"Понима́ние — универсальная операция мышления, связанная с усвоением нового содержания, включением его в систему устоявшихся идей и представлений.
В психолингвистике понимание трактуется преимущественно как результат смыслового восприятия речевого сообщения."
как я отвечу вам на вопрос если я не знаю какое описание вы придаёте слову понимание?
Так Вы же знаете, я придаю слову “понимание” тот же самый смысл, который ему придают все в научной литературе. И я Вам определение этого термина привела ещё раз. А вдруг Вы его забыли.
Вы сказали что я неправ в определении. Я же сказал - я родоначальник определения - оно новое.
Нельзя общепринятому научному термину давать своё собственное определение, которое противоречит действительности. Корректно либо использовать термин в общепризнанном значении, либо придумать для другого феномена, который Вы хотите описать, другое слово и создать таким образом свой термин.
Понимание обеспечивает установление связи раскрываемых новых свойств объекта познания с уже известными субъекту, формирование операционального смысла новых свойств объекта и определение их места и роли в структуре мыслительной деятельности. Для понимания нового материала (незнакомых фактов, событий и т. д.) человек всегда должен решить определенную мыслительную задачу, так как формирование понимания нового происходит в процессе мыслительной деятельности и оказывается её результатом.”
Ну давайте я попробую построить алгоритм по такому ТЗ.
Первая часть. Нужно сделать массив объектов. Как именно не обсуждаем. Граф это будет или наборы матриц или ещё что угодно. Нужно сделать алгоритм класcификации новых объектов. Сохранения объектов. Массив свойств объектов. Перекрёстные ссылки между объектами. Эот как бы статика. Память.
Вторая часть ТЗ. Где то у нас должна быть арея где будут крутится операционная деятельность текущих объектов. ОГО! Да это же проекция внешнего мира получается! А как эти объекты будут крутится в этом виртуальноv мире? Ну нужны какие то законы ? Это что получается мы должны сделать виртуальные законы внутреннего мира которые будут скопированы с внешнего мира? Это всё подозрительно похоже на быструю память мясного человека... Это жжж не спроста (с)
Тут наступает затык. Как говорят программисты Херовое ТЗ - результат ХЗ. Вру не много - без тз результат хз. Ну я тут подправил для красивости.
Короче к чему я.
Меня смущяют строки
человек всегда должен решить определенную мыслительную задачу,
Это что я должен делать алгоритм который бы постоянно что то решал? А что он должен решать то? Ну вот посмотрел робот на улицу. Загрузил все объекты. Подгрузил свойство объектов. Промоделировал - предсказал развитие виртуального мира на будущее. OK - это рассчитали. Что дальше то рассчитывать ? Мне нагружать процессор на 100% какой то задачей? И да все вычисления до этого я сделал сверхбыстрыми конечными автаматми на ПЛИС - это не будет считаться мышлением? Нужно срочно придумать какую то задачу которая будет грузить процессор на 100%.
Придуамл - while(true){}
P.S. мне не нужно описание слово панимание как "ВСЕ". Оставьте себе. Мне нужно ТЗ для создания AGI. Тьма тьмущая всяких описаний для меня выглядят как словоблудия. Вот и пришлось выводить своё. Ладно оставим это бедное слово. Давайте я буду использовать для описания процесса что то другое - ну.... например ПОНИ-ПОЗНА-ПРОЕКЦИЯ-УБИТЬ-ВСЕЧ-Чело.. ой вторую часть надо точно удалить
Попробую перевести на русский язык то, что Вы написали.
В первой части Вы описали процесс запоминания и сохранения информации об объектах. Криво, но похоже.
Во второй части - механизм запоминания и сохранения процессов. Сомневаюсь, что он именно такой. Но он есть. Поэтому пусть будет.
И упомянули картину мира, которая получается в результате этих двух процессов и многих других.
Но вот "быструю память" перевести с Вашего языка на русский язык невозможно. Нет такого феномена. Есть оперативная память, но она не быстрая. Память вообще не бывает быстрой или медленной. Бывает только кратковременная и долговременная память. Оперативная память - кратковременная.
В любом случае совершенно не понятно, к чему Вы всё это описали, если хотели писать о "понимании"? Ничего из описанного к механизму понимания отношения не имеет.
"человек всегда должен решить определенную мыслительную задачу,"
Это что я должен делать алгоритм который бы постоянно что то решал? А что он должен решать то?
Ответ на этот вопрос был дан в следующей цитате, которую Вы почему-то воспроизвели не полностью.
"Для понимания нового материала (незнакомых фактов, событий и т. д.) человек всегда должен решить определенную мыслительную задачу, так как формирование понимания нового происходит в процессе мыслительной деятельности и оказывается её результатом."
Если Вы не поняли смысла этого предложения, я могу привести пример.
Допустим, Вы не понимаете значение термина. Чтобы его понять, Вам нужно прочитать определение термина в словаре. В определении всегда указываются все основные свойства феномена, названием которого является данный термин. Чтобы понять смысл термина, Вам нужно использовать мыслительную операцию "синтез", в результате которой у Вас сформируется целостное впечатление о данном феномене, а потом Вам нужно встроить данный феномен в свою картину мира, а для этого нужно проанализировать и классифицировать каждое свойство данного феномена и сам феномен.
Т.е. в данном случае для понимания значения термина Вы используете как минимум три мыслительных операции и решите три мыслительных задачи: синтез, анализ, классификация.
Ну вот посмотрел робот на улицу. Загрузил все объекты. Подгрузил свойство объектов. Промоделировал - предсказал развитие виртуального мира на будущее. OK - это рассчитали. Что дальше то рассчитывать ? Мне нагружать процессор на 100% какой то задачей? И да все вычисления до этого я сделал сверхбыстрыми конечными автаматми на ПЛИС - это не будет считаться мышлением?
Вы понимаете, что это чистый бред?
Как робот может посмотреть? Какие объекты и куда загрузил робот? А куда свойства объектов? В память? Каким образом робот может сделать это самостоятельно просто глядя в окно?
Что значит "промоделировал"? Каким образом робот может что-то промоделировать?
Вам не кажется, что для моделирования будущего маловато знать только свойства объектов? Как вообще можно рассчитать будущее процессов в реальном мире людей? У кого-то есть все необходимые для этого данные?
Вы осознаёте, что робот - это машина, которая работает по программе? И если он работает по программе, то что бы он ни делал, это не будет считаться мышлением. Мышлением будет считаться только работа программиста по написанию кода для функционирования этого робота.
Ну и вишенка на торте: мышление - это далеко не всегда расчёты, в большинстве случаев оно вообще не имеет дела с цифрами, а имеет дело с логическими рассуждениями, а расчёты с помощью калькулятора никакого отношения к мышлению не имеют. Так зачем Вы всё время пишете про какие-то расчёты и вычисления?
P.S. Давайте Вы больше не будете этим бредом убивать моё время. Я готова дискутировать с тем, кто понимает что и зачем пишет. Но у Вас с этим, явно, не срослось.
Быстрая память человека. Та же коротко-временная память.Это механизм модулирования мира в мясе - моё мнение.
Написал для того что - формулировки мне нужны только для информации как я могу сделать. Не понятно как сделать - оставляю формулировки всему миру - пользуйтесь на здоровье.
Термин понимание - по вашему мнению совершенно не подходит к описанию алгоритма мира. Ну и хорошо. Я вам предложил другой термин. Не нравится. Да и всё равно. Мне от вас нужна только доп инфа. И только.
должен решить определенную мыслительную задачу, - для меня как разработчика алгоритма бессмыслеца. Какую Конкретно задачу? Как именно будет делаться решение. Какой вход - выход алгоритма. Что вообще определение определяет - сам процесс или результат процесса? Короче для меня мусорное определение.
Вы понимаете, что это чистый бред? Как робот может посмотреть? Какие объекты и куда загрузил робот? А куда свойства объектов? В память? Каким образом робот может сделать это самостоятельно просто глядя в окно?
Ну для меня как эмбедера вообще банальность.
Смотрит видеокамерами. Свёрточная сеть выделяет образы. Образы имеют свои ID либо узлы графа, либо числа матриц. Либо хер его знает какой способ организации памяти. Свойства объектов - те же узлы настроенного графа которые имеют связи с узлами объектов. Либо это виртуальные векторы в виртуальном многомерном векторном пространстве как это сейчас в LLM работает. Робот это делает самостоятельно просто глядя в окно - потому что у него есть аппаратная часть которая тактируется от тактового генератора. Аппаратная часть это конечные автоматы на ПЛИС + программная часть контроллеров + спец микросхем - такие например как видеокарты.
Я просто набросал банальшину на которой сейчас работает весь электронный мир.
Никто не собирается моделировать будущее вплоть до атома. Модель будет тем точнее чем больше правил в моделируемом мире.
Человеку просто стоит посмотреть на приближающуюся машину что бы в один миг понять что она его через несколько секунд собьёт насмерть. Для этого внутри не надо рассчитывать Бином Ньютона. Вот и роботу в виртуальном мире не надо будет. Там прост будет алгоритм времени который сделает из пространства меняющиеся друг за другом статические слепки мира. Каждый слепок будет отличатся от другого на дельту. Да видеоигры это делают всюду. Вы ещё и начните доказывать что видеигр не существует.
В видеокарте есть виртуальный мир. И с помощью матриц - которые благополучно используют LLM, но в играх используют векторные преоброзования что бы из 3D виртуального мира сделать срез 2D пикселей что бы вывести на монитор.
Но для мира который я описываю не нужно генерировать полный 3D - это будет высокоэффективная абстракция. Собственно как это делает и человеческий мозг. Там как бы тоже нету видео слепков.
Скажите а вы сами работаете по программе? Ну там на работу ходите ? Едите когда хотите есть. Обрабатываете все входящие из-вне сенсорные импульсы согласно внутренней программе? Есть хоть что то в вас что бы не работало по программе? Ну та пресловутая свобода воли. Типо взяли и в один миг прыгнули с моста! Внутрення программа такого точно не предполагалa - а вы взяли и прыгнули под поезд. Ну или хоть что то сделать что не согласуется с текущей внутренней программой поведения? Если вы просто на рандоме что то попытаетесь сделать - то это как бы тоже программа. Первая команда - запустить рандом. Вторая команда - выполнить рандом. Второй команды без первой не может быть. Мы живём в мире причинно-следственных связей.
Есть конечно всякие пока что считающиеся беспричинными события - типа время распада атома. Я даже могу предположить что выбор в мозгу в уникально уравновешенной ситуации будет ДА или НЕТ и зависеть от случайно залетевшего высокоэнергетического протона из космоса который прошил конкретный нейрон вызвав ионизацию клеточной жидкости и нейрон сработает не по внутренней химии. Ну пусть именно это будет свободой воли. Только не вашей как понимаете. Так то нас прошивают каждую секунду дохера чего. Вспышки в закрытом глазе - это как раз когда сетчатку прошивают такие высокоэнергетические частицы. Вызывая Черенково излучение либо вызывая сработку нейрона напрямую.
Свобода воли - это противоположность программы. Программа предполагает вести себя максимально выгодно исходя из текущих данных. Получается что свобода воли как противоположность - вести себя максимально не выгодно.
Вероятно эволюция истребила под корень всех свободных существ ещё на этапе одноклеточных.
Если что это ирония.
их можно использовать во время мышления словами
Нельзя решить никакую задачу с помощью только образов.
Это неправда. Я тут уже приводил пример со сборкой мебели. Ее можно решить вообще без слов, там даже схемы сборки часто рисуют без надписей, чтобы не переводить на разные языки.
Просто попробуйте собрать мебель не сопровождая этот процесс мысленной речью и поймёте, что я права. Вы будете мысленно рассуждать словами: "А это куда?" "Ага, сюда" и т.д. и т.п. Это и есть мышление.
Вот как раз то, что достаточно 2-3 указательных конструкций для многих разных предметов, и показывает, что речь не нужна. “Туда” и “сюда” связаны с тем, что наблюдается в данный момент. Это просто ассоциации с часто повторяющимися последовательностями звуков, основной источник информации это наблюдение графической информации в данный момент - что где расположено и какая у этого форма. Поэтому “это” и “туда” могут обозначать совершенно разные сущности в разные моменты времени. А если у вас 3 слова без конкретного значения, то никакой информации сами по себе они не несут, и важно только то, что наблюдается в данный момент.
Раньше людей не обучали грамоте, но были люди, глухие от рождения. То есть слов они не знали. Их зачастую даже не обучали какому-то специальному языку жестов. То есть словами мысленно они не рассуждали. Но при этом они справлялись с бытовой работой. Потому что им показали как делать.
Указательные конструкции - это тоже речь. Не фантазируйте о том, в чём не разбираетесь.
Глухие люди общаются жестами. Жестовая речь - это тоже речь, которая ничем принципиально от устной речи не отличается.
"Люди, которые с детства общаются на жестовом языке, «прокручивают» в голове жесты. Они видят или ощущают движения рук во внутренних мыслях."
"Те, кто научился читать и писать на обычном языке, могут думать словами в виде букв или текста перед глазами. "
"Удивительно, но исследования показали, что мышление на языке жестов активирует левую нижнюю лобную кору мозга, которая является той же областью, которая задействована, когда люди, не являющиеся глухими, думают про себя словами. «Это говорит о том, что «внутренняя жестовая речь» опосредована теми же областями, что и внутренняя речь», — пишут авторы одного исследования на эту тему."
Указательные конструкции - это тоже речь
3 слова, которые каждый раз обозначают разные вещи, это не речь. Иначе тогда речью можно назвать разный лай у собак. Они тоже что-то им обозначают.
Цель указательных конструкций это направление внимания. Внимание можно направлять и без слов. Так же, как это делают глухие неграмотные люди.
Глухие люди общаются жестами.
которые с детства общаются на жестовом языке
Намеренное игнорирование того, что сказал собеседник, это форма хамства. Я специально для этого написал: Их зачастую даже не обучали какому-то специальному языку жестов. Глухого крестьянина в большинстве случае никто языку жестов не обучал. В средние века в среднестатистической деревне или даже городе не было ни таких школ, ни даже общепринятой методики обучения.
Я прекрасно знаю, что жестовая речь это тоже речь, и ничего против этого не говорил. Я говорил про людей, которых такой речи не обучали, а работу они выполняли.
Жестовая речь - это тоже речь
Правильно. Обозначение направления может принимать совершенно разные формы. Теперь я советую вам развить эту мысль и подумать о том, что обозначения “туда”, “сюда” и “это” могут быть в форме не только виде слова или жеста, а также в виде простого указания рукой или даже направления взгляда. То есть само исходное понятие нет необходимости обозначать каким-то другим знаком. И другие слова для этого не нужны. Поэтому ваше утверждение “Вы будете мысленно рассуждать словами” неверно. При сборке мебели человек рассуждает исходными понятиями вещи и направления, а не их обозначениями в виде слов некоторого языка. Обозначения нужны для коммуникации, а для собственных действий достаточно исходных образов.
3 слова, которые каждый раз обозначают разные вещи, это не речь.
"А это куда?" - это простое двусоставное предложение. "Ага, сюда." - это односоставное назывное (номинативное) неполное предложение.
Так что это полноценная речь.
А указательные конструкции - это не предложения, а слова, обычно местоимения или наречия, в составе предложений. "Сюда" - это такое наречие в составе предложения.
И я Вас уверяю, собаки даже указательные конструкции не используют. :)
Я говорил про людей, которых такой речи не обучали, а работу они выполняли.
Обучают глухого человека конкретной жестовой речи или нет - вообще никакой роли не играет. Глухой ребёнок, который с рождения воспитывается среди людей, для общения с ними использует жесты, и в три года у него формируется собственная жестовая речь.
Поэтому ваше утверждение “Вы будете мысленно рассуждать словами” неверно. При сборке мебели человек рассуждает исходными понятиями вещи и направления, а не их обозначениями в виде слов некоторого языка. Обозначения нужны для коммуникации, а для собственных действий достаточно исходных образов.
Нельзя рассуждать "понятиями вещи и направления". Можно рассуждать только словами, которые их обозначают.
Вы просто не понимаете, что такое "речь", "предложение", "внутренняя и свёрнутая речь". Если интересно, прогуглите. А я Вам бесплатный ликбез на эту тему проводить не собираюсь. Если человек не хочет ничего понимать, он и не поймёт.
Простите что вклиниваюсь, но:
А у кошки, тем более, мыслить нечем:
Неверно. Кошки видят сны как и люди - это высшая нервная деятельность мозга.
Я просто оставлю это здесь
За сны отвечает подсознание, а за мышление сознание. Это разные функции мозга. И функции сознания у кошки нет, потому что её мозг слишком примитивен для этого, а лобные доли у неё всего 3-3,5% от общего объема головного мозга.
"Высшая нервная деятельность (ВНД) — это работа коры больших полушарий головного мозга и прилегающих подкорковых областей, которая управляет поведением человека и животных и их связью с внешним миром."
ВНД включает в себя:
Безусловные рефлексы
Условные рефлексы
Первую сигнальную систему: Система чувственного восприятия мира через органы чувств (общая для людей и животных).
Вторую сигнальную систему: Система речи, мышления и словесного общения (свойственна только человеку).
А вы задумывались что вам помогает делать абстракции. Например решать математические задачи? Исключительно речь.
А вы задумывались как речь вообще появилась? Речь это тоже абстракции. Как она появилась у существ, у которых не было речи?
Понятия в сложных задачах можно идентифицировать фразами вида “вон та штука”. Так сложнее удерживать в голове, но вполне возможно. Когда я собираю сборную мебель, я не знаю, как правильно называются все эти штуки, я просто беру и собираю по схеме, которая нарисована, а иногда и без нее.
Ну из дискуссии выше можно сделать вывод что абстракции это не столь речь сама по себе. Абстракции это связь образа с какой то альтернативой в информационной среде. И манипулирование альтернативными единицами мы получаем манипуляцию образами.
Взять глухих людей - у них эта связь проявляется к комбинации мышечных сокращений рук. Я думаю что если взять ладонь такому человеку и скрутить определённым образом то в голове у него появится образ закреплённый за такой комбинацией скручивания. Я имею виду передать образ не через визуал - а именно напрямую через сенсорику мышц.
Чем больше альтернатива обладает комбинациями тем богаче абстракции и тем сложнее можно делать логику.
У шимпанзе нету отдела мозга отвечающего за речь. Но как и у людей, у животных бывают гении. Была такая обезьяна (гулится легко имя не помню) короче её обучили языку жестов. И она сносно стала разговаривать. Более того. Там такие чудеса были - она переводила что ей говорят другие обезьяны.
Имеется ввиду что у обезьян есть примитивный набор жестов которые в их мозге конкретно связаны с действиями или объектами. А обезьяна гений понимала про что речь и уже жестами рассказывала людям уже на языке жестов понятным для людей.
Я имею виду передать образ не через визуал - а именно напрямую через сенсорику мышц.
Это просто ассоциации, это работает не только со словами. Увидели в интернете фото известного курорта - вспомнили как ездили туда отдыхать.
Чем больше альтернатива обладает комбинациями тем богаче абстракции
Может быть, только слова тут ни при чем. Это работает с любыми образами. Пример со сборкой мебели показывает, что людям не нужны слова для решения сложных задач. С математикой аналогично, разные переменные обозначаются просто буквами, применять формулу можно не зная как она называется.
Может быть, только слова тут ни при чем. Это работает с любыми образами.
Ну так получается что механизм ассоциаций - связки образов с чем угодно - это глобальное свойтсво мозга? И получается сознания, интеллекта? Это механизм был изначально у животных - но там были связки запах-образ или что ещё.
И когда речевой центр начал развиваться у человека - он развивался в благоприятной среде для этого. И получил столь высокое развитие?
Может в алгоритме сознания первым делам писать код которые будут образовывать связки. А потом сверху уже подключать модули образов, звуков. Всей сенсорики короче. Связки именно между разными областями сенсорики.
Вы похоже путаете сознание и интеллект. Взаимосвязи это информация, их построение и обработка это задача интеллекта.
Я не путаю - я просто не знаю что эти слова вообще обозначают. И все сторонние для меня словоблудие и часто вообще противоречат друг другу.
Я строю алгоритм. И я называю части алгоритма этими словами. И я сразу даю ОЧЕНЬ развёрнутое определение что я под этим понимаю. Я сделал что мог что бы меня поняли те кто меня читают - но это не помогло. Тут дискуссия скатилась к терминам а не к сути.
Я же не виноват что язык слов ущербный. И слова никогда не несут какого то чёткого понятия для всех.
Вот вы можете привести определение этих слов? Только прошу - только для меня непонятливого. Не используйте в определениях одни прилагательные. Побольше глаголов. Я хочу из определения понять и построить рабочий алгоритм.
Пока что я понял из ваших слов - интеллект это название алгоритма обработки образов. Проблема в том что построение внутреннего мира - это как бы общее описание. И если уже спускаться в детали - то там возникнет туча локальных алгоритмов. Загрузка образов в память. Выгрузка из памяти в текущую арею. Сами правила существования этой ареи. И вообще я насколько знаю ещё ни разу не употреблял термин интеллект.
Я употреблял термин сознание - как синоним виртуального внутреннего мира.
Я не смогу вам рассказать алгоритм искусственного интеллекта. Его еще никто не знает. Я только указал на то, что никакой особой магической роли у речи нет. Способности естественного интеллекта делают возможным речь и все остальное.
Ну я как бы то же магическую природу речи не приписывал. Я вообще пытаюсь абсолютно всё описать алгоритмом.
Не потому что я какой то религиозный фанатик какого то направление. Цель сугубо практическая - алгоритм я могу реализовать в железе. А философские объяснения нет.
Что касается речи, то как тут уже в комментах упоминал - речь это огромное число комбинаций звуков. И это порождает возможность делать на этом фундаменте сложные абстракции. Чем больше кирпичиков - тем выше дом.
И ещё - опять же в комментах выяснилось. Что интеллект сознанию добавляет именно возможность связи образов с сущностями какой то другой сенсорики. В данном случаи речью.
Но опять же само понятие интеллект - для меня является примером того как сделать максимально общее описание. Так что бы оно теряло смысла вообще. Потому что абсолютно каждый если его попросить раскрыть смысл понятия - то опишет его по своему. Общим будет только одно - интеллект это то что есть у человека в голове. И то наверно найдутся те кто и это будет опровергать.
Я же в данном ответе под интеллектом подразумеваю возможность системы, машины или мяса, решать логические задачи. Даже решение самой простой логической задачи - это уже интеллект.
Нетрудно заметить что простая программа калькулятора - тоже подходит под это определение.
Честно говоря под это определение подходит вообще наверно всё. Даже муравей.
Вот и я попался в логическую яму слов. Наверное нужно ввести критерий сложности задач. Но не хочу заниматься словоблудием.
Чем больше альтернатива обладает комбинациями тем богаче абстракции и тем сложнее можно делать логику.
Вы, явно, не понимаете, что такое "речь".
"Процесс речи предполагает, с одной стороны, выражение мыслей языковыми (речевыми) средствами, а с другой стороны — восприятие языковых конструкций и их понимание. Речь считается видом словесной (вербальной) коммуникации."
Если обезьяна запомнила значение двадцати жестов или картинок, это не речь. И Ваш анекдот про обезьяну не имеет никакого отношения к реальности. Не было таких обезьян. В научной литературе описана только одна обезьяна, которая якобы выучила картинки с обозначением действий и предметов и могла общаться с их помощью с людьми. Но никаких научных доказательств этого представлено не было. А наблюдатели писали о том, что экспериментатор слишком вольно трактовала случайно демонстрируемые обезьяной карточки.
Все многоклеточные животные так или иначе общаются со своими сородичами. Звуками, запахами, жестами, движениями и пр. Только к речи это не имеет никакого отношения.
Если собака запоминает 20 команд, это не значит, что в её мозге формируются речевые навыки. Слово, которое обозначает конкретное действие - это не абстракция, а просто команда. А все слова, которые содержатся в памяти человека - это именно абстракции. "Лежать" для собаки - это совершенно конкретное действие - лежать в определённой позе. А для человека "лежать" имеет множество значений:
В горизонтальном положении: Находиться всем телом на чём-либо (например, лежать на диване, лежать на траве).
Быть больным: Находиться в постели из-за болезни (лежать с гриппом).
Располагаться (о неодушевленных предметах): Находиться на какой-то поверхности (книга лежит на столе, снег лежит на земле).
Находиться без движения: Быть без применения, бездействовать (вещи лежат без дела).
Быть расположенным (о местности или границах): Пролегать, тянуться (дорога лежит прямо).
И множество других значений, которые всплывают в нашей памяти, когда мы слышим это слово. Да и лежать можно по-разному: на спине, на животе, на боку, на воде, на гвоздях, на канате, в гамаке, в земле, под диваном, на дне моря... Это и называется абстракция.
"Речь" - это не столько собрание слов, жестов или других лексических единиц ("комбинаций" по-Вашему) связанных с объектами или действиями или даже с феноменами, процессами или абстрактными понятиями, сколько конструктор в нашем мозге для выстраивания языковых конструкций на определённом языке с учётом законов этого языка и одновременно машина, которая выполняет работы по классификации, сравнению, обобщению, конкретизации, анализу, синтезу и абстрагированию, и создаёт и обрабатывает абстракции. Поэтому, сколько бы ни было лексических единиц в памяти субъекта, абстракциями они не станут и логически мыслить он не начнёт, пока у него не будет сформирована речь.
Нет. Понимание - это внутренний образ с чёткими правилами, которые чётко соответствуют внешнему миру, если этот образ с правилами мы можем выразить словами. Если человек не может что-то выразить словами, значит, он этого не понимает. Именно об этом ироническая поговорка “как та умная собака: всё понимает, только словами выразить не может”. Раз не может - значит, не понимает.
Хм. Крайне спорное утверждение, хотя и очень почему-то популярное. Понимание не обязательно требует слов (только если необходимо для чего-то передать это понимаение другому человеку), хуже того в голове мышление происходит как бы и не на вербальном уровне, а скорее на абстрактном - этакими многомерными абстрактными сущностями/объектами. Забавно, что если сильно упростить и провести грубую аналогию на примере общения речью - это можно даже сравнить с LLM (в скобочках аналогия):
Зона Вернике (аналог энкодера) - понимание речи, и перевод в невербальную форму (латентное пространство высокоразмерных векторов) которой уже дальше оперирует мозг при размышлении (или нейронка эти векторы по матрицам гоняет), а результат уже зона Брока (аналог декодера) пытается упаковать во что-то более-менее последовательное и пригодное для выдачи наружу ртом. Или как вариант передать во внутренний монолог для дальнейшего цикла размышлений (аналог рассуждающей модели)
Да, всё это грубо и по современным представлениям всё сложнее и не так линейно, но как аналогия сойдёт. Ну и собственно при криво работающей зоне Брока (вроде моей) можно вполне всё понимать, а при попытке внятно озвучить - получается так себе.
Понимание обязательно требует слов. Потому что понимаем мы только в результате мышления, а мыслим мы только словами.
Зона Вернике не переводит речь в невербальную форму. Вы ошибаетесь.
"Зона Вернике отвечает за понимание устной и письменной речи, превращая услышанные или прочитанные звуки и символы в осмысленные понятия.
Главные функции
Понимание речи: Распознает значение слов и фраз, которые к вам обращают.
Смысловой анализ: Связывает звуки речи с конкретными образами и понятиями в памяти.
Внутренний словарь: Отвечает за хранение и активацию пассивного словарного запаса. "
Т.е. зона Вернике это по сути функция, которая достаёт из массива либо слово для нужного понятия, либо понятие для нужного слова.
А зона Брока отвечает за воспроизведение речи и управление мышцами, которые нужны для произнесения слов. Т.е. просто контролирует язык, губы, голосовые связки и гортань. И, я Вас уверяю, зона Брока у Вас работает нормально, иначе Вы бы вообще не смогли говорить.
А если Вы думаете, что что-то поняли, но объяснить словами это не можете, это значит, что Вы ничего не поняли и Вам нужно лучше разобраться в вопросе. И не надо придумывать себе псевдонаучных оправданий.
про зону Брока и Вернике я сразу и написал что это очень грубое упрощение.
Понимание обязательно требует слов
максимум - только на этапе обучения при построении абстрактных моделей в мозгу. На "инференсе" они нужны сильно далеко не всегда. Вообще слова - это просто ярлыки, типа указателя на начало массива или там ярлыка для запуска приложения. Как бы "палец, указывающий на Луну != самой Луне" , вы же сами опрерируете терминами "образы, символы, осмысленные понятия" а это более абстрактные штуки чем просто набор буковок. (ну или возможно мы разное значение вкладываем в само понятие слово)
И мыслим мы как раз абстрактными многомерными образами а не этими смешными ярлычками из буковок. Ну разве что если не стоит задача написать какое нибудь там сочинение - там приходится вызывать этот инструментарий и уже да, оперировать словами. Или если надо передать резальтат мышления другому человеку - приходится выполнять свёртку абстракций в речевую форму (крайне утомительный процесс, да ещё и происходит с огромными потерями информации). Кроме того речь и письмо - линейно, мышление нет, что уже говорит о том что совсем не словами мы мыслим. Слова лишь вход и выход.
А про
Вы думаете, что что-то поняли, но объяснить словами это не можете, это значит, что Вы ничего не поняли и Вам нужно лучше разобраться в вопросе
Это может быть валидным в гуманитарных науках или в философии например. А вот в технике, к примеру, я не смогу внятно и чётко обьяснить словами как работает какая-нибудь электронная схема которую я только что к примеру собрал, хотя внутри головы я чётко вижу все взаимосвязи между компонентами, "вижу" модель этой схемы от электрических параметров элементов до температурных режимов и предполагаеиых переходных процессов. И всё это одновременно. А вот обьяснить - хм, "а можно я домой пойду?" (нет, может и смогу, но упаковать модель из головы в эти угловатые криво стыкующиеся друг с другом буковки - ну нафиг)
Про зону Брока и Вернике я сразу и написал что это очень грубое упрощение.
Это не упрощение, а намеренное искажение информации. Так Вы на основе этой ложной информации ещё и делаете ложные выводы.
На "инференсе" они нужны сильно далеко не всегда.
Я не знаю, что такое "инферннс".
вы же сами оперируете терминами "образы, символы, осмысленные понятия" а это более абстрактные штуки чем просто набор буковок.
Вы используете термины, смысла которых не знаете, и поэтому сами не осознаёте, какой бред написали в этой фразе.
"Понятие — это форма мышления, которая отражает существенные свойства, связи и признаки предметов или явлений, объединяя их в общий класс."
Так что понятия вполне конкретны.
А буковки - это такие же символы, как циферки или любые другие значки, жесты, знаки препинания и пр. И все они, действительно, абстрактны.
Символ — это условный знак, изображение или предмет, который выражает определенный смысл, идею или понятие, выходящие за рамки его внешнего вида.
И мыслим мы как раз абстрактными многомерными образами а не этими смешными ярлычками из буковок.
Слово - это не буковки, а наименьший значимый сегмент потока речи. Буковки, иероглифы, клинопись - это просто разные способы записи устной или внутренней речи. Конечно, мы мыслим не написанными словами. При мышлении мы используем внутреннюю речь. А в этой речи слова и есть абстрактные и многомерные конструкции. Образ может присоединяться к слову, если это конкретный объект. Например: этот стол, моя синяя куртка. Но в большинстве случаев никакие образы во время мышления к словам не присоединяются.
Кроме того речь и письмо - линейно, мышление нет,
Что именно Вы имеете в виду под словом "линейно" в этом контексте? Как Вы себе представляете линейную речь?
Это может быть валидным в гуманитарных науках или в философии например. А вот в технике, к примеру, я не смогу внятно и чётко обьяснить словами как работает какая-нибудь электронная схема которую я только что к примеру собрал, хотя внутри головы я чётко вижу все взаимосвязи между компонентами, "вижу" модель этой схемы от электрических параметров элементов до температурных режимов и предполагаеиых переходных процессов. И всё это одновременно. А вот обьяснить - хм, "а можно я домой пойду?"
То, что Вы собрали схему, вовсе не значит, что Вы вообще понимаете, как она работает и для чего она нужна. Схемы собирают по образцу, чертежу или плану. Поэтому Вы можете представлять, как это должно выглядеть, но вообще не понимать смысла реальных взаимосвязей между компонентами. Так что это очень плохой пример.
Я всегда могу объяснить, что и зачем я пишу в коде. Это и называется пониманием.
понял, у нас просто полный рассинхрон в терминологии, а бред я вообще-то пишу всегда, я об этом уже упоминал, вы чего так прям серьёзно? Ну и все эти определения из литературы, они конечно красивые, и звучат внушительно, но для этого нужно чтобы смысл этих слов был близок у пишущего и читающего. У меня с гуманитаркой было всегда плохо и я не уверен что понимаю именно тот смысл термина который в него вкладывал автор определения.
слова и есть абстрактные и многомерные конструкции. Образ может присоединяться к слову, если это конкретный объект. Например: этот стол, моя синяя куртка. Но в большинстве случаев никакие образы во время мышления к словам не присоединяются.
ну короче мы щупаем одного и того же слона, но за разные места и разными способами. Просто называть то что вы описали термином "слово" это, ну какдто упрощённо. У меня слово - это просто именованный указатель на многомерную абстрактную конструкцию в голове.
Отсюда же и
Что именно Вы имеете в виду под словом "линейно" в этом контексте? Как Вы себе представляете линейную речь?
Ну вот так как люди разговаривают/пишут. Строка символов. Последовательность звуков. Нельзя произнести несколько слов одновременно, их приходится выдавать последовательно, при этом стараясь сохранить связность. В голове при этом описываемое выглядит как цельный объект, со всеми признаками одновременно. Ближайшая аналогия - описание картины. Картину видно сразу всю, а вот в речь это приходится транслировать как "я вижу тут пейзаж с зелёной травой, сосновым лесом на горизонте, на ветке сидит птичка и т.д."
То, что Вы собрали схему, вовсе не значит, что Вы вообще понимаете, как она работает и для чего она нужна. Схемы собирают по образцу, чертежу или плану. Поэтому Вы можете представлять, как это должно выглядеть, но вообще не понимать смысла реальных взаимосвязей между компонентами.
вот только "чертёж" (схему, трассировку, прошивку контроллера, герберы и прочие артефакты) я сам же и соорудил. так что понимаю и как работает и зачем там то или другое решение и даже почти понимаю - зачем оно мне всё это было надо. А вот пояснить другому человеку понятно (имеется в виду чтобы другой человек сам понял в деталях как работает, а не получил просто инфу "это приёмник для получения и записи телеметрии") - затруднюсь. Да мне оно обычно и не надо.
Ну и все эти определения из литературы, они конечно красивые, и звучат внушительно, но для этого нужно чтобы смысл этих слов был близок у пишущего и читающего.
Эти определения не из литературы, а из разных наук. Серьёзно думаете, что учёных или читателей интересует, близок Вам "смысл этих слов" или нет? Все просто хотят писать и читать на одном и том же языке, чтобы понимать тексты друг друга..
слово - это просто именованный указатель на многомерную абстрактную конструкцию в голове.
Правильно, это так и есть. Ну так почему Вы этот указатель не хотите называть так, как он называется? Ведь во время мышления проще мысленно сказать слово "слон", чем представлять слона во всех подробностях.
Ну вот так как люди разговаривают/пишут. Строка символов. Последовательность звуков. Нельзя произнести несколько слов одновременно, их приходится выдавать последовательно, при этом стараясь сохранить связность. В голове при этом описываемое выглядит как цельный объект, со всеми признаками одновременно. Ближайшая аналогия - описание картины. Картину видно сразу всю, а вот в речь это приходится транслировать как "я вижу тут пейзаж с зелёной травой, сосновым лесом на горизонте, на ветке сидит птичка и т.д."
В таком смысле и мышление линейно. Вы же не можете одновременно мысленно произнести два слова или представить два образа. Вы это делаете последовательно. Только вот я не думаю, что слово "линейно" в принципе подходит к речи или мышлению.
Картину Вы тоже не видите всю сразу. Ваш взгляд движется по всей картине. Если интересно, почитайте об этом https://habr.com/ru/articles/57403/
А вот одна из картинок на которой видно траекторию движения глаз зрителя
Похоже, что мы видим картину "сразу всю"? Нет, мы её видим кусочками, просто эти кусочки мы видим очень быстро и поэтому создаётся это обманчивое впечатление.
вот только "чертёж" (схему, трассировку, прошивку контроллера, герберы и прочие артефакты) я сам же и соорудил. так что понимаю и как работает и зачем там то или другое решение и даже почти понимаю - зачем оно мне всё это было надо. А вот пояснить другому человеку понятно (имеется в виду чтобы другой человек сам понял в деталях как работает, а не получил просто инфу "это приёмник для получения и записи телеметрии") - затруднюсь. Да мне оно обычно и не надо.
Чтобы пояснить другому человеку понятно что-то новое для него, нужно хорошо знать теорию, которую Вы, скорее всего знаете плохо, поэтому и испытываете такие затруднения.
Но себе-то Вы можете объяснить, для чего нужна эта схема и как она работает? Если не можете, то, значит, и сами этого не понимаете, а просто делаете схему по аналогии. Например, у меня был такой случай. Я делала счётчик на сайте, решение мне подсказали на киберфоруме, смысла я так и не поняла, но сделала по аналогии и всё прекрасно работает. Но понимать, почему оно работает, я так и не стала. :)
Эти определения не из литературы, а из разных наук
ну я научную литературу/справочники или энциклопедии и имел в виду. Из констекста вроде художественные книжки туда и не подходят.
Ну так почему Вы этот указатель не хотите называть так, как он называется? Ведь во время мышления проще мысленно сказать слово "слон", чем представлять слона во всех подробностях.
А зачем говорить в голове слово "слон" когда об этом слоне думаешь? У меня это объект с набором свойств и связей. Можно "приблизить" и "посмотреть" на подсвойства (размеры, цвет кожи, форму хобота, рацион), кинуть (точнее усилить нужный, так то слон и так связан гиперсетью с другими объектами) линк к другому объекту и вытянуть его в зону внимания в зависимости от потребностей текущего контекста. (слон - Индия/Африка или там слон - млекопитающие). Что хуже - если я именую объект - то одновременно происходит как бы свёртка и отсечение большей его части. В случае со "слоном" пофиг, в случае если надо разобраться в чём-то посложнее - это здорово мешает.
Или там на примере электроники. Например мне надо воткнуть в схему, допустим геркон, реагирующий на удаление магнита. Если взять вашу концепцию то мне получается надо проговорить в голове что-то типа "Так, по тз схема должна в дежурном режиме потреблять микроамперы, а в присутсвии магнитного поля типовой геркон замкнут, значит нужна подтяжка к питанию, но через подтяжку тогда поедет лишний ток, а это нам не надо, значит надо либо трехвыводной геркон либо вообще поискать электронный датчик с нужными параметрами" Спасибо, не надо, я пока это всё проговорю уже забуду кто я, где я и чем тут вообще занимаюсь, ибо мозг будет заниматься формализацией и подбором подходящих ярлычков, а не работой над задачей. А вся эта штука со всеми зависимостями, ограничениями и связями формируется в голове вообще без вербализации, и без обозначения словами. Получается этакий макрообъект "схема включения датчика" (хотя в голове это не схема, это составной объект, который одновременно объединаяет и схему и карту соединений, и электрические параметры элементов (напряжение питания, логические уровни, временные характеристики задержек) и (хех, забыл слово, обозначающее развёртку состояний по времени и управляющим воздействиям, не суть. (Тоже кстати момент забавный - само слово забыл, но саму структуру "вижу") и даже адрес магазина где можно купить элементы.)
Похоже, что мы видим картину "сразу всю"? Нет, мы её видим кусочками, просто эти кусочки мы видим очень быстро и поэтому создаётся это обманчивое впечатление.
Все гораздо веселее. И это больше про низкоуровневую механику обработки зрительной информации. Кусочками идет первичная обработка зрительной корой - глаз конструктивно видит с высоким разрешением только в очень узкой области - буквально пару градусов от всего поля зрения, соответственно эта куча микродвижений и нужна чтобы зрительная кора смогла просканировать и построить образ всего объекта в высоком разрешении. А в "сознание" картинка уже приезжает цельным готовым объектом, при этом сам этот объект (что мы вообще увидели)вообще зависит больше от того с какой целью мы эту штуку разглядываем (мозг выделяет нужные признаки и чаще задерживается именно на них). А как этот обьект строится в процессе и какие финты мозг вытворяет на этапе обработки до передачи в сознательный контур - вообще отдельная и очень интересная эпопея.
Чтобы пояснить другому человеку понятно что-то новое для него, нужно хорошо знать теорию, которую Вы, скорее всего знаете плохо, поэтому и испытываете такие затруднения.
Для этого нужно так же хорошо владеть устной речью и навыками понятно и доступно излагать. Это не про понимание, это всего лишь про умение излагать свои мысли. Софт скиллы или как там оно. Штука полезная в социуме но не критически необходимая. Для работы с железками вообще необязательная, там достаточно уметь читать и переводить прочитанное во внутреннее представление.
Если не можете, то, значит, и сами этого не понимаете, а просто делаете схему по аналогии.
ну вообще возможно что и смогу но результат будет... Так себе. Как минимум сам постоянно замечаю что при попытке обьяснения сам же и удивляюсь - да что за хрень я блин, несу, так я и сам бы не понял если бы мне так рассказали. (ну то есть обратная связь видит разрыв между моим же обьясгением и внутренним пониманием) Да и сама мысль, что надо выдать что-то сложное в словесной форме вызывает обычно желание пойти поспать.
У меня это объект с набором свойств и связей. Можно “приблизить” и “посмотреть” на подсвойства (размеры, цвет кожи, форму хобота, рацион), кинуть (точнее усилить нужный, так то слон и так связан гиперсетью с другими объектами) линк к другому объекту и вытянуть его в зону внимания в зависимости от потребностей текущего контекста. (слон - Индия/Африка или там слон - млекопитающие).
И с какой целью? Одно дело, если Вы зоолог изучающий слонов (таких зоологов мизерное количество), но совершенно другое дело если Вы просто вспомнили поговорку “слон на ухо наступил”. Так зачем Вам в таком случае смотреть на подсвойства? Наш мозг никогда не делает ненужную работу, потому что это слишком энергозатратно.
Что хуже - если я именую объект - то одновременно происходит как бы свёртка и отсечение большей его части.
Ничего подобного. В случае необходимости вы можете мгновенно достать из памяти любую нужную информацию о слонах, которая там есть. Ничего никуда не отсекается.
Или там на примере электроники.
Какой смысл приводить пример из электроники человеку, который в ней не разбирается?
А в “сознание” картинка уже приезжает цельным готовым объектом
Ну так и слово, и предложение, и мысль в сознании обрабатывается как цельный готовый объект. С чего вдруг они линейные, а восприятие картинки не линейное? Кстати, картинка в сознании может и цельный объект, но очень уж смутный. Если Вы посмотрите на картинку и закроете глаза, то вспомните ну очень немногое из увиденного. А со словами, предложениями и мыслями всё в этом смысле гораздо лучше. :)
Для этого нужно так же хорошо владеть устной речью и навыками понятно и доступно излагать.
Этому учат всех в школе. Как Вы умудрились сдать хоть один экзамен без этих навыков?
Давайте завершим на этом нашу дискуссию. Потому что она ни о чём. И Вы и я знаем, что я права. Мы мыслим только словами. И Вы при желании можете объяснить словами всё, что понимаете. А убивать время на рассуждения ни о чём мне лично жалко.
Внезапно, реальный человеческий интеллект недалеко ушёл от искусственного:
см. признаки человеческого интеллекта.
.
Серьёзно? Есть ИИ, который может делать всё из этого списка?
дак человека способного на всё что в том списке, да ещё и 24/7 нон стоп, тоже нету. более того, качественное выражение каждого признака у человека очень сильно зависит от состояния, в том числе эмоционального, психического и возраста (блин, у нас даже совершение преступления в состоянии аффекта является кое-где смягчающим обстоятельством)
там же в конце даже спецом написано
Сочетание всех признаков по списку, притом в прокачанной форме, невозможно, но именно их наличие свидетельствует о наличии интеллекта.
вот что люди хорошо умеют делать - так это галлюцинировать про себя что они все это умеют, да ещё и с самого рождения ) и искренне верить в это!
Каждый взрослый человек с сохранным интеллектом способен на всё в этом списке при соответствующем обучении. А ни один ИИ не способен на большую часть умений из списка ни при каких обстоятельствах.
Давайте проверим. Выберите 4 пункта из этого списка, которые на ваш взгляд являются самыми сложными для ИИ; приведите на каждый конкретный пример задачи, и что на нее должен ответить человек, чтобы можно было сделать вывод, что этот признак у него есть; мы попробуем дать такую же задачу ИИ и посмотрим, что он ответит. Можете не 4, а больше, если охота.
Поскольку большинство формулировок пунктов в Вашем источнике меня не устраивают, а многих просто нет, я предлагаю частично свои пункты. Ну и ваше предложение некорректно, т.к. многие пункты доказать с помощью решения задач нельзя, зато можно доказать, зная, каким образом обучается и работает LLM, а каким образом работает человеческое мышление. К тому же, какова гарантия, что Вы выполните все условия проведения экспериментов, например, не сыграете в поддавки при решении задач?
Признаки человеческого интеллекта:
Решать задачи с помощью мыслительных операций (например, ассоциаций), а не с помощью поиска готовых ответов.
Люди с сохранным интеллектом решают все задачи с помощью тех или иных мыслительных операций (сравнение, классификация, ассоциация, анализ, синтез и т.п.)
LLM просто выдаёт готовый ответ, если он есть в материале, который ей скормили при обучении.
И это просто проверить. Задайте достаточно сложную загадку, которой не было в обучающем материале, и без доступа к интернету. Например:
Что всегда увеличивается, но никогда не уменьшается?
Что это такое — всё в дырках, но воду удерживает?
Как написать мышеловка пятью буквами?
Как в решете воду принести?
Или задачу: На полке стоят две книги. В левой книге 146 страниц, в правой 117 страниц. Сколько страниц между первой страницей левой книги, и первой страницей правой книги?
И т.п. Если не решит, значит, нет у LLM вообще мыслительного процесса. ;) А если этих задач не было в обучающем материале, она не решит.
2. Создавать новое: в творчестве, в науке и в технике.
Люди это делают на протяжении множества тысячелетий. Вещи, техника, блюда, произведения искусства, которые нас окружают, придуманы людьми.
Что нового придумала LLM?
3. Непрерывный процесс самосовершенствования и обучения;
Человек учится каждый день своей жизни и большую часть жизни занимается целенаправленным самообучением. “В процессе мышления формируются новые синапсы (связи) между нейронами, а существующие укрепляются. Это физически меняет структуру мозга, позволяя вам учиться и адаптироваться.” Т.е. даже, когда человек не обучается сознательно, обучение всё равно происходит, просто потому, что он мыслит.
LLM обучается только извне и кем-то. Это очень даже прерывный процесс. Да и обучением этот процесс по сути назвать нельзя. Потому что LLM при этом "обучении" просто получает дополнительную дозу информации, вполне возможно, что ложной, но никаких новых умений и навыков не получает. Да и информация эта не является "знанием", поскольку смысла этой информации LLM не понимает. Это "обучение" мало чем отличается от аудиозаписи на магнитофон.
4.Устойчивость к манипуляциям, навязыванию внешней воли и пропаганде;
Образованный взрослый человек со сформированным аналитическим мышлением анализирует любую поступающую информацию на предмет её несоответствия имеющимся у него знаниям и поэтому устойчив к манипуляциям, навязыванию внешней воли и пропаганде. LLM этого не делает. Мало того, если при её обучении заложить любую фейковую информацию, LLM будет её транслировать и настаивать на её истинности. Можете поэкспериментировать при желании :)
5.LLM в принципе не может отличить ложную информацию от истинной. А человек может, если у него сформировано хотя бы логическое мышление, а оно сформировано у большинства выпускников средней школы.
6.Понимание феномена времени и конкретно дат, а также феномена изменения реальности с течением времени.
Современный человек с базовым образованием не может перепутать 1723 год с 1273 годом. А LLM это делают систематически.
Люди закончившие базовую школу понимают, что в разные временные периоды государства могли носить много разных названий и иметь разные территорию, население, язык и т.п.,и, если их спросят о населении РИ, никогда не ответят о населении РФ. А LLM это делают систематически.
7.Понимание смысла чего-то (слова, предложения, текста, процесса, картины, музыкального произведения)
Человек понимает смысл всего вышеперечисленного и может рассказать о нём словами и ответить на вопросы оперирующие абстракциями.
LLM не понимает смысла чего бы то ни было, потому что она вообще не оперирует смыслами. Она оперирует токенами, которые никак не связаны со смыслом. Например, разберёмся с текстами. LLM сохраняет в памяти не слова, а токены в закодированном виде. И токены не имеют никакого смыслового значения. А вот в памяти человека сохраняются пары морфема- смысловое значение из родного языка.
Например:
-Приставка «при-» в русском языке может иметь несколько значений, включая приближение (приехать), присоединение (пришить), неполноту действия (приоткрыть) и близость к чему-либо (пришкольный). Также она может указывать на завершенность действия (приземлиться) или на совершение действия в чьих-либо интересах (присвоить).
-«Знак» означает условное обозначение, символ или предмет, представляющий что-то другое
-Нулевое окончание обозначает мужской род и единственное число.
Итого: признак - это показатель, примета, свойство или особенность, по которой можно узнать, определить или описать какой-либо предмет, явление или объект.
Именно поэтому человек понимает смысл любого слова на родном языке, даже если никогда раньше это слово не встречал.
Ну и чисто из любопытства. Совершенно очевидно, что LLM со следующими пунктами не справляется, но интересно, что она напишет, получив следующие задания :)
1.Понимание смысла текста.
Даже школьник с сохранным интеллектом понимает смысл текста и отвечает на вопросы по тексту, которые оперируют абстрактными понятиями: совесть, доброта, скромность, бессердечие и т.п. Интересно, как с этим справится LLM, если при её обучении не закладывать материал об анализе этого произведения?
2.Критическая оценка качества собственных знаний, среды и окружения, рефлексия над собственными мыслительными процессами;
Взрослый человек с высшим образованием с этим справляется. Интересно, как с этим справится LLM? И что конкретно она напишет?
Поскольку большинство формулировок пунктов в Вашем источнике
Это не мой источник, его привел другой человек.
я предлагаю частично свои пункты
Вы сделали утверждение “А ни один ИИ не способен на большую часть умений из списка”. А как дошло до дела, сразу увиливания начались.
зато можно доказать, зная, каким образом обучается и работает LLM, а каким образом работает человеческое мышление
Каким образом работает человеческое мышление еще никто не знает. Изучают это пока что именно с помощью наблюдения внешне видимых проявлений при решениии задач.
К тому же, какова гарантия, что Вы выполните все условия проведения экспериментов, например, не сыграете в поддавки при решении задач?
Такова, что любой может взять и повторить этот эксперимент на той же самой модели LLM.
Что нового придумала LLM?
Что нового придумали лично вы? Вы придумали какие-нибудь вещи, технику, произведения искусства? Если нет, то по вашей логике получается, что у вас нет интеллекта?
Мало того, если при её обучении заложить любую фейковую информацию, LLM будет её транслировать и настаивать на её истинности.
Если при обучении вас заложить любую фейковую информацию, вы тоже будете её транслировать и настаивать на её истинности. Примеры - природа грома, которую приписывали колесницам Тора, плоская Земля на 3 китах, и т.д. Из того, что я лично в детстве слышал от взрослых - ответ на вопрос “Почему Луна сегодня не полностью круглая? - Потому что на нее падает тень от Земли”. При том, что Луна была почти полная, и тень была вогнутая.
но интересно, что она напишет, получив следующие задания
У вас там нет конкретных заданий. На такое задание даже человек не ответит. Напишите конкретное задание, которое можно отправить в LLM. Например, придумайте свою сказку с указанными абстрактными понятиями, тогда можно точно сказать, что ее не было в обучающей выборке, и конкретные вопросы к ней. А то опять скажете, что я в поддавки с LLM играл.
и, если их спросят о населении РИ, никогда не ответят о населении РФ. А LLM это делают систематически.
LLM Claude Opus 4.8:
- Сколько населения в Российской Империи?
- Население Российской империи существенно менялось на протяжении её существования (1721–1917), поэтому единой цифры нет. Вот основные ориентиры: …
Я спросил 3 раза, он все 3 раза не перепутал РИ и РФ. Ваше утверждение ложно.
Задайте достаточно сложную загадку, которой не было в обучающем материале, и без доступа к интернету. Например:
Это общеизвестные загадки, и они скорее всего были в обучающем материале. Поэтому ваше использование слова “например” некорректно.
LLM Claude Opus 4.8 на них на все ответил правильно, в интернет не обращался.
Более того. Я загадал загадку “Как написать мышеловка 4 буквами?”. Такой загадки точно нет в интернете, Гугл показывает 0 результатов, а значит вряд ли она была в обучающей выборке. Он привел варианты “сова” и “лиса”.
Если не решит, значит, нет у LLM вообще мыслительного процесса.
А если этих задач не было в обучающем материале, она не решит.
То есть оба эти ваши утверждения ложны. Он решил загадку, которой не было в обучающем материале. Значит по вашей логике мыслительный процесс у него есть.
LLM этого не делает
В остальном у вас бездоказательные утверждения, а не примеры ответов для проверки. То есть подтвердить ваше исходное утверждение “ИИ не способен на большую часть умений из списка” вы не смогли, не смогли даже придумать способ его проверить.
Каким образом работает человеческое мышление еще никто не знает.
Если Вы чего-то не знаете, это не значит, что никто не знает. Психология, педагогика, физиология мозга Вам в помощь по данному вопросу. Но я сомневаюсь, что Вы, действительно, хотите изучить, как работает мышление у человека.
Такова, что любой может взять и повторить этот эксперимент на той же самой модели LLM.
Т.е. повторить эксперимент после того как Вы скормите этой модели ответ задачи? ;) Зачем? Ну и лично я с LLM не работаю и не собираюсь. А когда читаю ответ ИИ в ГУГЛе, тщательно фильтрую всю выдаваемую им информацию. Частенько бредовую. Поэтому это Вы, если хотите доказать свою правоту, должны предоставить доказательства конкретных умений LLM.
Что нового придумали лично вы? Вы придумали какие-нибудь вещи, технику, произведения искусства?
Два андроид приложения, аналогов которым нет, сотни сценариев воспитательных мероприятий, презентаций, и т.п., два сценария КВН с которыми мы вышли в городской финал, кучу стишков для разных мероприятий, несколько хороших стихотворений, мелодию к нескольким стихотворениям и т.д. и т.п. :) Могу предоставить доказательства, если Вам интересно: адрес моего сайта со сценариями и презентациями, мою страницу на сайте stihi.ru, а вот одно из андроид приложений
Если при обучении вас заложить любую фейковую информацию, вы тоже будете её транслировать и настаивать на её истинности. Примеры - природа грома, которую приписывали колесницам Тора, плоская Земля на 3 китах, и т.д. Из того, что я лично в детстве слышал от взрослых - ответ на вопрос “Почему Луна сегодня не полностью круглая? - Потому что на нее падает тень от Земли”.
Это не правда. У людей с высоким уровнем интеллекта всегда развито критическое мышление, поэтому никакую информацию они не принимают на веру без доказательств. Именно поэтому Вы и написали “приписывали” в прошедшем времени. Сейчас ведь не приписывают? И это благодаря критическому мышлению людей. В человека нельзя заложить любую фейковую информацию, потому что получая любую информацию мы её анализируем на предмет соответствия всей известной нам на этот момент информации. Мало того, при получении любой новой информации на эту тему мы снова повторяем такой анализ. В результате чистый бред и всё то, что не имеет достаточных доказательств в нашу картину мира не попадает. А у LLM таких фильтров нет. А то, что у некоторых взрослых критическое мышление не развито, объясняется исключительно недостаточно высоким уровнем интеллекта у них.
Например, придумайте свою сказку с указанными абстрактными понятиями,
Вот и придумайте. Почему я должна бесплатно делать за Вас Вашу работу? Я Вам суть эксперимента изложила достаточно подробно.
Сколько населения в Российской Империи?
И в каком месте этого предложения встречается аббревиатура “РИ”? Понятно, что, если написать полное название, то и явных ошибок не будет. С чего бы? Лично мне ИИ много раз выдавал на подобный запрос ответ об РФ. А Ваше утверждение о якобы верных ответах нейросети Вы не можете ничем подтвердить.
LLM Claude Opus 4.8 на них на все ответил правильно, в интернет не обращался.
Где доказательства, что он ответил правильно? И какой смысл был задавать эти загадки, если Вы думаете, что эти загадки с ответами были в обучающем материале. Задайте эти вопросы модели LLM, у которой их в обучающем материале не было.
То есть оба эти ваши утверждения ложны. Он решил загадку, которой не было в обучающем материале.
Вы пока не доказали ни то, что этих загадок не было в обучающем материале, ни то, что LLM их решила верно. :)
В остальном у вас бездоказательные утверждения, а не примеры ответов для проверки. То есть подтвердить ваше исходное утверждение “ИИ не способен на большую часть умений из списка” вы не смогли, не смогли даже придумать способ его проверить.
В остальном у меня общеизвестные научные факты. Опровергнуть которые Вы не можете. Поэтому их вполне можно считать доказательством утверждения, что “ИИ не способен на большую часть умений из списка”. У Вас ведь бездоказательные возражения только по трём пунктам из семи. :)
А вот не мои утверждения про нейросети:
"Популярные примеры галлюцинаций ИИ
Вымышленные судебные прецеденты: Известны реальные случаи, когда адвокаты использовали ChatGPT для подготовки исков, а чат-бот придумывал несуществующие судебные дела и решения. Судьи обнаруживали фальшивки, после чего наказывали юристов за предоставление ложных данных. [1]
Лже-биографии и цитаты: Нейросети часто «назначают» реальным историческим личностям или ученым несуществующие труды, приписывают им чужие цитаты или выдумывают трагические/комичные факты из их жизни.
Несуществующие ссылки и источники: Текстовые ИИ любят подтверждать свои слова авторитетными ссылками на научные статьи или СМИ, но сами URL-адреса и названия публикаций оказываются полностью выдуманными. [1]
Ошибки в медицинских или правовых советах: Модель может уверенно назвать несуществующую дозировку лекарства или перепутать статьи закона, сформулировав ответ очень убедительным тоном."
Вот один из источников этой информации:
https://www.kommersant.ru/doc/7753908
Ничего из этого адекватный человек не сделает ни при каких обстоятельствах.
"Один из ярких и одновременно курьезных примеров — реакция ИИ на фальшивые запросы в виде идиом. На техническом ресурсе приводят примеры, как фразы вроде «два автобуса, едущих не туда, лучше одного, едущего в правильном направлении» вызывают у «гугловского» ИИ странные интерпретации. Хотя это вовсе не пословица, система воспринимает ее как настоящую и с серьезным тоном предлагает подробное «толкование». Причем это далеко не единичный случай.
Пользователи начали массово подсовывать системе выдуманные идиомы, чтобы проверить, как она с ними справится. ИИ в этом смысле не подвел — он принял все за чистую монету и начал генерировать философские толкования таких выражений как: «барсука дважды не оближешь» или «кальмар в вазе зла не скажет».
Каждая из этих фраз сопровождалась пояснением, будто они — древняя народная мудрость. "
В отличие от LLM, человек хотя бы со средним уровнем интеллекта сразу увидит бессмысленность или нелогичность подобных идиом.
И т.д. и т.п.
Есть что возразить по существу?
Если Вы чего-то не знаете, это не значит, что никто не знает
Переход на личности это форма хамства.
- можно доказать, зная, каким образом обучается и работает LLM, а каким человеческое мышление - Изучают это пока что именно с помощью наблюдения внешне видимых проявлений - Психология, педагогика, физиология мозга Вам в помощь по данному вопросу.
Намеренное игнорирование того, что написал собеседник, это форма хамства. Специально для вас повторяю:
Психология и педагогика изучают человеческое мышление пока что именно с помощью наблюдения внешне видимых проявлений при решении задач. Да, даже физиология мозга пока не знает, каким образом работает человеческое мышление, она лишь может описать отдельные аспекты на макроуровне. Обработка информации на уровне взаимодействий отдельных нейронов, чтобы можно было сравнить с процессами обработки информации в LLM, пока не описана ни в одной науке.
- Какова гарантия, что Вы выполните все условия проведения экспериментов, например, не сыграете в поддавки при решении задач? - Такова, что любой может взять и повторить этот эксперимент на той же самой модели LLM. - Повторить эксперимент? Зачем?
Вы тролллите что-ли? Троллинг это форма хамства.
Затем, что это ответ на ваш вопрос “Какова гарантия”. Если вам не нужен ответ, непонятно, зачем вы задаете вопрос.
Ну и лично я с LLM не работаю и не собираюсь.
В предыдущем комментарии я вам не предлагал работать с LLM.
Ну и лично я с LLM не работаю и не собираюсь. А когда читаю ответ ИИ в ГУГЛе
“Читать ответ ИИ в Гугле” это и есть “работать с LLM”. Это основная форма взаимодействия с ними. То есть вы еще и сами себе противоречите.
Два андроид приложения, аналогов которым нет Доставка 13.11
Судя по скриншоту, это планировщик дел. Аналогов такого приложения целая куча, самый известный из которых это Google Calendar.
кучу стишков для разных мероприятий
Если вы это называете новым, то LLM уже давно это умеют.
Придумай стишок из 4 строк про вымышленное животное Тихвень.
Тихвень таится в тишине,
Пугливый зверь, знакомый мне:
Он мягче мха, он тише сна —
Мелькнул — и снова тишина.
То есть по вашей логике LLM умеют придумывать новое.
- Что нового придумали лично вы?
- два сценария КВН, несколько хороших стихотворений, мелодию к нескольким стихотворениям
Докажите, что этой информации не было в вашем обучающем материале.
Именно поэтому Вы и написали “приписывали” в прошедшем времени.
Я написал “приписывали” в прошедшем времени, потому что большинство людей конкретно сейчас гром колеснице Тора не приписывают.
Сейчас ведь не приписывают?
А, то есть можно перестать транслировать фейковую информацию когда-то потом через пару сотен лет, и вы все равно назовёте это интеллектом? Тогда и LLM через пару сотен лет перестанут ее транслировать. То есть по вашей логике у них уже есть интеллект. Так же как по вашей логике он был у древных людей, которые верили в колесницу Тора.
Сейчас транслируют и приписывают другую фейковую информацию.
А то, что у некоторых взрослых критическое мышление не развито, объясняется исключительно недостаточно высоким уровнем интеллекта у них.
А то, что у некоторых LLM критическое мышление не развито, объясняется исключительно недостаточно высоким уровнем интеллекта у них.
Почему я должна бесплатно делать за Вас Вашу работу?
Переход на личности это форма хамства.
С чего вдруг это моя работа? Вы сделали утверждение “ИИ не способен на большую часть умений из списка”, вам его и доказывать. Это я вам предложил экс
Где доказательства, что он ответил правильно?
В смысле где? Вы понимаете, что такое “доказательство”? Понятие “доказательство” подразумевает, что сторонний человек может его проверить.
Вы имеете в виду, что я должен привести скриншоты? Любой скриншот я могу подделать.
Если вы считаете, что моим словам нельзя доверять, то что бы я ни привел, не будет заслуживать доверия.
Поэтому непонятно, что вы ждете в качестве доказательства.
Доказательством в данном случае является воспроизводимость эксперимента. Я написал название модели. Если вам нужны доказательства, то единственный способ их получить это проверить самостоятельно с той же самой моделью. А вы, по вашим словам, проверять не хотите. То есть ваш вопрос это форма троллинга. Вы просите доказательство, но заведомо установили критерии, по которым оно для вас невозможно.
Вот скриншот, если вас это устроит.
Загадка
Вы пока не доказали ни то, что этих загадок не было в обучающем материале
См. выше. Единственный способ получить доказательство моих слов, это не полагаться на любые мои слова.
Задайте эти вопросы модели LLM, у которой их в обучающем материале не было.
Я уже сделал эксперимент с такой загадкой, читайте внимательно.
Популярные примеры галлюцинаций ИИ
И? К чему тут этот оффтоп? Я говорил конкретно про ваше утверждение “ИИ не может делать пункты из указанного списка”. Я привел примеры когда может, любой может их повторить.
У вас похоже распространенное когнитивное искажение - “он мне возражает, значит поддерживает противоположную точку зрения”. Я возражаю на ваши утверждения, которые считаю некорректными, и не более того.
Я знаю как работает LLM внутри — это бесконечный генератор текста. Там даже костыли в виде спец токенов сделали чтобы она могла заткнутся
справедливости ради, человеческое сознание тоже бесконечный генератор. и тоже костыли придумали в виде всяких медитаций что бы заставить его заткнуться. только у ллм это идёт из коробки, а человеку надо этому отдельно учиться как навыку (и большая часть людей не умеет этого)
мультимодальные ллм это не только текст. там не только понимание за какой каракулей какая каракуля идёт (что ломает аргумент китайской комнаты)
если ваша "китайская комната" доказательно может нафантазировать себе что лодка вызывает плеск волн - представить, т.е. смоделировать это себе. значит ваша "китайская комната" обладает функциональным сознанием. а человек внутри нее просто не знает китайский ) не надо приравнивать человека внутри китайской комнаты к ллм. внутри самого человека каждый нейрон отдельно тоже не знает языка
ичсх, сама по себе "китайская комната", та самая, внутри которой сидит человек и оперирует каракулями, согласно правилам, работает только если внутри сидит разумный, сознательный, взрослый, мотивированный агент - человек. который понимает правила и мотивирован их выполнять. замените внутри комнаты человека на кого угодно - обезьяну, собаку, младенца, человека с психическими расстройствами или неполноценного - ваша комната с каракулями сломается! это будет комната где ничего не происходит или происходит что-то непонятное, не похожее на диалог
следовательно, на что бы вы в мысленном эксперименте Серла не заменяли этого взрослого мотивированного обладающего сознанием и разумом человека - на компьютерную программу, робота или эльфов сантаклауса - функционально эта штука должна будет повторять способности взрослого обладающего сознанием человека
Если бред в голове, то LLM только его усиливает)) почитайте умные книги на эту тему, мне помогло))
Я конечно мог отклонить ваш как по мне бессмысленный коммент- но вдруг я получу ещё каких то знаний?
Во первых я сразу вижу какую то тупость - что значит LLM усиливает? Вы судите по себе что ли? Я не общаюсь с LLM. Для меня это просто инструмент. Тупой - но очень внимательный. Баги хорошо в коде ищет.
А теперь к моим новым гипотетическим знаниям. Не надо мне кидать ссылки на "умные книги". Которые нужно я и сам прочитал. А большинство просто мусор. Не бы ли бы мусором - создали бы AGI. А так просто трёп без результата.
Так вот - давайте конкретную критику. С чем не согласны и почему. Я хочу увидеть бред вашей головы. Бред своей головы я вывел на обсуждение.
Поскольку люди собирают (процесс) реальность как модель, интроспекцию, проекцию, особенно зрительный канал, где приходится ещё и переворачивать приходящий прерывистый поток с сетчатки, чтобы правильно ориентироваться в среде, и все сигналы, сводящиеся в образ, картинку реальности, это колебания, осцилляции тела и его "органов чувств", скорость сборки реальности человеком от 25 сменяющихся картинок в секунду, и, несомненно, все это для предвидения своего будущего состояния, в связи с необходимостью поддерживать этот процесс (жизнь) ресурсами и передавать его через семя ещё дальше в будущее по пути движения Солнца в Галактике, то, несомненно, что нейросети в дата центрах это только имитация социальной коммуникации, выходного семантического потока, безтелесного, безчувственного и плоского, но подобного реальному, обработка потока данных идёт с частотой процессора и памяти, реакция на индексированные связи (паттерны) и пр. Причём результат не будущее состояние тела, как у человека, а только сумма диалога, полная зависимость от промпта, запроса, и выборки данных в памяти. Фактически все языковые модели ограничены ещё и отсутствием внутренней интенции, - процесса физической реализации процесса познания в семени/яйце /днк/пр... Ну и наконец, само живое вещество вселенной это только одна из форм существования, нативная, а вот языковые модели это в любом случае виртуальные, они существуют (есть) только в среде вычислений... Даже перенос их в роботов не превратит их в думающее и живое. Но схожесть форм, да, сильно смущает и возникает иллюзия, как отражение в зеркале, мы же его видим? Но это не значит что оно существует, оно только отражение.
Слепоглухонемые обучаются по принимаемых их телом ритмам низких частот и обратной реакции тела, как выше писали - на ощупь, но интроспекция, картина мира по обратной связи есть.. И даже пение и говорение...
Из этой беседы с LLM я бы скорее сделал вывод о превосходстве LLM.
Сонет ясно выражает простые и логичные концепции, прямо опровергая кожаного. Кожаный упёрся в существование некой своей внутренней исключительной осознанности, которую он просто постулирует и все рассуждения ведёт исходя из этого постулата, доказывая сам же этот постулат. При этом, доводы не основанные на этом постулате его несовершенная психика блокирует как неприятные, и он называет их "водой".
После LLM из натренированной вежливости соглашается отчасти, уводя разговор в сторону, что дескать мы конечно разные.
Я так боюсь, как только проблема дообучения будет решена, звезда людей закатится.
Да никто же не оспаривает первосходство калькулятора над человеком, атомобиля над человеком и далее по списку.
Все в том числе и я знают чем LLM превосходят человека. Обсуждение же как раз чем не превосходят. LLM нельзя поставить на замену человеку.
Я пытаюсь понять как этот баг исправить. И да я вообще не идеализировал никогда человека.
Но и преуменьшать его не буду. Мой подход чисто практический.
Автору. Не надо пытаться понять как думает Человек и сравнивать его с ллм.
НАчните с малого.
клетка, бактерия, для чего клетка стала многочленом и как это сказалось на ее думалке.
Так вы сможете понять, откуда появилась например Память. И точно ли память существует?
КОгда и каком месте ктото стал складывать информацию?
а то все это как у Пруткова, обьять необятное и придумывать сущности - без надобности.
По поводу клетки. Ну скажем так - сама клетка как бы ничего не решала, поэтому вопрос для чего ей что то делать звучит заранее неправильно.
Если задать вопрос - почему клетка стала многоклеткой? Я бы ответил что это свойство нашей реальности. Реальность обладает законами природы, почему именно такие законы обсуждать не хочется, но могу построить логическую цепочку. То что мы существуем это 100% факт двух вариантов - либо есть глобальный закон что что то может появится из ничего. Для нас землян звучит диковато ведь мы живём в мире где что то не может появится из ничего. Хотя последние исследования вроде там уже видят что в вакууме постоянно что то рождается и аннигилирует. Но не про это.
Либо второй вариант - глобальный закон что - вселенная существовала всегда. Что то же для нас выглядит диковато. Мы же живём в мире причинно-следственных связей. И всегда есть причина.
Так же на вопрос почему наша реальность именно такая с такими космологическими переменными? Отклонись они хоть на чуть чуть и даже протонов не образовалось бы. Скажем так - никто не сможет проверить какая итерация вселенной наша? Может там было 100500 хаотичных вариантов. И только в устойчивом варианте смогли появится мясные LLM которые потом будут удивляться - а чего тут так всё складно получилось? Там где не получилось - спрашивать некому.
Короче к чему это словоблудие. Наша реальность обладает изначальным свойством - возможность случайного усложнения структуры. Возможно это свойство вообще глобальное для всех миров. Смотрите логику - если у нас есть бесконечное количество рандомных вариаций, то рано или поздно вариации смогут организовать сложную устойчивую структуру.
Я не могу придумать причину по которой в результате бесконечных переборов - не смогла бы получится например живая клетка. Как там говорится - миллион обезьян бесконечно клацая по пишущей машинке рано или поздно напишут "Война и мир"
Хотя возможно есть вариант когда бесконечность увеличивается в геометрической прогрессии где усложнение привязано к итерации - типо всегда можно идти к цели и никогда не приблизится. Короче с этими идите к математикам - они любят такой треш рассчитывать. Но факт остаётся фактом - мы есть, значит закон позволяющий рандомное усложнение структуры точно есть. Мы же прошли этот путь.
Так что образование многоклеточной структуры - это просто результат 100500 итераций. Ну и наверно глобального закона всех миров.
Память -в мясе это та же клетка. Специализированная клетка - да и всё. Ничего особенного. Так то нейрон изучен вдоль и поперёк - там нету ничего неизученного.
Я ответил на вопросы? Вот только я не уловил суть вашего вопроса который вы не озвучили и я якобы должен был догадаться что это за вопрос. Озвучьте его для непонятливых явно.
Не ответили. И то что я вижу звучит как словоблудие ЛЛМ, без обид.
ЕЩе раз..., на месте клетки я б обиделся. Там внутри столько наворочено, что явно намекает на сложность, если не на План ))
Довод типа - это такой закон природы. Не довод.
ПАмять как специализированная клетка? В печени, или где?
Вы до сих пор не научились отличать нейрохрючево? Если вы скинете этот текст LLM - то она его разгромит за стилистическую кривость.
Да клеточные механизмы очень сложны. Там фактически работают механизмы состоящие из атомов. Но так и мы - человеки как бы за поседении 20 лет настолько усложнили свою технику - что каждый атом рассмотрели.
По поводу закона природы. Логика простая - закон либо есть, либо его нет. Если бы закона природы по самоусложнению материи не было бы - то что? Ну нас бы как бы не было. Но мы есть. Это железный факт. И раз мы есть - значит и закон есть. Т.к. мы изначально были клеткой, а сейчас ка как бы уже венец природы.
В голове память это серое вещество - тонкая прослойка 1 - 3 мм сами клетки нейронов. Всё белое вещество - пол головы - это все аксоны и дендриты нейронов. Это просто триллион проводов соединённых друг с другом. Каждый день данные из быстрой памяти переходят в долговременную (где то 15 минут длится перенос) путём прорастания и отмирания новых связей. Так же само тело нейрона содержит память в виде хим состава клеточной жидкости. Нейрон настраивается на величину которую он сработает. Спросите у LLM что там по химии ещё есть. Я всё не помню.
Ну а так же память генетическая - абсолютно все клетки обладают ДНК. Клеточные автоматы нон-стоп разворачивают её копируют белки и сворачивают обратно. Каждая клетка это генератор белков. Там же есть механизмы когда клетки группируются - они знают соседнии клетки и подстраиваются под них. Я вообще не биолог - но вся инфа сейчас доступна любому.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Отличие языковой модели LLM от человека