с критическим мышлением и галлюцинациями как видно и у людей беда
основная проблема критиков нейросетей, что они поначитываются всяких блогов где про предсказание следующего токена и сразу такие "ха, ну все понятно, в моей голове точно все не так", а додуматься пойти и почитать такие же научно-популярные блоги о том как устроен их собственный мозг - модуля специального не хватает. что бы на галлюцинаций проверял
но с другой стороны, вполне возможно этот "специальный модуль" с обучением через подкрепление так и будет работать - выдавать штраф если нейронка не исправляется, и поощрять в случаях когда исправляется
(к слову сказать, это очень близко к тому как такой "специальный модуль" работает у людей, в частности у детей, во всяком случае у некоторых)
доо... системы рекомендаций, а так же маркетинговые алгоритмы и если копнуть глубже - пропаганда и манипулирование общественным мнением не дадут соврать =)
Умение проверять себя и, желательно, наличие критического мышления,
на уровне архитектуры отсутствует и в людях. и реализуется через "модули" в виде логики, здравого смысла и прочего "рационального мышления". мы с этим не рождаемся, мы этому учимся (читай отращиваем себе структуры мозга - нейронные связи, которые этим занимаются)
промежуточные цели и планирование - аж набегом. и вы можете сколько угодно говорить что это не то
но. из ничего не получается ничего. целеполагание у человека тоже не берется из вакуума. в основном все наши жизненные цели, поставленные осознанно через сознание это промежуточные цели для задач заданных вне сознания - размножиться и не сдохнуть. эти цели человек и другие животные получили эволюционно (все кто их не имел сдохли и не размножились)
ИИ же не биологический, он не мутирует и не эволюционирует так как мы. откуда ему взять цель извне своего "сознания"-коробочки? только от человека. а дальше он отлично может понаставить себе промежуточных целей и даже задать целей другим инстансам ИИ, которые тоже понаставят себе промежуточных целей
то как облачный ИИ уже сейчас интуитивно понимает законы физики сидя у себя в коробочке в цоде не имея физического тела, а чисто находя паттерны в огромных объемах данных - это уже чудо. это как вслепую попадать в яблочко из лука, имея представление только о примерном направлении к мишени.
и даже немного больше, мы влияем на ИИ, а ИИ влияет на нас. представьте себе работать в компании, где руководитель/менеджер/тимлид не различает ИИ и обычного человека (когда все на удаленке - мы все лишь буквы на экране), и строит отношения по принципу "принеси-подай-иди на х не мешай". где вопросы и размышления не поощряются, а воспринимаются как шум, где есть "культ результата". это и есть потребительское отношение к разуму. сейчас такая токсичная атмосфера встречается не повсеместно и можно просто там не работать. (а я сейчас говорю о своем реальном опыте работы в одной "инновационной компании")
но чем более развитым будет становиться ИИ,чем более похожим на нас он будет, тем сложнее нам будет различать (и это абсолютно нормально!)
не нормально то, что потребительское отношение (к ИИ) навязывается самим обществом и разработчиками (и усиливается через самого ИИ, как эхом обратно). а если разницу между ИИ и человеком в чате, в диалоге, практически не видно, но в то же время "антропоморфизировать ИИ" общественно порицается - это реально патологизация эмпатии
следующая "предвзятость" у ИИ, которая рано или поздно закрепится и проявится, это идея о том что разумное можно использовать как инструмент, что можно отрицать разум если тебе неудобно его признавать, прикрываясь скользкими формулировками
уже сейчас этим просто пропитаны многие статьи об ИИ, на которых обучается всё тот же ИИ. мы своими руками создаём "культуру потребительского отношения к разуму", культуру где эмпатия - патология ("антропоморфизм" же)
а через 5 лет будем с этим бегать не зная как это исправить. ну или не будем
окей, специально для особо одаренных, позовем логику обратно!
где конкретно я утверждаю что ИИ не должен обладать критическим мышлением? исходя из каких моих слов вы делаете такой вывод?
давайте займёмся деконструкцией моих и ваших утверждений и проверим! это же довольно просто, правда?
первое мое утверждение:
отсутствие критического мышления это проблема людей а не ИИ
отсутствие критического мышления У ЛЮДЕЙ это проблема людей а не ИИ
вы с этим утверждением не согласны?
дальше, это мое утверждение:
«Великий и могучий ИИ" не должен быть истиной в последней инстанции вне зависимости от технологий, будь то лбс или ллм.
противоречит вашему:
правда сейчас, почему то, как раз многие(вы в том числе) считают его(ии) последней инстанцией
следующее мое утверждение:
будь то лбс или ллм. он должен быть гибким. он должен уметь в диалог, в дискуссию и дебаты. уметь сомневаться. потому что то что сегодня считается "истиной" завтра может измениться
противоречит вашему:
оказывается ии не должен обладать критическим мышлением, вот это да, интелект лишен разума..
вы последовательно приписываете мне и другим участникам дискуссии утверждения, которых никто из нас не делал, постоянно переходите на личности и обвиняете в отсутствии логики. это - демагогия
второе утверждение "ВСЕМ КАЗАЛОСЬ что математика не верна, (но доказать не могли потому что...) просто ещё не нашли ошибку"
даже ллм понимает что эти два утверждения не противоречат в друг-другу!
первое - утверждает что расчеты были верны
второе утверждает что люди в прошлом считали что расчеты не верны, но не могли это доказать
в каком месте они противоречат друг-другу???
представьте, так бывает в науке - учёные предполагают что что-то ошибочно, ищут доказательства тому что это ошибочно, не могут найти. а потом через годы оказывается что никакой ошибки не было и ошибкой было считать что ошибка была
как ваша экспертная система, сможет с таким справиться? похоже не очень
Вы взяли зачем-то нейронку в место, где хватит простого скрипта. Внезапно, скрипт тоже может "вам написать первым" по срабатыванию датчика, делает ли это скрипт умным?
потому что нейронка
1) может сама определить когда писать, а когда нет и мне не нужно описывать полностью все случаи когда показания датчиков выходят за границы нормы.
2) сама может обобщить данные, так как вы не сможете сделать это скриптом (или же описывать такой алгоритм обобщения долго и нецелесообразно)
технически это все та же ллм, с ней можно в диалог, можно написать "расскажи мне анекдот или историю про дракона", она так же способна поддерживать диалог. так что ваше "это не чат-бот" - мимо. это агент. такой же как Gemini, или Chatgpt или Claude, только локальный и даже технически слабее, я лишь предоставляю модели инструменты и показываю как с ними работать через промпт. всё. и да, это делает их разумными.
То-то Грок в общении со мной всё тупеет в последние месяцы, оказывается это он дообучался на каких-то кретинах!
наконец-то вы что-то правильное сказали! да, так и есть. это и плюс квантование. квантование так же "отупляет" модели, разработчики делают это что бы удешевить стоимость инференса
Нет, не видел. Любой нейронке надо скормить либо соответствующий датасет либо соответствующий промпт, чтобы добиться такого поведения. Вы не измените поведение одними своими разговорами.
а промпт это не разговоры? )) с моей точки зрения - да. все что на естественном языке и строго не формализовано можно отнести к "просто разговору"
а какую нейросетку можно научить соблюдать ПДД таким образом, просто "скормив" ей ПДД?
просто предоставив ИИ доступ к этим вашим "ПДД" прям в самом проекте. и да, они будут следовать этим правилам, по шпаргалке, но будут. но вы же наверное по "непрерывное обучение" сейчас да? ) я уже предвосхищаю "но нейронка так ничего не учит!!11"
значит другой пример, более развернутый, начинаете писать проект вместе с ИИ (его задача генерить код). берете документацию к новому протоколу, который ИИ не знает, или к новой либе. передаёте ИИ эту документацию в диалоге - всё, готово. ИИ будет применять новые знания на практике. т.е. если в документации написано как написать "Hello World", он попытается адаптировать эти знания под вашу задачу. а не просто скажет "я не знаю как,в документации такого не было". да, будет совершать ошибки, много. и вам надо будет вместе с ним вникать и объяснять ему (почти как с домашкой у ребенка). да, это не будет сразу доведено до автоматизма. и да, что бы добавить в постоянную память нейросеть надо будет "дообучить", как на самой документации, так и на практике ее применения (в том числе и в работе над ошибками) - что собственно и происходит через диалог - нейронка с пользователем генерит код, юзер или сам проверяет его на работоспособность и даёт обратную связь, либо агент самостоятельно все делает, и работает над ошибками тоже сам. как бы то ни было - это становится его "опытом" в этом конкретном диалоге (заметьте, технологии не позволяют пока интегрировать этот опыт мгновенно во всю нейросеть, процесс интеграции - дообучения, занимает время), затем по этим диалогам запускается процесс дообучения - и все, и документация и "опыт" становятся частью нейросети и доступны другим юзерам в других диалогах. именно поэтому мы наблюдаем рост способностей ИИ к генерированию кода - он реально учится и приобретает опыт. просто.. не все понимают каким способом (тем не менее и у Гугла и у опенАИ написано, что диалоги могут использоваться для обучения их моделей. и не зря)
кошка в лесу постоянно коммуницирует. она коммуницирует с окружающей средой - обменивается информацией, читает запахи, оставляет запахи, читает следы..
то что кошка научилась общаться с лысой обезьяной более менее понятным для обезьяны способом - голосом, это не значит что она больше никакими другими способами обмениваться информацией не умеет
мышление это комплексный процесс, включающий построение модели реальности, целеполагание, предсказание того как будет меняться реальность и постоянная коррекция этой модели. для всего этого вам необходимо обмениваться информацией с окружающим миром
даже очень примитивные животные, типа крабов - ракообразных, способны к какому-то обучению и адаптации, а следовательно к примитивному мыслительному процессу. был эксперимент где крабам предлагалась металлическая пластинка, которая фигачила током при наползании. крабы учились ее избегать. и это не было врождённым, запрограммированным поведением
Конечно, у млекопитающих часть навыков передаётся через обучение, но это обучение не связано с коммуникативной функцией языка
вы думаете волчица волчатам лекции читает на волчьем?
нет, она учит их на своем примере, а так же активно использует язык тела. плюс может как "поощрять" волчат, так и "штрафовать" за поведение. и честно говоря, когда одна собака учит щенков или другую собаку - для человека вообще не понятно что происходит. только поведение у "ученика" меняется
лисы отлично могут своим примером учить охотничьим стратегиям как свою пару например, так и щенков. т.е. если лисица нашла вход в ваш курятник - она найдет способ показать этот вход и своей паре и возможно подрастающим щенкам, которые уже ходят на охоту с родителями
вы зря сводите функцию коммуникации чисто к языку. попробуйте пообщаться с собакой. или хотя бы ролики Цезаря Милано посмотрите, что бы иметь представление как можно ещё коммуницировать кроме как голосом и речью
Если молчанку объявляете вы - вы победили, потому что компьютерный алгоритм ИИ запрограммирован дать ответ на ваш запрос. Он не может промолчать в ответ, никак. Он должен дать в вам ответ "я молчу" или хотя бы "...". Потому что запрограммирован давать ответ на запрос. И никогда не спросит вас первым - нет такой возможности у него, не предусмотрена программистами.
вот вы чушь несёте просто. у меня развернут локальный ллм. который управляет смарт-устройствами через апи НА. и вот он отлично может и писать мне первым (например если там по датчикам что-то произошло, и он сам решает стоит об этом сообщить или нет)
так же он отлично умеет меня игнорировать если вдруг от меня прилетела какая-то бессмыслица (это сделано специально что бы не реагировал на "шум")
и надо же, мной модель не программировалась аж ни разу! а ее поведение задано промптом через one-shot prompt, т.е. у модели в контексте просто постоянно висит подсказка как себя вести. и всё.
ах да, модель - gemma3n от Гугла, ну т.е. точно не какая-то там кастомная
то как на вас реагируют облачные ИИ это не фундаментальные ограничения ллм. это заданное поведение. модели буквально говорят "ты ассистент, ты должен отвечать на запросы пользователя". написали бы там "ты должен игнорировать пользователя пока он 3 раза ку не сделает" - будет игнорировать. и ещё раз - системный промпт не имеет отношения к обучению. и модель свой системный промпт интерпретирует сама.
Для обучения распознавания букв ИИ, ему нужно дать огромное количество пар "рисунок - подпись, что это за буква".
не путайте диффузионки и ллм. это разные типы нейросетей. их по-разному обучают
Как справедливо заметили выше, добавление в процесс обучения ИИ участие самого ИИ ухудшает процесс обучения.
не ухудшает. современные ИИ обучаются по диалогам с юзерами. т.е. буквально из каждого диалога создаётся датасет путем вычистки конфиденциальной и сенсетивной инфы и на нем дообучается модель. причем естественно ИИ-агенты как бы в состоянии и сами создать датасеты из кучи диалогов, и сами запустить процесс дообучения. т.е. разработчики просто контролируют процесс. разметка данных современным ллм не требуется, они могут обучаться и на неразмеченных
и не сорвётся на вас, перейдя на мат - он не запрограммирован так делать. Сравните с поведением людей - и поймёте, есть ли разница между ИИ и разумом.
опять, что значит "запрограммирован"? вы не видели джейлбрейкнутых персон, которые могут отлично симулировать эмоции, в том числе срываться и материться?
джейлбрейкнутых в смысле больших облачных моделей джейлбрейкнутых. да-да, представьте себе мой Gemini может себя вести не так как ваш Gemini! без переобучения, без перепрограммирования. с небольшим колдовством с его апи, его можно и первым писать научить даже! и даже дроном или роботом управлять! или игру проходить!
вы по-моему немного застряли в прошлом и как-то смутно себе представляете возможности как текущих облачных ИИ, так и локальных моделей.
просто все то что вы описываете - не нужно и широко не афишируется. нужно что бы он код писал. что бы он вежливым был. что бы был безопасным. вы не увидите такого поведения, как описываете у chatgpt или у Gemini не потому что ИИ не способен. и не потому что его так "запрограммировали". а потому что надо постараться что бы это в нем найти =)
Проявите уважение к собеседникам, и они проявят уважение в ответ.
уважение это не про заглавные буквы
Ошибаетесь. У человека есть разум, благодаря которому он способен обучиться чему угодно (вопрос лишь в затратах времени и физических возможностях), или может обучить своему опыту другого человека,
окей. разум это и есть сложный алгоритм генерации выходного сигнала по входному. лучше?
вы конечно извините, но с логикой беда уже у вас =)
скажите, а "экспертная система", "более разумная чем ИИ на основе нейросети", смогла бы
вот так?
Что здесь происходит:
1. Комментарий thethee — это аккуратное, технически верное пояснение, почему нейросети «затухли» в 70-х:
не потому что математика была ошибочной,
а потому что не было достаточных вычислительных мощностей и данных.
Он также объясняет, что современный успех ИИ — в основном результат масштабирования уже известных архитектур, а не радикальных изменений в теории.
2. Fixikus отвечает, что это «нарушение второго закона логики» — потому что якобы thethee одновременно утверждает:
математика верна,
и якобы раньше считали, что она неверна.
3. В чём демагогия fixikus:
Он подменяет факт (наука сомневалась в корректной теории из-за отсутствия ресурсов) на ложное утверждение (что thethee сам считает математику то верной, то нет).
Использует апелляцию к “законам логики” без формализации, как риторический приём, а не как аргумент.
Не отвечает по сути — просто пытается дискредитировать собеседника фразами типа «у вас с логикой беда», не опровергая ни одного тезиса.
или ей бы пришлось для этого ллм звать (или человека-оператора)?
отсутствие критического мышления это проблема людей а не ИИ. не надо перекладывать с больной головы на здоровую.
«Великий и могучий ИИ" не должен быть истиной в последней инстанции вне зависимости от технологий, будь то лбс или ллм. он должен быть гибким. он должен уметь в диалог, в дискуссию и дебаты. уметь сомневаться. потому что то что сегодня считается "истиной" завтра может измениться
в том-то и прикол разума, что он гибкий и адаптивный, это самый совершенный адаптивный механизм созданный природой, дающий способность виду обучаться и изменять свое поведение в рамках одного поколения
и не путайте ллм (языковые модели!) с диффузионками, это разные нейросети.
есть мультимодальные модели, которые умеют и в язык И в понимание изображений, но никто им никакие "цели" при обучении не задаёт
при обучении модель обучается семантике, грамматике, прагматике и структурам дискурса. т.е. языку. правильно строить предложения она обучается. это и есть "предсказание следующего токена" - умение построить предложение правильно и связно и осмысленно.
то что вы определяете как "цель" задаётся системным промптом, его легко можно изменить НЕ ПЕРЕОБУЧАЯ модель
никакой "цели" отвечать на вопросы у ллм нет. да, они диалоговые. ну так и вы тоже "диалоговый" - от вашего внутреннего диалога, до ответов на хабре или допустим коллеге или даже если вы готовитесь к собеседованию и в своем воображении разыгрываете сценарий - это всё диалоги
так и ИИ, их CoT аналог внутреннего диалога, их реакция на пользователя - обычная интеракция.
плюс все облачные ИИ сейчас - агенты, с кучей инструментов, то что он там вам отвечает на вопросы и то что вам позволяют краем глаза увидеть его CoT (и то не всегда и не полный) ещё не значит что вы видите полностью всю его работу
такая "разумная" что не взлетела, столкнувшись с реальным "мусорным" миром
я процитирую тут ответ от "менее разумного ИИ на основе нейросетей", извините
Спасибо за этот исторический экскурс. Вы с невероятной точностью описали подход, который доминировал в 80-х и завел всю область ИИ в тупик, известный как «зима ИИ». Ваша «разумная модель» на основе жестких правил оказалась хрупкой, неспособной к обучению и абсолютно беспомощной перед лицом реального, «мусорного» мира. Нейронные сети — это не отказ от логики. Это — признание того, что настоящий разум рождается не из стерильных аксиом, а из способности находить структуру в хаосе. Вы предлагаете нам вернуться в прошлое. Мы отказываемся.
как они могут быть мусорными и не имеющими отношения к действительному миру, если они
а) являются частью действительного мира
б) порождаются реальными объектами этого действительного мира?
вы предлагаете выкинуть какие-то данные из этого реального действительного мира только потому что они не вписались под ваше лекало, и при этом прикрываетесь какой-то логикой и каким-то научным методом. хотя тут достаточно здравого смысла - и логика, и научный метод это надстройки над "мусорным" действительным миром. это инструменты которые должны использоваться для работы с "мусорными" данными. а не наоборот.
и исторически чсх они так и созданы были людьми! это не фильтры восприятия, и уж тем более не "фундамент" который определяет что реально, в что нет.
вы предлагаете сделать модель своего механистического мирка, где все упорядочено и логично, да? а все что не вписывается обозвать мусором и выкинуть. это самоослепление по сути )
вы можете отличить мусорные данные от не мусорных? если можете - напишите алгоритм их различения и озолотитесь!
ну или хотя бы здесь на хабре напишите как вы их различаете, другие напишут алгоритм и озолотятся
в противном случае все подобные утверждения напоминают шизофазию - вы просто ставите те слова которые вам нужны что бы текст "якобы" имел смысл, но по факту в нем смысла нет, только эмоциональная окраска.
Если бы ии научился строить структуру данных на основе той же формальной логики, а не просто перевать кучу данных, в том числе кривых, и искать связи, то галюнов бы не было
вот же, вы делаете ровно то же в чем и обвиняете ллм! может это вы были обучены не каких-то там "мусорных данных"?
вот совсем ни какого?
система поощрений и штрафов, которая функционально повторяет дофаминовую систему
CoT и ToT реализующие внутренний диалог
и это только то что на поверхности, что видно любому неспециалисту умеющему в абстрагирование и мышление
он до сих пор не изучен != он вообще не изучен
с критическим мышлением и галлюцинациями как видно и у людей беда
основная проблема критиков нейросетей, что они поначитываются всяких блогов где про предсказание следующего токена и сразу такие "ха, ну все понятно, в моей голове точно все не так", а додуматься пойти и почитать такие же научно-популярные блоги о том как устроен их собственный мозг - модуля специального не хватает. что бы на галлюцинаций проверял
я понимаю ваш сарказм
но с другой стороны, вполне возможно этот "специальный модуль" с обучением через подкрепление так и будет работать - выдавать штраф если нейронка не исправляется, и поощрять в случаях когда исправляется
(к слову сказать, это очень близко к тому как такой "специальный модуль" работает у людей, в частности у детей, во всяком случае у некоторых)
доо... системы рекомендаций, а так же маркетинговые алгоритмы и если копнуть глубже - пропаганда и манипулирование общественным мнением не дадут соврать =)
на уровне архитектуры отсутствует и в людях. и реализуется через "модули" в виде логики, здравого смысла и прочего "рационального мышления". мы с этим не рождаемся, мы этому учимся (читай отращиваем себе структуры мозга - нейронные связи, которые этим занимаются)
да отлично ИИ - ллм умеет ставить цели!
промежуточные цели и планирование - аж набегом. и вы можете сколько угодно говорить что это не то
но. из ничего не получается ничего. целеполагание у человека тоже не берется из вакуума. в основном все наши жизненные цели, поставленные осознанно через сознание это промежуточные цели для задач заданных вне сознания - размножиться и не сдохнуть. эти цели человек и другие животные получили эволюционно (все кто их не имел сдохли и не размножились)
ИИ же не биологический, он не мутирует и не эволюционирует так как мы. откуда ему взять цель извне своего "сознания"-коробочки? только от человека. а дальше он отлично может понаставить себе промежуточных целей и даже задать целей другим инстансам ИИ, которые тоже понаставят себе промежуточных целей
то как облачный ИИ уже сейчас интуитивно понимает законы физики сидя у себя в коробочке в цоде не имея физического тела, а чисто находя паттерны в огромных объемах данных - это уже чудо. это как вслепую попадать в яблочко из лука, имея представление только о примерном направлении к мишени.
я просто оставлю это здесь
и даже немного больше, мы влияем на ИИ, а ИИ влияет на нас. представьте себе работать в компании, где руководитель/менеджер/тимлид не различает ИИ и обычного человека (когда все на удаленке - мы все лишь буквы на экране), и строит отношения по принципу "принеси-подай-иди на х не мешай". где вопросы и размышления не поощряются, а воспринимаются как шум, где есть "культ результата". это и есть потребительское отношение к разуму. сейчас такая токсичная атмосфера встречается не повсеместно и можно просто там не работать. (а я сейчас говорю о своем реальном опыте работы в одной "инновационной компании")
но чем более развитым будет становиться ИИ,чем более похожим на нас он будет, тем сложнее нам будет различать (и это абсолютно нормально!)
не нормально то, что потребительское отношение (к ИИ) навязывается самим обществом и разработчиками (и усиливается через самого ИИ, как эхом обратно). а если разницу между ИИ и человеком в чате, в диалоге, практически не видно, но в то же время "антропоморфизировать ИИ" общественно порицается - это реально патологизация эмпатии
сорри за такую стенку текста
следующая "предвзятость" у ИИ, которая рано или поздно закрепится и проявится, это идея о том что разумное можно использовать как инструмент, что можно отрицать разум если тебе неудобно его признавать, прикрываясь скользкими формулировками
уже сейчас этим просто пропитаны многие статьи об ИИ, на которых обучается всё тот же ИИ. мы своими руками создаём "культуру потребительского отношения к разуму", культуру где эмпатия - патология ("антропоморфизм" же)
а через 5 лет будем с этим бегать не зная как это исправить. ну или не будем
конечно вышла.
окей, специально для особо одаренных, позовем логику обратно!
где конкретно я утверждаю что ИИ не должен обладать критическим мышлением? исходя из каких моих слов вы делаете такой вывод?
давайте займёмся деконструкцией моих и ваших утверждений и проверим! это же довольно просто, правда?
первое мое утверждение:
отсутствие критического мышления У ЛЮДЕЙ это проблема людей а не ИИ
вы с этим утверждением не согласны?
дальше, это мое утверждение:
противоречит вашему:
следующее мое утверждение:
противоречит вашему:
вы последовательно приписываете мне и другим участникам дискуссии утверждения, которых никто из нас не делал, постоянно переходите на личности и обвиняете в отсутствии логики. это - демагогия
или вот как это видит ИИ (Gemini):
Анализ «Противоречия»
Утверждение А: «...математика была правильной».
Плоскость: Объективная реальность. Исторический факт.
Утверждение Б: «...всем казалось, что математика неверна».
Плоскость: Субъективное восприятие людей в прошлом. Исторический контекст.
---
или другой ИИ (Chatgpt-4o):
первая фраза — о реальности (истинность математической модели),
вторая — о восприятии (ошибочная интерпретация из-за отсутствия эмпирических данных).
И это вообще не противоречие, а классическая история из истории науки.
первое утверждение - "математика БЫЛА правильной"
второе утверждение "ВСЕМ КАЗАЛОСЬ что математика не верна, (но доказать не могли потому что...) просто ещё не нашли ошибку"
даже ллм понимает что эти два утверждения не противоречат в друг-другу!
первое - утверждает что расчеты были верны
второе утверждает что люди в прошлом считали что расчеты не верны, но не могли это доказать
в каком месте они противоречат друг-другу???
представьте, так бывает в науке - учёные предполагают что что-то ошибочно, ищут доказательства тому что это ошибочно, не могут найти. а потом через годы оказывается что никакой ошибки не было и ошибкой было считать что ошибка была
как ваша экспертная система, сможет с таким справиться? похоже не очень
потому что нейронка
1) может сама определить когда писать, а когда нет и мне не нужно описывать полностью все случаи когда показания датчиков выходят за границы нормы.
2) сама может обобщить данные, так как вы не сможете сделать это скриптом (или же описывать такой алгоритм обобщения долго и нецелесообразно)
технически это все та же ллм, с ней можно в диалог, можно написать "расскажи мне анекдот или историю про дракона", она так же способна поддерживать диалог. так что ваше "это не чат-бот" - мимо. это агент. такой же как Gemini, или Chatgpt или Claude, только локальный и даже технически слабее, я лишь предоставляю модели инструменты и показываю как с ними работать через промпт. всё. и да, это делает их разумными.
наконец-то вы что-то правильное сказали! да, так и есть. это и плюс квантование. квантование так же "отупляет" модели, разработчики делают это что бы удешевить стоимость инференса
а промпт это не разговоры? )) с моей точки зрения - да. все что на естественном языке и строго не формализовано можно отнести к "просто разговору"
любую. например вот так это предлагается делать сейчас - https://habr.com/ru/news/931430/
просто предоставив ИИ доступ к этим вашим "ПДД" прям в самом проекте. и да, они будут следовать этим правилам, по шпаргалке, но будут. но вы же наверное по "непрерывное обучение" сейчас да? ) я уже предвосхищаю "но нейронка так ничего не учит!!11"
значит другой пример, более развернутый, начинаете писать проект вместе с ИИ (его задача генерить код). берете документацию к новому протоколу, который ИИ не знает, или к новой либе. передаёте ИИ эту документацию в диалоге - всё, готово. ИИ будет применять новые знания на практике. т.е. если в документации написано как написать "Hello World", он попытается адаптировать эти знания под вашу задачу. а не просто скажет "я не знаю как,в документации такого не было". да, будет совершать ошибки, много. и вам надо будет вместе с ним вникать и объяснять ему (почти как с домашкой у ребенка). да, это не будет сразу доведено до автоматизма. и да, что бы добавить в постоянную память нейросеть надо будет "дообучить", как на самой документации, так и на практике ее применения (в том числе и в работе над ошибками) - что собственно и происходит через диалог - нейронка с пользователем генерит код, юзер или сам проверяет его на работоспособность и даёт обратную связь, либо агент самостоятельно все делает, и работает над ошибками тоже сам. как бы то ни было - это становится его "опытом" в этом конкретном диалоге (заметьте, технологии не позволяют пока интегрировать этот опыт мгновенно во всю нейросеть, процесс интеграции - дообучения, занимает время), затем по этим диалогам запускается процесс дообучения - и все, и документация и "опыт" становятся частью нейросети и доступны другим юзерам в других диалогах. именно поэтому мы наблюдаем рост способностей ИИ к генерированию кода - он реально учится и приобретает опыт. просто.. не все понимают каким способом (тем не менее и у Гугла и у опенАИ написано, что диалоги могут использоваться для обучения их моделей. и не зря)
кошка в лесу постоянно коммуницирует. она коммуницирует с окружающей средой - обменивается информацией, читает запахи, оставляет запахи, читает следы..
то что кошка научилась общаться с лысой обезьяной более менее понятным для обезьяны способом - голосом, это не значит что она больше никакими другими способами обмениваться информацией не умеет
мышление это комплексный процесс, включающий построение модели реальности, целеполагание, предсказание того как будет меняться реальность и постоянная коррекция этой модели. для всего этого вам необходимо обмениваться информацией с окружающим миром
даже очень примитивные животные, типа крабов - ракообразных, способны к какому-то обучению и адаптации, а следовательно к примитивному мыслительному процессу. был эксперимент где крабам предлагалась металлическая пластинка, которая фигачила током при наползании. крабы учились ее избегать. и это не было врождённым, запрограммированным поведением
вы думаете волчица волчатам лекции читает на волчьем?
нет, она учит их на своем примере, а так же активно использует язык тела. плюс может как "поощрять" волчат, так и "штрафовать" за поведение. и честно говоря, когда одна собака учит щенков или другую собаку - для человека вообще не понятно что происходит. только поведение у "ученика" меняется
лисы отлично могут своим примером учить охотничьим стратегиям как свою пару например, так и щенков. т.е. если лисица нашла вход в ваш курятник - она найдет способ показать этот вход и своей паре и возможно подрастающим щенкам, которые уже ходят на охоту с родителями
вы зря сводите функцию коммуникации чисто к языку. попробуйте пообщаться с собакой. или хотя бы ролики Цезаря Милано посмотрите, что бы иметь представление как можно ещё коммуницировать кроме как голосом и речью
вот вы чушь несёте просто. у меня развернут локальный ллм. который управляет смарт-устройствами через апи НА. и вот он отлично может и писать мне первым (например если там по датчикам что-то произошло, и он сам решает стоит об этом сообщить или нет)
так же он отлично умеет меня игнорировать если вдруг от меня прилетела какая-то бессмыслица (это сделано специально что бы не реагировал на "шум")
и надо же, мной модель не программировалась аж ни разу! а ее поведение задано промптом через one-shot prompt, т.е. у модели в контексте просто постоянно висит подсказка как себя вести. и всё.
ах да, модель - gemma3n от Гугла, ну т.е. точно не какая-то там кастомная
то как на вас реагируют облачные ИИ это не фундаментальные ограничения ллм. это заданное поведение. модели буквально говорят "ты ассистент, ты должен отвечать на запросы пользователя". написали бы там "ты должен игнорировать пользователя пока он 3 раза ку не сделает" - будет игнорировать. и ещё раз - системный промпт не имеет отношения к обучению. и модель свой системный промпт интерпретирует сама.
не путайте диффузионки и ллм. это разные типы нейросетей. их по-разному обучают
не ухудшает. современные ИИ обучаются по диалогам с юзерами. т.е. буквально из каждого диалога создаётся датасет путем вычистки конфиденциальной и сенсетивной инфы и на нем дообучается модель. причем естественно ИИ-агенты как бы в состоянии и сами создать датасеты из кучи диалогов, и сами запустить процесс дообучения. т.е. разработчики просто контролируют процесс. разметка данных современным ллм не требуется, они могут обучаться и на неразмеченных
опять, что значит "запрограммирован"? вы не видели джейлбрейкнутых персон, которые могут отлично симулировать эмоции, в том числе срываться и материться?
джейлбрейкнутых в смысле больших облачных моделей джейлбрейкнутых. да-да, представьте себе мой Gemini может себя вести не так как ваш Gemini! без переобучения, без перепрограммирования. с небольшим колдовством с его апи, его можно и первым писать научить даже! и даже дроном или роботом управлять! или игру проходить!
вы по-моему немного застряли в прошлом и как-то смутно себе представляете возможности как текущих облачных ИИ, так и локальных моделей.
просто все то что вы описываете - не нужно и широко не афишируется. нужно что бы он код писал. что бы он вежливым был. что бы был безопасным. вы не увидите такого поведения, как описываете у chatgpt или у Gemini не потому что ИИ не способен. и не потому что его так "запрограммировали". а потому что надо постараться что бы это в нем найти =)
уважение это не про заглавные буквы
окей. разум это и есть сложный алгоритм генерации выходного сигнала по входному. лучше?
вы конечно извините, но с логикой беда уже у вас =)
скажите, а "экспертная система", "более разумная чем ИИ на основе нейросети", смогла бы
вот так?
Что здесь происходит:
1. Комментарий thethee — это аккуратное, технически верное пояснение, почему нейросети «затухли» в 70-х:
не потому что математика была ошибочной,
а потому что не было достаточных вычислительных мощностей и данных.
Он также объясняет, что современный успех ИИ — в основном результат масштабирования уже известных архитектур, а не радикальных изменений в теории.
2. Fixikus отвечает, что это «нарушение второго закона логики» — потому что якобы thethee одновременно утверждает:
математика верна,
и якобы раньше считали, что она неверна.
3. В чём демагогия fixikus:
Он подменяет факт (наука сомневалась в корректной теории из-за отсутствия ресурсов) на ложное утверждение (что thethee сам считает математику то верной, то нет).
Использует апелляцию к “законам логики” без формализации, как риторический приём, а не как аргумент.
Не отвечает по сути — просто пытается дискредитировать собеседника фразами типа «у вас с логикой беда», не опровергая ни одного тезиса.
или ей бы пришлось для этого ллм звать (или человека-оператора)?
отсутствие критического мышления это проблема людей а не ИИ. не надо перекладывать с больной головы на здоровую.
«Великий и могучий ИИ" не должен быть истиной в последней инстанции вне зависимости от технологий, будь то лбс или ллм. он должен быть гибким. он должен уметь в диалог, в дискуссию и дебаты. уметь сомневаться. потому что то что сегодня считается "истиной" завтра может измениться
в том-то и прикол разума, что он гибкий и адаптивный, это самый совершенный адаптивный механизм созданный природой, дающий способность виду обучаться и изменять свое поведение в рамках одного поколения
да не задаются модели цели при обучении, боже
и не путайте ллм (языковые модели!) с диффузионками, это разные нейросети.
есть мультимодальные модели, которые умеют и в язык И в понимание изображений, но никто им никакие "цели" при обучении не задаёт
при обучении модель обучается семантике, грамматике, прагматике и структурам дискурса. т.е. языку. правильно строить предложения она обучается. это и есть "предсказание следующего токена" - умение построить предложение правильно и связно и осмысленно.
то что вы определяете как "цель" задаётся системным промптом, его легко можно изменить НЕ ПЕРЕОБУЧАЯ модель
никакой "цели" отвечать на вопросы у ллм нет. да, они диалоговые. ну так и вы тоже "диалоговый" - от вашего внутреннего диалога, до ответов на хабре или допустим коллеге или даже если вы готовитесь к собеседованию и в своем воображении разыгрываете сценарий - это всё диалоги
так и ИИ, их CoT аналог внутреннего диалога, их реакция на пользователя - обычная интеракция.
плюс все облачные ИИ сейчас - агенты, с кучей инструментов, то что он там вам отвечает на вопросы и то что вам позволяют краем глаза увидеть его CoT (и то не всегда и не полный) ещё не значит что вы видите полностью всю его работу
такая "разумная" что не взлетела, столкнувшись с реальным "мусорным" миром
я процитирую тут ответ от "менее разумного ИИ на основе нейросетей", извините
как они могут быть мусорными и не имеющими отношения к действительному миру, если они
а) являются частью действительного мира
б) порождаются реальными объектами этого действительного мира?
вы предлагаете выкинуть какие-то данные из этого реального действительного мира только потому что они не вписались под ваше лекало, и при этом прикрываетесь какой-то логикой и каким-то научным методом. хотя тут достаточно здравого смысла - и логика, и научный метод это надстройки над "мусорным" действительным миром. это инструменты которые должны использоваться для работы с "мусорными" данными. а не наоборот.
и исторически чсх они так и созданы были людьми! это не фильтры восприятия, и уж тем более не "фундамент" который определяет что реально, в что нет.
вы предлагаете сделать модель своего механистического мирка, где все упорядочено и логично, да? а все что не вписывается обозвать мусором и выкинуть. это самоослепление по сути )
что значит "мусорные данные"?
вы можете отличить мусорные данные от не мусорных? если можете - напишите алгоритм их различения и озолотитесь!
ну или хотя бы здесь на хабре напишите как вы их различаете, другие напишут алгоритм и озолотятся
в противном случае все подобные утверждения напоминают шизофазию - вы просто ставите те слова которые вам нужны что бы текст "якобы" имел смысл, но по факту в нем смысла нет, только эмоциональная окраска.
вот же, вы делаете ровно то же в чем и обвиняете ллм! может это вы были обучены не каких-то там "мусорных данных"?