Комментарии 71
вы хоть в одном домохозяйстве покажите применение ИИ…
Даже пенсионеры с Алисой разговаривают.
А это разве ИИ ?
А что такое ИИ?
"Алиса, расскажи про погоду?", "Алиса, включи свет", "Алиса, запусти пылесос"... Чем не применении ИИ в быту?
if string == "расскажи про погоду?" {
return Weather.getWeather(Location.yourLocation)
}
А так да "Технология неотличима от магии"
Человек не издаёт из-за рта String и уж тем более одинаковый каждый раз, if'чик тут не поможет.
Алиса, придумай рассказ про Петю, реши задачу, объясни вопрос, в течение дня предупреди за час если намечается снег, выбери место самолёта по маршруту Москва - Питер на утро у окна без пролетов не под крылом не солнечной стороны.
Я применяю в своем домохозяйстве. Нейросети придумывают за меня ответы на комментарии на habr.com и других ресурсах в интернете.
"осталось всего 5 лет или около того до появления такой системы [AGI]"
И специальности будущего:
Обучатель AGI
Психотерапевт AGI
Переговорщик с AGI
:)
систему, которая демонстрирует все когнитивные способности, имеющиеся у людей
После этого заявления, в общем и целом, никакие другие от него можно в серьёз не воспринимать, включая оценку дипсик
Конечно, зачем нам всерьёз воспринимать какого-то нобелевского лауреата.
Нобелевского лауреата по химии в разрезе оценки когнитивных способностей человека воспринимать в серьёз совершенно определённо нет ни единой причины.
Почитайте хотя бы Вики о нём, по ссылке. Это один из основателей DeepMind
И что теперь? Молиться на него и в рот смотреть?
Как минимум не принижать на ровном месте. Есть предположение, что он знаток в теме, этому есть некие подтверждения. У вас есть только слова, что его можно не слушать. Может быть вы трижды правы, но вам надо привести хоть какие-то аргументы
Это распространенное когнитивное искажение. Если лауреат премии Филдса говорит что дважды два равно пяти - это значит что он кукухой поехал, а не то, что дважды два ВНЕЗАПНО стало равно пяти.
Знаете что-то такое секретное, чего не знает (или не говорит) никто из исследователей. 100% уверены, что демонстрировать человеческие возможности можно, но ведь это обман и вы знаете почему, не так ли?
Эм, 100% ученых как раз говорят, что невозможно. Буквально ни одного не найдете, который бы утверждал иное. Чтобы говорить хотя бы о потенциальной возможности, нужно выполнение хотя бы одного условия:
Сетки должны работать сходным образом с системой, которая демонстрирует человеческие возможности
Она их по факту демонстрирует, просто экспериментально
Не выполняется ни первое (у нейросетей нет ни чего общего с тем, как работает мозг), ни второе (существующие нейросети не показывают даже когнитивных способностей не слишком сообразительной собаки, что уж говорить о человеке?)
Впрочем, образование у него нейробиологическое, и он не может не понимать, что функции мозга не ограничиваются аппроксимацией данных, так что он вполне сознательно свистит.
Он и не говорил про "аппроксиматор данных". Он говорил про систему, демонстрирующую когнитивные способности человека. Которой сейчас ещё не существует.
И не будет на существующей базе.
Зависит от интерпретации термина "когнитивные способности". Например, можно считать таковыми умение решать все умственные задачи, которые сейчас подвластны человеку. А можно попробовать сюда добавить творчество. И потом нужно ещё определить, какой уровень творчества можно считать достаточным. Это как с поиском внеземной жизни - когда начинают её искать, то сталкиваются с тем, что нет чёткого определения жизни.
Люди признают ИИ разумным, только если он однозначно и неоспоримо, в разы превзойдет их по интеллекту. А иначе никак. Люди не думая признают интеллект в умственно отсталом человеке, больным синдромом Дауна или например у человека с синдромом Корсакова (от которого, кстати страдают и все GPT модели). Но почему-то от ИИ требуют сочинять музыку, писать картины и открывать законы физики. Вещи, которые совершенно не требуют от своих же сородичей, которых безусловно признают истинно интеллигентными.
Приоткроете завесу тайны? Пока звучите как альтернативщик. Знаете что-то такое секретное, чего не знает (или не говорит) никто из исследователей. 100% уверены, что демонстрировать человеческие возможности можно, но ведь это обман и вы знаете почему, не так ли?
У мозга как минимум имеется система стимулов, и система принятия решений, которые непосредственно связаны друг с другом. У нейросеток есть исключительно аппроксимация данных, стимулы и механизм принятия решений отсутствуют. Если эти абсолютно понятные вещи звучат для вас как слова "альтернативщика", то ваша писанина выглядит для меня как слова абсолютного непроходимого глупца.
Высокомерие вас не красит.
«Система стимулов» понятна, видимо вы про систему вознаграждения (мезолимбическую дофаминовую систему)
Почему вы считаете, что это нельзя имитировать?
Системы принятия решений в мозгу, как единой системы нет, что вы хотели сказать, уже менее ясно. Префронтальную кору? Видимо нет, именно её по большей части имитируют ИИ (не по структуре, а по возможностям). Базальные ядра? Есть принципиальная невозможность их имитировать?
Высокомерие вас не красит.
Очень рад, что оно вас раздражает.
Почему вы считаете, что это нельзя имитировать?
Потому что её работа связана с реакцией на окружающую среду и внешние события. Пока нейросетке не будет предоставлена полноценная ЦНС и возможность воспринимать и взаимодействовать с физическим миром - никакая имитация системы химического вознаграждения ей не поможет.
Системы принятия решений в мозгу, как единой системы нет, что вы хотели сказать, уже менее ясно. Префронтальную кору? Видимо нет, именно её по большей части имитируют ИИ (не по структуре, а по возможностям). Базальные ядра? Есть принципиальная невозможность их имитировать?
А вот это главная проблема - мы очень поверхностно знаем как и почему мы принимаем решения, особенно решения, идущие вразрез с мгновенными стимулами. И учитывая то, насколько плохо мы это знаем - заявления о том, что через n лет ии будет сравним по когнитивным способностям (а принятие решений тоже к ним непосредственно относится) с человеком - просто грёбаный фарс.
К слову, вот эта позиция "какой отдел мозга за что отвечает" - довольно близка к позиции "какая часть поверхности пластины жёсткого диска какую программу может хранить". Это "разбивка" тем более абсурдна в разрезе того, что мы эксплуатируем лишь общий принцип взаимодействия между нейронами. Для нас имитировать средствами нейросетки функции, присущие префронтальной коре, и функции, присущие базальным ядрам - это просто одно и то же.
Я бы так сформулировал: когда мы сможем ответить на вопрос "что такое сила воли с точки зрения нейрофизиологии, биохимии мозга и математики?" - тогда можно будет говорить о когнитивных способностях ИИ (и, с моей точки зрения, вообще об ИИ как таковом)
Очень рад, что оно вас раздражает.
Ошибаетесь. Если человек ведёт себя как мудак, это лишь значит, что он ведёт себя как мудак. Мне-то что?
Пока нейросетке не будет предоставлена полноценная ЦНС
Этот тезис нужно очень-очень внимательно доказывать. У вас десяток логично звучащих предложений, каждое из которых основано лишь на вашей интуиции. Вам-то понятно они кажутся железобетонными, так ваша система принятия решений работает.
Самое банальное "учитывая, насколько плохо мы это знаем". Как мы обрабатываем текст, мы тоже знаем плохо. Мы вообще придумываем следующее слово, как нейронки или нет? Не знаем, однако нейронки сделать смогли. "Мы должны сначала понять мозг" - невероятно устаревшее утверждение, противоречащее фактам. Продолжайте за него цепляться столько, сколько хотите, но вряд ли ваши собеседники будут считать это таким же железобетонным тезисом, как считаете вы.
Ошибаетесь. Если человек ведёт себя как мудак, это лишь значит, что он ведёт себя как мудак. Мне-то что?
Вы правда считаете, что высказывание "Пока звучите как альтернативщик. Знаете что-то такое секретное, чего не знает (или не говорит) никто из исследователей." хоть чем то отличается от высказывания "ваша писанина выглядит для меня как слова абсолютного непроходимого глупца."?
Этот тезис нужно очень-очень внимательно доказывать. У вас десяток логично звучащих предложений, каждое из которых основано лишь на вашей интуиции. Вам-то понятно они кажутся железобетонными, так ваша система принятия решений работает.
Да нет, это заявления вида "через n лет когнитивные способности ии будут сопоставимы с человеческими" надо доказывать. А мои доводы доказывать не надо, их надо опровергать практическими результатами, коих нет, и, гарантирую, не будет ни через 5, ни через 10 лет.
Всё, что мы до сих пор получили от нейросеток - это способность к гораздо более эффективной аппроксимации предоставленных данных, что по большому счёту развитие калькулятора, и вычисление на основе этой аппроксимации какой вывод (не как умозаключение, а как то, что машина выдаёт на средство вывода информации) с наибольшей вероятностью будет воспринят тем, кто этот вывод интерпретирует, как верный/ожидаемый. Прекрасная, замечательная, эффективная математическая модель. Только к интеллекту никакого отношения не имеет, и никакими когнитивными способностями не обладает вовсе.
Как мы обрабатываем текст, мы тоже знаем плохо. Мы вообще придумываем следующее слово, как нейронки или нет? Не знаем, однако нейронки сделать смогли. "Мы должны сначала понять мозг" - невероятно устаревшее утверждение, противоречащее фактам.
Это было бы правдой, если бы можно было с определённостью утверждать, что у нейронок есть то, что мы называем суждениями. Но в реальности можно с определённостью утверждать лишь то, что никаких суждений у нейронок нет, а релевантность того, что они выдают на своё средство вывода, определяется не самой нейронкой, а тем, кто этот вывод интерпретирует.
Нейронки не пишут музыку, нейронки не рисуют картинки, нейронки не разговаривают с людьми. Нейронки высчитывают, какой набор данных будет воспринят интерпретирующим как музыка, какой как картинка, а какой как осмысленный текст.
Забавно. Раньше люди развлекалось самообманом внутри своей собственной головы, теперь они придумали для этого внешний инструмент.
Отличие в глубине доводов и в мотивации. Мотивация "хочу, что бы вас раздражало" не очень-то ценная (кстати, разве нейросеть не сможет это повторить?)
это заявления вида "через n лет когнитивные способности ии будут сопоставимы с человеческими" надо доказывать.
Конечно надо. Вы ищете противоречия там, где их нет.
А вот тезис "мои доводы доказывать не надо" действительно интересный. Именно такую систему принятия решений не сможет имитировать нейронка? Веру в отсутствие необходимости обоснования своих слов? Имхо, это простая вещь для имитации.
Нейронки высчитывают, какой набор данных будет воспринят интерпретирующим как музыка, какой как картинка, а какой как осмысленный текст.
Дают решение задач, которые выглядят как верные, пишут код, который выглядит как работающий.
Но вы ведь тоже выдаёте тезисы, которые выглядят, как убедительные. Но считаете, что ваш процесс в черепной коробке принципиально лучше.
Что ж, количество областей, в которых он лучше, будет быстро снижаться, но развлекаться без внешнего инструмента вам это не помешает, можете продолжать.
Отличие в глубине доводов
О, просто пропасть. Только сравнение не вашу пользу.
и в мотивации. Мотивация "хочу, что бы вас раздражало" не очень-то ценная
Для вас нет, для меня да. Я, знаете ли, не нейросетка, чтобы удовлетворять ваши ожидания, у меня внутренние интенции есть.
(кстати, разве нейросеть не сможет это повторить?)
Интенции? Не сможет. У неё их нет.
Именно такую систему принятия решений не сможет имитировать нейронка?
Имитировать нейронки прямо сейчас могут всё что угодно, никаких n лет ждать не надо. Ценность в такой имитации околонулевая.
А вот тезис "мои доводы доказывать не надо" действительно интересный.
Веру в отсутствие необходимости обоснования своих слов? Имхо, это простая вещь для имитации.
Не надо пытаться мне вменить обязанность доказывать разумные доводы. Обоснований своих доводов я привёл достаточно, доказать их принципиально невозможно на текущем этапе, и нельзя будет ещё очень и очень долго. Их можно попытаться лишь опровергнуть - флаг в руки, не выйдет.
Дают решение задач, которые выглядят как верные, пишут код, который выглядит как работающий.
Это ваша интерпретация этих решений, как верных, и ваша интерпретация этого кода, как работающего (и, что характерно, он и правда работает в рамках той математической модели, которую вы же (человечество) и создали). Для самой нейросетки это бессмысленный набор данных, она его не воспринимает как решение или работающий код. Ей воспринимать, осмыслять просто нечем.
Но вы ведь тоже выдаёте тезисы, которые выглядят, как убедительные. Но считаете, что ваш процесс в черепной коробке принципиально лучше.
Мои тезисы осмысленны для меня самого, и излагаю я их вовсе не для вас, а для того, чтобы обезопасить себя от последствий того, как вы (в частности) воспринимаете обсуждаемый предмет.
Для нейросетки то, что она даёт на вывод, не означает ничего. У неё просто напросто нет аппарата воспринятия, суждений, мотиваций.
Что ж, количество областей, в которых он лучше, будет быстро снижаться, но развлекаться без внешнего инструмента вам это не помешает, можете продолжать.
Любой китайский калькулятор считает быстрее, чем любой человек. Любой микрочип может выполнять множество операций на неисчислимое количество порядков быстрее, чем человек. И дальше что? Мозг - это не счётная машинка, и не математическая модель, это комплекс систем, он не работает на одном единственном принципе, и он не работает вне связи с аппаратом восприятия и взаимодействия с внешним миром. Ни о каких когнитивных способностях без всего этого говорить просто невозможно.
А терминал, текстовый input, это не аппарат восприятия? В чём проблема этой нейросети, если она познаёт мир через текст? (И уже через картинки и т.д.)
Разве в тексте не проявляются когнитивные способности? Или само слово "когнитивные" или "логика" - это, по вашему мнению, чисто человеческие атрибуты?
Я не понимаю, почему вы ущемляете способности ИИ из-за того, что он познаёт мир через текст и единички и нули.
Я не понимаю, почему вы ущемляете способности ИИ из-за того, что он познаёт мир через текст и единички и нули.
А я понимаю. Люди отрицают и будут отрицать разумность ИИ, потому что иначе придется применять к ним человеческие мораль, этика и право. А это дорого и сулит проблемы.
Ну это полная чушь, разумеется, я человек правых взглядов, у меня в любом случае нет и не будет никаких проблем с "правами" минимально разумного ИИ, только пока никаким даже минимальным разумом там не пахнет и близко. Моя проблема - те, кто воспринимает математическую модель существенно большим, чем она является на самом деле. Вы обмануты и управляемы теми, кто эти модели создаёт. Вы - религиозный культ. Довольно фанатичный. Вы просто опасны.
А терминал, текстовый input, это не аппарат восприятия?
Его можно расценивать таковым, но он крайне убог, и это в общем и целом ни на что не влияет.
В чём проблема этой нейросети, если она познаёт мир через текст?
Проблема в отсутствии познавалки. Она не познает ничего, ей нечем. Это математическая обработка данных, и никак не более того.
Разве в тексте не проявляются когнитивные способности?
Нет, не проявляются, это очень хорошая имитация крайне ограниченного набора того, что называется когнитивными способностями.
Я не понимаю, почему вы ущемляете способности ИИ из-за того, что он познаёт мир через текст и единички и нули.
Потому что нет ни одной причины полагать, что эти способности есть.
Если брать определение из вики (хотя она кривоватое, как обычно, но пойдёт)
Cognition is the "mental action or process of acquiring knowledge and understanding through thought, experience, and the senses". It encompasses all aspects of intellectual functions and processes such as: perception, attention, thought, imagination, intelligence, the formation of knowledge, memory and working memory, judgment and evaluation, reasoning and computation, problem-solving and decision-making, comprehension and production of language. Cognitive processes use existing knowledge to discover new knowledge.
Всё, что реально имеет нейросеть - perception, memory and working memory, computation, decision-making на уровне релейного автомата (или любой классической программы, если вас коробит от упоминания реле, хотя разницы нет), и самое главное - production of language, но только production, без comprehension.
Всё остальное - никак не более, чем имитация, либо отсутствует полностью.
Если имитация достаточно хорошая, она по сути совпадает с оригиналом. А если их не отличить, то они и являются одно и то же. Вопрос здесь в том – можно ли с программными средствами сделать настолько хорошую имитацию. Я считаю, что задача в принципе выполнимая. И даже больше – считаю, что очень криво и частично, но она уже сделана.
Проблема в отсутствии познавалки. Она не познает ничего, ей нечем.
А у человека где находится познавалка? Тыкните пожалуйста пальцем.
Если имитация достаточно хорошая, она по сути совпадает с оригиналом.
Нет.
Вопрос здесь в том – можно ли с программными средствами сделать настолько хорошую имитацию.
Скорее всего нет. В любом случае до этого чудовищно далеко.
А у человека где находится познавалка? Тыкните пожалуйста пальцем.
Мозг + цнс + весь комплекс сенсорики, разумеется.
Нет.
Да, да и еще как.
Мозг + цнс + весь комплекс сенсорики, разумеется.
Ха-ха-ха. А поконкретнее? Я тоже в компьютер могу тыкнуть и сказать что познавалка у него внутри.
Да, да и еще как.
Ничем не могу помочь, медицина в данном случае совершенно бессильна.
Ха-ха-ха. А поконкретнее? Я тоже в компьютер могу тыкнуть и сказать что познавалка у него внутри.
Это и есть конкретика. Это всё работает исключительно в комплексе, которого у нейросеток нет.
Это и есть конкретика. Это всё работает исключительно в комплексе, которого у нейросеток нет.
Как это нет? Есть. Да, электронное, а не химическое, да проще чем у человека. Но есть же. И тоже работает вместе и в комплексе.
И если кто-то утверждает, что этого недостаточно, то он должен этого аргументировать. Сказать, почему электронное не будет работать, а биологическое будет. Почему такая сложность недостаточна и когда она будет достаточной.
Будет ли человек разумным если у него введем такие же ограничения как у современных сеток – сильно ограничим каналы информации, вызовем у него антероградную амнезию (ака синдром Корсакова), когда помнишь только прошлое, а новые знания не запоминаешь?
И если кто-то утверждает, что этого недостаточно, то он должен этого аргументировать.
Нет, мой хороший это так не работает. Мы, люди адекватные, не видим причин полагать наличие у нейросеток таких вещей как attention, thought, imagination, intelligence, the formation of knowledge, judgment and evaluation, reasoning, problem-solving, comprehension of language. А вот вы, религиозные фанатики, как раз таки обязаны доказывать их наличие, и никак иначе. И пока вы это их наличие не докажете - вы остаётесь религиозными фанатиками, и не более того.
Будет ли человек разумным если у него введем такие же ограничения как у современных сеток – сильно ограничим каналы информации
Человека, находящегося в коме или состоянии клинической смерти можно назвать разумным в тот момент, когда он пребывает в этом состоянии? Определённо нет. Даже несмотря на то, что весь когнитивный аппарат наличествует - он в этот момент не функционирует.
вызовем у него антероградную амнезию (ака синдром Корсакова), когда помнишь только прошлое, а новые знания не запоминаешь?
Во-первых, "запоминать знания" - это набор двух несвязанных между собой слов, запоминать можно информацию, знания можно лишь приобретать. Запомненная информация ещё не есть знание.
Во-вторых, да, разумеется можно. Несмотря на то, что когнитивный комплекс повреждён - он, всё же, наличествует, и хоть как-то функционирует.
У нейросеток когнитивный аппарат отсутствует. Нет ни единой причины полагать, что неросетка осознаёт ту информацию, которую получает на ввод, и тот набор данных, который даёт на вывод. Нет ни одной причины полагать, что нейросетка способна знать, мыслить и выносить суждения. Вообще ни одной.
Зато мы точно знаем, что она даёт на вывод набор информации, который с наибольшей веротяностью поциентом интерпретируется как релевантный той чепухе, который поциент подал нейросетке на ввод, и никак не более этого.
Во первых – мы с вами на брудершафт не пили.
Во вторых, у меня есть все основания считать, что вообще-то сознание есть только у меня, а у вас например его нет, а вы только имитируете сознание. (Особенно если прочитать как вы рассуждаете).
Из того, что мне кажется, что вы только имитируете сознание, я не делаю вывод, что у вас нет сознания.
Потому что у меня есть достаточно развитое логическое мышление, чтобы осознавать – то что нам кажется не всегда является правдой.
Все аргументы которые я встречал против сознания в ИИ логически противоречивы и спорные.
А я как логически мыслящий человек считаю, что когда оцениваем есть ли сознание в ИИ, нет ли сознания, мы должны сравнивать самое плохое человеческое сознание с самыми лучшими представителями ИИ. Потому что именно так правильно с научной точки зрения.
Во первых – мы с вами на брудершафт не пили.
Во-первых, я к вам на "ты" не обращался. Но теперь буду.
Во вторых, у меня есть все основания считать, что вообще-то сознание есть только у меня, а у вас например его нет, а вы только имитируете сознание. (Особенно если прочитать как вы рассуждаете).
То есть я привожу обоснования, доводы, раскрываю термины, определения, выстраиваю логическую конструкцию, от тебя в ответ получаю только невнятное мычание, абсолютное непонимание разницы между некоторыми элементарными вещами и заявления вида "а вы докажите, что бога нет", и при этом у тебя мышление есть, а у меня нет?
Все аргументы которые я встречал против сознания в ИИ логически противоречивы и спорные.
Все аргументы сводятся к отсутствия доказательств наличия данного явления. Как и всегда. Как и должно быть.
Ваше (мн. ч) единственное обоснование - "ну вот оно же что-то делает правдоподобное" - вы даже его не изволите его проговаривать никогда, потому что прекрасно знаете, что оно ничего не обосновывает и не доказывает. И больше вы никаких доказательств, аргументов и обоснований в пользу своей позиции никогда не приводите. Ни единого грёбаного раза.
А я как логически мыслящий человек считаю
Ты пока не продемонстрировал наличие у тебя логического мышления. Ты не привёл ни одного аргумента, не выстроил ни одного рассуждения, ты вообще ничего не сказал по делу.
что когда оцениваем есть ли сознание в ИИ, нет ли сознания, мы должны сравнивать самое плохое человеческое сознание с самыми лучшими представителями ИИ
Нет, мой хороший, когда мы имеем дело с имитацией - мы должны смотреть под капот этой имитации, осознавать процессы, которые происходят у нутре, и понимать, чем на самом деле является та видимость, которую мы пытаемся как-либо интерпретировать. Но ты так не считаешь, ты веруешь. Веруй дальше.
Потому что именно так правильно с научной точки зрения.
Вот уж не тебе за научную точку зрения рассуждать.
Нет, мой хороший это так не работает.
Во-первых, я к вам на "ты" не обращался.
Какая из этих цитат верна? Они обе ваши.
Оборот "мой хороший", может употребляться как с местоимением "вы", так и с местоимением "ты", мой хороший, держу в курсе.
По крайней мере, для этого тоже сначала надо выпить на брудершафт. Что мы с вами не делали. И вряд ли сделаем даже символически. Вы фанатик и биошовинист.
По крайней мере, для этого тоже сначала надо выпить на брудершафт.
Очень спорное утверждение. Ситуации, видишь ли, разные. Я, впрочем, не имею желания вдаваться в филологию и межличностные взимоотношения. Мне лень, а ты не поймёшь.
Вы фанатик и биошовинист.
У тебя когда наскребётся хотя бы пара аргументов в пользу наличия сознания, разума, когнитивных способностей, или вообще хоть чего-то, что можно было бы сравнить с живым мозгом по функционалу - непременно возвращайся, продолжим. Ну или хотя бы один, если ты изволишь не тратить моё время и нервы на очередной круг расписывания того, почему правдоподобная имитация не свидетельствует о наличии процессов, некоторые результаты которых она имитирует.
Опять же, если ты утверждаешь, что достаточно прикрутить руки-ноги-датчики-закодить-базовые-рефлексы, и будет ну чисто человек - ну где демонстрация этого то? Время идёт, а даже попыток реализации чего-то подобного не видно. Только громкие заявления от нобелевских лауретов по химии с явным конфликтом интересов слышны, как усё будет через n лет. И ладно бы через 50 - тут хоть на вранье не поймаешь, либо ишак сдохнет, либо падишах. Так ведь через 5. Клоунада.
Возьмите как пример не человека в коме, а условного Стивена Хокинга парализованного. Вот часть ЦНС не работает. Часть организма напрочь не слушается. Но он способен на истинно человеческие рассуждения.
На счёт определения cognition из Википедии. Там дано определение для человека. Очевидно у нейросети другой подход к когнитивной деятельности. Она (нейросеть) демонстрирует почти всё из этого списка но другими путями.
perception, attention, thought, imagination, intelligence, the formation of knowledge, memory and working memory, judgment and evaluation, reasoning and computation, problem-solving and decision-making.
Нейросеть половину из этого выполняет. Восприятие, внимание, мысли, воображение, разум?, форма знаний, память и оперативная память, суждения и оценка, рассуждения и расчёт, решение проблем и принятие решений.
Когда мы даём инпут задачу: у Оли было 9 яблок, она отдала 6 яблок Пете, сколько осталось яблок у Оли?
Нейросеть правильно отвечая она демонстрирует понимание или нет? Принятие решений? Суждение? Оценка? Почему нет?
В 2000х годах считалось что компьютер не понимает шахматную игру, а только высчитывает её без конца в поисках не проигрывающего хода. Потом туда добавляли функции для оценки позиций. Люди вручную всё программировали.
Но сейчас не просто компьютерные программы, сейчас в шахматы играют нейросети, которые обучаются играя сами с собой. Они думают, оценивают и принимают решение. Это когнитивный процесс или нет? И с оценкой нейросети кожаный человек уже практически никогда не спорит. Нейросеть понимает шахматы, скажем, comprehension позиции у неё уже намного лучше.
И ещё один пример... Про то, что нейросети всего лишь ищут предпочтительный ответ для оператора (человека), а не свой собственный. Это пока оценка человека всё еще ценна, как было в шахматах. Когда нейросети будут осознавать позицию лучше чем человек, она будет оценивать себя сама.
Это похоже на процесс обучения у людей. Когда ребенок маленький, всё что он делает - пытается предугадать реакцию родителей на свои ответы, поведение. Когда ребенок маленький он копирует и имитирует. Потом он взрослеет и будет ставить всё под сомнение.
Цели воссоздать чисто человеческий когнитивный процесс нет. Есть цель создать когнитивный процесс в нейросети.
Я всё ещё не понимаю, почему текстовый input - убог? Когда начальник принимает решение которое коснётся судеб миллионов людей, он отчёты в каком виде принимает? Текстовом, телесном, устном, музыкальном, видеосвязь, картинки, может запахами? Может ему кровь переливают информационную чтобы он решение принял? Предпочтительный вид получения информации это текстовый. Потому что так человеку легче сконцентрироваться и отключить как раз всё то человеческое, что тормозит наше Cognito. Не забывайте, мы не только разумны, но мы ещё и звери. Или как раз эту нашу звериную часть вы и защищаете, только с нею, с эмоциями, инстинктами, болью от органов - возможно человеческое логическое утверждение?
И ещё. Что должно произойти, чтобы Вы признали в ИИ - интеллект, способность к логическим рассуждениям ?
Возьмите как пример не человека в коме, а условного Стивена Хокинга парализованного. Вот часть ЦНС не работает. Часть организма напрочь не слушается. Но он способен на истинно человеческие рассуждения.
У него исполнительный аппарат не работал, слух, зрение, обоняние работали
На счёт определения cognition из Википедии. Там дано определение для человека. Очевидно у нейросети другой подход к когнитивной деятельности.
Это вшивая бессмысленная манипуляция.
Она (нейросеть) демонстрирует почти всё из этого списка но другими путями.
См. всё, что я писал про имитацию, мне надоело одно и то же повторять. Демонстрирует нейросеть ни-хре-на.
Нейросеть правильно отвечая она демонстрирует понимание или нет?
Нет, не демонстрирует. Она занимается тем, для чего её сделали - формирует ту последовательность языковых единиц, которая будет воспринята интерпретирующим как ответ, и даже как правильный ответ. Понимание чего бы то ни было у неё отсутствует.
В 2000х годах считалось что компьютер не понимает шахматную игру
Ничего не изменилось. Компьютер не понимает ничего. Компьютер вычисляет.
Они думают, оценивают и принимают решение. Это когнитивный процесс или нет?
Они не думают, и не оценивают. Принимают решения они на уровне релейного автомата.
И с оценкой нейросети кожаный человек уже практически никогда не спорит.
Если человек спорит с калькулятором - ему к психиатру прямая дорога.
Нейросеть понимает шахматы, скажем, comprehension позиции у неё уже намного лучше.
У нейросети нет comprehension чего бы то ни было вовсе.
Про то, что нейросети всего лишь ищут предпочтительный ответ для оператора (человека), а не свой собственный.
Нейросети не ищут ответ. Это принципиальная вещь, которую местные "айтишники", профессионально работающие, казалось бы, с информацией, никак не могут понять. Нейросети формируют последовательность вывода, которую никак не воспринимают. То, что человек воспринимает эту последовательность вывода как ответ - это интерпретация человека, а не прямое свойство этой последовательности. Для нейросети это набор данных. Не осозноваемый, не осмысляемый, не понимаемый. Это калькулятор, выводящий на экран вывод, вычисленный из ввода. Всё.
Это похоже на процесс обучения у людей. Когда ребенок маленький, всё что он делает - пытается предугадать реакцию родителей на свои ответы, поведение. Когда ребенок маленький он копирует и имитирует. Потом он взрослеет и будет ставить всё под сомнение.
Нет, это далеко не всё, что делает ребёнок. Это очень малая часть того, что делает ребёнок, вам просто удобно выдёргивать эту часть, чтобы делать идиотические сравнения.
Цели воссоздать чисто человеческий когнитивный процесс нет. Есть цель создать когнитивный процесс в нейросети.
Во-первых, эта цель прямо озвучена. Во-вторых, есть когнитивный процесс. Нет никакого когнитивного процесса человека, кошки, слона, акулы или нейросети. Определение не меняется, меняются обстоятельства и возможности. У акулы есть когнитивный процесс. У нейросетей нет.
Я всё ещё не понимаю, почему текстовый input - убог?
Это один очень ограниченный канал, у людей по меньшей мере пять. Это, впрочем, не имеет принципиального значения.
Предпочтительный вид получения информации это текстовый
У человека отсутствует такой орган чувств, как текстовый ввод. Это детский сад какой-то, вы не понимаете элементарных вещей. Конкретно эта вещь не очень существенна, но зато очень показательна.
с эмоциями
Эмоции это важная часть механизма стимулов, и, как следствие, целеполагания.
инстинктами
А вот от инстинктов человек практически избавлен.
болью от органов
Этот механизм защиты для робота может носить другую форму, это не принципиально.
Или как раз эту нашу звериную часть вы и защищаете
Я ничего не "защищаю", я констатирую, что когнитивный процесс работает как большой комплекс систем, и, во-первых, нет причин полагать, что его получится когда бы то ни было воспроизвести в виде компьютерной программы, во-вторых, можно с определённостью утверждать, что он отсутствует у нейросетей, т.к. у них нет понимания (или собственного восприятия) той информации, которую они обрабатывают. Это калькулятор, и не более того.
И ещё. Что должно произойти, чтобы Вы признали в ИИ - интеллект, способность к логическим рассуждениям ?
Очевидно, мне придётся забыть, что там под капотом. Ибо с этим знанием совершенно невозможно допустить, что математическая модель может рассуждать.
Я определённо понимаю, что вы выносите суждения, что то что вы мне пишете, носит лично для вас некоторое сущностное значение. С той же определённостью я понимаю, что то, что мне даёт на вывод нейросетка, для неё самой никакого значения не имеет вовсе, и иметь не может с таким подходом к её внутреннему устройству.
И мы определённо не знаем что нужно, чтобы калькулятор начал что-либо понимать. Мы не знаем как этот процесс формируется и чем обеспечивается. Мы знаем лишь отдельные элементы общего комплекса. Мы можем пытаться повторить весь комплекс целиком, и посмотреть, что получится - без гарантии какого бы то ни было результата. Нейросетки- несомненно, важная часть этого комплекса. Со всей определённостью можно утверждать, что абсолютно недостаточная, по крайней мере в том виде, в котором они существуют.
Нейронки не пишут музыку, нейронки не рисуют картинки, нейронки не разговаривают с людьми. Нейронки высчитывают, какой набор данных будет воспринят интерпретирующим как музыка, какой как картинка, а какой как осмысленный текст.
Я почему-то всегда себе представлял, что ИИ (чтобы мы ни называли ИИ) и должен высчитывать ожидаемый от него результат. Заблуждался, видимо.
Вообще, ничего так вы тут кипешь развели ;)
Закономерный вопрос - а какая к черту разница, что некая система устроена принципиально не так, как человеческий мозг, если она сможет успешно имитировать обладание когнитивными способностями, то есть выполнять возложенные на нее функции, для которых, казалось бы, нужно мышление человека? А значит и демонстрировать их (чтобы демонстрировать какое-то качество, оным не обязательно обладать).
Будет или нет - это уже другой вопрос. Но объективно сегодня нейронки демонстрируют то, что еще не так давно казалось фантастикой. которая не наступит в ближайшие лет сто. Так что не стал бы спорить о том, что будет через пять лет.
Я почему-то всегда себе представлял, что ИИ (чтобы мы ни называли ИИ) и должен высчитывать ожидаемый от него результат. Заблуждался, видимо.
Можно много спорить о том, что такое ИИ - я уже забил на строгость определений, называйте как хотите, я не дон кихот; но тут речь конкретно о когнитивных способностях идёт, а не об определениях.
как человеческий мозг, если она сможет успешно имитировать обладание когнитивными способностями, то есть выполнять возложенные на нее функции, для которых, казалось бы, нужно мышление человека?
Когда мы подходим к функции инструментарно - у меня нет никаких возражений. Когда мы начинаем очеловечивать математическую модель - извините, но это дурка.
А значит и демонстрировать их (чтобы демонстрировать какое-то качество, оным не обязательно обладать).
Всё таки под демонстрацией обычно подразумевается демонстрация реализации, а не демонстрации имитации. Макет самолёта это хорошо, он внешне похож, и вообще в аэродинамическую трубу можно сунуть и посчитать какие-то параметры, но это всё ещё макет, а не самолёт.
Так что не стал бы спорить о том, что будет через пять лет.
Как я уже сказал - мы не видим никаких попыток развивать нейронки в сторону настоящей когнитивистики, мы видим лишь бесконечное улучшение и оптимизацию ресурсов для имитации. Само по себе это неплохо, но плохо то, что это продаётся под соусом "ну смотрите, скоро почти человек будет", и ещё хуже, что это создаёт карго-культ. Это над фанатиками нфт можно было ржать, но эти уже просто напросто опасны. Не опаснее woke и blm сект - пока, но всё таки.
Нобелевского лауреата по химии в разрезе оценки когнитивных способностей человека воспринимать в серьёз совершенно определённо нет ни единой причины.
Хмм.. почитал про него по ссылке. Окай, обладателя докторской степени в области когнитивной нейробиологии и сооснователя DeepMind не воспринимаем всерьез в разрезе оценки когнитивных способностей человека. Кого тогда воспринимаем всерьез, чье мнение авторитетно?
Мимокрокодила широкого профиля, вестимо...
Если в чём этот конкретный мимокрокодил и поднаторел - так это в понимании того, когда ему вешают лапшу на уши, и даже иногда может обосновать почему это лапша, хотя в ответ обычно получает "ну это же нобелевский лауреат сказал, а такой человек ошибаться, а тем более врать и манипулировать ну не может же, ну нееет, ну как такое можно вообще себе даже представить"
Ну разумеется ни единой. Не ясно только, есть ли причины всерьез воспринимать эту вашу позицию. Хоть обоснование бы какое-то придумали.
Аппеляция к авторитету - это когнитивное искажение, надо разбирать не того кто говорит, а то что он говорит.
Так они и не претендуют. DeepSeek это о дешевизне, а не о прорывах.
Вот именно. Но СМИ решили хапануть.
DeepSeek молодцы: творчески переработали изыскания американцев, применили квантование (обучение сразу в 1-байтных весах) и мультиэкспертный подход для уменьшения требований к оборудованию, чтобы уменьшить издержки на сбор обучающих выборок использовали лучшие американские LLM в качестве учителя. И в итоге отдали всё в OpenSource. Теперь каждая фирма может за разумные деньги приобрести себе железо и запустить на нём вполне полноценную LLM для своих производственных задач.
Имхо, это и есть прорыв. По другой оси, конечно, но бюджеты не бесконечные.
Такой смешной... модель DeepSeek открыта для всех, коммерческие модели закрыты для всех - это принципиальное отличие.
Deepseek сделала прорыв не в архитектуре, а в оптимизации существующей архитектуры.
Так что с одной стороны он прав, а с другой существенная оптимизация текущей архитектуры LLM на базе трансформеров без потери качества, тоже большое достижение. В deepseek тоже была проделана большая научная работа, чтобы оптимизировать. Если на то пошло, то когда в llm сделали упор на механизм внимания, убрав много другого, то это тоже была своего рода оптимизация архитектуры. Так же адаптировали ее под эти изменения. Просто все шло постепенно, а не так что сразу открыли что то новое.
Но в целом да, deepseek именно оптимизировал текущую архитектуру трансформеров. Прорыв это? В плане удешевления обучения потребления ресурсов по прорыв. В плане принципиально новой архитектуры? Нет.
Руководитель DeepMind опроверг прорыв DeepSeek в области ИИ