Comments 126
сводятся к конечному автомату с достаточно большим состоянием.
Квантовые компьютеры не сводятся.
Ну на квантовых компьютерах никто еще ChatGPT не пускает
Пока ещё и RISC V на серверах скорее из области фантазий - ещё не известно, доползёт ли оно туда быстрее квантовых сопроцессоров )
Тьюринг вообще считал, что ИИ будет сделан в конце двадцатого века - но тогда нейроны считали эквивалентными бинарным логическим элементам и соответственно сравнивали мозг и компьютеры, так то прогноз по вычислительным мощностям на пятьдесят лет вперёд был на удивление близок к реальности. Кстати, странно, что классическую статью не упомянули.
C RISC V на серверах определенность все-таки есть: если инвестировать достаточно много денег во всякие микроархитектурные фичи типа TAGE branch prediction, multiple load-store pipe итд, то доползет. Об этом говорит весь опыт процессорного коммьюнити последних десятилетий. Ничего магического в архитектуре x86 нет, чисто миллиарды, потраченные интелом на дизайн, performance abalysis и верификацию этих фич.
Что касается вычислительным мощностей, то они к моему тезису ортогональны - я об этом написал в первом абзаце и потом в абзаце про зиллионы арифмометров.
Ничего магического в архитектуре x86 нет
Зачем же legacy вспоминать, я скорее с ARM сравниваю.
я об этом написал в первом абзаце и потом в абзаце про зиллионы арифмометров.
В четвёртом возражении Тьюринг, похоже, отвечал именно вам )
ARM? Вы про архитектуру (систему команд) или по микроархитектуру (устройство конвейера)?
Если про архитектуру, начнем с того, что ARM64 больше похож на MIPS, чем на ARM32. А RISC-V - это по сути MIPS с переставленными битиками (чтобы не было судов за патенты по архитектуре а-ля MIPS vs Lexra) и расчисткой фич, которые мешают суперскалярности (delay slots).
Если вы считаете что у архитектуры ARM64 есть фичи которые делают ее более производительной, чем другие RISC-процессоры, то назовите их. Конечно, у других процессоров есть проблемные места (регистровые окна у SPARC, delay slots у MIPS), но и их можно компенсировать за счет вложений в микроархитектуру.
Если же вы говорите про микроархитектуру (устройство конвейера) ядер ARM против RISC-V, то это вопрос количества инвестиций и кадры. Да, для RISC-V компаний догнать ARM будет трудно, но принципиальных технических проблем в этом нет, так как механизмы для повышения производительности общие для архитектур этого типа.
ARM по определению только ISA, микроархитектура - это уже конкретно, скажем, Neoverse или там A64FX.
Если вы считаете что у архитектуры ARM64 есть фичи которые делают ее более производительной, чем другие RISC-процессоры, то назовите их
Я принципиальной разницы не вижу (несколько спорны отказ от флагов в RISC V или от 16битной кодировки инструкций в ARM64, но это детали), вопрос скорее в готовности бизнеса вкладываться в поддержку новой архитектуры только из-за открытости (которая может обернуться недостаточной стабильностью - скажем, так и не понял, насколько устаканились векторные расширения в RISC V - фраза "except if serious issues are discovered during ratification" в текущей спеке несколько пугает).
про микроархитектуру (устройство конвейера) ядер ARM против RISC-V
Это вообще некорректная постановка вопроса, сравнивать надо конкретные реализации. Но пока железа серверного класса на RISC V не вижу (SCR7 выглядит интересно, но публичная документация куцая, да и проблемы с производством все понимают).
Ну хорошо, тогда я с вами во всем согласен (как с векторными расширениями, так и с готовностью бизнеса), но согласитесь, это не такие суровые проблемы как с self-awareness.
это не такие суровые проблемы как с self-awareness.
Вы всё таки уверены, что оно нужно в явном виде? Что ответите Тьюрингу (ссылку на всякий случай привёл в другом комментарии, но надеюсь, что вы его давно читали)?
Сводятся, но за экспоненциальное время.
Ощущение собственного я - не единственный атрибут, который мы не наблюдали у конечных автоматов. В список нужно добавить любое ощущение вообще. Боль, вкус, даже ощущение цвета. Да, трава зелёная, но вы ведь не только осознаёте, что она зелёная, но и испытываете некоторое ощущение, связанное с этим.
Вот только необходимость ощущений для решения любой практической задачи переоценена. Чувство прекрасного дня того, что бы рисовать, как выяснилось, не требуется. С ощущением собственного я аналогично. Да, мы не знаем природу этого ощущения, но и важность его для решения задачи Х никак не показана.
Ну чтобы водить автомашину или там играть в шахматы, этого не нужно, согласен. А вот рисовать оригинальные рисунки - уже не факт имхо. Какую роль ощущение собственного "я" играет в человеческом интеллекте - сейчас просто неизвестно, посколько неизвестная природа ощущения собственного "я".
А вот рисовать оригинальные рисунки
Для оригинальных узоров оказалось вообще достаточно калейдоскопа.
Случайный != оригинальный
Однако среди случайных генераций будут неизбежно попадаться и оригинальные, и шедевральные. Даже тупейший рандом при достаточно большом количестве попыток способен родить абсолютно любой шедевр, который только способен создать живой автор (бесконечные обезьяны, да).
А если случайный алгоритм улучшить, чтоб вероятность рождения шедевров стала повыше и уже не требовалось время, сравнимое с временем существования Вселенной? Достаточно сделать так, чтобы случайный алгоритм порождал шедевры за приемлемый срок (скажем, по шедевру в год) — и мы получим калейдоскоп, по полезности сравнимый с величайшими гениями.
Дело в том, что картина, созданная нейросетью, которая потенциально могла бы называться шедевром, шедевром называться не будет именно по причине существования ощущений у тех, кто это оценивает, то бишь людей
А какая разница, как будет называть это кучка критиков? Для зрителей/читателей главное то, что картина нравится и вызывает у них неподдельные эмоции.
Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо. И никто, кроме горстки таких же искусствоведов, их слушать не будет.
Если
Конечно-Конечно )) , а лучшее пиво в мире - это Балтика 6, а те, кто так не считают - кучка снобов
Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо.
А кто будет определять уровни достигнутого? Кто скажет, что вон та картина от нейросети превосходит все картины Дали, Моне и Леонардо да Винчи вместе взятых?
И чем именно она будет превосходить уровень человеческих художников - замыслом, сложностью, палитрой, гармонией, впечатлением у зрителей?
Если ИИ сможет генерировать картины на уровне, недоступном даже величайшим гениям, такие критики от искусства просто будут выглядеть глупо
Так гении не делают компиляцию из старых работ, а создают что-то принципиально новое.
Если посадить бесконечное количество макак за печатные станки, то рано или поздно одна из них напишет "Войну и мир"
Более того, по существующей модели физики, ничего истинно "случайного" не бывает. Бывает то, что мы не можем отследить, но если отследили, то можем назвать причину и следствие (а если не можем, то только из-за недостаточности модели физики).
Соответственно, и написание шедевра - процесс не случайный, на макроуровне у этому процессу вела вся жизнь автора, весь его период взросления и далее, плюс его окружение, как родители так и государство, на микроуровне - все тоже самое, импульсы в мозге, которые мы читать особо не умеем, но это лишь дело техники, пары десятков лет и пары зиллионов долларов на исследования.
Более того, по существующей модели физики, ничего истинно "случайного" не бывает.
Что, теорему Белла уже опровергли, что ли? Вроде же не нашли скрытых параметров у микрообъектов ни в одном эксперименте. Квантовые эффекты полностью случайны.
Более того, по существующей модели физики, ничего истинно "случайного"
не бывает. Бывает то, что мы не можем отследить, но если отследили, то
можем назвать причину и следствие (а если не можем, то только из-за
недостаточности модели физики).
Все строго наоборот! Тут недавно нобелевку выдали за очередное (и, как говорят, в этот раз последнее) опровержение Вашего тезиса.
*** на микроуровне - все тоже самое, импульсы в мозге, которые мы читать особо не умеем, но это лишь дело техники, пары десятков лет и пары зиллионов долларов на исследования. ***
В 19 веке думали, что вся физика закончилась, нужно только померять упругость эфира.
Случайности не существует, но существует хаос. Мы не сможет предсказать положение уже 3-х тел в космосе.
Детерминизм появляется из-за необратимых процессов.
Любая рекурсия в нелийнной функции будет накапливать "ошибку", из-за этого любой незначительный параметр будет иметь такое же сильное влияние как и главные параметры.
Фрактал - типичное порождение игры хаоса. Все произведение искусства - тоже уникальные порождения игры хаоса.
Хаотичный == оригинальный.
Те кто реально это изучают, уже давно понятны общие принципы работы всех этих систем. Просто изучать кору чтоб бороться с эпилепсией гораздо предпочтительнее, чем изучать какие-то там ядра таламуса которые работают просто как интеграторы-комутаторы и непонятно как это повлияет на лечение болезни Х.
И когда начинаешь разбираться в этих темах, понятно откуда старые фантазёры брали свои мысли. Вроде вот оно, в голове всего-то 10^8 категорий которые в целом могут обрабатываться, вот-вот сейчас мы сделаем железо получше и каааак заживём! А прогресса всё нет и нет
Ощущение собственного Я невозможно наблюдать ни у кого, кроме себя. Не исключено, что цифровой автомат "как то себя ощущает", но не может дать этому внутреннюю оценку, не может ни с кем этим поделиться
А почему self-awareness вообще важен? Как это относится к решению практических задач, под которые создаётся ИИ?
К решению большинства практических задач типа распознавания лиц или дороги для автомобиля оно никак не относится. Я не имею ничего против умножения матрицы на систолических массивах и распознавания чего-нибудь таким образом. Только имхо не стоит всерьез называть это "искуственным интеллектом" по описанной причине. Но я конечно понимаю, что если бы гранты и инвестиции брали бы на "систолические массивы" а не на "искуственный интеллект", то деньги бы раздавали менее охотно.
Окей, к задаче доставки человека на Луну (и предварительного изготовления всей требующейся промышленности и добычи всех ресурсов) self-awareness как относится? Или к задаче создания термоядерной электростанции?
Это вопрос тонкий. Еще Пенроуз говорил что-то в духе, что компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма. Многие задачи в науке и технике решались, когда человек смотрел на проблему с совершенно новой стороны (банальный пример - изобретение фон-нейманновской машины). Откуда это берется - я не 100% уверен и существование ощущения собственного "я" может быть с этим связано.
Ну Пенроуз так себе специалист по ИИ.
Я не могу однозначно сказать, что компьютер создаёт "новые математические теории", потому что можно бесконечно "отодвигать ворота", переопределяя эту деятельность так, чтобы компьютер это "не мог".
Но программы точно могут строить предсказательную модель мира - как, например, Кеплер делал, или Ньютон. Любой ML делает именно это. А ещё программы могут использовать полученную модель для планирования, и таким образом для решения практических задач.
Это не какая-то сомнительная гипотеза, на эту тему куча научных работ и практических результатов. Это системы reinforcement learning и системы рекомендаций.
Выглядит, что для практических задач (включая какие-то нереально трудные) этого достаточно, поэтому и вопрос, зачем self-awareness
Я пока не видел AI который может решать даже простейшие микроархитектурные задачки на верилоге - тот же ChatGPT пишет какую-то лабуду. Для них тоже нужно смотреть на проблему "сверху", а не пытаться нагуглить и слепить чего-нибудь из этого.
*** Но программы точно могут строить предсказательную модель мира - как, например, Кеплер делал, или Ньютон. ***
ML который я видел, стоит предсказательную модель в узком смысле слова, используя найденные в процессе training-а с помощью backpropagation законмерности. По настоящему новая предсказательная модель требует переопределения аксиом. Примеры: рассматривать свет не как частицу, а как волну. Или алгебраические объекты не как знакомые с каменного века числа, а как нечто абстрактное, частным случаем чего могут быть вектора, перестановки или кватернионы. Итд.
Chat-GPT - это не то. Имею в виду Dreamer, например, или рекомендательные системы, которые делаются внутри компаний для собственного использования. Антифрод, например, кредитный скоринг, ценообразование. Системы автозакупок. Системы назначения скидок. Рекомендации для инвестирования в торговые точки. Автоматизация процессов, которые требуют знания будущего в большом открытом мире.
"По настоящему новая предсказательная модель требует переопределения аксиом. " - зачем? У нас есть работающие способы подбирать закономерности, и я не только про бэкпроп, есть ещё решающие деревья и перебор формул. Это работает, на многих задачах работает измеримо лучше человека. Какой смысл делать "как у человека", если у нас есть способ делать "как надо для результата"?
переопределения аксиом.
Среди людей это тоже может один из миллиона. Давайте посмотрим, как ИИ стабильно превысит средний человеческий уровень, может что-то обнаружится на этом пути.
Среди людей это тоже может один из миллиона
Нюанс в том, что именно этот один из миллиона и двигает цивилизацию. И именно это и следует считать признаком интеллекта, равного нашему. Средний же уровень увы, последнее время только падает.
Я не двигаю цивилизацию. Это значит, что у меня интеллекта нет? Но ведь тогда проблема становится намного проще. Что бы сделать ИИ уровня меня, интеллект делать вообще не надо, выходит.
Вполне возможно что и так. Мы исключительно из вежливости договорились, что у каждого из нас есть интеллект. При том что даже самому понятию "интеллект" пока нет сколь-нибудь пристойного определения.
возможно в части определений эта заметка вас заинтересует: https://habr.com/ru/articles/661959/
AI надо правильно обучать на решение подобных задач. Задачи такого плана не часто встречаются, спроса особого нет. Поэтому никто этим не будет заниматься забесплатно. При наличии заказа с правильными деньгами эту задачу можно решить. И не только для верилога.
Связь интеллекта и самосознания вообще неочевидна, потому что неизвестно, является ли одно частью другого или нет. В человеческом мозге многие вещи проходят вне сознания, в том числе и гениальные озарения любой природы
Еще Пенроуз говорил что-то в духе, что компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма.
Абсолютно с ним согласен, хотя здесь на хабре в меня за это постоянно кидаются какашками. Более того, последние "успехи" с генеративными сетями меня только ещё больше в этом убеждают. В чем я с ним не согласен, так это с его надеждами на квантовую теорию гравитации. Думаю и там мы не найдём решения этой задачки. Тут скорее помогут разные йоги, святые, духовные практики и прочая подобная порой малоприятная публика. Хотя как перевести их мутные излияния в ТОЧНОЕ ЗНАНИЕ - ума не приложу... А решать эту задачку нам рано или поздно ПРИДЕТСЯ. Хотя бы ради серьёзного освоения космоса.
P.S. Рад снова Вас тут видеть ! Опять мне маленький кусочек пищи для мозгов :)))
Более того, последние "успехи" с генеративными сетями меня только ещё больше в этом убеждают.
А что не так с успехами? Они есть. Сети 2023 могут больше, чем сети в 2022 и тем более намного больше, чем в 2020-м. То есть это не топтание на месте, круг решаемых задач быстро расширяется, и спада этого тренда пока не просматривается.
Или вас не устраивает скорость этого прогресса, хочется ещё быстрее?
компьютер не сможет создавать новые математические теории, так как не сможет глядеть на ситуацию вне некоего фрейма.
Открою секрет, но человек не исключение. Единственное преимущество перед "машинами", в том виде которые они сейчас, что мы способны связывать активность из разных участков в голове. От этого и рождаются "гениальные идеи", ведь паттерны поведения в одной "нейросетке" уже есть, нужно просто их связать с другой частью и всё заведётся. От этого у людей бывают довольно странные ассоциации с какими-то вещами. Мол, почему когда тебе говорят "Джордж Буш" ты вспоминаешь "душ", что за бред лол? Это кардинально разные категории объектов, они не должны быть связаны.
Исходя из состояния отрасли на сегодня, слово интеллект в ней потому, что успешно решаются задачи, в решении которых мы предполагали необходимость наличия интеллекта. Однако, как оказалось - нет, интеллектуальная задача решена, часто лучше, чем будет решена человеком, но даже проблеска интеллекта в решающей системе нет.
С этих позиций вполне обосновано название Искусственный интеллект.
Нам ПРИДЕТСЯ этим заниматься, если мы хотим всерьёз выйти в космос. Человек очень плохо приспособлен для космоса. Значит придется создавать не биологическое тело и не биологический разум, не уступающий нашему. Ничего страшного в этом я кстати не вижу.
Генная инженерия могла бы помочь (правда ее уровень должен быть на порядки выше нынешней). Если бы человек эволюционировал из медведей, а не обезьян, и мог бы залегать в спячку не менее чем на полгода без атрофии мышц и вымывания кальция из костей, мы бы уже на Марсе были - саркофаг, в котором космонавт лежит неподвижно весь полет, экранировать от радиации намного проще и легче, а система жизнеобеспечения была бы намного меньше. Даже такой крошечный и редкий в животном мире недостаток как неспособность синтезировать витамин С сильно портила нашу способность к экспансии суровых земель в свое время. Человек несовершенен, но млекопитающие в целом не так уж и плохи (хотя с роботами сложно соревноваться, это да)
почему self-awareness вообще важен?
ИИ, который не "нейросетка по созданию правдоподобных ответов на вопросы человеков", в процессе работы своего интеллекта сталкивается с абстракциями вида "задача", для которой приходится искать ответ на вопрос "кто её будет решать".
Кто запустит ракету - вон тот механизм. Кто опустит скальпель - подаем импульс в такой-то сервопривод. Кто сегодня пойдет за хлебом - вот тут важно найти исполнителя.
Если исполнитель - субъект с ярлыком "Вася", то нужно будет наладить сессию общения и сформулировать просьбу. Если "Вася" не доступен, то нужно найти "я" и включить для него стремление "надо бы в магазин за хлебом".
Собственно, и для людей ощущение своего существования полезно именно этим - есть кого напрячь для решения очередной задачи. Если "я" ощущается слабо, то приходится зависеть от других.
К сожалению, у человеческого интеллекта есть атрибут, природа которого современной науке неизвестна и который никогда не наблюдался у конечных автоматов. Этот атрибут - ощущение собственного "я", self-awareness. Конечно вы можете сделать в программе переменную "я_чувствую_собственное_я" и присвоить ей true, а потом утверждать, что вы симулируете собственное "я", но это жульничество, а не технология
Чисто технически это не выглядит особо сложной задачей.
Только переменная должна называться не "я_чувствую_собственное_я", а просто "Я" и искусственный интеллект должен тратить значительную часть времени на рефлексию, то есть на анализ переменной "Я".
Разумеется, ИИ который имеет такую функцию, долгое время будет лабораторным животным, будет иметь доступ в интернет read only и люди не скоро о нём узнают.
Проблема в том, что для self awareness нет хорошего определения и использование его в качестве критерия ИИ спорно - простое искусственное добавление "я" ничего не поменяет (и вряд ли нужно). Всё расписано у классика - http://www.etheroneph.com/files/can_the_machine_think.pdf , возражение 4.
Для self-awareness нет не только хорошего определения, но и вообще понимания, что это. Как для древних людей что такое простуда. Явление есть, а что это - непонятно, потому что про микробов не знают.
А что оно ничего не добавляет- не факт. Может оно краеугольный камень ключевых процессов мышления, как микробы в кишечнике необходимы для пищеварения коров.
Ну тогда вопрос, стоит ли принимать его во внимание, если внешне железяка будет проявлять эмоции и т.п.
Что значит "явление"? У простуды есть определенные симптомы и даже не зная её природу мы четком можем сказать что у человека что-то не так. А что за "явление" такое само-осознание? Чем размышления о себе отличаются о размышлениях о других объектах? Что вы имеете ввиду под "ощущением собственного я" и почему оно не "наблюдается" у конечных автоматов? ChatGPT к примеру прекрасно умеет демонтстрировать само-осознание, он понимает (или делает вид) кто он и отвечает на вопросы которые задают про него.
Есть ли само-осознание у животных (кошек / собак например)? А у червей / растений / грибов / бактерий?
Почему не подходит такое определение, что self awareness это рекурсивность нейронной сети? И всего-то надо подать на вход нейронной сети определенный срез самой этой нейронной сети?
Это скорее self-reference - тоже интересная штука, из которой что-то может получиться (надеюсь, ГЭБ читали?), но появится ли от этого самосознание и как это проверить - неясно.
Если нейронная сеть будет заниматься самообучением чтобы довести себя до требуемого состояния (описываемого словесно или в числовых показателях), если нейронная сеть сможет описывать свой состояние, это больше чем self-reference.
Это определение по внешним признакам - никак нельзя доказать, что она "не притворяется" (просто выдаёт внутренне состояние вместе с ответом на вопрос только потому, что так натренировали). Для прохождения теста Тьюринга этого достаточно, но факт наличия самосознания не доказывает.
А что доказывает наличие самосознания у человека?
Нет никакого нормального доказательства - просто каждый человек это понимает субъективно и считает, что другие люди примерно такие же. Я же (вслед за Тьюрингом) как раз и говорю, что нет смысла требовать наличия самосознания для определения, что мы получили ИИ - тестирования внешнего поведения достаточно.
Человеческое самосознание - не бог весть какое совершенное творение природы. Формируется в течение долгих лет, работает в режиме нон-стоп, потребляет массу ресурсов мозга, редко выдает стабильные результаты, зависимо от внешних факторов, практически никогда не выдает объективную самооценку.
Как бы так не получилось так, что самосознание рекурсивного ИИ уже в первой итерации превзойдет человеческое самосознание.
Чисто технически это не выглядит особо сложной задачей.
Сложной, потому что нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты, к одному из которых и будет прикреплен ярлык "я".
Для начала можно захардкодить "я", поручив ему контролировать основные параметры самой нейронной сети.
ИИ как социальный субъект, осознающий другие субъекты - это следующий шаг.
Это будет саморегуляция, но не самосознание. Для самосознания нужен уровень сознания, без вариантов.
Мы не знаем, что нужно для самосознания.
Например животные не имеют сознания, но самосознание у них есть:
https://www.youtube.com/watch?v=vqGbA-MKhc4
Minimum Viable Product зачастую можно захаркодить, не тратя время на абстракции. Например самосознание младенца - это унаследованный хардкод, в который затем добавляются абстракции.
Мы не знаем, что нужно для самосознания.
Но знаем, что нужно, как минимум, две какие-то составляющие с названиями "самость" и "сознание". По определению сложного слова с двумя корнями. Самолет сам летает, теплолюбивые любят тепло, а самосознание предполагает обнаружение самого себя в сознании. Осознавать без сознания никак не получится.
животные не имеют сознания, но самосознание у них есть
Во-первых, как определили, что у гориллы нет сознания? Во-вторых, если сознания нет, то вместо "самосознание" следует использовать какие-то другие термины. Например, самоидентификация, как в случае с муравьями в зеркальном тесте.
Minimum Viable Product зачастую можно захаркодить
Обратите внимание на слово "Viable" - если что-то является лишь заглушкой для обозначения места будущего расположения, то называть это "живым" нет смысла. Такой MVP будет реализацией автомата, но не разума с самосознанием.
самосознание предполагает обнаружение самого себя в сознании
Вот это можно закодировать жёстко, без абстракций. Подавая на вход сетки параметры самой сетки. Искусственному интеллекту не придется искать себя т.к. его "Я" будет зафиксировано путем хардкода.
Во-первых, как определили, что у гориллы нет сознания
Вот отсюда - "нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты". У животных это не реализовано.
Обратите внимание на слово "Viable" - если что-то является лишь заглушкой для обозначения места будущего расположения, то называть это "живым" нет смысла
У нас есть пример с minimum viable product самого человека - младенцами, которые рождаются с унаследованным осознанием самого себя и импринтингом родителей. И по мере взросления у них формируется уже настоящее самосознание, основанное на осознании себя как одного из абстрактных субъектов.
Искусственному интеллекту не придется искать себя т.к. его "Я" будет зафиксировано путем хардкода.
Тогда это будет очередной Narrow AI, а не General или Strong AI, не говоря уже о симуляции человеческого разума.
"нужно реализовать абстрактное мышление с распознаванием образов плюс обобщающий слой сознания над потоком информации, в котором будут распознаны абстрактные субъекты". У животных это не реализовано.
Абстрактное мышление с распознаванием образов есть даже у муравьев - так "гусеница" захардкожена как абстракция с набором свойств, а не нечто обладающее четким образом.
Сознанием обладают все млекопитающие и не только они. Да, есть словари и ученые, которые разделяют сознание для человека и предсознание для всех остальных, но их точка зрения не является обязательной к соблюдению. Например, есть мнение, что "предсознание" - это лишь уточняющий синоним для замены устаревшего термина "подсознание", чтобы не путаться с "бессознательным". Животные вполне могут любоваться снами и мечтами, наблюдая их на уровне своего сознания.
Так как определили, что у гориллы нет сознания, или не реализовано что-то из обязательных составляющих сознания?
пример с minimum viable product самого человека - младенцами, которые рождаются с унаследованным осознанием самого себя
У младенцев нет осознания себя, отделение себя от мироздания происходит на первых годах жизни. Даже границы своего тела начинают восприниматься только к концу первого года жизни. Самоидентификация в зеркальных тестах появляется к концу второго года жизни. Потом ребенок говорит о себе в третьем лице, копируя поведение окружающих, и лишь к трем годам начинает прорезаться "я".
Тогда это будет очередной Narrow AI, а не General или Strong AI, не говоря уже о симуляции человеческого разума.
Не вижу причин так думать.
Narrow AI не контролирует свои параметры, все параметры задаются извне. Narrow AI не оперирует таким понятием как "я".
Для Strong AI характерно саморазвитие, что мы и получаем, когда открываем искусственному интеллекту доступ к его собственным переменным и даем возможность самообучаться.
Абстрактное мышление с распознаванием образов есть даже у муравьев - так "гусеница" захардкожена как абстракция с набором свойств, а не нечто обладающее четким образом
Вот это нам и нужно.
Гусеница захардкожена с определенным набором процедур, который она выполняет в зависимости от параметров окружающей среды. Тем не менее этот хардкоженный юнит приобретает элементы абстрактного мышления. Что нам и требуется.
У младенцев нет осознания себя, отделение себя от мироздания происходит на первых годах жизни
В момент рождения младенец осознает только себя. Первое время его "я" доминирует над всем миром. Его потребности должны удовлетворяться, всё остальное неважно. Затем он начинает осознавать остальной мир с которым надо взаимодействовать. То есть по мере усложнения сетки происходит переход от хардкодного "я" первых дней жизни, к осознанию что в окружающем мире есть и другие субъекты. Такую схему развития нам и требуется реализовать.
Narrow AI не контролирует свои параметры, все параметры задаются извне.
Ну так Вы и предлагаете захардкодить "я" - задать извне.
В момент рождения младенец осознает только себя. Первое время его "я" доминирует над всем миром.
Кто вам это сказал?
Ну так Вы и предлагаете захардкодить "я" - задать извне.
Нет, я предлагаю передать сетке контроль над её параметрами. Параметры не будут задаваться извне, их будет подбирать сама сетка, занимаясь самообучением.
Кто вам это сказал?
Младенец - это абсолютный эгоист, для которого существует только он сам. Новорожденный вообще ничего не знает о внешнем мире, до тех пор пока в его жизни не появятся первые субъекты внешнего мира - акушерка, мать и т.д.
Младенец - это абсолютный эгоист, для которого существует только он сам.
Почему Вы так считаете? Лично мне ближе другая версия - для младенца существует хаос информации, в которой почти ничего не понятно, поэтому мозг тратит прорву ресурсов для наработки базы первичных абстракций, в которой постепенно проступят "субъекты", из которых выделятся "живые", затем "люди", и уже затем "я". Откуда в изначальном хаосе возьмется какое-то "эго", и что ему там делать?
пока в его жизни не появятся первые субъекты внешнего мира - акушерка, мать
Первыми в его жизни появятся большие двигающиеся размытые пятна с каким-то запахом. Некоторые из этих пятен быстро начнут ассоциироваться с приятной пищей и успокаивающими прикосновениями.
Нет, не знаем. Это же придуманное слово. И то, что его придумали из двух корней ничего не говорит - авторы этого слова ничего о самосознании не знали, по большому счету.
-- Найдите "термин А".
-- Что это?
-- Ну, никто толком не знает, у нас есть только термин.
-- Если нужно найти "термин А", то нужно взять толковый словарь. Потому что термины ищут в словарях. Без словаря не получится.
-- Вы не понимаете, нам нужна сущность, скрытая под термином. О которой мы знаем только термин.
-- Идти туда, не знаю куда, найти то, не знаю что.
Нет, не знаем. Это же придуманное слово.
Иногда этимология слов дает наводки, направление поиска, т.к. может схватывать интуитивно правильный смысл. В данном случае это название наблюдаемого ментального феномена. Появившегося из наблюдений за собой и поведения других людей. Как, например, слово ветер название наблюдаемого феномена связанного с определенным комплексом ощущений, с определенными последствиями для окружения. Что это перемещение воздушных масс связанное с перепадом атмосферного давления выяснилось позже.
Что касается самосознания, то оно происходит от осознания себя, собственного сознания. Есть нюансы выраженные в терминах Self-consciousness, Self-awareness, Self-reflection, и др. Это более поздние философские и психологические наслоения. В свою очередь сознание, как и познание, имеют корень знание. И это также результат наблюдений зафиксированных в латинском языке (может и в более поздние времена) откуда собственно они и происходят, также как и английские термины consciousness и cognition. При этом знание древними понималось весьма неопределенно и широко. Однако суть была схвачена верно. В современном понимании знание это некоторая информация, точнее вид информации, возможно ее высшая форма. Казалось бы, и что? Заменили одно слово другим не менее понятным. А что такое информация? В широком понимании мало что проясняет. Однако имеются узкие определения информации, включая технические, строго определенные. А также понимание двухаспектности информации, имеющей количественную и качественную стороны, носитель и содержание. Это роднит ее с ментальными феноменами, которые также имеют две стороны, условно материальную и идеальную, и поэтому является естественным претендентом на их объяснение, и инструментом исследований (1, 2, 3, 4, 5). В этом коменте подробнее на эту тему, а также полезных объяснительных свойствах информации. По крайней мере, информационный подход позволяет ставить задачи по исследованию ментальных феноменов, включая феномен самосознания, см. примеры исследований последнего 1, 2, 3. Однако они носят больше описательный характер. Надежды на более формализованный подход появились с использованием байесовских моделей объяснения функций мозга, предиктивного кодирования и принципа свободной энергии (1, 2), и моделирования в воплощенных агентах (1, 2).
Последнее замечание состоит в том, что возможно информационный подход устранит, или по крайней мере значительно уменьшит исторически сложившееся разделение на сознание и познание, как разные информационные процессы, что поможет устранить многие сегодняшние противоречия и противостояния. В частности, связанные с происхождение сознания, и ментальных процессов вообще, т.к. познание, в примитивной форме, возникло уже у первых простейших микроорганизмов, и развилось до высших форм у человека. См., как пример, возможный путь эволюции числового познания.
Упоминание творчества Владимира Сорокина на Хабре? Ну теперь-то я точно видел всё.
ответим на еще один тезис: "А что если ощущение собственного "я" - просто иллюзия?"
Да, иллюзия. Как и все ощущения, поступающие на уровень сознания. И что?
Человечество и не сможет создать искусственный интеллект - никогда.
Новый интеллект возникнет сам, когда среда будет выполнять условия его возникновения. И эти условия в целом известны, и даже понятно, что скоро эти условия возникнут. Но не в каких-то конкретных сильномогучих разработках или суперкомпьютерах - а, скорее всего, в IoT.
Миллион запущенных паралельно чатгпт которые контролируют сами себя не сойдут за ии?
люди пытающиеся что-то изобрести не хотят знать что их творчество это просто воздействие на них сбивающего и они просто инструмент (вывод) в этом процессе
При такой постановке вопроса сначала должно пройти бесконечное количество времени, а потом уже подумаем, что делать.
Давно мучают вопросы. Может ли творение превзойти в интеллекте творца? Что, в этом случае, стоит понимать под творцом ИИ: группу учёных, работающих над конкретным проектом, сумму каких-то выдающихся интеллектов за всю историю нашей цивилизации, какой-то средний коэффициент, показатели самого интеллектуального представителя среди людей?
интеллект это параметр творений поэтому не преминим к творцy
Может ли творение превзойти в интеллекте творца?
Вопрос определений. Что есть творение и что такое интеллект?
Если например человек делает своего клона, предварительно поправив ему геном так, чтоб интеллект у клона оказался выше, чем у оригинала — это считается за творение, превзошедшее творца?
self-awareness - это иллюзия, и нет ни одного доказательства сущствования и нет формального определения.
ИИ не сводится к конечному автомату. Это специальное ограничение архитектуры компьютера, чтобы иметь возможность управления. Но даже на ней легко сделать бесконечное количество состояний. Как бы программисты-кибернетики наоборот всеми силами пытаются избежать этой проблемы.
Можно сделать истино асинхронный процессор и такие уже есть. но процесс неизбежно станет хаотичным, из-за чего возникнет неуправляемый системный эффект.
Проблема в сильном ии - то что он непредсказуем, и любая попытка управления приведет к неожиданному обратному эффекту.
Закон Гудхарта даже для людей не смогли зарешить, для обучения ии это главная проблема.
Насчет процессоров - даже у асинхронных процессоров, которые построены не на паре "комбинационная логика + D-триггер", а на каких-нибудь элементах Мюллера, все равно есть состояние и переход из текущего в следущее через комбинационную логику, то есть это принципиально ничего не меняет - где там может возникнуть ощущение собственного "я" - непонятно.
Про аргумент, что self-awareness - это якобы иллюзия, я написал в тексте. Повторю:
А что если ощущение собственного "я" - просто иллюзия?"
Этот тезис выглядит как психзащита. Вспомним исторический курьез: с 1565 до 1815 год вдоль берега северной Калифорнии каждый год проплывал так называемый Манильский галеон, торговый корабль, следующий из Филиппин в Мексику. Он никогда не останавливался - купцы просто использовали быстрое прибрежное течение, чтобы пронестись вдоль берега на юг к Акапулько. При этом, берег северной Калифорнии был обитаем. На нем жили индейцы, которые не знали природы корабля, хотя он регулярно проплывал мимо на глазах у десятка поколений. Возможно старейшины утешали молодежь, что объект на горизонте - это просто иллюзия, а молодежь пыталась уговорить себя, что это просто большой тюлень.
В любой сложной системе, при достаточным количеством связи, появится системный эффект, которого не было в ее подсистемах. Т.е. на большой свалке неменуемо самособерется что-то сложнее боинга.
Количество нейронов в мозге всегда конечное число, а вот количество возможных связей - больше чем частиц во вселенной. Количество связей и состояний в говно-коде тоже больше числа гугл. Если количество состояний бесконечно - это уже бесконечный автомат, а не конечный.
Насекомые, грибы, одноклеточные - тоже имеет сознание. Сознание нужно только что бы организм действовал нетипичным образом, чтобы он смог адаптироваться без изменения генома.
Если муха долбиться в окно в одну и то же место - значит можно говорить о ее неразумности. Если она будет иногда менять свое поведение и попадет в форточку - можно говорить о ее разумности.
Насекомые, грибы, одноклеточные - тоже имеет сознание.
Сможете обосновать или подтвердить данное утверждение? Определить "сознание" и показать его наличие в других организмах.
Если она будет иногда менять свое поведение и попадет в форточку - можно говорить о ее разумности.
На полет мухи влияет слишком много случайных факторов от неточных усилий до порывов ветра, чтобы по изменению траектории делать столь далеко идущие выводы. Этак можно назвать разумной и машинку, которая бросает теннисные мячики и иногда попадает в пах игроку.
И, что важнее, упомянутые сознание, мышление, интеллект, разум - это не одно и то же, очень разные вещи.
Статья начинается со странного вопроса, потом подменяет тему интеллекта темой самосознания, дальше вообще непонятно про что.
Ощущение собственного "я" у нас с вами есть. Или вы не согласны? Как проектировщик процессоров я не вижу где оно может возникнуть в паре "комбинационная логика (функция преобразования состояния) + D-триггеры (элементы состояния)". Эта конструкция на самом деле проста как мясорубка, и все современные цифровые устройства сводятся к ней независимо от количества памяти, ядер и сложности алгоритмов.
Итак у нас есть человек, у которого оно есть, и FSM, у которого оно не наблюдалось. Пока мы не поймем, что такое ощущение собственного "я" и как оно связано с человеческим разумом (какую роль оно играет в интеллекте) говорить, что мы якобы скопировали человеческий интеллект - это как утверждать, что если достаточно хорошо разрисовать красками глиняную статую, то оно оживет.
Мы не может утверждать что мы понимает интеллект, так как в нем есть необъясненная и возможно ключевая часть - ощущение собственного "я".
Ощущение собственного "я" у нас с вами есть. Или вы не согласны?
Именно "ощущение"?
Мы не может утверждать что мы понимает интеллект, так как в нем есть необъясненная и возможно ключевая часть — ощущение собственного "я"
Более правильно было бы про ИИ говорить "неживой интеллект", но маркетинг есть маркетинг. А писатели-фантасты уже давно объяснили его место — продолжение и усиление наших умственных способностей, не более.
Ну, для начала, что бы понять что такое "Я" и как оно связано с разумом и интеллектом может дать определения интеллекту(общему и агента), индивидуальности, инстинкту, интеллектуальности, сознанию, уму, ???, самоидентичности, Я, разуму, самоСознанию, самоОсознанию... включая и размещение их на шкале эволюции Жизни? (примерно в такой последовательности). А так же переключиться с антропоцентричной т.з. на космоцентричную - всё же человек не появился вдруг ниоткуда и не существует сам по себе и лишь для себя, а является частью эволюции (как и наши свойства (то же "Я") и чувства(любви, счастья, свободы...)) и рассматривать такие фундаментальные понятия, тем более следующий её шаг - создание ИИ, правильнее и удобнее с этой т.з.. Такой подход существенно уменьшит варианты и даст объективную опору для дальнейших шагов... если это нужно, конечно же...
"Многих проблем можно избежать если сразу договориться о терминах"(с)
Возможно в этом посте что-то будет вам интересно: https://habr.com/ru/articles/661959/
Я люблю перетряхивать термины, очищать от шелухи. Можете со мной поговорить о трактовках, если захотите.
Интеллект (общий) - совокупность всех (жизнеспособных) возможностей взаимодействия имеющихся на данный момент в реальном мире для (информационной - прямой или опосредованной) связи всех его объектов (с их (изменяющимися со временем) свойствами) со всеми.
Не нахожу пользы в этом определении. Громоздкое, не вносит ясности. Нужно перечитать несколько раз, чтобы сказуемое с подлежащим вычленить.
Возможности взаимодействия имеющихся кого? Для связи "объектов их со всеми" - это как? Предполагаю, что вы скобки как-то странно используете - не вставка дополнения, уборка которого не мешает основной фразе, а что-то иное.
Спасибо за предложение. Вы правы - тяжеловато читается. И насчет скобок тоже верно предположили :) - это не дополнение, а "параллельная мысль".
В своё оправдание могу лишь посетовать на (за)вселенский масштаб и сложность данной темы :)) и свою неучёность.
А по-сути, при возникновении Вселенной была материя, энергия и Закон(ы) (ну и информация, но тут всё сложно :)). В начавшемся процессе они как-то взаимодействуют и изменяются.
И, если смотреть "пошагово", текущее состояние зависит от предыдущего (о сингулярности и случайности сейчас не будем), а след. шаг зависит от текущего.
Причем для след. шага могут быть (или нет) разные пути, с разными "свойствами" и вероятностями их "выбора", и "выбор пути" к след. шагу зависит от текущего (а значит и пред.) состояния системы.
И вот если представить себе этот процесс в виде графа, то это и будет общий интеллект - как бы "проекция" этих Законов на материю (их взаимодействие в динамике).
Где (нам, Жизни) более всего интересны следующие шаги, их возможность выбора. Ведь их результаты можно (хоть и ограниченно) прогнозировать и попробовать выбрать наиболее выгодный...
То же как-то туманно, да? Слишком масштабно, надо что-то простое и "бытовое".
Еще можно представить как API, можно как HTML DOM, где сама видимая страничка это "материя", спецификация это Закон, а DOM это её интеллект - структура, иерархия, связи, свойства, "прошлое", "текущее" и возможные будущие состояния, возможности и свойства...
По ссылке был краткий пост, а в основном тексте http://samlib.ru/j/jurewich_d_p/ei.shtml дается целостный подход, в т.ч. и несколько подробнее об интеллекте.
Но, как я уже понял по отзывам, получилось не очень, и нужно искать более простые аналоги для объяснений этих фундаментальных терминов, так что "будем работать еще лучше"(с). :)
Мы используем термины для указания на что-то. Поэтому имеет смысл отталкиваться от сущности, подбирая термин, а не подбирать сущности под термин.
Хотим указать на "ты умеешь решать задачи" - говорим "у тебя есть интеллект". Хотим сказать "давай оценим, насколько хорошо ты решаешь задачи по сравнению с прочими людьми" - говорим "давай оценим коэффициент твоего интеллекта". Хотим сказать "ну ты круто решил эту задачу" - "да ты умен" или "мощный ум". Хотим сказать "согласен, в решении данной задачи виден смысл, полезно выделить ресурсы на решение" - говорим "разумно".
Если нужно сделать какой-то термин более четким, убрать необязательные наслоения, то мы занимаемся отделением лишнего, а не кристаллизацией основы. Интеллект - это не мудрость и не эрудиция. Ум - это не мудрость. Разум - это не только интеллект.
Если лишнее уходит в соседние термины, и ничего не остается, то относим термин к группировочным либо пытаемся разглядеть сухой остаток на дне после выпаривания воды.
Причесыванием терминов, обычно, люди занимаются тогда, когда начинается путаница с недопониманиями. И прекращают причесывать тогда, когда сложился консенсус и можно идти дальше.
Какую задачу Вы решаете, пытаясь определить термины и расставить их по какой-то линейке? От ответа на этот вопрос целиком и полностью зависит интеллектуальная работа по разумному выбору умного ответа на вопрос от трактовках и ранжировании.
могу лишь посетовать на (за)вселенский масштаб и сложность данной темы
Какой темы? Перед началом поиска ответа на вопрос было бы неплохо поработать над формулировкой вопроса.
если представить себе этот процесс в виде графа, то это и будет общий интеллект - как бы "проекция"
Зачем представлять процесс в виде графа? Было бы неплохо решать задачи по мере появления задач, а не пытаться применять инструменты просто по привычке к этим инструментам.
нужно искать более простые аналоги для объяснений этих фундаментальных терминов
Предположим, что остановились на простом ответе "интеллект - это способность решать задачи". После этого отмахнулись от претензий вроде "вы путаете intelligence и intellect" и пытаемся сделать следующий шаг. Какой это будет шаг, к какой следующей промежуточной цели выдвинулись в путь?
Ого!, как вы сразу навалились-то :) Ну ладно, нас так просто не возьмешь, у нас свой тугамент опубликован! :)
Тут просто обрывок был дан, а общая тема откуда ноги растут, в основной книжке.
Раз не хотите читать по ссылке, ваше право, но раз уж спросили - отвечу.
Главный ваш вопрос конечно же "Какую задачу вы решаете..." - задачу понимания фундаментальных основ создания ИИ на базе уже существующей Природы нашей планеты. И не с антропоцентрической, а с космоцентрической т.з.. (а еще что бы было просто и понятно написано, на школьном фундаменте, тупой логике и "бытовых" примерах и масштабах)
Т.е. такие вопросы "архитектуры" как: где(среда), откуда(история), зачем(цель), почему(причины), как (более конкретные функции "микроархитектуры" для этого)... понимание сути таких терминов как интеллект(общий и агента), инстинкт, ум, разум, мудрость, глупость, инсайт, гениальность... на чем они основаны, в чем отличие, когда появились, зачем нужны и как "работают" .. что такое со-знание (безсознательное, подсознание, самоидентичность, "я", личность, самоСознание, самоОсознание..) и человечность (и причем тут чувства, в т.ч. любви, счастья, свободы... душа, "добро и зло")...
Это те вопросы, ответы на которые должны бы быть в словарях и в умах разработчиков - раз уж мы занялись созданием ИИ (в любой форме, не обязательно "кремний") - следующим шагом эволюции - что бы понимать, что создаешь... Что б он не стал нежизнеспособным и/или бесчеловечным. Но то, что там есть не основано на объективном и не может быть алгоритмизировано (примеры в книжке). Так что халява не прошла, пришлось как-то самому напрягаться :(
Такая Задача и такой взгляд, я думаю, дает ответы и на остальные ваши вопросы (точка зрения у нас тут разная, кмк вы смотрите с позиции антропоцентризма, а у меня космоцентризм и, соответственно, переопределение всех терминов... ну не для нашей крошечной планетки создается ИИ, а для космической экспансии чело-вечности, поэтому и смотреть надо не с позиции матери-Земли, а т.з. отца-космоса )
Главный ваш вопрос конечно же "Какую задачу вы решаете..." - задачу понимания фундаментальных основ создания ИИ на базе уже существующей Природы нашей планеты.
Задача понимания основ создания - это обо всём и ни о чем. Предлагаю распутать этот узелок.
Задача создания - такое понятно. Его нет, оно нужно, значит нужно создать, вопрос "как создать" оформляется в задачу, к которой нужно найти решение.
Основы создания - уже не понятно. Черновой план создания? Предпосылки? Философия? Решения для задач создания составных конструкций?
Понимание основ - тоже не ясно. Основы либо служат основанием для чего-то, на них воздвигают что-то. Либо не служат основанием, либо плохо служат. Но причем здесь понимание?
Отмечу, что не придираюсь, а предлагаю распутать один из ключевых узелков, в которых нить понимания запутана.
И не с антропоцентрической, а с космоцентрической т.з.
С какой целью выбрана именно такая точка зрения? Какие преимущества дает?
понимание сути таких терминов как
Но у терминов нет сути. Термин - это лишь ярлык, которым помечают какую-то абстракцию. И разные люди могут одним и тем же ярлыком помечать разные абстракции. И даже схожие абстракции в разных головах различаются наборами свойств и возможностей. В этом сила и слабость абстрактного мышления. Поэтому ни у какого термина не может быть идеальной трактовки, всегда ищут достаточную для понимания окружающими. И достаточных уже много есть для упомянутых терминов.
Что именно вы хотите сделать с терминами?
что бы понимать, что создаешь... Что б он не стал нежизнеспособным и/или бесчеловечным
В таком случае нет нужды прыгать через несколько ступенек в сторону новой жизни, имеет смысл сосредоточиться на имеющейся платформе, чтобы отработать отмеченные задачи "создавать жизнеспособное" и "создавать человечное". На имеющейся платформе это называется "воспитание человека", а значит нужно углубляться в психологию, педагогику, систему образования. Не в алгоритмы с робототехникой.
кмк вы смотрите с позиции антропоцентризма, а у меня космоцентризм
Отвлекитесь от собеседника, поищите ответы с точки зрения стороннего наблюдателя с ником и внешностью космоса.
Спасибо за ваш взгляд "со стороны".
Да, тумана много. Но, согласитесь, полной ясности тут принципиально пока быть не может т.к. даже наука еще во всем этом не разобралась. Речь может лишь идти о большей или меньшей степени туманности :) И действительно, приведение в понятную форму может помочь уменьшить неясное. Но я бы не ставил на первое место полную формальную ясность, опять таки потому, что даже наука в этом не разобралась и может получиться так, что по-форме вроде будет ясно, а по-сути-то и нет (типа как "философский зомби") - а тут главное кмк всё же суть.
Что ж, давайте попробуем распутать.
Для начала ответы на ваши вопросы:
//Задача... Пусть будет "Задача создания ИИ";
//С какого "космоцентрическая" т.з. - сложнее всего отвечать на вопросы, ответы на которые кажутся (тебе) очевидными :) Пусть будет - "т.к. она (как считается) первооснова всего, а наша т.з. это уже "надстройка" и не первая, с кучей (не явных) условностей и огромным числом поминутно меняемых "мнений"... И для темы создания ИИ, новой формы Жизни для космоса, удобнее и проще вести отсчет "от начала". К тому же очень важно иметь опору на объективные факты, а космоцентризм наиболее объективен";
//про суть терминов - вы правы. Пусть будет "понимание сути, стоящей ЗА терминами";
//понимание жизнеспособности и человечности - вы опять правы, "увидеть" эти факторы в космоцентризме напрямую не выйдет, они "опосредованы" уже Жизнью, а вот при натуроцентризме и в антропоценризме можно, что и делается в книжке. Но после рассмотрения факторов жизнеспособности и человечности нужно же их преобразовать в "алгоритмы" для иной формы Жизни - уже для космоса.
//насчет "стороннего наблюдателя с ником и внешностью космоса" недопонял :) Мы и так все в космосе живем и являемся его частью и этапом эволюции. И всё что мы делаем, проходит как раз под его "взглядом Аргуса" :)
И у меня тогда вопросы к вам:
согласны ли вы, что сейчас идут значительные инвестиции в разработку ИИ, что можно рассматривать как желание его создать (не важно "возможно ли создание", "в правильном направлении", "это просто хайп и попил денег" или нет);
согласны ли вы, что для создания ИИ, как масштабного, дорогостоящего, очень полезного, но и очень опасного проекта крайне желательно было бы иметь общие понимание хотя бы основных для проекта терминов (т.е. если например строить международной командой дом, то все договорились бы, что расчеты будут в сантиметрах, а не в дюймах и не в аршинах);
согласны ли вы, что такими терминами являются в т.ч. интеллект, ум, разум, сознание;
согласны ли вы, что для проекта создания ИИ вполне достаточно тех определений данных терминов, которые предлагаются общедоступными словарями.
Задача... Пусть будет "Задача создания ИИ"
Создание - это ответ, а не задача. Создавая, мы пытаемся решить какую-то задачу. От того, что это за задача, зависит выбор того, что мы пытаемся создать. Дайте другой ответ на вопрос о задаче, пожалуйста. Чтобы была видна проблема, вынуждающая приложить усилия для решения.
С какого "космоцентрическая" т.з.
- сложнее всего отвечать на вопросы, ответы на которые кажутся (тебе) очевидными :) Пусть будет -"т.к. она (как считается) первооснова всего, а наша т.з. это уже "надстройка" и не первая, с кучей (не явных) условностей и огромным числом поминутно меняемых "мнений"
Присмотритесь к "очевидному". Если кем-то считается, что наша точка зрения - это лишь надстройка над чем-то более близким к недостижимому идеалу, то хотелось бы узнать - кем и почему так считается? Была альтернатива с критериями выбора, есть основания?
про суть терминов - вы правы. Пусть будет "понимание сути, стоящей ЗА терминами"
За терминами может стоять любая суть, и в этом не всегда есть проблема. Не термины определяют суть. Термины лишь используют для указания на какую-то суть.
На какую суть мы хотим указать термином "интеллект"? Свойства, примеры использования, другие какие-то особенности?
согласны ли вы, что сейчас идут значительные инвестиции в разработку ИИ, что можно рассматривать как желание его создать
Слово "значительные" без указания "что значит" - это неопределенный термин, хоть это и не важно. Инвестиции идут, что-то хотят создать. Разные люди хотят разного. При реализации разного эти разные люди успешно используют разные трактовки терминов.
согласны ли вы, что для создания ИИ,
как масштабного, дорогостоящего, очень полезного, но и очень опасного проекта крайнежелательно было бы иметь общие понимание хотя бы основных для проекта терминов
Автомат по продаже газировки в парке уже обладает искусственным интеллектом, позволяющим ему определять номинал монеток для принятия решения о запуске механизма наполнения стакана - не масштабно, не дорогостояще, полезно не для всех, опасность приемлема, создавался без сильной завязки на термины.
Для создания нужна постановка задачи и возможности для реализации. Причесывание терминов - один из вспомогательных шагов на пути к цели, а не причина, не топливо и не цель для движения. Общего понимания будет достаточно, недостающее можно будет уточнить в процессе.
согласны ли вы, что такими терминами являются в т.ч. интеллект, ум, разум, сознание
Без постановки задачи эти слова - лишь слова. Для которых достаточно существующих статей в распространенных словарях, да.
Угу... т.е. без постановки задачи все ответы будут формальны и лишь отнимать силы и время... логично...
Хорошо, давайте попробуем сформулировать "проблему, вынуждающую приложить усилия для решения" - создания ИИ.
Предлагаю для начала такую версию: мне интересно стало, почему человечество вдруг решило создавать ИИ и вот прямо сейчас. И это его идея или это часть общей космической эволюции.
И я, для решения этой своей проблемы решил приложить усилия что бы это понять.
Как вам такая постановка задачи, годиться для продолжения диалога?
Насчет "кем считается что "надстройка"... - мной. Я автор я так вижу :))
А если чуть серьёзнее - будем считать это аксиомой, т.к. доказывать, что Вселенная и её законы образовались за 14 млр. лет до нас, и, следовательно, всё остальное, будь то законы природы, или наши представления - лишь "подзаконные акты" как-то выше моих сил :) Я даже не представляю, как это можно сделать, если учебники физики и астрономии не могут быть приняты вами за доказательство. Или я чего-то не понял?
А вот как раз на какую суть указывает термин "интеллект" я как раз и искал.
попробуем сформулировать "проблему, вынуждающую приложить усилия для решения" - создания ИИ.
Предлагаю для начала такую версию: мне интересно стало, почему человечество вдруг решило создавать ИИ и вот прямо сейчас.
Ответ "мне интересно, почему сейчас увлеклись созданием" не подходит к вопросу "для чего создавать".
И для ответа на вопрос "почему сейчас увлеклись" есть ответы, не требующие изменения точки зрения и переписывания словарей.
Например, с распространением смартфонов появилось много уверенных пользователей, и с развитием нейросетей появилась возможность сделать заметный шаг, что всколыхнуло старый интерес к теме.
Человечество давно играло в творца, размышляя о возможности создания искусственных слуг и возможных опасностях. Не один век мастеровые и фантасты двигались в сторону автоматов, андроидов, роботов, искусственных разумов. Тема угасала и вспыхивала вновь всякий раз, когда получалось сделать очередной прорыв. Скоро планомерно угаснет, затем вспыхнет снова - когда кто-то сделает новый шаг в технологиях. Например, реализует абстрактное мышление.
Я удовлетворил ваш интерес, тему можно закрывать? Или в основании лежал таки другой вопрос, другая задача?
Вселенная и её законы образовались за 14 млр. лет до нас, и, следовательно, всё остальное, будь то законы природы, или наши представления - лишь "подзаконные акты"
Не аргумент. Камень под горой старше меня на десятки тысяч лет, но он не обладает сознанием, соответственно мое сознание - не разновидность его ума, никак не "подзаконный акт". То же и про Вселенную - мы не наследуем всё подряд, многое изобретаем с нуля. Соответственно, не видно причин искать идеал где-то в прошлом, менять точку зрения на что-то более простое.
на какую суть указывает термин "интеллект" я как раз и искал
У меня есть инструменты. Вот молоток - могу забить гвоздь, выровнять жестянку, стукнуть врага по лбу, повесить красиво на стенку. Вы говорите - давайте определим тот единственный гвоздь, для которого следует использовать этот молоток. Я недоумеваю.
Интеллект - это способность субъекта или системы решать задачи. Анализировать данные и делать выводы, отвечающие на вопросы, включая "кто виноват" и "что делать".
Такой ответ не достаточен? Если не достаточен, то для чего, для какой задачи?
Чой-то сразу тему закрывать? Мы ж только что обнаружили, что я сам не знаю, почему книжку написал! А значит получили доказательства внешнего влияния чужезлобного, инопланетного ясное дело, на меньшее, типа барабашек отечественного разлива или гомункулусов богомерзких, я не согласен! Вяжите меня семеро и тащите скорее в центр секретный, НЛО изучающий, где усе в белых халатах ходют... :)
Но, согласитесь, книжка-то написана, значит какие-то факторы повлияли на это? И теперь аж самому стало интересно, чой-то я столько времени бумагу-то марал? Надо ж понять, а то как дальше жить-то! :)
.
Да, вопрос "почему" не совпадает с вопросом "для чего", согласен.
Согласен и с тем, что есть ответы на этот вопрос, в т.ч. и в словарях.
Но ведь возможна ситуация, когда то, что есть, не устраивает пытливый ИТшный ум :)
Что собственно и произошло, и тут можно убедится лично, зачитав словарные статьи на тему интеллекта и прочего и попробовав понять на чем объективном это основано и как это можно "алгоритмизировать". А там, в этих статьях, бардак, всё в одну кучу свалили - и ум и разум и интеллект... (уж не говоря о чувствах)... чем одно от другого отличается, когда появились, за "что отвечают", на какой "базе" работают... ничо нет... Оно может кому "и так всё ясно!", а как по мне: "А король-то голый!"(с)
Так что пусть будет вторая версия: "потому, что имеющиеся (словарные) определения не дают необходимой информации для понимания мной означенных сущностей " Ну если бы словарные определения устраивали, я б не стал наверное погружаться в эту бездну :) - я не ученый и не писатель, зачем же тогда тратить ценные собственные ресурсы, если акромя неприятностей ничо мне на этой чужой поляне не светит, даже Шнобеля не дадут... А так да, интересно (и полезно для ИТпрофессии) же разобраться "как оно устроено" :)
.
А вот насчет того, что мы там что-то берем или нет, или изобретаем с нуля - а значит законы Вселенной нам не законы - не могу с вами согласиться.
Да, не наследуем всё подряд; да, изобретаем то, чего не было... но это не означает, что наследие и изобретения никак не зависят от базовых законов.
То, что человек, допустим, живет за облаками на пятисотом этаже, сделанным из дерева и покрашенным в розовый цвет, не говорит о том, что он не зависит от серого бетонного фундамента...
И, кмк, то, о чем мы говорим не взялось вдруг из ниоткуда, а сформировалось эволюционно, как часть и развитие общих законов. И проще их "проследить" именно "снизу, от фундамента".
.
Насчет определения интеллекта да, можно согласиться, но это "интеллект агента" раз уж он "способность субъекта/системы". А что такое "интеллект" сам по себе? Или этот ярлык не имеет смысла?
согласитесь, книжка-то написана, значит какие-то факторы повлияли на это
Я много букв написал в этой жизни. Лев Толстой даже с учетом многократного переписывания черновиков "Войны и мира" столько не написал. И какие-то факторы на это писание повлияли, конечно. Но здесь пахнет аргументом ad hominem и не похоже на ответ на вопрос о задаче, ответом на которую является данная статья.
я не ученый и не писатель, зачем же тогда тратить ценные собственные ресурсы, если акромя неприятностей ничо мне на этой чужой поляне не светит, даже Шнобеля не дадут
— А я дерусь просто потому, что дерусь. — покраснев, ответил Портос.
Мы ж только что обнаружили, что я сам не знаю, почему книжку написал
Нет, я предлагал поискать ответ на вопрос о задаче. Распространенная ошибка стартаперов - они видят решение, реализуют, пытаются продвигать, вкладывая годы работы и тонны денег инвесторов, после чего ищут причины провала и быстро встречают распространенный совет "не цепляйтесь за решение, если не видите задачи".
И я не говорил, что Вы не знаете, почему пишете. Фантазии на тему санитаров в белых халатах - это не ко мне. Я лишь предложил оформить это знание так, чтобы оно стало понятно читателю.
вопрос "почему" не совпадает с вопросом "для чего", согласен
Это немного другая проблема. Я вообще не ставил вопрос "почему, зачем, для чего Вы пишете". Вопрос был по статье - какую задачу нужно решить методом "причесывание терминов"?
там, в этих статьях, бардак, всё в одну кучу свалили - и ум и разум и интеллект... (уж не говоря о чувствах)... чем одно от другого отличается, когда появились, за "что отвечают", на какой "базе" работают... ничо нет..
Да, обычное легаси - сотни разработчиков на протяжении столетий копили базу, в которой сегодня легко потеряться. Разночтения, неопределенности и противоречия с ежедневным добавлением новых идей. Только не "ничего нет", а "есть каша с комочками".
потому, что имеющиеся (словарные) определения не дают необходимой информации для понимания мной означенных сущностей
Они не дают потому, что нет уверенного знания. Нет консенсуса. Поэтому идеи перемешаны с гипотезами, некоторые из которых осторожно и с оговорками называются теориями. До появления уверенного знания не получится выстроить термины стройными рядами для описания отсутствующего консенсуса. Но можно выстроить термины для личного пользования - берем такое-то определение и выстраиваем свою новую конструкцию для решения такой-то задачи. Какой задачи?
да, интересно (и полезно для ИТпрофессии) же разобраться "как оно устроено"
Для изучения устройства "оно" берут "оно" и изучают. Вы же пытаетесь зайти с обратной стороны - найти устройство по имени.
Аналогия - со словами "я хочу понять, как работает автомобиль" вы пытаетесь понять, почему Форд-Мустанг назван именно так, и что физически скрывается за этим названием, почему "мустанг" входит в семейство "пони", удивляетесь отличиям в описаниях моделей разных годов выпуска, видите связь с другими "фордами", постулируете "в описаниях бардак, нужно добиться единообразия". Как единообразие описаний поможет понять устройство автомобиля?
Насчет определения интеллекта да, можно согласиться, но это "интеллект агента" раз уж он "способность субъекта/системы". А что такое "интеллект" сам по себе? Или этот ярлык не имеет смысла?
Здесь есть риск врезаться в стену неопределенных понятий "существование", "свойство", "действие", "вопрос"... Я бы назвал их "аксиоматическими". Бодание с этой стеной способно на несколько столетий отложить решение вашей основной задачи, какой бы она ни была.
Да, любой ярлык сам по себе не имеет смысла. Попробуйте сто раз повторить вслух слово "стул" и почувствуете желание прекратить бессмысленное занятие, а не увидите четкий образ какого-то предмета мебели. Слова - это указатели на смыслы, а не хранилища смыслов.
Если задача "выяснить устройство интеллекта", то нужно для себя и читателя раскрыть смысл, находящийся за словом "интеллект". И если заявленная сущность, обозначенная словом "интеллект" будет интересна читателю, то он охотно поучаствует в решении задачи "выяснить устройство". Или покажет на существующее удовлетворительное решение. Или сущность окажется искусственным конструктом, конгломератом разнородных следствий, а не сущностью. Или еще что-нибудь.
Пока же ваша задача похожа на "нужно выяснить, что именно мы хотим изучить".
Я так понял тема "почему космоцентризм" таки признана имеющей смысл и слилась в туман :)
.
А по поводу "какую задачу я решаю..." - вот спросили сороконожку, как она ходит.. она задумалась и больше ходить не смогла :)
Как-то да, если смотреть с вашей т.з. выходит я не знаю, какую задачу решаю (ну если не считать, как для стартапов, главной задачей заработать денег - так-то считается всего 3 задачи существует: размножение, есть самому/не дать съесть себя и доминантность (для социУма). В тупик вы меня поставили. Хорошо хоть я успел написать книжку-то, а то так и до греха не далеко :)
Но я надеюсь вы себе не ставите задачу загонять людей, которые что-то делают, в темный лабиринт их невежества, где они в мучениях проведут остаток жизни, пытаясь найти выход и понять свою задачу? :) Да и всё же, если человек чемпион по Формуле1, это не значит, что он так же хорош как автомеханик или ген. конструктор... Аналогично вовсе не обязательно, что бы автор книг так же был и ... а как, кстати, называется профессия задавать такие вопросы? :)
Так что, оставляем тему в тупике? Нет? Тогда предлагаю всё же найти ответ на этот вопрос не гадая.
А именно: вы, как специалист, можете предложить несколько возможных вариантов на выбор или даже сами дать ответ, который считаете правильным ("нужно выяснить, что именно мы хотим изучить" по-моему слишком общая формулировка... этак действительно можно застрять на пару столетий).
Тем более, что инициатива-то, да и т.з. ваши - вам и ответ держать :) И будем надеяться, что он у вас есть... :)
.
... а "оно" для изучения взять не получиться - ручки у человечества еще коротки... (но это мы потихоньку исправим), так что приходиться пользоваться пока обратной инженерией :)
Я так понял тема "почему космоцентризм" таки признана имеющей смысл и слилась в туман
Я так не понял. Но "для чего менять точку зрения" - это побочная ветка, а у нас по основной линии пока продвижения не видно. Побочные ветки можно отложить на неопределенное потом, чтобы не мешали главному.
считается всего 3 задачи существует: размножение, есть самому/не дать съесть себя и доминантность (для социУма
Не разделяю эту точку зрения.
я надеюсь вы себе не ставите задачу загонять людей, которые что-то делают, в темный лабиринт их невежества, где они в мучениях проведут остаток жизни
Я предположил, что Вы заинтересованы не только написать, но и быть понятым. И первый шаг на пути к понятности - добавить системности. Определить две точки "от проблемы" и "к пользе", между ними прочертить красную линию, вокруг которой и строить повествование. И предложил начать с первой точки - от чего уходим, какую нужду хотим насытить, какую задачу решить?
вы, как специалист, можете предложить несколько возможных вариантов на выбор
Есть только один специалист по решению задач типа "пойди туда, не знаю куда, принеси то, не знаю что". И этот специалист - персонаж сказки. И даже в сказке решить задачу он смог лишь по воле случая, там было везение, а не успех.
инициатива-то, да и т.з. ваши - вам и ответ держать
Инициатива у автора статьи "Интеллект и все все все…", которую мы сейчас комментируем. И у него сейчас новый вопрос - хочет ли он быть понятым, продвинуть идею, или хочет только писать. Если работает потребность "выплеснуть скопившееся", а не "посадить дерево", то можно не заморачиваться.
P.S. Кстати, а почему мы до сих пор тут её комментируем, а не там? Если захотите продолжить, то можно переместиться туда.
"Рассуждение это ни в какой степени не удовлетворило председателя домоуправления и он заключил, что разглагольствующий перед ним гражданин – лицо именно неофициальное, а пожалуй, и праздное."(с)
.
Благодарю вас за проявленный интерес и желание помочь, но если у меня нет ответа на ваш вопрос, и у вас нет, нет хотя бы вариантов или аналогов, которые могли бы содействовать быстрому нахождению решения, то это уже получается отдельный и трудоёмкий проект по их поиску, а скорее гаданию или даже молениям, судя по "spiritus nihilismus".
.
Быть понятым другими людьми это действительно Задача - и весьма трудная, вспоминая хотя бы о тех же квалиа.
Да, она важная, ибо если автор не будет понят, то возникают сомнения (в т.ч. и у него) в пользе от его работы.
Однако согласитесь, наиболее близким к решению будут лишь два случая:
когда имеется определенный круг читателей, и автор точно знает, "на каком языке они говорят".Но в данном случае круг читателей неопределенный, а каждый человек решает свои "задачи"; или общие, но по-своему... на всех не угодишь...
когда задачи решаются "базовые" т.е. понимаемые/ощущаемые (почти) всеми, а это то самое "размножение, питание, доминирование" (и 4м млр. лет успешной эволюции Природы в космосе на базе этих принципов нет дела, разделяете ли вы её мнение или нет) - типа автор выпендриться хотел или деньгу зашибить... чо тут не понятного: "присоединяйся читатель и ты тоже будешь богатый и/или поднимешься в иерархии..." может быть... :) Так конечно же вообще всё можно свести к примитиву, однако это задачи Природные, а человек это не только биология и Природа, мать её :), но и, как говориться, слава Богу со-Знание, с вопросами горними... Так что да - можно ... но нет - не нужно... т.е. и это не решение в данном случае. .
Во всех остальных случаях предлагаемый вами вопрос "какую задачу хотим решить" что бы быть понятым читателем, как видим довольно сложен, практически невозможен (в связи с чем к самой постановке вашей задачи есть вопрос - а какую задачу таким своим предложением решаете вы? И да - этот вопрос именно ваша инициатива, не стоит обзаводиться ярлыком "водителя народов" отрицая очевидное письменное доказательство, заверенное временем сервера сайта :)) если автор изначально его не решил... ну или комментатор сразу не предложил точное решение...
.
А начинать такое разбирательство не закончив основной проект неразумно. Мне (приношу свои извинения, что не предупредил сразу... хотя ничего вроде не предвещало такой необходимости... :)) нужно сначала закончить свой текст, так сказать "закрыть гештальт" с последней важной темой - сознанием (что это, когда и как появилось, назначение, "аппаратный" и "программный" состав, функции, история развития в природе, человеке, обществе, культуре... перспективы... как работает и как (не)будет у ИИ..) А как говорят в ИТ: "хуже нет, чем преждевременная оптимизация"(с) - сначала надо завершить проект "как есть", высвободить силы, снять напряжение, расфокусировать нейронные сети, увидеть проект "в целом" в т.ч. по затратам, получить реальные, а не придуманные (тобой же) отзывы пользователей... и уже тогда заниматься оптимизацией.. если силёнок хватит или инвестирует кто...
Вот домучаю тогда пожалуйста, появляться реальные отзывы (или нет :)) и можно, и нужно будет разбираться: чой-то никто не читает или в след тебе свистят и пальцами у виска крутят :) .
Тем не менее спасибо вам за отклик и интересный вопрос "на потом"... :)
Задача - и весьма трудная, вспоминая хотя бы о тех же квалиа.
Я отношусь к тем людям, которые не считают "трудную проблему сознания" трудной и проблемой.
Но да, когда я общался с издательствами, меня ставили в тупик вопросы "для кого пишете", "о чем пишете", "какую пользу несете", "какое право имеете писать об этом" и им подобные. Но не могу сказать, что поиск ответов на эти вопросы сделали меня беднее. И писать я стал лучше, как мне кажется, когда научился видеть точки "от" и "к", удерживать направление.
спасибо вам за отклик и интересный вопрос "на потом"
Пожалуйста.
"Оьратные связи для адаптируемости" - существенный атрибут, поскольку подразумевает способность такой системы самообучаться. С учётом того, что такая система не обладает бренным телом, обучаться она может доолго. И в этом самообучении она может существенно превзойти своего создателя - Хомо.
Я - не Я, и лошадь не моя, так примерно будда Шакьямуни описал этот ихний селф-аваринесс, довольно давно правда. Ну давайте возьмем 2 чатаГПТ, пусть поговорят за самосознание.
Что делать, если человечество не сможет создать искусcтвенный интеллект никогда?