Comments 45
Уже, кстати, GPT-3 есть. Со 175 миллиардами параметров.
Проблема современных подходов к онтологиям в том, что люди пытаются строить самую большую и правильную онтологию навсегда, вместо того, чтобы каждый раз строить самую маленькую из самых полезных.
Ммм… Представим что мы держим ребенка 4 лет ( который только что научился читать) взаперти в темной пустой комнате, никуда не выпускаем, кормим его и даем ему читать книги: художественные и научные. Предположим что он вундеркинд, и способен прочитать тысячи книг. Мне кажется что его знания о реальном мире будут примерно такими же. Возможно он что-то поймет, о чем-то сложит свое представление — но скорее всего 90% его представлений будут ошеломляюще ошибочны, хотя и непротиворечивы с книгами которые он прочитал. Без доступа к реальным данным, без личного опыта или хотя бы к видео он может прочитать немало книг в которых упоминаются дрова и спички, но то, что спички используются для разжигания огня, который делается из дров он поймет только если это будет явно указываться в какой-то книге. Если же все прочитанные им книги об этом умалчивали, подразумевая очевидным — то ему никогда это не вывести, т.к. он никогда не видел ни дров, ни спичек, ни огня.
Поэтому мне кажется что AI никогда не будет иметь «здравый смысл» в том смысле который они хотят, если AI не будет взаимодействовать как-то с реальным миром. Здравый смысл это и есть понимание реального мира. С другой стороны, пускать его взаимодействовать с реальным миром пока у него нет этого «здравого смысла» тоже как-то рискованно — проблема выглядит как решаемая только очень-очень постепенно, также как мы обучаем младенца всему с нуля.
Поэтому мне кажется что AI никогда не будет иметь «здравый смысл» в том смысле который они хотят, если AI не будет взаимодействовать как-то с реальным миром. Здравый смысл это и есть понимание реального мира. С другой стороны, пускать его взаимодействовать с реальным миром пока у него нет этого «здравого смысла» тоже как-то рискованно — проблема выглядит как решаемая только очень-очень постепенно, также как мы обучаем младенца всему с нуля.
Это называется проблемой повторения сенсомоторного опыта человека.
К проблемам нейронных сетей эта проблема напрямую не относится, нейросети работают просто отлично. Просто нужны эти сильные данные — сенсомоторный опыт человека.
Задолбали скептики со своими сильными интеллектами! Существуют только слабые интеллекты, к которым относятся искусственные и биологические нейросети. Только слабые. Но у некоторых из них есть сильные данные.
К проблемам нейронных сетей эта проблема напрямую не относится, нейросети работают просто отлично. Просто нужны эти сильные данные — сенсомоторный опыт человека.
Задолбали скептики со своими сильными интеллектами! Существуют только слабые интеллекты, к которым относятся искусственные и биологические нейросети. Только слабые. Но у некоторых из них есть сильные данные.
то ему никогда это не вывести, т.к. он никогда не видел ни дров, ни спичек, ни огня.
А если он приложится к физике?
Чёрные дыры мы даже видеть и "слышать" не могли до последнего времени, а теории их построили довольно точно.
Оффтоп: немного моего субъективного противоречивого ощущения от всех этих нейронных сетей.
С одной стороны, я разделяю мнение, что статистика ≠ понимание, и существующие ИНС, во многом, экстенсивные, не являются той панацеей от любых проблем, какими их любят рисовать сми и маркетинг.
С другой стороны, я опасаюсь, что однажды мы создадим мифический сильный ИИ, но не изучив досконально, как работает наш мозг и разум, не подведя под это какую-то крутую теоретическую базу, а "просто" (нет, конечно, это не просто) взяв гигантский ансамбль нейронных сетей на триллионы параметров и обучив на миллиардах гигабайт данных.
UFO just landed and posted this here
Язык, как заметил еще академик Павлов, это вторая сигнальная система, очень слабая и ограниченная надстройка над первичной сигнальной системой, работающей с образами и движениями.
И надеяться, что работая со словами и текстами, компьютеры каким то волшебным образом выведут из этой абстрактной информации конкретные смыслы и закономерности реального мира, так же обоснованно, как ожидать посмотреть вне дома видео, скопировав на флешку ярлык от файла.
И надеяться, что работая со словами и текстами, компьютеры каким то волшебным образом выведут из этой абстрактной информации конкретные смыслы и закономерности реального мира, так же обоснованно, как ожидать посмотреть вне дома видео, скопировав на флешку ярлык от файла.
Из статьи так и не понял, как это работает? Ввели ли базу знаний дополнительно при обучении, или это какой-то механизм вне нейросети?
Но, это в любом случае весьма интересно.
Бедные нейросети. Пример valergrad очень хорош. Я вспомнил, что мы в школе так же решали задачи по физике из задачника Рымкевича. Особенно по электромагнетизму. Они там очень простые, и можно не вдумываясь в условие, просто подставлять числа в формулы и получать правильный ответ. Вообще аналогия со школьной физикой глубже. Мы не видим электронов, не видим магнитные и электрические поля, не можем посчитать количество молекул в сосуде, и т.п… А вольтметры и амперметры показывают… какие-то цифры. Кстати у многих детей возможно именно поэтому возникают проблемы с физикой — «здравый смысл» оказывается не у дел, ведь задачи по физике из учебника является на самом деле головоломками не имеющими отношения к окружающей реальности. Т.е. вводятся некие умозрительные понятия, вводятся какие-то соотношения между ними и… вперед. Отсюда кстати и жалобы, что школьная математика-физика в жизни не пригождается — нужно пройти некий путь, чтобы увязать житейский здравый смысл с информацией из учебников.
(Если что — я сам физик).
(Если что — я сам физик).
Просто почему-то основное время предлагается просто решать примеры. Сегодня такие, завтра такие. Это оправдано где-то на начальных этапах, когда тебя ещё знакомят с математическим аппаратом, всевозможными его понятиями. Но дальше уже нужно учиться ставить задачи, а не решать бесконечные примеры, где требуется верный ответ.
Что касается требования верных ответов — это вобще беда. Я помню как в школе решал задачу по геометрии, но не сориентировался как её решить для целого ромба, поэтому разбил его на 4 части, и решил через одну из этих малых частей. Мне сказали что так неправильно, хотя ответ был верный. Примерно такое же потом слышал поначалу на информатике уже в институте — «такая программа просто не будет работать». А я запускал и оно работало. Поэтому вопросов больше не возникало, так как преподаватель убедился в том, что я умею проектировать — что и требовалось. Преподаватель по математическому анализу так уже даже восхищалась тому, как я щёлкаю сложные интегралы, экспериментируя с подстановками.
Я это всё к тому, что главное то не знание формул и навык решения типовых задач, а понимание взаимосвязей, умение строить модели, знание своих возможностей и способов их улучшения, способность ставить цели.
Что касается требования верных ответов — это вобще беда. Я помню как в школе решал задачу по геометрии, но не сориентировался как её решить для целого ромба, поэтому разбил его на 4 части, и решил через одну из этих малых частей. Мне сказали что так неправильно, хотя ответ был верный. Примерно такое же потом слышал поначалу на информатике уже в институте — «такая программа просто не будет работать». А я запускал и оно работало. Поэтому вопросов больше не возникало, так как преподаватель убедился в том, что я умею проектировать — что и требовалось. Преподаватель по математическому анализу так уже даже восхищалась тому, как я щёлкаю сложные интегралы, экспериментируя с подстановками.
Я это всё к тому, что главное то не знание формул и навык решения типовых задач, а понимание взаимосвязей, умение строить модели, знание своих возможностей и способов их улучшения, способность ставить цели.
И снова обращу внимание на небольшое когнитивное искажение, которое проявляют люди касательно ИИ: они считают всех людей по умолчанию абсолютно знающими любой контекст и понимающими любую ситуацию. Но это совсем не так. Лично я, например, часто задаю всякие уточняющие вопросы в разговорах из-за того, что теряю нить, хотя собеседникам кажется, что они выражаются совершенно ясно, когда говорят что-то вроде «подай вон ту фигню, которая ну это, вон там» или «давай это самое, а то блин вообще»
Вот что интересно: теоретически же эта сеть не знает русский. Однако на русские фразу она отвечает. Порой генерируя весьма причудливые слова. Это связано с особенностями НС?
Текст:
Ответ:
Текст:
Если регулярно читать книгиОтвет:
на стал не запрос не образом стал не посободен на Понятстве регионаральные треклистики с информации только вероять«Эта сеть» — talktotransformer.com
UFO just landed and posted this here
Хотя нет – говорят, что он очень религиозна.
Все равно род плохо согласовывает. На английском легче писать.
Вот нафига в русском языке каждому объекту присваивать параметр, который не имеет никакого смысла, но заставляет помнить кучу специфических окончаний и заниматься сложным согласованием, которое делает русские слова в 2-3 раза длиннее английских?
Но как насчёт практически бесконечного списка редких или необычных событий, которые могут произойти в таком сценарии – уйти, не оплатив еду, или начать перекидываться едой с другими? «Количество возможных вариантов кажется бесконечным, — сказала Чой. – Поэтому попытки создать чисто символические базы знаний обречены на провал».
Примеры, которые приводятся в статье, больше похожи на проявление не здравого смысла, а шаблонного мышления. Если заказал в ресторане стейк, то значит там же его и съел, а не взял, например, на вынос — это шаблон. Мозг просто подкидывает самый частотный шаблон, их и надо загонять в базу. Большинство людей тоже на время заклинит, если их попросить назвать любого поэта (а лучше двух) кроме Пушкина. И скорее всего за Пушкиным по частотности стоит Лермонтов, а потом Маяковский. А дальше начинается скрипление мозгами. Поэтому нет смысла описывать все инварианты возможных действий в мультивселенной.
Если заказал в ресторане стейк, то значит там же его и съел, а не взял, например, на вынос — это шаблон.
Тоже подумал про это. Он мог заказать стейк не для себя, он мог заказать что-то ещё кроме стейка (потому что принесённый стейк не понравился), стейк могли заменить чем-то другим в связи с наличием отсутствия, и т.д.
По опыту походов в рестораны чётко знаю что "заказать что-то" != "съесть заказанное" примерно в четверти случаев, так что в приведённом примере это не здравый смысл, это явно шаблон.
Добавлю. Шаблоны — в общем случае это не плохо. Без них, скорее всего, вообще невозможно мышление, они ограничивают количество «степеней свободы». Механизм борьбы с бесконечностью, когда нужен хороший ответ прямо здесь и сейчас, а не лучший через год.
Понадобится тест на здравый смысл для ИИ, т.к. тест Тьюринга явно проходим и без сильного ИИ.
Пусть ИИ научится шутить по типу:
-Штирлиц всю ночь топил печку и к утру печка утонула.
-Эсесовцы перекрыли все выходы, но Штирлиц ушел через вход.
Потом ещё пусть ответит на вопросы типа:
"Джон видит, как Питер делает комплименты его жене. Потом он заметил его сообщения в её телефоне. Что мог почувствовать Джон в этот момент?"
"Джон поговорил с человеком через Скайп. В конце разговора он узнал, что это был сгенерированный компьютером персонаж. Что мог почувствовать Джон в этот момент?"
Навскидку:
Система реализованная в мозге всегда стоит перед проблемой. С одной стороны ей необходимо принимать данные о актуальной утилитарной потребности организма, частью которого она сама и является и искать в списке правило редукции его. А с другой принимать данные о среде, частью которой она тоже является. И не просто абстрактной среде, а о конкретных объектах, с их независимо существующими свойствами воздействовать на саму систему, мозг, потребность. Принимать и то, что что объекты сами образуют отношения свойств друг с другом. Причем, ряд свойств проявляется только опосредствованно друг через друга. И Проблема тогда в том как соотнести утилитарную потребность и свойства объектов как условие ее редукции. Что брать каждый раз /в момент if -them / за отправную точку причино- следственной цепи — потребность или объект. И мозг решает эту проблему через ПОЗНАНИЕ, как отдельную задачу. Он отделяет от утилитарной потребности, “квазиалгоритм” построения /обновления/ непротиворечивого списка детектируемых объектов “ что с чем и как связано сейчас“ и почему тогда было по другому /рекурсивно/ или так же как сейчас. И оценивает необходимость и достаточность этого для утилитарной потребности. Только двигая объекты, в т.ч. друг на друга или двигаясь среди них, этот список и формируется и реформируется. Подключая больше средств движения /двигательная проба/, форм движения /например дистальных/ и времени /реккурентн/ этот репертуар расширяется тем самым объективируется.. Собственно похожим образом Пиаже и объяснил откуда и почему берутся репрезентации логических и математических объектов, почему живые существа могут понимать математ. абстракции например операции над объектами
Система реализованная в мозге всегда стоит перед проблемой. С одной стороны ей необходимо принимать данные о актуальной утилитарной потребности организма, частью которого она сама и является и искать в списке правило редукции его. А с другой принимать данные о среде, частью которой она тоже является. И не просто абстрактной среде, а о конкретных объектах, с их независимо существующими свойствами воздействовать на саму систему, мозг, потребность. Принимать и то, что что объекты сами образуют отношения свойств друг с другом. Причем, ряд свойств проявляется только опосредствованно друг через друга. И Проблема тогда в том как соотнести утилитарную потребность и свойства объектов как условие ее редукции. Что брать каждый раз /в момент if -them / за отправную точку причино- следственной цепи — потребность или объект. И мозг решает эту проблему через ПОЗНАНИЕ, как отдельную задачу. Он отделяет от утилитарной потребности, “квазиалгоритм” построения /обновления/ непротиворечивого списка детектируемых объектов “ что с чем и как связано сейчас“ и почему тогда было по другому /рекурсивно/ или так же как сейчас. И оценивает необходимость и достаточность этого для утилитарной потребности. Только двигая объекты, в т.ч. друг на друга или двигаясь среди них, этот список и формируется и реформируется. Подключая больше средств движения /двигательная проба/, форм движения /например дистальных/ и времени /реккурентн/ этот репертуар расширяется тем самым объективируется.. Собственно похожим образом Пиаже и объяснил откуда и почему берутся репрезентации логических и математических объектов, почему живые существа могут понимать математ. абстракции например операции над объектами
Люди почти не умеют замечать и отслеживать свое абстрагирование и управлять своим умом, поэтому создавать ИИ, не понимая, как работает естественный И. даже в общих чертах, еще та задача.
для этого и существует наука. Иначе бы доярка с шепетовки могла обыгрывать AlphaZero без подготовки всухую
И то как работает когнитивная система у высших млекопит., и человека в частности в общих чертах понятно. Я это примитивно и описал. Но ее мультифакторная детерминация «гены-среда» делает трудно разрешимой на сегодня проблему управления данной системой.
Так даже то, что «понятно в общих чертах», понятно не всем, а только некоторым ученым в разных сферах знаний. Причем «понятно» в терминологии и моделях именно этой науки, а в другой сфере этот термин может обозначать совершенно противоположное.
Наука слишком фрагментировалась и раздробилась, а специалистов по «сшивке» крайне мало.
Поэтому знания есть, а целостной модели нет и не предвидится.
Наука слишком фрагментировалась и раздробилась, а специалистов по «сшивке» крайне мало.
Поэтому знания есть, а целостной модели нет и не предвидится.
Нейросети никакого отношения к мышлению не имеют. Мышление построено совсем на других принципах материального и биологического мира. А именно поиск смысла всего вокруг. У человека он есть, так как обусловлен его биологией. По сравнению с мозгом, нейросеть это банальное «перегребание» бессмысленной информации.
А что такое смысл?
",,, нейросеть это банальное «перегребание» бессмысленной информации." Вот это реально бессмысленная фраза.
С — сила, М — мир, система, И — исток, С — сила, Л — непрерывный поток. Ответ в самом вопросе, собственно в самих символах-понятиях букв, которые буквы и обозначают. Другими словами сила бытия какого-либо объекта как системы исходит от от силы движения непрерывного потока который этот объект и использует для бытия.
Sign up to leave a comment.
Компьютеры постепенно приближаются к обладанию здравым смыслом