Как стать автором
Обновить

Комментарии 45

Уже, кстати, GPT-3 есть. Со 175 миллиардами параметров.

Проблема современных подходов к онтологиям в том, что люди пытаются строить самую большую и правильную онтологию навсегда, вместо того, чтобы каждый раз строить самую маленькую из самых полезных.
Полезных для кого? Какой отрасли? Все эти большие онтологии когда-то были маленькими и самыми полезными в своей ограниченной области разумеется.
Вы статью читали? )))
Любая работающая модель включает в себя онтологию (метаданные), правила которой определяют тот самый здравый смысл, который так хочется достигнуть.
Ммм… Представим что мы держим ребенка 4 лет ( который только что научился читать) взаперти в темной пустой комнате, никуда не выпускаем, кормим его и даем ему читать книги: художественные и научные. Предположим что он вундеркинд, и способен прочитать тысячи книг. Мне кажется что его знания о реальном мире будут примерно такими же. Возможно он что-то поймет, о чем-то сложит свое представление — но скорее всего 90% его представлений будут ошеломляюще ошибочны, хотя и непротиворечивы с книгами которые он прочитал. Без доступа к реальным данным, без личного опыта или хотя бы к видео он может прочитать немало книг в которых упоминаются дрова и спички, но то, что спички используются для разжигания огня, который делается из дров он поймет только если это будет явно указываться в какой-то книге. Если же все прочитанные им книги об этом умалчивали, подразумевая очевидным — то ему никогда это не вывести, т.к. он никогда не видел ни дров, ни спичек, ни огня.
Поэтому мне кажется что AI никогда не будет иметь «здравый смысл» в том смысле который они хотят, если AI не будет взаимодействовать как-то с реальным миром. Здравый смысл это и есть понимание реального мира. С другой стороны, пускать его взаимодействовать с реальным миром пока у него нет этого «здравого смысла» тоже как-то рискованно — проблема выглядит как решаемая только очень-очень постепенно, также как мы обучаем младенца всему с нуля.

Это называется проблемой повторения сенсомоторного опыта человека.
К проблемам нейронных сетей эта проблема напрямую не относится, нейросети работают просто отлично. Просто нужны эти сильные данные — сенсомоторный опыт человека.

Задолбали скептики со своими сильными интеллектами! Существуют только слабые интеллекты, к которым относятся искусственные и биологические нейросети. Только слабые. Но у некоторых из них есть сильные данные.
то ему никогда это не вывести, т.к. он никогда не видел ни дров, ни спичек, ни огня.

А если он приложится к физике?
Чёрные дыры мы даже видеть и "слышать" не могли до последнего времени, а теории их построили довольно точно.

Оффтоп: немного моего субъективного противоречивого ощущения от всех этих нейронных сетей.


С одной стороны, я разделяю мнение, что статистика ≠ понимание, и существующие ИНС, во многом, экстенсивные, не являются той панацеей от любых проблем, какими их любят рисовать сми и маркетинг.


С другой стороны, я опасаюсь, что однажды мы создадим мифический сильный ИИ, но не изучив досконально, как работает наш мозг и разум, не подведя под это какую-то крутую теоретическую базу, а "просто" (нет, конечно, это не просто) взяв гигантский ансамбль нейронных сетей на триллионы параметров и обучив на миллиардах гигабайт данных.

Нейросеть в моём мозгу не осилила Сус читать как «Сайк». Жду результатов от MBR/GPT и прочих сеток с не менее удачными названиями

Женское имя Павлик тоже немного ломало мою нейросеть.

Хотя это и фамилия.

Язык, как заметил еще академик Павлов, это вторая сигнальная система, очень слабая и ограниченная надстройка над первичной сигнальной системой, работающей с образами и движениями.
И надеяться, что работая со словами и текстами, компьютеры каким то волшебным образом выведут из этой абстрактной информации конкретные смыслы и закономерности реального мира, так же обоснованно, как ожидать посмотреть вне дома видео, скопировав на флешку ярлык от файла.

Из статьи так и не понял, как это работает? Ввели ли базу знаний дополнительно при обучении, или это какой-то механизм вне нейросети?


Но, это в любом случае весьма интересно.

статья про чё павлик решил торгануть синими табличками с непонятным шрифтом под терминатора.

Бедные нейросети. Пример valergrad очень хорош. Я вспомнил, что мы в школе так же решали задачи по физике из задачника Рымкевича. Особенно по электромагнетизму. Они там очень простые, и можно не вдумываясь в условие, просто подставлять числа в формулы и получать правильный ответ. Вообще аналогия со школьной физикой глубже. Мы не видим электронов, не видим магнитные и электрические поля, не можем посчитать количество молекул в сосуде, и т.п… А вольтметры и амперметры показывают… какие-то цифры. Кстати у многих детей возможно именно поэтому возникают проблемы с физикой — «здравый смысл» оказывается не у дел, ведь задачи по физике из учебника является на самом деле головоломками не имеющими отношения к окружающей реальности. Т.е. вводятся некие умозрительные понятия, вводятся какие-то соотношения между ними и… вперед. Отсюда кстати и жалобы, что школьная математика-физика в жизни не пригождается — нужно пройти некий путь, чтобы увязать житейский здравый смысл с информацией из учебников.
(Если что — я сам физик).
Просто почему-то основное время предлагается просто решать примеры. Сегодня такие, завтра такие. Это оправдано где-то на начальных этапах, когда тебя ещё знакомят с математическим аппаратом, всевозможными его понятиями. Но дальше уже нужно учиться ставить задачи, а не решать бесконечные примеры, где требуется верный ответ.
Что касается требования верных ответов — это вобще беда. Я помню как в школе решал задачу по геометрии, но не сориентировался как её решить для целого ромба, поэтому разбил его на 4 части, и решил через одну из этих малых частей. Мне сказали что так неправильно, хотя ответ был верный. Примерно такое же потом слышал поначалу на информатике уже в институте — «такая программа просто не будет работать». А я запускал и оно работало. Поэтому вопросов больше не возникало, так как преподаватель убедился в том, что я умею проектировать — что и требовалось. Преподаватель по математическому анализу так уже даже восхищалась тому, как я щёлкаю сложные интегралы, экспериментируя с подстановками.
Я это всё к тому, что главное то не знание формул и навык решения типовых задач, а понимание взаимосвязей, умение строить модели, знание своих возможностей и способов их улучшения, способность ставить цели.
Это и есть способность нейросетей. Не возводите себя в ранг священной коровы. Вы биты нейросетями.
Похоже вы у нейросетей учились комментированию.
И снова обращу внимание на небольшое когнитивное искажение, которое проявляют люди касательно ИИ: они считают всех людей по умолчанию абсолютно знающими любой контекст и понимающими любую ситуацию. Но это совсем не так. Лично я, например, часто задаю всякие уточняющие вопросы в разговорах из-за того, что теряю нить, хотя собеседникам кажется, что они выражаются совершенно ясно, когда говорят что-то вроде «подай вон ту фигню, которая ну это, вон там» или «давай это самое, а то блин вообще»

Вот-вот, постоянно удивляет, как хотят обучать ИИ, чтобы он всё знал и при этом не задавал вопросов.

Вот что интересно: теоретически же эта сеть не знает русский. Однако на русские фразу она отвечает. Порой генерируя весьма причудливые слова. Это связано с особенностями НС?
Текст: Если регулярно читать книги
Ответ: на стал не запрос не образом стал не посободен на Понятстве регионаральные треклистики с информации только вероять
«Эта сеть» — talktotransformer.com
Порфирьевич интереснее результаты выдаёт (правда, его как раз на русских текстах обучали)

Если регулярно читать книги о ком-нибудь еще и слушать, как ты там бормочешь, тупо пристраивая прочитанные страницы на полку, дивясь, какие же ты оригиналы

Если регулярно читать книги для юного читателя, размышляла Нина Петровна, надо с интересом слушать про всякие добрые дела.

Если регулярно читать книги? Хоть один, который не говорит о деньгах? Даже если он единственный негр, который их пишет. Хотя нет – говорят, что он очень религиозна.
Хотя нет – говорят, что он очень религиозна.

Все равно род плохо согласовывает. На английском легче писать.
Вот нафига в русском языке каждому объекту присваивать параметр, который не имеет никакого смысла, но заставляет помнить кучу специфических окончаний и заниматься сложным согласованием, которое делает русские слова в 2-3 раза длиннее английских?
Но как насчёт практически бесконечного списка редких или необычных событий, которые могут произойти в таком сценарии – уйти, не оплатив еду, или начать перекидываться едой с другими? «Количество возможных вариантов кажется бесконечным, — сказала Чой. – Поэтому попытки создать чисто символические базы знаний обречены на провал».

Примеры, которые приводятся в статье, больше похожи на проявление не здравого смысла, а шаблонного мышления. Если заказал в ресторане стейк, то значит там же его и съел, а не взял, например, на вынос — это шаблон. Мозг просто подкидывает самый частотный шаблон, их и надо загонять в базу. Большинство людей тоже на время заклинит, если их попросить назвать любого поэта (а лучше двух) кроме Пушкина. И скорее всего за Пушкиным по частотности стоит Лермонтов, а потом Маяковский. А дальше начинается скрипление мозгами. Поэтому нет смысла описывать все инварианты возможных действий в мультивселенной.
Если заказал в ресторане стейк, то значит там же его и съел, а не взял, например, на вынос — это шаблон.

Тоже подумал про это. Он мог заказать стейк не для себя, он мог заказать что-то ещё кроме стейка (потому что принесённый стейк не понравился), стейк могли заменить чем-то другим в связи с наличием отсутствия, и т.д.


По опыту походов в рестораны чётко знаю что "заказать что-то" != "съесть заказанное" примерно в четверти случаев, так что в приведённом примере это не здравый смысл, это явно шаблон.

Добавлю. Шаблоны — в общем случае это не плохо. Без них, скорее всего, вообще невозможно мышление, они ограничивают количество «степеней свободы». Механизм борьбы с бесконечностью, когда нужен хороший ответ прямо здесь и сейчас, а не лучший через год.

Понадобится тест на здравый смысл для ИИ, т.к. тест Тьюринга явно проходим и без сильного ИИ.
Пусть ИИ научится шутить по типу:
-Штирлиц всю ночь топил печку и к утру печка утонула.
-Эсесовцы перекрыли все выходы, но Штирлиц ушел через вход.


Потом ещё пусть ответит на вопросы типа:
"Джон видит, как Питер делает комплименты его жене. Потом он заметил его сообщения в её телефоне. Что мог почувствовать Джон в этот момент?"
"Джон поговорил с человеком через Скайп. В конце разговора он узнал, что это был сгенерированный компьютером персонаж. Что мог почувствовать Джон в этот момент?"

Навскидку:
Система реализованная в мозге всегда стоит перед проблемой. С одной стороны ей необходимо принимать данные о актуальной утилитарной потребности организма, частью которого она сама и является и искать в списке правило редукции его. А с другой принимать данные о среде, частью которой она тоже является. И не просто абстрактной среде, а о конкретных объектах, с их независимо существующими свойствами воздействовать на саму систему, мозг, потребность. Принимать и то, что что объекты сами образуют отношения свойств друг с другом. Причем, ряд свойств проявляется только опосредствованно друг через друга. И Проблема тогда в том как соотнести утилитарную потребность и свойства объектов как условие ее редукции. Что брать каждый раз /в момент if -them / за отправную точку причино- следственной цепи — потребность или объект. И мозг решает эту проблему через ПОЗНАНИЕ, как отдельную задачу. Он отделяет от утилитарной потребности, “квазиалгоритм” построения /обновления/ непротиворечивого списка детектируемых объектов “ что с чем и как связано сейчас“ и почему тогда было по другому /рекурсивно/ или так же как сейчас. И оценивает необходимость и достаточность этого для утилитарной потребности. Только двигая объекты, в т.ч. друг на друга или двигаясь среди них, этот список и формируется и реформируется. Подключая больше средств движения /двигательная проба/, форм движения /например дистальных/ и времени /реккурентн/ этот репертуар расширяется тем самым объективируется.. Собственно похожим образом Пиаже и объяснил откуда и почему берутся репрезентации логических и математических объектов, почему живые существа могут понимать математ. абстракции например операции над объектами
Люди почти не умеют замечать и отслеживать свое абстрагирование и управлять своим умом, поэтому создавать ИИ, не понимая, как работает естественный И. даже в общих чертах, еще та задача.
для этого и существует наука. Иначе бы доярка с шепетовки могла обыгрывать AlphaZero без подготовки всухую

Она и обыграет. В доении коров.

именно поэтому доярки -умирающий вид профессии??? массово заменяемый автоматами??
Даже у нас 30-40 лет назад заменили. Где вы видите классических доярок с ведром и табуреткой в наше время? Её работа давно свелась к подключению автомата к вымени. А где побогаче ферма, там полный автомат, вообще без доярок.
И то как работает когнитивная система у высших млекопит., и человека в частности в общих чертах понятно. Я это примитивно и описал. Но ее мультифакторная детерминация «гены-среда» делает трудно разрешимой на сегодня проблему управления данной системой.
Так даже то, что «понятно в общих чертах», понятно не всем, а только некоторым ученым в разных сферах знаний. Причем «понятно» в терминологии и моделях именно этой науки, а в другой сфере этот термин может обозначать совершенно противоположное.
Наука слишком фрагментировалась и раздробилась, а специалистов по «сшивке» крайне мало.
Поэтому знания есть, а целостной модели нет и не предвидится.
Нейросети никакого отношения к мышлению не имеют. Мышление построено совсем на других принципах материального и биологического мира. А именно поиск смысла всего вокруг. У человека он есть, так как обусловлен его биологией. По сравнению с мозгом, нейросеть это банальное «перегребание» бессмысленной информации.
А что такое смысл?
",,, нейросеть это банальное «перегребание» бессмысленной информации." Вот это реально бессмысленная фраза.
Речь идёт о разумности компьютера, точнее его нейросети, у него нет никакой самостоятельной мотивации поэтому и бессмысленное «перегребание» информации. Всё что он делает это лишь воплощение желаний человека. Другими словами разумность отсутствует напрочь.
По моему мнению то, что Вы называете самостоятельной мотивацией есть обычный эволюционировавший до совершенства алгоритм выживания. Так, что если отбросить Ваш зарвавшийся антропоцентризм Вы подобное сравниваете с подобным.
С — сила, М — мир, система, И — исток, С — сила, Л — непрерывный поток. Ответ в самом вопросе, собственно в самих символах-понятиях букв, которые буквы и обозначают. Другими словами сила бытия какого-либо объекта как системы исходит от от силы движения непрерывного потока который этот объект и использует для бытия.
Красивые метафоры, спасибо.
Но смысл всегда субъективен. Он не в буквах, не в знаках. Знаком может быть что угодно. А смысл внутри нас.
Применительно к человеку смыслом является еда, секс и доминирование. Именно этим занимаются каждая клетка организма и отделы головного мозга. Вся деятельность человека и человечества, а также всего живого направленны именно на эти три понятия.
Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.