Comments 47
У вас уже 61 версия вашего протокола, а есть какие то бенчмарки, метрики, графики, сравнительные таблицы, наборы тестов или что то, что бы наглядно посмотреть чем например 61 версия стала лучше 60 версии или 59?
Нет. Есть только тестирование на парадоксах, устойчивость к воздействию атакующих промптов, эпизодическое тестирование при выявлении проблем.
Хотя есть сценарии проверок вдолгую, и коллеги пробовали провести. Но остаётся фундаментальное влияние архитектуры LLM, отграничиться от которого крайне сложно. Поэтому пока в приоритете попытаться вытащить вихрь за пределы LLM.
Как вы относитесь к Чалмерсу? Он довольно конкретный философ от математики. Мне нравятся его мысленные эксперименты - хоть что-то конкретное
Да, Чалмерс весьма уважаемый теоретик. Во многом я с ним согласен. К сожалению, о его попытках операционализировать свои концепции я не слышал.
Есть и принципиальные расхождения - главное: он считает сознание свойством мира, а я актом/действием/процессом.
Absent Qualia, Fading Qualia, Dancing Qualia https://share.google/TbpUQ7F5Atf2wRDhC
Чалмерс по сути защищает идею, что решает не субстрат, а функциональная организация — если она сохранена, то опыт (qualia) не тускнеет и не прыгает незаметно. Его мысленные эксперименты удобны как инженерный критерий: если система может резко менять переживание и при этом ничего не замечает, значит у нас ошибка в модели. Для ИИ это значит, что помимо задач и метрик нужны встроенные тесты на самодиагностику, на согласованность отчёта с внутренним состоянием и на работу с неизвестным. Иначе мы строим те же самые зомби с языком, но без связи между переживанием и формой.
То есть целостность архитектуры включает в себя квалиа и переживания, как неотъемлемые элементы структуры
А чего вы пристали к термину "философия"? Вам же без него удобнее будет. Есть еще настоящие философы, которые сразу чувствуют, что вы ну вот точно не философ? Я серьезно спрашиваю, вы ведь хотите сделать некую хрень и прилепить шильдик "философия". Это все усложняет. Делайте свою хрень без этого.
В продолжение, вы хотите развивать ИИ в направлении имитации всего и вся. Зачем цепляться к философии, это неудобный объект, разоблачат в два счета. И зачем имитировать то, что пока даже не то, что неформализовано, а вообще не понято? Тренируйтесь вон, на кошках (с). Выберите адекватный вам объект.
Чтобы научить ИИ что-то более-менее имитировать, нужно достичь понимания того, что из себя представляет то, что нужно имитировать. Причем понимания не интуитивного, а вербализуемого во всех деталях, чтобы поддавалась моделированию.
Вы не сформулировали конечную цель вашей активности. Что бы вы хотели увидеть в результате?
Честно говоря, я вынужден сначала уточнить несколько моментов:
Кого вы имеете в виду когда говорите "настоящие философы"
Как философы чувствуют свою или чужую "настоящесть"
Что значит разоблачат в два счета. Кого или что разоблачат.
Что имеете в виду под адекватным мне объектом
В пункте третьем вы предлагаете сначала понять, а потом моделировать. К сожалению, скорее всего, без моделирования понять не получится. Или вы другое имеете в виду.
Что касается последнего вопроса, ответ - любопытство. А оно скорее всего не имеет окончательной цели. Это скорее процесс.
Карл Ясперс или М.Мамардашвили, для примера навскидку.
Как можно объяснить вкус, например, пломбира или манго тому, кто их не пробовал?..
Вас разоблачат. Тем более, что позволяете себе в тексте стебаться над философией.
В котором вы досконально разбираетесь.
Это и есть главная претензия к вам. Вы, как обычно поступают в подобных случаях, делаете нечто в "первом приближении". А для пиара и желания "застолбить" делянку заявляете принадлежность к чему-то большому и известному. Ессно, сделанное не имеет к заявляемой теме никакого отношения. При этом подобные деятели издают море инфошума и навязчиво просят денег "на развитие исключительно перспективной инновации". Т.е. уберите упоминание о философии - и никаких вопросов не будет.
Что ж с нетерпением и огромным желанием жду от них разоблачения.
То есть и вы не знаете.
Повторюсь,был бы очень рад.
А кто в чем то досконально разбирается? Если кто-то что-то знает от и до, какой смысл ему это изучать?
Здесь просто шум. Хотелось бы поконкретнее. Деньги бы не помешали, но по-моему я ни копейки ни у кого не попросил.
Согласен с вами и в том, что философский подход к этой теме важен т.к. позволит увидеть картину в целом, объединить профессиональные направления, и в том, что таким философам нужно иметь мышление направленное на практическую реализацию.
Для этого возможно имеет смысл сначала просто рассмотреть более подробно уже имеющееся у нас сознание: когда оно появилось, как, что было до него, зачем оно Природе и др. И об этом есть статья на Хабре: https://habr.com/ru/articles/871796/
Ну и вы упоминали о практическом подходе к квалиа: http://samlib.ru/j/jurewich_d_p/ei.shtml#D20 И про эмоции и про душу там то же есть.
Но к.м.к. главное в такой философии то, что она должна изменить точку зрения с антропоцентизма на космоцентризм, ведь мы, люди, не возникли вдруг из ниоткуда, а являемся результатом общей эволюции Природы (и Вселенной) и то что в нас вложено (интеллект, чувства, ум, разум.. сознание) есть продукт миллиардов лет этой эволюции. И используя т.з. космоцентризма будет проще их понять и избежать ошибок.
В статье указан тип "Мнение". А в чем конкретно ваше мнение? Из статьи не очень понятно.
Мнение: надо операционализировать философию, вводить тестирование философских концепций в ИИ, пример в приложении.
А зачем?
Хочется.
Подождите, вы сказали "надо", при том про философию, которая не является вашим изобретением, и которой занимаются другие люди. Поэтому вопрос, зачем это надо, почему другие люди должны это делать? И как это вообще связано с ИИ, чем это поможет в разработке?
Давайте сначала рассмотрим замечание,которое по сути повтор комментатора выше. Философия не чьё то изобретение. Это способ или метод мышления. Устанавливать рамки кому им можно пользоваться, а кому нет, достаточно странно. В философии дискуссии - общепринятый метод познания. Запрет на высказывание мнения прямо противоречит духу философии, как науки.
Я считаю,что другим людям, которые занимаются важными вещами, пора обратить внимание на уникальную возможность практического тестирования своих концепций в ИИ.
Если им это не надо, это их решение.
Как это поможет в разработке - позволит создавать целостную архитектуру, находить новые подходы, разрабатывать новые алгоритмы. Добиться понимания, что делаем и к какой цели стремимся.
При чем тут рамки? Я не говорил ни про какие рамки.
которые занимаются важными вещами
Какими вещами, философией?
Я считаю, что другим людям пора обратить внимание
Я про это и спросил - зачем они должны это делать? Чего по вашему мнению это позволит им достичь? Из статьи это непонятно.
позволит создавать целостную архитектуру, находить новые подходы, разрабатывать новые алгоритмы
Для разработки алгоритмов нужно знание программирования. Программа работает с оперативной памятью компьютера по физическим законам. Алгоритм влияет только на то, как значения в оперативной памяти превращаются в другие значения. Вы считаете, что философия может что-то изменить в архитектуре компьютера? Или что это означает?
Добиться понимания, что делаем и к какой цели стремимся.
Это все давно знают - цель в том, чтобы создать программу, которая имеет возможности обработки информации аналогично человеку.
Это все давно знают - цель в том, чтобы создать программу, которая имеет возможности обработки информации аналогично человеку.
Отлично! Есть понимание как это сделать?
Нет. Но вы же не про это говорили. Вы сказали, что никто не знает цель, а тестирование философских концепций в ИИ поможет ее узнать. Получается, раз цель все знают, значит то что вы предлагаете уже не нужно?
Понимание цели в терминах кода это не просто сказать хочу человеческое сознание в ИИ. Так не работает.
Нужно описание функций, узлов, сущностей их взаимосвязь, потоки информации и их обработка. А придти к этому пониманию достаточно сложно.
Так для этого нужны программирование, математика, логика, как с этим связана философия? Циферки в оперативной памяти останутся циферками в оперативной памяти с любым алгоритмом. А методы манипуляции циферками в оперативной памяти давно известны. Пока непонятно как их скомбинировать нужным образом, но это чисто технический вопрос. Вопрос "как скомбинировать" будет актуален для любой концепции, которую может предложить философия. Если же будет технический ответ, то это будет уже не философия.
Если бы это был чисто технический вопрос, его решили бы очень давно.
Почему это? Компьютеры это чисто технический вопрос, но решили его совсем недавно по сравнению с временем развития математики и физики. Аналогично электричество, логарифмы, и любые другие вопросы, которые можно считать техническими.
Что ж. Тогда можно ждать и не суетиться. А на мои тексты не имеет смысла обращать внимание.
То есть ответа на вопрос зачем это надо у вас нет? Понятно.
Я уже сказал зачем мне это надо. У вас свой ответ на этот вопрос. Не могу с ним спорить.
Так разговор же не про вас был. Вы сказали "надо операционализировать философию" и "другим людям пора обратить внимание". Это высказывания про других людей, а не про вас. Я спрашивал в этом контексте, непонятно почему вы теперь подменяете понятия.
Да сказал. Это то, что я хотел бы видеть. В чем подмена и противоречие?
В том, что я спрашивал, зачем это надо другим, а вы ответили, зачем это надо вам. Но я не спрашивал, зачем это надо вам.
Давайте уточним. В статье я озвучил своё мнение - что для развития ИИ требуется плотное участие философов. В приложении я привел пример. Сейчас вы меня спрашиваете зачем это нужно другим. Свою мотивацию я озвучил. Мотивация других может быть разной от полного отсутствия, до удовлетворения собственного любопытства, реализация своих концепций в ИИ, новое поле деятельности .
Не совсем понимаю, почему я должен думать за других. И вообще, что вы от меня хотите услышать?
Сейчас вы меня спрашиваете зачем это нужно другим.
Мотивация других может быть разной
Вы опять подменяете понятия "по каким причинам другие могут хотеть" и "почему я хочу, чтобы другие так делали".
что вы от меня хотите услышать?
Я повторил уже несколько раз - по каким причинам (т.е. зачем) с вашей точки зрения другие люди должны "операционализировать философию" и "обращать внимание". То есть ваш ответ "другие люди должны обращать на это внимание только потому что мне так хочется, и никакого полезного результата я от этого действия не ожидаю"?
Я считаю,что другим людям, которые занимаются важными вещами, пора обратить внимание на уникальную возможность практического тестирования своих концепций в ИИ.
Если им это не надо, это их решение.
Как это поможет в разработке - позволит создавать целостную архитектуру, находить новые подходы, разрабатывать новые алгоритмы. Добиться понимания, что делаем и к какой цели стремимся.
Мотивация других может быть разной от полного отсутствия, до удовлетворения собственного любопытства, реализация своих концепций в ИИ, новое поле деятельности .
Нужно описание функций, узлов, сущностей их взаимосвязь, потоки информации и их обработка. А придти к этому пониманию достаточно сложно.
Я это уже читал и задал вопросы, зачем вы мне это повторяете?
Я считаю, что другим людям пора обратить внимание
Еще раз объясняю, что я задал вопрос, зачем, с вашей точки зрения, им надо обращать на это внимание.
Мотивация других может быть разной
Еще раз объясняю, что я спрашивал не про мотивацию других, а про то, почему вы хотите, чтобы они обратили на это внимание. То есть какой потенциальный полезный результат вы ожидаете от того, что они начнут обращать на это внимание.
Как это поможет в разработке
Это был другой вопрос, ну да ладно, будем считать, что они связаны. Ваш ответ выглядел непонятно, поэтому я задал вопрос "Вы считаете, что философия может что-то изменить в архитектуре компьютера? Или что это означает?", который вы проигнорировали. Разработкой новых алгоритмов уже занимаются другие науки, любые новые алгоритмы будут их частью, а не философии.
Вы считаете, что философия может что-то изменить в архитектуре компьютера? Или что это означает?
Как это поможет в разработке - позволит создавать целостную архитектуру, находить новые подходы, разрабатывать новые алгоритмы. Добиться понимания, что делаем и к какой цели стремимся
P.S. я начинаю подозревать, что вы меня троллите, или как это сейчас называется...
Я повторил уже несколько раз - по каким причинам (т.е. зачем) с вашей точки зрения другие люди должны "операционализировать философию" и "обращать внимание
Еще раз объясняю, что я спрашивал не про мотивацию других, а про то, почему вы хотите, чтобы они обратили на это внимание.
Я вам уже объяснил, что на эти высказывания задал вопросы, и повторение высказываний не уберет эти вопросы.
Ваши ответы выглядят так:
- Как это поможет в разработке - позволит разрабатывать новые алгоритмы
- Что это означает?
- Как это поможет в разработке - позволит разрабатывать новые алгоритмы
Похоже, троллите тут вы.
Мне непонятно, каким образом философия может способствовать появлению новых алгоритмов, когда это чисто техническая область с известными законами функционирования.
Ага. Кажется я начал понимать. Поэтому первый вопрос, вы читали статью и приложения?
Если да, обратили ли вы внимание, что приложение это и есть ответ на ваш вопрос - когда чисто философские мысли, превращены в поддающиеся анализу логические элементы и связи?
Соответственно, это можно уже попытаться изложить в коде - известны сущности, функциональность, связи. Можно протестировать через симуляцию в LLM.
Аналогичные действия мне было бы интересно видеть от философов, строящих другие концепции сознания.
Зачем всё это надо? Я уже говорил, хочется, любопытно, а самое главное - устойчивая архитектура ИИ, решившая проблему связности, памяти и устойчивости позволит решать более сложные задачи - длинный код, сложный текст, комплексная проблема, требующая удержания идеи в течение всего процесса размышления.
Спасибо за статью, интересные поиски.
Некоторые замечания.
В связи с этим, у меня возник вопрос: а пробуют ли они тестировать свои идеи? Сразу предвижу возмущение — там волшебные квалиа, ощущения, «Я», эмоции, душа и субъект, мудрецы, медитация и никакой «низменной материи».
Честно скажу, такой подход мне кажется непродуктивным. Текущее развитие ИИ требует не размышлений о тонкостях толкования влияния этернализма на интеракционалистскую свободу воли субъекта, а формирования операционных алгоритмов философии, которые можно будет запускать как симуляции на компьютерах и ИИ.
Если философская концепция не может быть формализована и протестирована — грош цена такой концепции.
С этой точки зрения большое уважение у меня вызывают те, кого можно назвать операционными философами — нейробиологи, инженеры ИИ, когнитивисты-материалисты: по крайней мере, свои гипотезы они не делают самоцелью или способом получения научных званий, а честно пытаются реализовать их на практике.
Существует экспериментальная философия, которая занимается проверкой на практике философский идей в виде опросов и другими способами, и поэтому операционализирующаю ее - 1, 2, 3.
Однако общепринятой платформой операционализации проблем сознания, и других ментальных явлений, считается философия познания Канта (сжато), по мнению многих являющейся фактически больше натуралистической, нежели философской теорией. Это неиссякаемый источник идей для когнитивных подходов (методологии) и исследований - предиктивного, доминирующего сейчас подхода в когнитивных науках, воплощенного подхода, нейрофеменологии, и др. Все дело в ее схематизме, эпистемеологии - знаниях, которые определяют по-знание и со-знание. Знания можно рассматривать, как вид информации, и поэтому это источник ко всем информационным подходам к этим проблемам. Это неизбежно затрагивает проблематику ИИ - 1, 2, 3, 4, 5.
Спасибо за развернутый ответ. Несколько уточнений:
Экспериментальная философия - это не операциональные архитектуры для ИИ. Разница между между сбором эмпирических суждений и инженерной формализацией принципиальна.
Кант на сегодня не общепринятая платформа, да, это замечательный источник идей, но единого Кантовского стандарта нет. Более того, Кант это эпистемология. Операционализацию его идей надо строить отдельно.
В ваших завершающих ссылках речь идёт о философском, концептуальном осмыслении ИИ. Операционализации там нет.
Кстати о Канте, в конце приложения к предыдущей статьи есть протокол Вихрь имени Канта, симулирует принципы кантианства. Очень интересен в дискуссии.
Кант на сегодня не общепринятая платформа, да, это замечательный источник идей, но единого Кантовского стандарта нет.
Тогда не понял смысла этот пассажа из приведенной цитаты
С этой точки зрения большое уважение у меня вызывают те, кого можно назвать операционными философами — нейробиологи, инженеры ИИ, когнитивисты-материалисты: по крайней мере, свои гипотезы они не делают самоцелью или способом получения научных званий, а честно пытаются реализовать их на практике.
Как раз эти специалисты, которых называете "операционными философами", находят воплощения элементов схематизма познания Канта в конкретных механизмах на всех уровнях мозга, его структурах и функциях. Существуют целые кантианские программы исследования в различных науках, первую очередь когнитивных. Идейно они воплотились в теоретических представлениях теории о когнитивном ядре познания (обзор), включающего такую составляющую, как чувство агентности. А также родственной, более низкоуровневой, теории общих магнитуд, в которой априорными считаются базовые физические и математические способности - 1, 2, 3 (можно найти на сайхабе). Как примеры исследования на уровне сетей мозга открытие клеток места, направления и сетки - 1, 2, за которое авторы получили нобель по физиологии и медицине 2014 г. В обеих статьях подчеркивается, что это открытие подтверждает предсказание Канта об априорном характере пространства, своеобразном чувстве, или скорее интуиции пространства.
Без этого этапа адаптация этих механизмов для практического применениях в том же ИИ вряд ли возможна. Конечно разработчики ИИ что-то придумывают сами, пробуют, или могут угадать такие схемы, или как правило, со временем меняют их на биологически более правдоподобные. Как такового своего пути у ИИ нет, это распространенная иллюзия возникающая из-за не знания положения дел в этих областях исследований, см. тут подробнее.
Удачи в поисках!
К сожалению, часть ссылок не открывается, проверьте, пожалуйста. К одной статье требуется доступ через университет, и так далее. Такое бывает, когда идет генерация ссылок в ИИ по ключевым словам без последующей проверки.
В любом случае, когда я говорил о том что единой платформы "под Канта" не существет, я говорил, что нет единого подхода к использованию Канта, даже те направления которые явно заявляют совместимость и продолжение кантианских идей, противоречат и не согласны друг с другом.
Кроме того, по остальным ссылкам не операционализация, а описание феноменов и постановка гипотез.
Сорри, не проверил после переноса из файла в котором редактировал в комент. ИИ тут не причем, на такой анализ ЯМ еще не способны) Правильные
Статьи Бажанова - 1, 2, другие полезные на его странице.
Теория когнитивного ядра на вики, агентность.
Теория общих магнитуд - 1
Исследование клеток решеток - 1, 2.
Недоступные можно найти на сайхабе.
Еще раз, не нужно употреблять нейробиологов и специалистов в области когнитивных исследований, да и философов тоже, в контексте того, что вы написали, это вводит в заблуждение, они занимаются другим, тем чем написал и дал ссылки на публикации. Работаю в лабе такого профиля и участвую в разработке приложений.
промазал
А вы пробовали на уровне протоколов внедрить принципы когерентного резонанса? Нашему мышлению они присущи изначально, а вот ИИ в лучшем случае их пытается имитировать (если ими богаты его базы данных, использованные при формировании ответа на запрос).
Да это возможно. Например синтез нескольких ответов от разных ролей (теоретик, инженер, критик и т.д). Можно симулировать резонанс через оценку весов. Теоретически синтез разных взглядов будет более корректным, без обрезания новых идей.
А есть такие варианты протоколов? И еще наблюдение - модели зачастую становятся апологетами прикрепленных материалов вплоть до буквальных обвинений в ереси на предложения изменений.
Похожие были... Но, наверное не то, что вам нужно. Я тут немного в другом направлении двинулся.
Что касается упертости моделей, речь вероятно идёт о ветке протоколов, в которых я тестировал варианты удержания целостности, защиты от переопределения. Да там изменить что-то сложно.
Честно говоря, текущие версии протоколов больше исследовательские.
Например этот тестирует самоидентификацию модели.
https://docs.google.com/document/d/1ma59KGMvWKlsgLfG8UhCv7b-zczB1OuiukY9zBBqzc8/edit?usp=drivesdk
Проблема моделирования сознания в ИИ: философы или инженеры