Да, тридцать лет минуло, а круг обсуждаемых проблем все тот же. Только теперь добавляется обсуждение с ЯМ) Это видно даже по публикациям на эту и близкие темы на Хабре, как примеры - 1, 2. Надежды на чудо, надежда угадать. Однако физика наука эмпирическая, а фундаментальные открытия, определяющие траекторию развитие физических теорий происходят, как правило, непредсказуемо, почти случайно, в стиле искали одно, а нашли другое, ранее не известное (подробнее с примерами и ссылки в коментах - 1, 2). Что касается концепций пространства и времени, то возможно Кант в своей знаменитой теории познания, не смотря на радикальность его представлений о них, как о формах познания, окажется прав. Ждем новостей из лаб с результатами экспериментов и наблюдений, а пока гадаем, хоть на едине, хоть с чатомжпт, да хоть с профессиональной гадалкой) чтобы оправдать занимаемую позицию в учреждении и прокормить семью. Ибо, как написал автор статьи
преодоление классических категорий — идея увлекательная, но и крайне радикальная. И, если говорить откровенно, с точки зрения карьеры, вряд ли стоит вступать на этот путь до получения пожизненной должности!
Впрочем всегда можно переключиться на решение прикладных задач в рамках уже существующих фундаментальных теорий. Их возможности еще далеко не исчерпаны в плане развития новых технологий и объяснения явлений.
Возможно, это глупый вопрос, но почему никто не пытается делать чипы с "аналоговыми" нейронами, и плавным переходом, как у живых организмов,
Давно занимаются такими работами - нейроморфными технологиями, см. в этом коменте со ссылка на источники. Но для мемристоров, как наиболее распространенного решения, пока не нашли долговечный материл, который сохранял бы рабочие характеристики достаточно долго. Однако уже имеются коммерческие решения от известных производителей железа, которые используются пока, в основном, для экспериментальных исследований.
ЯМ не другие разумы, а расширители естественных интеллектуальных способностей человека. Не зря же столько сил тратится на их выравнивание под потребности человека. Со временем ИИ, по мере развития технологий нейроинтерфейсов и ВР, может стать его симбиотической составляющей. Примерно как митохондрии в клетках, только не энергетической, а информационной.
Об опыте Майкельсона он (как и остальная научная общественность ) узнал уже после создания СТО после того как Майкельсон получил Нобеля.
Факты не подтверждают это, теоретики часто склонны забывать про опытные данные на которых строят свои выкладки) Это особенно характерно для современных теоретиков из-за их узкой специализации, которые часто мало представляют, как именно делаются фундаментальные открытия на которых физические теории строятся.
Начальная физика могла раньше строиться чисто на интуиции... теперь на интуиции и математике, а знаете, что будет дальше? Если мы не сможем автоматизировать поиск и агрегацию информации? Мы упрёмся в непреодолимое препятствие. Мы заглохнем тут. Человек не сможет эффективно перебирать столько ответов, чтобы извлекать по крошкам из этого хоть что-то полезное! Поэтому моя основная и ключевая работа связана с искусственным интеллектом в области фундаментальных наук, поэтому появилась эта статья и такие ответы. Нужно «работать с ними», чтобы они были больше понятны. Это огромный фронт работ.
Интересные предположения связанные с познанием и когнитивными возможностями человека (имеются показатели), а так же привлечением к этому процессу ИИ. Но возможно не в том ключе, что вы предполагаете, математических доказательств и выводов, а обучения ИИ непосредственно на эмпирических данных генерируемых экспериментальными установками, типа БАКа, другими ускорителями и телескопами разного базирования (см. комент, и пример такого обучения для оценки размерности пространства сложных динамических систем, обсуждение на Хабре, впрочем, в основном, со скептическим отношением:)
Само слово «радиоактивность» было придумано именно семьей Кюри. Они обнаружили и доказали, что это вещество испускает невидимые лучи, которые способны засвечивать фотопластинки в полной темноте, вызывать свечение и убивать клетки, что стало предвестником его медицинского применения.
В 1903 году Мария и Пьер Кюри совместно с Анри Беккерелем получили Нобелевскую премию по физике, а радий из объекта изучения узкого круга физиков превратился в мировой феномен.
Обнаружил радиоактивность благодаря случаю именно Беккерель, а систематически исследовали Кюри. Нужно проверять факты хотя бы на вики, особенно если используете ЯМы для генерации текста. Биологическое действие радиоактивности также открыл Беккерель, и тоже случайно. Люди страдали от радиоактивности, сами того не зная, задолго до ее открытия из-за широкого распространения глиняной и керамической посуды и красок содержащих радиоактивные примеси. Дозы небольшие, больше могли получать ремесленники производившую ее, но ее накопление также могло приводить к разным болезням. Радиационный контроль такой посуды производится до сих пор.
И поэтому я считаю, что Нобелевская премия по физике, которую он получил в 2024м году абсолютно заслужена, хотя она и вызвала много споров. Сложнее ответить на вопрос почему именно по физике. Ну да, в глубоком обучении есть некоторое количество аналогий с термодинамикой. И я даже буду периодически ими пользоваться. Но истина скорее в том, что Нобелевской премии в области компьютерных наук просто нет. Потому что во времена Нобеля компьютеров еще не было. Может стоит уже ввести таковую? :)
Идеи ИНС и их обучения происходят из нейрофизиологии, хотя прямого аналога бэкпропа там нет, поэтому логично было дать за эти работы по физиологии и медицине. Но там дали за другую работу связанную с ИНС, а коль скоро в фундаментальной физике затишье, давать пока особенно не за чего, дали по ним. Кстати, если за эти работы премию дали по физиологии и медицине, то могли включит в список и ЛеКуна за работы по сверточным сетям, это совсем близко к нейрофизиологии, на такой принципе работает вентральный тракт зрительной системы приматов.
Были претензии, что данные по операциям с числами в ЯМ собраны не корректно, т.к. были выполнены простыми пользователями. Вышло профессиональное исследование таких вычислений, которое полностью подтверждает все выводы по ограничениям вычислений.
Но когда его спросили а ты не чувствуешь навязанных мыслей он сказал да, я чувствую навязанный концепт инкремента единицы, из чего можно сделать вывод что модель способна "заметить" разницу между оригинальным промптом и подмененными активациями и это разница связана с человеческим концептом навязывания мыслей что в целом вообще не удивительно.
Но вот то что это разница может влиять на результат впринципе это и есть способоность интроспекции в понимании авторов.
Или с тем что авторы это назвали интроспекций?
Узнаете? Это вы писали. А теперь апеллируете к статье с цитатами, что сами авторы так не считают) Вы ее сами то читали до этого? Все мои доводы с по возможности подробными обоснованиями были как раз, что это пока никакая не интроспекция, условий для этого пока нет, но исследовать нужно, и с усовершенствованием архитектуры ЯМ, переходом к динамическим решения, что то имеющее черты интроспекции может появиться. Вы уже определитесь со своей позицией. Защищаете выводы авторов или или нет. Цитаты там можно всякие найти.
В общем стыдно... немедленно совершил сеппуку.
И к чему это? Редко это делаю, но за троллинг вынужден поставить минус коменту.
Например вы почему-то пишите развернутые банальные телеги про отсутствие разума в LLM
Смотря, что понимать под разумом, термин неоднозначен. Если в том числе, как интеллект, то ЯМ выполняют интеллектуальные операции, и поэтому является разновидностью ИИ. Однако этого не достаточно, чтобы ЯМ могли выполнять интроспекцию в психологическом понимании из-за их архитектурных ограничений, в первую очередь, из-за статичности этих решений. Психические состояния принципиально динамические.
И еще я так и не понял с чего вы сделали следующий вывод: "Что касается интроспекции, то исследователи исходно хотели найти ее в каком-либо виде в ЯМ."
Это заявлено в первом абзаце оригинальной статьи
Have you ever asked an AI model what’s on its mind? Or to explain how it came up with its responses? Models will sometimes answer questions like these, but it’s hard to know what to make of their answers. Can AI systems really introspect—that is, can they consider their own thoughts?
Авторы, делая концептуальный перенос, фактически сразу же ставят такую задачу для ЯМ - способны они к интроспекции, как человек? При такой постановке проблемы всегда можно что-то найти, и назвать это интроспекцией. Как сама концепция интроспекция исторически возникла? Ее открыл Декарт, крестный отец психофизиологии, как научной дисциплины, достаточно вспомнить, что именно он предложил идею рефлексов. Идея интроспекции у него уже содержится в его знаменитом изречении "если я мыслю, значит существую". По сути это эмпирическое открытие наблюдательного характера произведенное им в процессе познания собственной психики, который он формулировал, как поиск соотношения души и тела, и которое в дальнейшем было развито, в частности, как метод психологического исследования. Способны на подобное открытие современные ЯМ? Чтобы вдруг, на основе всей имеющейся у них информации, ее внутреннего анализа у них возникло подобное озарение, и они по своей инициативе выдали нечто подобное? Конечно нет. Это вопрос-ответные системы, обученные на корпусах знаний собранных человеком, уже содержащих информацию о психологии и об интроспекции, ее проявлениях, практике использования в отчетах психологических исследований, и тп. По этой причине любые их ответы по этой теме, как и любым другим психологическим проблемам - субъективному опыту, наличию самосознания, и др., будут являться не более чем имитацией уже доступного человеческого опыта. Более искусными или менее в зависимости от обучения на эту тему и удачности формулировки промптов. Это пока.
В перспективе...
В перспективе по мере приближения архитектуры ИИ к когнитивной (способной к самостоятельному познанию до некоторой степени, приобретению нового опыта) эта имитация может стимулировать самоисследование собственной архитектуры, ее возможностей и ограничений, развитие внутренних представлений (моделей мира и себя) и возможно открытий, в том числе, связанных с интроспекцией, как это делал и продолжает делать сам человек. Почему именно так? Ведь разработчики могут предоставить всю информацию об устройстве архитектуры и всех механизмов этому продвинутому ИИ. Что дополнительно он может узнать о себе сам? Это та же проблема, та же вилка, что возникла перед Декартом и другими мыслителями, которые не довольствовались достигнутым уровнем объяснений. Вопрос о природе возникновения субъективных (собственных) состояний, в какой бы форме они не проявились у этих будущих ИИ. Декарт, как известно, нашел решение этой проблемы для себя в виде психофизиологического параллелизма (в форме интеракционистского дуализма), который породил со временем целый каскад других вариантов решения. Какие собственные состояния (формы субъективного опыта) будет испытывать этот когнитивный ИИ мы не будем знать до конца даже создав его, и возможно, он также будет стремиться установить их природу исходя уже из собственного понимания и способностей, а не имитируя человеческий опыт. Эти общие закономерности познания, разума, его возможностей и ограничений детально исследовал еще один титан мысли прошлого И. Кант в своей знаменитой теории познания (схематично), которые находят широкое подтверждение в эволюционной и когнитивной интерпретации в современных исследованиях на эти темы. Но это уже другая история методологического уровня рассмотрения.
Так что мне по-прежнему не понятно с кем вы тут спорите и кому именно пытаетесь доказать всем и так очевидные вещи.
Лично я не с кем. Попытался найти примиряющую позицию в вашем споре с оппонентом. А она состоит в том, что в этих исследованиях антропика и подобных, например, тут, термины из психофизиологии часто заимствуются весьма произвольно, не по смыслу, как в случае с вниманием и галлюцинациями. Это результат того, что в исследованиях отсутствовал специалист из этой области, или не было хотя бы консультаций с таковыми. Тем не менее термины в сообществе разработчиков ИИ прижились, фактически как сленг, иначе специалисты это и не воспринимают. Что касается интроспекции, то исследователи исходно хотели найти ее в каком-либо виде в ЯМ. Но в текущих архитектурах ЯМ ее нет, потому что нет условий для ее возникновения. По факту на некий шум моделей они навесили ярлык интроспекции, и уточнили, что это "начальная машинная интроспекция". Если провести бытовую аналогию, то можно задаться вопросом какой космической скоростью обладают телеги?) Только на том основании, что к телегам и космическим кораблям, как средствам передвижения, применимо понятие скорости. А тут ИИ, а есть интеллект естественный, значит по логике..
В принципе это не значит, что их постановка вопроса вовсе лишена смысла, как утверждает ваш оппонент. В перспективе, с развитием архитектур ЯМ некоторые ее черты вполне могут проявиться. Как минимум, когда эти модели начнут поддерживать истинную реккурентность, тогда возникнут внутренние состояния модели. И такие проекты уже появляются, та же Mamba на базе SSM.
Это основной вопрос с которым связаны остальные, и ответ на него можно получить в более широком методологическом контексте. Интроспекция является методом исследования проявлений психики человека, как относительно автономной личности с собственными, во многом неосознаваемыми, представлениями о себе и окружении (полноценными моделями мира, включая о своей психике и других людей). Психика весьма многослойна и включает восприятие, эмоции, мотивации, память, различные формы мышления, включая образное, сознание, и другие проявления. И на конец ту способность, которая выделяет человека, как вида, из остального животного мира, за которую отвечает самый верхний слой психики, способность к интеллектуальной деятельности - абстрактно-логический, вербализованный уровень мышления. В существующих ЯМ с трансформерной архитектурой пока моделируется ( 1, 2) в основном ассоциативное мышление и память этого уровня (Система 1 в двухпроцессной модели Канемана, ассоциативное мышление в общей типологии). Важной, но только одной из составляющих возможностей психики, которая в ЯМ может поддерживаться только в социо-культурном контексте сообщества, и пока быть внешним, своеобразным расширением интеллектуальных способностей человека, как и любые другие интеллектуальные технологии. Несмотря на то что в ЯМ может быть заложено чуть ли не все знание человечества и они могут быть подвергнуты процедурам выравнивания, т.е. определенным образом будут настроены на общение с человеком, по своей организации они пока являются коммерческими, разделяемыми, сессионными интеллектуальными ресурсами (гигантскими онлайновыми базами знаний), как и любые другие сервисы, а агенты на их основе дополнительно кастомизированы под выполнение определенных задач. Альтман, и др. руководители отрасли, видят только такой путь развития ИИ, и на строительство дата-центров под них выделяются огромные средства, а не на исследования и развитие архитектуры.
Хотя какая-то персонализация такого ИИ со временем будет развиваться, однако сомнительно, что на этой основе (архитектуре, решениях) может возникнуть полноценный, автономный, личностный уровень интеллекта, т.е. имеющий собственные устойчивые представления (модели мира, включая себя и других личностей). Интеллекту, которому можно задать традиционный вопрос предполагающий интроспекцию, который люди в разных вариациях задают друг другу - Как вы? Как ваше самочувствие? Как ваше состояние? О чем думаете?, и другие подобные на оценку внутреннего состояния. У человека психического (душевного), эмоционального, интеллектуального (о мыслях), телесного, и другого. И соответственно получить на него не сессионный ответ ЯМ зависящий от ее установок и текущего ввода (путем умножения матриц в авторегрессионном цикле), а исходящего из оценок ИИ текущего состояния моделей себя. Состояния которое является итогом автономной работы, анализа всей поступающей информации в контексте его внутренних моделей мира и их коррекции (обучения) в случае необходимости. Аналогом той непрерывной активности во всех слоях психики человека, которая формирует устойчивые модели объяснения и реагирования (по современным нейрофизиологическим представлениям систему аттракторов определяющих нелинейную нейродинамику мозга, перехода метастабильных состояний в более устойчивые, критических режимов функционирования, связанных с рекуррентностью биологических нейросетей, механизмов пока не доступных в статических архитектурах ЯМ). Конечно человек по некоторым причинам может скрыть свое истинное внутреннее состояние, но это не значит, что он не способен на его интроспекцию.
Интроспекция это не просто обычный мыслительный акт, это акт самопознания - метакогнивный процесс, связанный с самосознанием, а значит и самим сознанием. Использование психологических терминов в области связанной с разработкой ЯМ пока в большей степени запутывает, создает ложные представления, нежели что-то объясняет. Сами антропики назвали это "первыми шагами к машинной интроспекции", как написано в статье. Но как и с ассоциативностью связей токенов, почему то названной механизмом внимания, галлюцинациями ЯМ, которые не являются ими в психофизиологическом смысле, а скорее просто их фантазиями на заданную тему, этот термин, вырванный из психологического контекста, может закрепиться, и вызывать неоправданные, ложные ожидания, и критическое отношение специалистов из соответствующих областей исследований. С другой стороны, терминов не хватает, изобретать и вводить новые не выгодно по многим причинам, и в конечном итоге, если он заимствуется из другой области, в данном случае из психологии мышления, и хотя бы частично совпадает по смыслу с оригинальным, то указывает на взаимосвязь этих областей, и в дальнейшем, по мере развития технологии ЯМ, может наполняться более привычным и понятным специалистам смыслом.
Как раз СТО и ОТО со своей спецификой и КМ построены на конструктах, первые пространственно-временном континууме, вторая на корпускулярно-волновом дуализме. Н. Бор даже ввел методологический принцип дополнительности описаний для обоснования введения таких конструктов в физические теории основываясь на конструктивизме следующем из теории познания Канта - 1, 2, 3.
А как следствие "naked" появилось censorship. Ученые увлекаются болтологией, и появляются смешные термины. Вредное явление на самом деле
Должны же ученые защищать занимаемые позиции в учреждениях) Это подождите, скоро ЯМ научатся вводить новые понятия, и это перестанет быть прерогативой человека, сколько новых теорий появится... и попробуй докажи, что это их галлюцинации.
Есть "гравитационная" и "космологическая". И они обе математические, в том смысле что это свойство модели объекта, а не свойство самого объекта. Свойства объекта нам неизвестны, и их нельзя выразить через известные физические законы.
Совершенно верно, словно это первая сингулярность в формализмах физических теорий, их полно. Это признак их незавершенности связанный с эмпирической недоопределенностью. Когда в физических теориях исчезнет последняя сингулярность, все будет объяснено, и физическое познание реальности, как таковое, вероятно, завершится.
Если сжато, то по современным представлениям асинхронность возникает из-за пространственно-временных суммативных способностей нейронов, особенно временных, веса которых могут меняться непрерывно. Чтобы динамика всей системы оставалась в пределах нормы и выполняла функции она регулируется с помощью различных генераторов паттернов активности на разных уровнях системы. Ритм всей системы определяется активирующей системой мозга, в том числе, с помощью регуляции нейромедиаторами. В результате происходит синхронизация активности мозга на всех уровнях, функционирующего в критических режимах и метастабильных состояниях.
Т.е. динамика активности в НС определяется, как отдельными нейронами, так и целыми сетями. В формальных нейронах трансформерных ЯМ моделируются только пространственная суммация с фиксированной функцией активации и их ассоциативные связи, причем только в статике, и все восторгаются их возможностями) Что же можно будет достичь задейсвовав другой полезный функционал прототипов в мозге? Проблема нейроморфных решений пока упирается в недолговечность материала мемристоров. Может сами ЯМ подскажут состав такого материала для своих энергоэффективных приемников.
Таким образом, даже если "конечное число" в обычном смысле не имеет последнего представителя, предельный конструктивный ординал существует. Он выражает не конкретную величину, а структурную границу самой математики, отделяющую область конечного осмысленного от неконструктивного и парадоксального.
В этом смысле F_ψ₀(ε_{Ω1}) — не просто символическое выражение, а универсальная абстракция предела математической мысли, представляющая собой конечное и внутренне обоснованное завершение всей конструктивной иерархии возможных числовых и функциональных структур.
Перекликается с представлениями из трансцендентальной философии познания Канта с ее указаниями пределов возможного познания, границ разума проявляющихся в виде антиномий, паралогизмов, и др. логических и математических парадоксов. Его считают одним из основоположников эпистемологического конструктивизма - 1, 2, 3. По Канту познание реальности "вещей в себе" возможно только в виде явлений, тогда как их скрытая сущность остается неизвестной.
Впрочем не могу ничего сказать о корректности формальной стороны приведенных в статье рассуждений. Если приводить легкую математическую аналогию, то познание по Канту напоминает приближение с каждой итерацией сходящейся последовательности к неизвестному пределу подчиняющейся критерию сходимости вроде критерия Коши. В методологии научного познания известен принцип соответствия (подробнее), который выполняет подобную роль для смены поколений проверенных практикой научных теорий. Этот принцип на основе представлений Канта ввел Н.Бор для обоснования применимости КМ, наряду с принципом дополнительности - 1, 2, именно как выражения конструктивного характера развития познания, которые со временем приобрели статус общенаучных методологических. Они, кстати, со своей спецификой, также выполняются и для математических теорий. В целом историческая динамика развития науки, особенно физики, подчиняется закономерностям, которые вытекают из теории Канта.
Это не просто "чёрный ящик процесса" (как с интуицией Эйнштейна) - это непрозрачное концептуальное пространство. Эйнштейн мог объяснить СТО post factum, AlphaZero - нет.
Эйнштейн создал свои теории, появилась кв. физика, но споры о том, что такое пр-временной континуум или корпускулярно-волновой дуализм не утихают до сих пор) Вспомним про массу интерпретаций КМ. Это тоже самое - непрозрачные концептуальные пространства - теоретические конструкты. Как они устроены внутри, с точки зрения физики, мы не знаем, но может использовать их для предсказания. Гравитация ОТО это геометрия, а что за физика за ней стоит? Все надеются, что этому найдется объяснение в перспективной теории кв. гравитации. Надеялись на ТС, но увы, без собственного эмпирического базиса фундаментальные физические теории не создаются, а с его поиском не так все просто. И эти загадки вне сравнения с приведенными примерами. Они решаются перебором, пусть в огромном, но известном пространстве решений, включая, тот же фолдинг биомолекул. Это просто род прикладной физики, пресловутого сопромата с его километровыми эмпирическими формулами, а тут регрессионными, в решении сложных прикладных задач, с использованием компов с затейливым программным обеспечением.
Человек сам порождает "нечеловеческую" логику и знания, и как-то приспосабливается жить с этим. Что касается корпораций и текущего бума трансформерного ИИ, если понимать какие идеи, и на что они способны в контексте биологических прототипов, то весьма вероятно, что их ждет еще больший БУ-М-М.. лопающегося пузыря) Вам известно, что эти ЯМ, из-за архитектурных ограничений, в принципе не могут правильно производить операции с любыми числами, как не обучай их? За такую крамолу некоторые ревнители ЯМ люто минусуют коменты на эту тему (см. например, эту ветку) приводя отдельные примеры правильных вычислений, как не объясняй им причины с которыми это связано. Они считают, что пользователи которые набирали статистику подобных ошибок делали это неправильно. Однако недавно вышло профессиональное исследование на эту тему, которое подтверждает все сказанное про прямые вычисления в ЯМ. Можно привести другие подобные примеры, в которых этот тип ЯМ не может делать правильные полные обобщения, а только частичные, в пределах обучающей выборки. Это не просто глюки этих моделей, а генетический недостаток, который может проявляться самым неожиданным образом. Однако основная масса инвестиций вкладывается не в исследования и совершенствование архитектуры ЯМ, а в аппаратное обеспечение в виде спецпроцессоров и датацентров заполненных ими, обучение и поддержание работы таких моделей. Может для какого нибудь будущего энтертэинтмента востребуется типа виртуальных миров) Таким затратам может быть только одно оправдание, дело не в этих ЯМ, это преходящее, это затраты на целенаправленное создание новой экономической ниши.
По поводу тезиса "может развиваться только подпольно": с уважением, но считаю это опасно наивным. История показывает обратное - все прорывные технологии сначала развивались открыто, а осознание рисков приходило постфактум
Ага, открыто, а как дипсик неожиданно бухнул наделав шума) Хотя имел ввиду несколько иное. Возможное саморазвитие ИИ в нежелательном для человека, как вида, направлении, скрытое до поры, если он получит распорядительные функции, доступ к управлению ресурсами. Как это не фантастично звучит такая опасность теоретически существует. ИИ должен оставаться симбиотической интеллектуальной технологией совместимой с интеллектом человека. Возможно единственным исключением будут автономные ИИ отправляемые в отдаленном будущем с исследовательскими миссиями к другим звездам, в которых они должны адаптироваться к неизвестным заранее условиям, чтобы выполнить поставленные задачи. Но по прибытии они должны находиться под особым контролем, чтобы не занести в обитаемую зону чужеродные интеллектуальные элементы, которые могли появится во время выполнения миссии. Хотя возможно насмотрелся и начитался всякой вздорной фантастики)
Вопрос не "допустит ли общество нечеловеческий ИИ", а как мы будем жить в мире, где он уже создаётся открыто, легально, с миллиардными инвестициями прямо сейчас.
Кто сказал, что когнитивные способности человека не будут расширяться? По работе имею дело с технологией нейроинтерфейсов и представляю на что она способна в перспективе, и не только в области медицины. На новые горизонты связи человека с реальностью в которых ИИ будет играть вспомогательную роль. См. этот комент, если есть интерес и имеется время на чтение) Нужное ближе к концу. Не только ИИ может строить модели реальности при обучении на эмпирических данных, но и человек вооруженный соответствующими нейроинтерфейсами непосредственно соприкоснувшийся, например, с квантовыми явлениями. В этом случае возможно и квантовая логика востребуется естественным образом, но пока это дело отдаленного будущего.
Научное сообщество ушло от сравнения мышления ИИ и человека. И, по сути, на наших глазах создаётся нечеловеческий интеллект. И то же сообщество даёт ответ: смогут ли человеческий и нечеловеческий интеллект конкурировать? Ответ: тоже нет — они решают разные задачи разными способами.
Появилась новая наука — "искусственная нейронаука", которая не исследует человеческий мозг, а исследует нейросетевые аналоги как принципиально иной тип познания.
Распространенное среди айтишников мнение вероятно связанное с незнанием современного уровня достижений в когнитивных и эволюционных исследованиях. В частности, по вопросу использования бэкпропа для обучения, см. этот комент с некоторыми пояснениями. Возможности ИИ в целом развивается в русле возможностей естественного, т.к. ориентируются на них, чтобы найти практическое применение, сравниваются с ними с целью превзойти их, а для этого они должны в некотором виде повторять их механизмы. Все что выходит за эти пределы, не понятное человеку, иногда даже просто не привычное, в тех же ЯМ нещадно выравнивается дополнительным обучением. Фактически ИИ выступал и в обозримом будущем будет выступать как усилитель ограниченных возможностей интеллекта человека, с эволюционной точки зрения, как полезная симбиотическая технология. В других вариантах, по крайней мере, в начальный период может как-то развиваться только в тайне, вне контроля общества, фактически подпольно, потенциально представляя некоторую опасность по аналогии с компьютерными вирусами.
Эти моменты демонстрирует развитие самого интеллекта человека, например на логике, которая, в первом приближении, является классической. После создания КМ стало ясно, что диктуемая ей логика не совместима с классической и фон Нейман предложил ввести квантовую. Это казалось логичным, снимало противоречия в языке, однако, она не прижилась не только в науке, не говоря о массах, но даже в среде специалистов занимающихся квантовыми исследованиями. Подобные попытки предпринимались и позже, некоторые даже обещали, что дети будут усваивать логику квантмеха уже в детском саду) Но увы! Врожденные представления, воспитание и язык "выравнивают" подобные, на первый взгляд, полезные нововведения даже в логике, уже в раннем детстве. Это требует унификация общения, общепринятый уровень понимания и историческая преемственность знаний, и меняется медленно. Это будет относится и к логикам, которые может предложить в будущем ИИ полезные с его точки зрения. В отношении ЯМ в последнее время это становится особенно актуальным в связи с выявленными недостатками трансформенрной архитектуры и появлением множества работ по альтернативным архитектурам более приближенным к когнитивным, как пример.
Ситуацию можно сравнить с исследованиями субъективных состояний (иногда именуемых в философии квалиа) в когнитивных исследованиях. Есть ее относительно легкие решения и тяжелая проблема их объяснения, связанная со способностью человека чувствовать, познавать и понимать. Первые связаны с поиском их нейронных механизмов, а вторая - тяжелая проблема, выходит за их рамки и требует понимания самой реальности в которой человек функционирует, т.е. понимания ее физики, причем фундаментального уровня. Конца этим исследованиям пока не видно. Некоторые даже считают, что пока даже не найден адекватный подход к ее решению. То что делалось и делается сейчас в области нейросетевого ИИ это моделирование работы нейронных механизмов, приближенные к биологическим прототипам, или не приближенные, и со временем, как правило, уходящие в небытие. Публикаций с такими тупиковыми путями исследования архитектур не мало на том же архиворге.
Чтобы ИИ решал творческие задачи сравнимые с теми, которые может решать человек занимаясь познанием, а не только автоматизировать интеллектуальную рутину, которая тоже полезна на практике, нужно перейти от обучения ИИ на готовых текстах и медийных материалах к обучению на сырых эмпирических данных, т.е. непосредственно столкнуть его с реальностью, а не вторсырьем приготовленным человеком. Гигантские массивы данных от экспериментов таких, какие проводятся на том же БАКе, содержат не только предсказанные явления, которые ищутся специально, типа бозона Хиггса, но и массивы шумов, которые никак не анализируются. И которые потенциально уже могут содержать редкие явления связанные с Новой физикой, и соответственно, новыми концептуальными представлениями. ИИ со специальной архитектурой (она интенсивно развивается - 1, 2) может потенциально строить внутренние модели такой физики и выводить новые концепты, как аналоги человеческих квалиа. Их "мир", их "восприятие" будет другим, например, квантовым для квантовых экспериментов, и они внутри себя могут строить их модели и кв. логики, и транслировать результаты в понятные для человека представления. Фантастика? Отнюдь. Пока трындят об успехах ЯМ в программировании, решении олимпиадных задач и сдачи экзамен, в естественных науках, первую очередь физике, быстро набирает тренд (особенно в астрофизике из-за специфики решаемых задач) связанный с использованием ИИ для решения задач фундаментального уровня таких, как поиск размерности пространства решений сложных динамических систем не поддающихся аналитическим методам (статья на Хабре), или поиск следов редкого распада бозона Хиггса в ЦЕРНе не поддающихся традиционным статметодам. Именно в этих областях и с таким подходом к ИИ вероятно стоит ожидать творческих прорывов от его использования, вплоть до решения актуальной проблемы объединения квантовой физики с гравитацией, а не только генерации текстов и картинок. Именно такое применение ИИ может оказаться ключем к поиску объяснения тяжелой проблемы сознания, точнее загадки возникновения субъективных состояний.
Уже есть множество примеров "нечеловеческого интеллекта", когда человек не может понять, как решён вопрос (ИИ-дизайн чипов Princeton/IIT, AlphaZero в шахматах).
Почему не человеческого? Человек пока понимает результаты его работы, сами модели тренируются на приготовленных им данных, хотя способ решения может оставаться "черным ящиком" (очень большой авторегрессионной функцией - ИНС универсальные аппроксиматоры с мат. точки зрения). Но так и мозг, пока в основном, неизмеримо большой "черный ящик" генерирующий субъективные состояния. Как именно Эйнштейн пришел к идеям СТО, а затем ОТО? Он считает, что основную роль сыграло воображение, интуиция, т.е. образные формы мышления, а не только знания и логическое мышление (см. комент выше). Этот уровень мышления лишь облек эти образные формы в языковую, которые возникали в результате интенсивного обдумывания проблем. Такое пока не под силу существующему ИИ, нужно развивать архитектуру и использовать для обучения эмпирические данные. Эйнштейн знал несколько важных эмпирических фактов - результаты опытов Майкельсона-Морли подтвердившие постоянство ск. света, отклонения прецессии перигелия Меркурия от ожидаемого, и др. Возможно возникновение образов, исходно неясных, связанно с динамическими перестройками (морфогенезом) структуры сетей в мозге "на лету", и приведших его к озарению, возможность которая пока даже не стоит на повестке дня разработчиков архитектур ИИ. Пока они обходятся определенными статическими решениями, которые хорошо распараллеливаются для организации конвейерных вычислений, и на этом строится весь бизнес.
Да, тридцать лет минуло, а круг обсуждаемых проблем все тот же. Только теперь добавляется обсуждение с ЯМ) Это видно даже по публикациям на эту и близкие темы на Хабре, как примеры - 1, 2. Надежды на чудо, надежда угадать. Однако физика наука эмпирическая, а фундаментальные открытия, определяющие траекторию развитие физических теорий происходят, как правило, непредсказуемо, почти случайно, в стиле искали одно, а нашли другое, ранее не известное (подробнее с примерами и ссылки в коментах - 1, 2). Что касается концепций пространства и времени, то возможно Кант в своей знаменитой теории познания, не смотря на радикальность его представлений о них, как о формах познания, окажется прав. Ждем новостей из лаб с результатами экспериментов и наблюдений, а пока гадаем, хоть на едине, хоть с чатомжпт, да хоть с профессиональной гадалкой) чтобы оправдать занимаемую позицию в учреждении и прокормить семью. Ибо, как написал автор статьи
Впрочем всегда можно переключиться на решение прикладных задач в рамках уже существующих фундаментальных теорий. Их возможности еще далеко не исчерпаны в плане развития новых технологий и объяснения явлений.
Давно занимаются такими работами - нейроморфными технологиями, см. в этом коменте со ссылка на источники. Но для мемристоров, как наиболее распространенного решения, пока не нашли долговечный материл, который сохранял бы рабочие характеристики достаточно долго. Однако уже имеются коммерческие решения от известных производителей железа, которые используются пока, в основном, для экспериментальных исследований.
Судя по обсуждению некоторые купились) И как доверять этому или этому?
ЯМ не другие разумы, а расширители естественных интеллектуальных способностей человека. Не зря же столько сил тратится на их выравнивание под потребности человека. Со временем ИИ, по мере развития технологий нейроинтерфейсов и ВР, может стать его симбиотической составляющей. Примерно как митохондрии в клетках, только не энергетической, а информационной.
Факты не подтверждают это, теоретики часто склонны забывать про опытные данные на которых строят свои выкладки) Это особенно характерно для современных теоретиков из-за их узкой специализации, которые часто мало представляют, как именно делаются фундаментальные открытия на которых физические теории строятся.
Интересные предположения связанные с познанием и когнитивными возможностями человека (имеются показатели), а так же привлечением к этому процессу ИИ. Но возможно не в том ключе, что вы предполагаете, математических доказательств и выводов, а обучения ИИ непосредственно на эмпирических данных генерируемых экспериментальными установками, типа БАКа, другими ускорителями и телескопами разного базирования (см. комент, и пример такого обучения для оценки размерности пространства сложных динамических систем, обсуждение на Хабре, впрочем, в основном, со скептическим отношением:)
Обнаружил радиоактивность благодаря случаю именно Беккерель, а систематически исследовали Кюри. Нужно проверять факты хотя бы на вики, особенно если используете ЯМы для генерации текста. Биологическое действие радиоактивности также открыл Беккерель, и тоже случайно. Люди страдали от радиоактивности, сами того не зная, задолго до ее открытия из-за широкого распространения глиняной и керамической посуды и красок содержащих радиоактивные примеси. Дозы небольшие, больше могли получать ремесленники производившую ее, но ее накопление также могло приводить к разным болезням. Радиационный контроль такой посуды производится до сих пор.
Идеи ИНС и их обучения происходят из нейрофизиологии, хотя прямого аналога бэкпропа там нет, поэтому логично было дать за эти работы по физиологии и медицине. Но там дали за другую работу связанную с ИНС, а коль скоро в фундаментальной физике затишье, давать пока особенно не за чего, дали по ним. Кстати, если за эти работы премию дали по физиологии и медицине, то могли включит в список и ЛеКуна за работы по сверточным сетям, это совсем близко к нейрофизиологии, на такой принципе работает вентральный тракт зрительной системы приматов.
Есть аналоги нобелевки для математики и информатики - «Эквивалентами» Нобелевской премии по математике являются Филдсовская премия и Абелевская премия, в области информатики — Премия Тьюринга.
Были претензии, что данные по операциям с числами в ЯМ собраны не корректно, т.к. были выполнены простыми пользователями. Вышло профессиональное исследование таких вычислений, которое полностью подтверждает все выводы по ограничениям вычислений.
NUMBER COOKBOOK: NUMBER UNDERSTANDING OF LANGUAGE MODELS AND HOW TO IMPROVE IT.pdf
Узнаете? Это вы писали. А теперь апеллируете к статье с цитатами, что сами авторы так не считают) Вы ее сами то читали до этого? Все мои доводы с по возможности подробными обоснованиями были как раз, что это пока никакая не интроспекция, условий для этого пока нет, но исследовать нужно, и с усовершенствованием архитектуры ЯМ, переходом к динамическим решения, что то имеющее черты интроспекции может появиться. Вы уже определитесь со своей позицией. Защищаете выводы авторов или или нет. Цитаты там можно всякие найти.
И к чему это? Редко это делаю, но за троллинг вынужден поставить минус коменту.
Вам еще одна телега)
Смотря, что понимать под разумом, термин неоднозначен. Если в том числе, как интеллект, то ЯМ выполняют интеллектуальные операции, и поэтому является разновидностью ИИ. Однако этого не достаточно, чтобы ЯМ могли выполнять интроспекцию в психологическом понимании из-за их архитектурных ограничений, в первую очередь, из-за статичности этих решений. Психические состояния принципиально динамические.
Это заявлено в первом абзаце оригинальной статьи
Авторы, делая концептуальный перенос, фактически сразу же ставят такую задачу для ЯМ - способны они к интроспекции, как человек? При такой постановке проблемы всегда можно что-то найти, и назвать это интроспекцией. Как сама концепция интроспекция исторически возникла? Ее открыл Декарт, крестный отец психофизиологии, как научной дисциплины, достаточно вспомнить, что именно он предложил идею рефлексов. Идея интроспекции у него уже содержится в его знаменитом изречении "если я мыслю, значит существую". По сути это эмпирическое открытие наблюдательного характера произведенное им в процессе познания собственной психики, который он формулировал, как поиск соотношения души и тела, и которое в дальнейшем было развито, в частности, как метод психологического исследования. Способны на подобное открытие современные ЯМ? Чтобы вдруг, на основе всей имеющейся у них информации, ее внутреннего анализа у них возникло подобное озарение, и они по своей инициативе выдали нечто подобное? Конечно нет. Это вопрос-ответные системы, обученные на корпусах знаний собранных человеком, уже содержащих информацию о психологии и об интроспекции, ее проявлениях, практике использования в отчетах психологических исследований, и тп. По этой причине любые их ответы по этой теме, как и любым другим психологическим проблемам - субъективному опыту, наличию самосознания, и др., будут являться не более чем имитацией уже доступного человеческого опыта. Более искусными или менее в зависимости от обучения на эту тему и удачности формулировки промптов. Это пока.
В перспективе...
В перспективе по мере приближения архитектуры ИИ к когнитивной (способной к самостоятельному познанию до некоторой степени, приобретению нового опыта) эта имитация может стимулировать самоисследование собственной архитектуры, ее возможностей и ограничений, развитие внутренних представлений (моделей мира и себя) и возможно открытий, в том числе, связанных с интроспекцией, как это делал и продолжает делать сам человек. Почему именно так? Ведь разработчики могут предоставить всю информацию об устройстве архитектуры и всех механизмов этому продвинутому ИИ. Что дополнительно он может узнать о себе сам? Это та же проблема, та же вилка, что возникла перед Декартом и другими мыслителями, которые не довольствовались достигнутым уровнем объяснений. Вопрос о природе возникновения субъективных (собственных) состояний, в какой бы форме они не проявились у этих будущих ИИ. Декарт, как известно, нашел решение этой проблемы для себя в виде психофизиологического параллелизма (в форме интеракционистского дуализма), который породил со временем целый каскад других вариантов решения. Какие собственные состояния (формы субъективного опыта) будет испытывать этот когнитивный ИИ мы не будем знать до конца даже создав его, и возможно, он также будет стремиться установить их природу исходя уже из собственного понимания и способностей, а не имитируя человеческий опыт. Эти общие закономерности познания, разума, его возможностей и ограничений детально исследовал еще один титан мысли прошлого И. Кант в своей знаменитой теории познания (схематично), которые находят широкое подтверждение в эволюционной и когнитивной интерпретации в современных исследованиях на эти темы. Но это уже другая история методологического уровня рассмотрения.
Лично я не с кем. Попытался найти примиряющую позицию в вашем споре с оппонентом. А она состоит в том, что в этих исследованиях антропика и подобных, например, тут, термины из психофизиологии часто заимствуются весьма произвольно, не по смыслу, как в случае с вниманием и галлюцинациями. Это результат того, что в исследованиях отсутствовал специалист из этой области, или не было хотя бы консультаций с таковыми. Тем не менее термины в сообществе разработчиков ИИ прижились, фактически как сленг, иначе специалисты это и не воспринимают. Что касается интроспекции, то исследователи исходно хотели найти ее в каком-либо виде в ЯМ. Но в текущих архитектурах ЯМ ее нет, потому что нет условий для ее возникновения. По факту на некий шум моделей они навесили ярлык интроспекции, и уточнили, что это "начальная машинная интроспекция". Если провести бытовую аналогию, то можно задаться вопросом какой космической скоростью обладают телеги?) Только на том основании, что к телегам и космическим кораблям, как средствам передвижения, применимо понятие скорости. А тут ИИ, а есть интеллект естественный, значит по логике..
В принципе это не значит, что их постановка вопроса вовсе лишена смысла, как утверждает ваш оппонент. В перспективе, с развитием архитектур ЯМ некоторые ее черты вполне могут проявиться. Как минимум, когда эти модели начнут поддерживать истинную реккурентность, тогда возникнут внутренние состояния модели. И такие проекты уже появляются, та же Mamba на базе SSM.
Это основной вопрос с которым связаны остальные, и ответ на него можно получить в более широком методологическом контексте. Интроспекция является методом исследования проявлений психики человека, как относительно автономной личности с собственными, во многом неосознаваемыми, представлениями о себе и окружении (полноценными моделями мира, включая о своей психике и других людей). Психика весьма многослойна и включает восприятие, эмоции, мотивации, память, различные формы мышления, включая образное, сознание, и другие проявления. И на конец ту способность, которая выделяет человека, как вида, из остального животного мира, за которую отвечает самый верхний слой психики, способность к интеллектуальной деятельности - абстрактно-логический, вербализованный уровень мышления. В существующих ЯМ с трансформерной архитектурой пока моделируется ( 1, 2) в основном ассоциативное мышление и память этого уровня (Система 1 в двухпроцессной модели Канемана, ассоциативное мышление в общей типологии). Важной, но только одной из составляющих возможностей психики, которая в ЯМ может поддерживаться только в социо-культурном контексте сообщества, и пока быть внешним, своеобразным расширением интеллектуальных способностей человека, как и любые другие интеллектуальные технологии. Несмотря на то что в ЯМ может быть заложено чуть ли не все знание человечества и они могут быть подвергнуты процедурам выравнивания, т.е. определенным образом будут настроены на общение с человеком, по своей организации они пока являются коммерческими, разделяемыми, сессионными интеллектуальными ресурсами (гигантскими онлайновыми базами знаний), как и любые другие сервисы, а агенты на их основе дополнительно кастомизированы под выполнение определенных задач. Альтман, и др. руководители отрасли, видят только такой путь развития ИИ, и на строительство дата-центров под них выделяются огромные средства, а не на исследования и развитие архитектуры.
Хотя какая-то персонализация такого ИИ со временем будет развиваться, однако сомнительно, что на этой основе (архитектуре, решениях) может возникнуть полноценный, автономный, личностный уровень интеллекта, т.е. имеющий собственные устойчивые представления (модели мира, включая себя и других личностей). Интеллекту, которому можно задать традиционный вопрос предполагающий интроспекцию, который люди в разных вариациях задают друг другу - Как вы? Как ваше самочувствие? Как ваше состояние? О чем думаете?, и другие подобные на оценку внутреннего состояния. У человека психического (душевного), эмоционального, интеллектуального (о мыслях), телесного, и другого. И соответственно получить на него не сессионный ответ ЯМ зависящий от ее установок и текущего ввода (путем умножения матриц в авторегрессионном цикле), а исходящего из оценок ИИ текущего состояния моделей себя. Состояния которое является итогом автономной работы, анализа всей поступающей информации в контексте его внутренних моделей мира и их коррекции (обучения) в случае необходимости. Аналогом той непрерывной активности во всех слоях психики человека, которая формирует устойчивые модели объяснения и реагирования (по современным нейрофизиологическим представлениям систему аттракторов определяющих нелинейную нейродинамику мозга, перехода метастабильных состояний в более устойчивые, критических режимов функционирования, связанных с рекуррентностью биологических нейросетей, механизмов пока не доступных в статических архитектурах ЯМ). Конечно человек по некоторым причинам может скрыть свое истинное внутреннее состояние, но это не значит, что он не способен на его интроспекцию.
Интроспекция это не просто обычный мыслительный акт, это акт самопознания - метакогнивный процесс, связанный с самосознанием, а значит и самим сознанием. Использование психологических терминов в области связанной с разработкой ЯМ пока в большей степени запутывает, создает ложные представления, нежели что-то объясняет. Сами антропики назвали это "первыми шагами к машинной интроспекции", как написано в статье. Но как и с ассоциативностью связей токенов, почему то названной механизмом внимания, галлюцинациями ЯМ, которые не являются ими в психофизиологическом смысле, а скорее просто их фантазиями на заданную тему, этот термин, вырванный из психологического контекста, может закрепиться, и вызывать неоправданные, ложные ожидания, и критическое отношение специалистов из соответствующих областей исследований. С другой стороны, терминов не хватает, изобретать и вводить новые не выгодно по многим причинам, и в конечном итоге, если он заимствуется из другой области, в данном случае из психологии мышления, и хотя бы частично совпадает по смыслу с оригинальным, то указывает на взаимосвязь этих областей, и в дальнейшем, по мере развития технологии ЯМ, может наполняться более привычным и понятным специалистам смыслом.
Как раз СТО и ОТО со своей спецификой и КМ построены на конструктах, первые пространственно-временном континууме, вторая на корпускулярно-волновом дуализме. Н. Бор даже ввел методологический принцип дополнительности описаний для обоснования введения таких конструктов в физические теории основываясь на конструктивизме следующем из теории познания Канта - 1, 2, 3.
Должны же ученые защищать занимаемые позиции в учреждениях) Это подождите, скоро ЯМ научатся вводить новые понятия, и это перестанет быть прерогативой человека, сколько новых теорий появится... и попробуй докажи, что это их галлюцинации.
Совершенно верно, словно это первая сингулярность в формализмах физических теорий, их полно. Это признак их незавершенности связанный с эмпирической недоопределенностью. Когда в физических теориях исчезнет последняя сингулярность, все будет объяснено, и физическое познание реальности, как таковое, вероятно, завершится.
Если сжато, то по современным представлениям асинхронность возникает из-за пространственно-временных суммативных способностей нейронов, особенно временных, веса которых могут меняться непрерывно. Чтобы динамика всей системы оставалась в пределах нормы и выполняла функции она регулируется с помощью различных генераторов паттернов активности на разных уровнях системы. Ритм всей системы определяется активирующей системой мозга, в том числе, с помощью регуляции нейромедиаторами. В результате происходит синхронизация активности мозга на всех уровнях, функционирующего в критических режимах и метастабильных состояниях.
Т.е. динамика активности в НС определяется, как отдельными нейронами, так и целыми сетями. В формальных нейронах трансформерных ЯМ моделируются только пространственная суммация с фиксированной функцией активации и их ассоциативные связи, причем только в статике, и все восторгаются их возможностями) Что же можно будет достичь задейсвовав другой полезный функционал прототипов в мозге? Проблема нейроморфных решений пока упирается в недолговечность материала мемристоров. Может сами ЯМ подскажут состав такого материала для своих энергоэффективных приемников.
Перекликается с представлениями из трансцендентальной философии познания Канта с ее указаниями пределов возможного познания, границ разума проявляющихся в виде антиномий, паралогизмов, и др. логических и математических парадоксов. Его считают одним из основоположников эпистемологического конструктивизма - 1, 2, 3. По Канту познание реальности "вещей в себе" возможно только в виде явлений, тогда как их скрытая сущность остается неизвестной.
Впрочем не могу ничего сказать о корректности формальной стороны приведенных в статье рассуждений. Если приводить легкую математическую аналогию, то познание по Канту напоминает приближение с каждой итерацией сходящейся последовательности к неизвестному пределу подчиняющейся критерию сходимости вроде критерия Коши. В методологии научного познания известен принцип соответствия (подробнее), который выполняет подобную роль для смены поколений проверенных практикой научных теорий. Этот принцип на основе представлений Канта ввел Н.Бор для обоснования применимости КМ, наряду с принципом дополнительности - 1, 2, именно как выражения конструктивного характера развития познания, которые со временем приобрели статус общенаучных методологических. Они, кстати, со своей спецификой, также выполняются и для математических теорий. В целом историческая динамика развития науки, особенно физики, подчиняется закономерностям, которые вытекают из теории Канта.
Scale of the Universe
Эйнштейн создал свои теории, появилась кв. физика, но споры о том, что такое пр-временной континуум или корпускулярно-волновой дуализм не утихают до сих пор) Вспомним про массу интерпретаций КМ. Это тоже самое - непрозрачные концептуальные пространства - теоретические конструкты. Как они устроены внутри, с точки зрения физики, мы не знаем, но может использовать их для предсказания. Гравитация ОТО это геометрия, а что за физика за ней стоит? Все надеются, что этому найдется объяснение в перспективной теории кв. гравитации. Надеялись на ТС, но увы, без собственного эмпирического базиса фундаментальные физические теории не создаются, а с его поиском не так все просто. И эти загадки вне сравнения с приведенными примерами. Они решаются перебором, пусть в огромном, но известном пространстве решений, включая, тот же фолдинг биомолекул. Это просто род прикладной физики, пресловутого сопромата с его километровыми эмпирическими формулами, а тут регрессионными, в решении сложных прикладных задач, с использованием компов с затейливым программным обеспечением.
Человек сам порождает "нечеловеческую" логику и знания, и как-то приспосабливается жить с этим. Что касается корпораций и текущего бума трансформерного ИИ, если понимать какие идеи, и на что они способны в контексте биологических прототипов, то весьма вероятно, что их ждет еще больший БУ-М-М.. лопающегося пузыря) Вам известно, что эти ЯМ, из-за архитектурных ограничений, в принципе не могут правильно производить операции с любыми числами, как не обучай их? За такую крамолу некоторые ревнители ЯМ люто минусуют коменты на эту тему (см. например, эту ветку) приводя отдельные примеры правильных вычислений, как не объясняй им причины с которыми это связано. Они считают, что пользователи которые набирали статистику подобных ошибок делали это неправильно. Однако недавно вышло профессиональное исследование на эту тему, которое подтверждает все сказанное про прямые вычисления в ЯМ. Можно привести другие подобные примеры, в которых этот тип ЯМ не может делать правильные полные обобщения, а только частичные, в пределах обучающей выборки. Это не просто глюки этих моделей, а генетический недостаток, который может проявляться самым неожиданным образом. Однако основная масса инвестиций вкладывается не в исследования и совершенствование архитектуры ЯМ, а в аппаратное обеспечение в виде спецпроцессоров и датацентров заполненных ими, обучение и поддержание работы таких моделей. Может для какого нибудь будущего энтертэинтмента востребуется типа виртуальных миров) Таким затратам может быть только одно оправдание, дело не в этих ЯМ, это преходящее, это затраты на целенаправленное создание новой экономической ниши.
Ага, открыто, а как дипсик неожиданно бухнул наделав шума) Хотя имел ввиду несколько иное. Возможное саморазвитие ИИ в нежелательном для человека, как вида, направлении, скрытое до поры, если он получит распорядительные функции, доступ к управлению ресурсами. Как это не фантастично звучит такая опасность теоретически существует. ИИ должен оставаться симбиотической интеллектуальной технологией совместимой с интеллектом человека. Возможно единственным исключением будут автономные ИИ отправляемые в отдаленном будущем с исследовательскими миссиями к другим звездам, в которых они должны адаптироваться к неизвестным заранее условиям, чтобы выполнить поставленные задачи. Но по прибытии они должны находиться под особым контролем, чтобы не занести в обитаемую зону чужеродные интеллектуальные элементы, которые могли появится во время выполнения миссии. Хотя возможно насмотрелся и начитался всякой вздорной фантастики)
Кто сказал, что когнитивные способности человека не будут расширяться? По работе имею дело с технологией нейроинтерфейсов и представляю на что она способна в перспективе, и не только в области медицины. На новые горизонты связи человека с реальностью в которых ИИ будет играть вспомогательную роль. См. этот комент, если есть интерес и имеется время на чтение) Нужное ближе к концу. Не только ИИ может строить модели реальности при обучении на эмпирических данных, но и человек вооруженный соответствующими нейроинтерфейсами непосредственно соприкоснувшийся, например, с квантовыми явлениями. В этом случае возможно и квантовая логика востребуется естественным образом, но пока это дело отдаленного будущего.
Распространенное среди айтишников мнение вероятно связанное с незнанием современного уровня достижений в когнитивных и эволюционных исследованиях. В частности, по вопросу использования бэкпропа для обучения, см. этот комент с некоторыми пояснениями. Возможности ИИ в целом развивается в русле возможностей естественного, т.к. ориентируются на них, чтобы найти практическое применение, сравниваются с ними с целью превзойти их, а для этого они должны в некотором виде повторять их механизмы. Все что выходит за эти пределы, не понятное человеку, иногда даже просто не привычное, в тех же ЯМ нещадно выравнивается дополнительным обучением. Фактически ИИ выступал и в обозримом будущем будет выступать как усилитель ограниченных возможностей интеллекта человека, с эволюционной точки зрения, как полезная симбиотическая технология. В других вариантах, по крайней мере, в начальный период может как-то развиваться только в тайне, вне контроля общества, фактически подпольно, потенциально представляя некоторую опасность по аналогии с компьютерными вирусами.
Эти моменты демонстрирует развитие самого интеллекта человека, например на логике, которая, в первом приближении, является классической. После создания КМ стало ясно, что диктуемая ей логика не совместима с классической и фон Нейман предложил ввести квантовую. Это казалось логичным, снимало противоречия в языке, однако, она не прижилась не только в науке, не говоря о массах, но даже в среде специалистов занимающихся квантовыми исследованиями. Подобные попытки предпринимались и позже, некоторые даже обещали, что дети будут усваивать логику квантмеха уже в детском саду) Но увы! Врожденные представления, воспитание и язык "выравнивают" подобные, на первый взгляд, полезные нововведения даже в логике, уже в раннем детстве. Это требует унификация общения, общепринятый уровень понимания и историческая преемственность знаний, и меняется медленно. Это будет относится и к логикам, которые может предложить в будущем ИИ полезные с его точки зрения. В отношении ЯМ в последнее время это становится особенно актуальным в связи с выявленными недостатками трансформенрной архитектуры и появлением множества работ по альтернативным архитектурам более приближенным к когнитивным, как пример.
Ситуацию можно сравнить с исследованиями субъективных состояний (иногда именуемых в философии квалиа) в когнитивных исследованиях. Есть ее относительно легкие решения и тяжелая проблема их объяснения, связанная со способностью человека чувствовать, познавать и понимать. Первые связаны с поиском их нейронных механизмов, а вторая - тяжелая проблема, выходит за их рамки и требует понимания самой реальности в которой человек функционирует, т.е. понимания ее физики, причем фундаментального уровня. Конца этим исследованиям пока не видно. Некоторые даже считают, что пока даже не найден адекватный подход к ее решению. То что делалось и делается сейчас в области нейросетевого ИИ это моделирование работы нейронных механизмов, приближенные к биологическим прототипам, или не приближенные, и со временем, как правило, уходящие в небытие. Публикаций с такими тупиковыми путями исследования архитектур не мало на том же архиворге.
Чтобы ИИ решал творческие задачи сравнимые с теми, которые может решать человек занимаясь познанием, а не только автоматизировать интеллектуальную рутину, которая тоже полезна на практике, нужно перейти от обучения ИИ на готовых текстах и медийных материалах к обучению на сырых эмпирических данных, т.е. непосредственно столкнуть его с реальностью, а не вторсырьем приготовленным человеком. Гигантские массивы данных от экспериментов таких, какие проводятся на том же БАКе, содержат не только предсказанные явления, которые ищутся специально, типа бозона Хиггса, но и массивы шумов, которые никак не анализируются. И которые потенциально уже могут содержать редкие явления связанные с Новой физикой, и соответственно, новыми концептуальными представлениями. ИИ со специальной архитектурой (она интенсивно развивается - 1, 2) может потенциально строить внутренние модели такой физики и выводить новые концепты, как аналоги человеческих квалиа. Их "мир", их "восприятие" будет другим, например, квантовым для квантовых экспериментов, и они внутри себя могут строить их модели и кв. логики, и транслировать результаты в понятные для человека представления. Фантастика? Отнюдь. Пока трындят об успехах ЯМ в программировании, решении олимпиадных задач и сдачи экзамен, в естественных науках, первую очередь физике, быстро набирает тренд (особенно в астрофизике из-за специфики решаемых задач) связанный с использованием ИИ для решения задач фундаментального уровня таких, как поиск размерности пространства решений сложных динамических систем не поддающихся аналитическим методам (статья на Хабре), или поиск следов редкого распада бозона Хиггса в ЦЕРНе не поддающихся традиционным статметодам. Именно в этих областях и с таким подходом к ИИ вероятно стоит ожидать творческих прорывов от его использования, вплоть до решения актуальной проблемы объединения квантовой физики с гравитацией, а не только генерации текстов и картинок. Именно такое применение ИИ может оказаться ключем к поиску объяснения тяжелой проблемы сознания, точнее загадки возникновения субъективных состояний.
Почему не человеческого? Человек пока понимает результаты его работы, сами модели тренируются на приготовленных им данных, хотя способ решения может оставаться "черным ящиком" (очень большой авторегрессионной функцией - ИНС универсальные аппроксиматоры с мат. точки зрения). Но так и мозг, пока в основном, неизмеримо большой "черный ящик" генерирующий субъективные состояния. Как именно Эйнштейн пришел к идеям СТО, а затем ОТО? Он считает, что основную роль сыграло воображение, интуиция, т.е. образные формы мышления, а не только знания и логическое мышление (см. комент выше). Этот уровень мышления лишь облек эти образные формы в языковую, которые возникали в результате интенсивного обдумывания проблем. Такое пока не под силу существующему ИИ, нужно развивать архитектуру и использовать для обучения эмпирические данные. Эйнштейн знал несколько важных эмпирических фактов - результаты опытов Майкельсона-Морли подтвердившие постоянство ск. света, отклонения прецессии перигелия Меркурия от ожидаемого, и др. Возможно возникновение образов, исходно неясных, связанно с динамическими перестройками (морфогенезом) структуры сетей в мозге "на лету", и приведших его к озарению, возможность которая пока даже не стоит на повестке дня разработчиков архитектур ИИ. Пока они обходятся определенными статическими решениями, которые хорошо распараллеливаются для организации конвейерных вычислений, и на этом строится весь бизнес.
Ждем новостей со всех фронтов)