Это правда. Прежде чем доказывать, что у LLM есть ум, интеллект, сознание и душа, нужно определить критерии наличия или отсутствия их у объекта. И доказать, что они же есть у других людей. Пока это не будет сделано, все рассуждения на эту тему ненаучны.
Программы, которые занимаются выводом на основе базы знаний традиционно относят к тем областям ИИ, которые не являются ML, это не моя выдумка и не ваша.
фактически включаете в него всё подряд
Ну, не совсем. Чат-бот, который построен на основе LLM - считается ИИ и подходит под определение. Автопилот тоже считается ИИ, в основном. Экспертная система - слишком широкое понятие, в разных ситуациях их могут относить, могут не относить (когда решается простая задача, описываемая ограниченным набором правил/инструкций). Сложное if-else дерево, построенное программистом, не способно решить подобного рода задачи, и к ИИ не относится. А вот Random Forest может, и он же относится к ИИ.
тогда и компилятор - ИИ
Компилятор строится по ограниченному набору правил вокруг чётко сформулированной задачи. Код, который пишет программист, имеет чёткую структуру, заданную заранее определённым набором правил и условий. Если есть небольшое отклонение от этих правил, компилятор работать откажется. Эти ограничения замечательно формулируются как на языке кода, так и с помощью формальных грамматик, что позволяет писать компиляторы с помощью генераторов синтаксических анализаторов. Задача не описывается парой условий, но она описывается несколькими десятками условий, т.е. всё ещё хорошо формализуется.
Вы даёте определение, и сразу же приводите пример ИИ, который под ваше определение не попадает, в чём его смысл тогда?
Базы знаний относятся к ИИ только потому, что решают плохо формализуемые задачи, а не потому, что строятся на "формализованной среде". Так-то любые нейросети сами по себе строго формализованы с помощью конкретного математическое аппарата (чаще всего это композиция линейных преобразований, между которыми "запихивается" нелинейность). Разница, всё-таки, есть между задачей и архетиктурой модели, которая её решает, в определении указана именно задача. Если ваша база знаний решает задачу, которую можно решить простым перечислением if-else программистом, то традиционно такую задачу не относят к задаче искусственного интеллекта, и модели, которые строятся поверх этой задачи, тоже не относят к ИИ.
Нам в универе давали определение, что ИИ - это метод, решающий слабо формализуемые задачи. (Понятие слабо формализуемых задач, конечно же, вводилось отдельно, но интуитивно итак понятно, что это).
По-моему, неплохое определение, даже, наверное, лучше чем то, что затрагивает интеллект/разум/мышление. Во-первых, это сложно определяемые понятия, во-вторых, не все методы ИИ проявляют признаки разумности или мышления.
nn.Linear как раз является высокоуровневой обёрткой над torch.nn.functional.linear. Боюсь спросить, а что выше, чем nn.Linear?) TransormerEncoderLayer?
Не вижу, если честно, элегантности в решении этой проблемы с MoE. Как будто попытка убрать симптомы болезни за счёт раздувания контекстного окна.
Вот SSM это тема, жаль, что работы по этим моделям не так сильно ведутся, а достойные статьи отбраковываются по надуманным причинам, лишь бы олигополия компаний, которые вложились по-крупному в трансформеры, не рухнула. (Привет, Mamba).
Тут, вроде, никаких обидок в сторону Китая нет, или я плохо прочитал?
А так да, ИИ если принадлежит Китаю, он имеет право обучать свой ИИ на чём угодно, даже определённой политической линии. Тем более, что есть конкуренты, и с западной повесткой и нейтральные.
Спасибо за ссылку на мою статью, очень приятно) Но хотел бы уточнить, что она не совсем про парадокс дней рождения, там парадокс сестёр, немного другое. Но суть понятна.
Если сформулировать, как в исходной задаче, что "из семей с 1000-ю детьми, 999 из которых - девочки, выбрали случайную семью, и какая вероятность, что все 1000 детей будут девочками?" - то да. Но люди, которые не понимают исходную формулировку, не поймут и эту, она даже больше запутывает. Можно тогда хотя бы не 1000 детей взять, а 3.
Так программисты зря до сих пор используют генераторы псевдослучайных чисел? Где-то внутри компьютера есть бесплатный источник случайности? Просветите же, прошу.
Никто сумму вероятностей здесь не считает, так как взаимоисключающих событий здесь нигде нет, перечитайте условие задачи и решение.
Это уже другая задача
В задаче просят найти вероятность события "оба ребёнка женского пола". Аналогия с двумя решками для вас слишком сложная? Подумайте хорошо, это та же самая задача, только вместо девочек - монетки.
Это не софистика. Вы просто не можете внимательно вчитаться в вопрос. У вас не спрашивают, какая вероятность выпадения очередной решки. С этим как раз никто и не спорит. Вопрос про выпадение двух решек подряд. Представьте, что вы поспорили с другом, что подкинете 10 раз монетку, и все 10 раз вам выпадет орёл, и ни разу решка. По вашей логике, вы с вероятностью 50% выиграете спор. То есть, с той же вероятностью, как если бы вы поспорили, что за один бросок монетки вы выбьете ровно одного орла.
Это правда. Прежде чем доказывать, что у LLM есть ум, интеллект, сознание и душа, нужно определить критерии наличия или отсутствия их у объекта. И доказать, что они же есть у других людей. Пока это не будет сделано, все рассуждения на эту тему ненаучны.
Программы, которые занимаются выводом на основе базы знаний традиционно относят к тем областям ИИ, которые не являются ML, это не моя выдумка и не ваша.
Ну, не совсем. Чат-бот, который построен на основе LLM - считается ИИ и подходит под определение. Автопилот тоже считается ИИ, в основном. Экспертная система - слишком широкое понятие, в разных ситуациях их могут относить, могут не относить (когда решается простая задача, описываемая ограниченным набором правил/инструкций). Сложное if-else дерево, построенное программистом, не способно решить подобного рода задачи, и к ИИ не относится. А вот Random Forest может, и он же относится к ИИ.
Компилятор строится по ограниченному набору правил вокруг чётко сформулированной задачи. Код, который пишет программист, имеет чёткую структуру, заданную заранее определённым набором правил и условий. Если есть небольшое отклонение от этих правил, компилятор работать откажется. Эти ограничения замечательно формулируются как на языке кода, так и с помощью формальных грамматик, что позволяет писать компиляторы с помощью генераторов синтаксических анализаторов.
Задача не описывается парой условий, но она описывается несколькими десятками условий, т.е. всё ещё хорошо формализуется.
Вы даёте определение, и сразу же приводите пример ИИ, который под ваше определение не попадает, в чём его смысл тогда?
Базы знаний относятся к ИИ только потому, что решают плохо формализуемые задачи, а не потому, что строятся на "формализованной среде". Так-то любые нейросети сами по себе строго формализованы с помощью конкретного математическое аппарата (чаще всего это композиция линейных преобразований, между которыми "запихивается" нелинейность). Разница, всё-таки, есть между задачей и архетиктурой модели, которая её решает, в определении указана именно задача. Если ваша база знаний решает задачу, которую можно решить простым перечислением if-else программистом, то традиционно такую задачу не относят к задаче искусственного интеллекта, и модели, которые строятся поверх этой задачи, тоже не относят к ИИ.
Нам в универе давали определение, что ИИ - это метод, решающий слабо формализуемые задачи. (Понятие слабо формализуемых задач, конечно же, вводилось отдельно, но интуитивно итак понятно, что это).
По-моему, неплохое определение, даже, наверное, лучше чем то, что затрагивает интеллект/разум/мышление. Во-первых, это сложно определяемые понятия, во-вторых, не все методы ИИ проявляют признаки разумности или мышления.
Круто, ИИ объясняет, что такое ИИ, на пальцах. Никогда такого не было и вот опять)
nn.Linear как раз является высокоуровневой обёрткой над torch.nn.functional.linear. Боюсь спросить, а что выше, чем nn.Linear?) TransormerEncoderLayer?
Не вижу, если честно, элегантности в решении этой проблемы с MoE. Как будто попытка убрать симптомы болезни за счёт раздувания контекстного окна.
Вот SSM это тема, жаль, что работы по этим моделям не так сильно ведутся, а достойные статьи отбраковываются по надуманным причинам, лишь бы олигополия компаний, которые вложились по-крупному в трансформеры, не рухнула. (Привет, Mamba).
Вы правильно пишете, но Mamba - это и есть SSM (с приставкой Selective) :)
И там не частичная рекуррентнось, а что ни на есть самая полная.
Тут, вроде, никаких обидок в сторону Китая нет, или я плохо прочитал?
А так да, ИИ если принадлежит Китаю, он имеет право обучать свой ИИ на чём угодно, даже определённой политической линии. Тем более, что есть конкуренты, и с западной повесткой и нейтральные.
Спасибо за ссылку на мою статью, очень приятно) Но хотел бы уточнить, что она не совсем про парадокс дней рождения, там парадокс сестёр, немного другое. Но суть понятна.
Статья интересная, ставлю плюсик!
Хм, действительно, узнал из гугления о команде RDRAND. Для меня это что-то новое, спасибо)
Я об этом и говорю. Так как в задаче вероятность заранее известна, матстат тут не нужен.
Было бы так, если бы не было известно, что вероятность рождения мальчика и девочки одинакова и равна 50%
Нету тут матстата(
Если сформулировать, как в исходной задаче, что "из семей с 1000-ю детьми, 999 из которых - девочки, выбрали случайную семью, и какая вероятность, что все 1000 детей будут девочками?" - то да. Но люди, которые не понимают исходную формулировку, не поймут и эту, она даже больше запутывает. Можно тогда хотя бы не 1000 детей взять, а 3.
Так вот почему они так преуспевают в точных науках 😁
Так программисты зря до сих пор используют генераторы псевдослучайных чисел? Где-то внутри компьютера есть бесплатный источник случайности? Просветите же, прошу.
Никто сумму вероятностей здесь не считает, так как взаимоисключающих событий здесь нигде нет, перечитайте условие задачи и решение.
В задаче просят найти вероятность события "оба ребёнка женского пола". Аналогия с двумя решками для вас слишком сложная? Подумайте хорошо, это та же самая задача, только вместо девочек - монетки.
Это не софистика. Вы просто не можете внимательно вчитаться в вопрос. У вас не спрашивают, какая вероятность выпадения очередной решки. С этим как раз никто и не спорит. Вопрос про выпадение двух решек подряд.
Представьте, что вы поспорили с другом, что подкинете 10 раз монетку, и все 10 раз вам выпадет орёл, и ни разу решка. По вашей логике, вы с вероятностью 50% выиграете спор. То есть, с той же вероятностью, как если бы вы поспорили, что за один бросок монетки вы выбьете ровно одного орла.
Вопрос был про вероятность выпадения двух решек подряд, а не про выпадение очередной решки...