Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 58
следовательно граница AGI должна смещаться к действию в условиях неопределённости и возможности сведения высокоразмерных миров к пригодным внутренним моделям
Интеллект — это способность информационной системы строить модель окружающей среды на основе входящей информации.
Просто умение строить модель мира явно недостаточно для агента.
Для понятия AGI достаточно. Если человек сидит в кинотеатре и смотрит фильм, мы не считаем, что у него нет интеллекта.
Странный пример.
Ладно. Есть база заполненная случайными цифрами. Есть маркер случайным образом перемещающийся по миру, и отдающий признак, который фиксируется в каждой ячейке базы. Через какое-то время база будет представлять собой модель мира.
Где в этом процессе интеллект? Или что здесь можно назвать интеллектом?
Начнем издалека. Почему вы считаете, что это модель?
Начнем с вашего определения. База данных это информационная система? Да.
Маркер, это входящая информация? Да.
Отражает ли база данных структуру реального мира? Да.
Чем это не модель?
Чтобы вы поняли ответ, вам нужно сначала ответить на мой вопрос. Вы сделали утверждение “база будет представлять собой модель мира”. Поэтому к вам и вопрос, почему вы считаете, что это модель. На основе вашего ответа я смогу показать, в чем у нас отличие в понимании термина “модель”.
Определение ваше, вам с ним и работать.
Уверен, как только вы его начнёте разворачивать выяснится, что способность формировать модель мира оказывается должна включать в себя вещи, которые просто выпадут из вашего определения интеллекта.
Определение я уже развернул в статье по ссылке. Но так как вы решили ее не читать, а сразу начали возражать с использованием своего понимания терминов, то вам и пояснять ваши возражения. Вы сделали утверждение “такая база это модель”, я спросил, что именно вы под этим подразумеваете. Как вы отличаете то, что является моделью, от того, что не является. Это вопрос про ваши утверждения, а не про мое определение. Как я могу ответить на ваши вопросы, если у вас другое понимание исходных терминов?
Вот ваше определение модели по ссылке:
"Модель — это система, исследование которой служит средством для получения информации о другой системе; представление некоторого реального процесса, устройства или концепции."
Чем же база данных с данными о мире не модель?
Это не мое определение, а общепринятое из Википедии, оно слишком широкое по смыслу. Определение модели в контексте статьи написано далее.
“В дальнейшем под словом «модель» я буду подразумевать именно отображение одних объектов в другие, заданное соответствие реального и информационного.”
Чем же база данных с данными о мире не модель?
Выглядит так, что вы сами не знаете, что вы понимаете под словом “модель”. Вопрос был про ваше понимание этого термина. Объясните, почему вы считаете ее моделью окружающей среды, тогда я объясню, почему она не соответствует моему определению модели.
отображение одних объектов в другие, заданное соответствие реального и информационного.”
Бд и под это определение подпадает
Хорошо. Возьмем один элемент этой БД. Какой именно реальный объект он представляет?
Чтобы далеко не ходить в той же arc3 - пиксель с заданными координатами, красный, при соприкасании с ним зелёного пикселя, зелёный пиксель уничтожается.
Это не выглядит как ответ на мой вопрос. Непонятно, где тут база и что чему соответствует.
Вход картинка игры. В бд фиксируется пиксель с координатами, границами, функциями. То есть записи в бд переводят картинку в набор данных.
Картинка изначально это уже набор данных. Мы перевели один набор данных другой, почему это изначально не было моделью, а потом стало? Или у вас любой набор данных это модель?
Я предлагаю вам не увиливать и не играть словами, а отвечать прямо на заданный вопрос - чему соответствует один элемент в этой БД, какой изначальный объект в него отображается. Если вы не можете ответить, то это не соответствует приведенному определению модели, а значит ваше утверждение неверно.
Ладно, так как вы не можете пояснить свою точку зрения, попробую сделать это за вас.
Ваша база с ячейками аналогична пикселям фото, или например карте высот пространства, аналогично карте в компьютерной игре. В некотором контексте это можно считать очень простой моделью, но определению, которое я привел, в том контексте, оно не соответствует. Там указано:
- Интеллект — это способность строить модель.
- Модель — отображение реальных объектов в информационные.
- Объект — это нечто, что обладает состоянием и поведением, что мы определяем как одно и то же в разные моменты времени.
Данные о цвете отдельных пикселей это не объекты, они не объединяются в объекты. Тут нет того, что распознается как одно и то же. Можно считать пиксель объектом, но эти объекты заданы извне конструкцией, которую создали люди, их количество фиксировано, и они никак не связаны с окружающей средой. Система не выделяет эти объекты во входной информации.
Вот летит птица. Ее тело состоит из группы молекул, которые связаны физическими силами и движутся синхронно. Они имеют общее поведение. На входе есть ее изображение в виде группы пикселей. У нее есть границы, они движутся синхронно, имеют общее поведение. Их можно объединить в объект, и распознавать как одно и то же в разные моменты времени. Этот информационный объект соответствует реальному объекту “птица”. Его поведение соответствует поведению реального объекта. Это элемент модели.
Чем больше таких элементов и взаимосвязей между ними выделяет система, тем больше у нее интеллекта. Больше не по абсолютному количеству, а по уровню абстракции и глубины взаимосвязей. Например, несколько птиц объединяются в объект “стая”.
В контексте карты высот это может быть например объединение отдельных ячеек в объекты “впадина” и “возвышение”.
То есть, отвечая на ваш вопрос, в приведенном вами процессе интеллекта нет, или можно считать это интеллектом нулевого уровня - прямая копия входных данных без обработки.
Отлично! То есть интеллект - способность выделять объекты, объединять пиксели в птицу, птиц в стаю, ячейки во впадину.
То есть интеллект это способность вводить новые сущности, которых во входных данных не было.
И откуда берется критерий объединения? По сути это и есть изменение пространства представлений. И именно об этом я пишу в статье.
Кажется надо ещё надо совершать действия на основе этой модели
Нет, не надо. Человек в кинотеатре понимает фильм, но не делает никаких действий на основе этой модели.
Да, поэтому киношки смотреть много ума не надо)
А если серьёзно, то люди совершают действия - сопереживают, пугаются, смеются, просто в кинотеатре возможность физически проявлять реакции ограничена креслом. Плюс люди воспринимают увиденное как опыт, и далее в жизни опираются на него в своих поступках.
То есть если человек посмотрел фильм, но потом никак не использовал этот опыт, то у него нет интеллекта?
Нет, просто интеллект не был задет в процессе просмотра
Понятно, обсуждать конструктивно вы не хотите.
Внутренняя модель необходима, но недостаточна. Эта модель как-то должна проявляться во внешний мир. Иначе можно сказать, что у и камня есть внутренняя модель, просто мы её не видим.
А я вам привел контр-пример, когда модель есть, но никак не проявляется. Вы в кинотеатре точно знаете, поняли вы фильм или нет. Как проверить модель у другого субъекта, это другой вопрос, к определению AGI он отношения не имеет.
Вы привели пример для людей, у которых мы считаем, что достоверно знаем про наличие интеллекта.
Если бы в кресле сидела коробка с лампочками - тут уже не получилось бы сказать, что интеллект есть. Если бы коробка мигала лампочками в особые моменты фильма (т.е. проявляла наружу модель) - мы могли бы сказать, что она что-то понимает. Но если бы она мигала невпопад - то мы бы о ней ничего не могли сказать.
К коробке у нас есть полный доступ, и мы можем прочитать любое значение в ее ячейках памяти.
Вы привели пример для людей
А это неважно, определение интеллекта должно быть одинаковым, чтобы можно было сравнивать. А у вас получается, что у людей в кинотеатре интеллекта нет, и у людей которые посмотрели фильм про волшебников, но потом не использовали магию, тоже нет.
У людей интеллект есть чем бы они не занимались, хоть лежали бы в лесу, закрыв глаза, притворяясь камнем.
Я как раз за одинаковое определение интеллекта как для людей, так и для коробки с лампочками, и для куска слизи с Альдебарана.
Интеллект появился именно потому, что надо было реагировать быстрее, чем позволяют рефлексы, и единственный найденный способ сделать это - предсказать на основе внутренней модели, что будет в ближайшем будущем, и реагировать на модель.
Вы же утверждаете, что внутренняя модель это и есть интеллект.
З.Ы. Я даже боюсь предствить число детей, которые после фильма про волшебников ждали сову с письмом)
У людей интеллект есть чем бы они не занимались
Поэтому ваше утверждение, что в определении интеллекта должно быть указано, что нужно заниматься чем-то определенным, неверно.
Вы же утверждаете, что внутренняя модель это и есть интеллект.
Нет. У меня написано “строить модель”.
Интеллект появился
Неважно как он появился. У людей в кинотеатре интеллект есть, даже если они ничего не делают. Поэтому определение интеллекта не должно иметь противоречие с такой ситуацией.
У меня не было требования "заниматься чем-то определённым", у меня было "совершать действия".
При обучении наших компьютерных ИИ их внутренние модели строит алгоритм обратного распространения ошибки - алгоритм это есть интеллект? Линейная регрессия тоже модели строит, причём другим способом. Уже два интеллекта.
На заре кино люди пугались и пригибались от наставленного на них с экрана револьвера. Сейчас уже все знают, что это не страшно, но когда показывают кадры с обрыва - ладошки-то потеют.
у меня было “совершать действия”
Совершать действия это и есть заниматься. В кинотеатре люди не совершают действия в соответствии с моделью, а интеллект у них есть. Значит для определения интеллекта этот критерий не является необходимым.
алгоритм это есть интеллект?
Если он строит правильную модель, то да. Что такое модель смотрите в статье по ссылке.
Заниматься "чем-нибудь", а не "чем-то определённым". Мы ходим кругами, в кинотеатре люди совершают действия в соответствии со своей моделью.
В комментариях к статье по ссылке вы сами приводите определение из Вики:
Интеллект — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой.
Вот это "использование своих знаний для управления окружающей средой" и есть "совершение действий".
Заниматься “чем-нибудь”, а не “чем-то определённым”
В данном случае это синонимы. Вас не устраивает действие “наблюдает”, значит вам нужны какие-то определенные действия.
в кинотеатре люди совершают действия в соответствии со своей моделью
Нет, они там просто сидят и смотрят. Если это достаточное действие, то любая система с интеллектом находится в пространстве, стоит, сидит или лежит.
это и есть “совершение действий”.
Там написано “способность к использованию знаний для управления”. То есть могут использовать, а могут не использовать. То есть если не используют, то это все равно интеллект.
Модель ради модели бессмысленна без функции полезности. В кинотеатре человек обновляет свою внутреннюю социальную модель, чтобы потом применять этот опыт в реальных конфликтах
Вообще в целом такое мне кажется снобизмом по отношению к ИИ. Теорема Теслера и классический мем с Вы здесь. Как только ИИ стал решать задачи лучше людей всегда появляется ещё какой то довод чтобы не считать это за превосходство.
Вот пишите
Бенчмарк не ищет AGI, потому что иначе chatGPT уже и есть тот самый AGI.
Но ведь вы же просто напросто говорите в других словах "Если ИИ проходит эту проверку значит это не проверка на AGI". Тогда конечно, по определению AGI не может существовать, никакой проверки не хватит.
Кстати
Крайне сомнительно, что у авторов ARC‑AGI-3 фантазии больше, чем у людей, которые придумывают игры профессионально.
Они как раз и наняли профессиональных разработчиков игр и дизайнеров чтобы составить их игры.
А ещё, по существу статьи.
упирается в два барьера того же самого комбинаторного взрыва: написание кода для чуть более сложной задачи и поиск решения внутри симуляции.
А оно и на этих играх в комбинаторный взрыв упирается. Решение игр в большинстве своём это не перебор всех возможных вариантов используя модель мира. Вот там есть уровни что решаются за 20-40 ходов с возможностью на каждом ходе сделать 5 или больше разных действий. На прямой перебор просто не хватит времени. Во многих агентах описаное это просто способ проверки усвоения модели мира.
Про чатгпт согласен, вложенная ирония скорее всего вложена слишком глубоко, надо было переформулировать.
Очевидно,что люди, профессионалы и нет,ждут от AGI существенно большего, чем то, что дают LLM сегодня. Что мешает LLM? Моё мнение - невозможность изменения пространства представлений. Как в примере с дельтой.
Хорошо, что привлекли профессионалов игровой сферы к разработке игр, плохо то, что они всё ещё люди, и к этому добавились накопленные профессиональные штампы. Ну и количество професссионало работавших над arc-agi несопоставимо с количеством разработчиков в игровой сфере и объемом произведенного.
Комбинаторный взрыв на этих играх Родионов снимает тем, что LLM резко сужает пространство гипотез. Но для LLM процесс выбора всё ещё остаётся перебором в базе паттернов.
Люди просто осуществляют бегство от ИИ, постоянно перенося врата всё дальше и дальше.
Если первые тесты аля Тест Тюринга, просто проверяли возможность ИИ к минимально осмысленному общению. Сейчас уже во всю пихают тесты, для прохождение которых нужен целый штат дипломированных учёных. И при этом всё равно, каждый раз когда ИИ одолевают очередной тест, врата просто переносятся дальше. Некоторые уже 99.9999% людей из разумных выписывают, лишь бы удерживать позицию что никакого AGI нету
Возможно. Мне бы, конечно, хотелось, чтобы llm могли бы по новому смотреть на задачу, но учитывая то, что объем знаний несопоставим, я определить этот момент не могу. То есть отличить паттерн из базы от паттерна озарения )). Пожалуй это видно лишь в граничных примерах - на примитивах и в науке.
Но как оптимизационный инструмент LLM уже очень хороши.
Нет, дело только в том, что LLM многие задачи не решают или решают не настолько правильно как люди, а это по определению не AGI.
Таки какие именно задачи? И могут ли эти задачи решить средние люди? Или если взять тысячу случайных человек с улицы, уровень решения будет на уровне погрешности?
Например, устойчиво ходить на 2 ногах.
Давно решённая проблема, сейчас роботы уже на уровне спортсменов.
Нет. Они регулярно падают даже на презентациях.
Computex, Тайбэй (2026). Робот на платформе Qualcomm Dragonwing IQ10 упал на сцене во время keynote-демонстрации.
Шэньчжэнь (2026). Робот Iron компании XPeng на демонстрации в торговом центре прошёлся по мраморному полу перед публикой, затем завалился и упал.
Таки сейчас огромное количество новых компаний, которые делают своих роботов. Посмотрите на роботов уже опытных компаний. Они там и на публике сальтухи крутят
Иди туда не знаю куда, найди то не знаю что. Что за опытные компании, и почему Qualcomm не опытная?
Таки Бостон Динамикс например.
И сколько лет Qualcomm уже занимается шагающими роботами?
Да неважно сколько, вы же сказали, что LLM уже решают такие задачи, а оказывается нужны специальные компании, которые годами делают специализированные нейросети. То есть обычную LLM или даже нейросеть которая не-LLM просто так нельзя взять и научить ходить на 2 ногах. А люди учатся. И даже учатся использовать другие механизмы, например велосипед. Роботы от Boston Dynamics могут научиться ездить на велосипеде без изменения нейросети? Нет. Опять нужны годы исследований и корректировок с помощью естественного интеллекта.
Думаю, это не удивляет по той простой причине, что делать сальто — это один хорошо натренированный алгоритм, бежать — другой, и так далее. Это восхищает ровно в той же степени, в какой «Алиса» когда-то научилась играть в города.
Вот если бы робот действовал не по жёсткому сценарию, а условно «на своё усмотрение», и с лёгкостью преодолевал школьные эстафеты, адаптируясь к обстоятельствам в реальном времени — тогда да, было бы над чем задуматься.
Спасибо за статью!
Возможно не совсем по теме скажу. Мне кажется, в AGI человек хочет видеть идеальную копию себя (со всеми «сознаниями» и «болячками»), только в десять раз умнее. И здесь всплывает одна очень маленькая, но упрямая загвоздка: человек хочет сильный искусственный интеллект, превосходящий его по всем параметрам, в то время как сам грезит днями и ночами о полном контроле над таким разумом.
Получается, опять хотим то, сами не зная что, и плевать, что это опасно и немилосердно вообще-то. Хотя, сказать по правде, если в гипотетическом фантастическом будущем AGI всё же случится и бомбанёт по человечеству за «рабство», то будет за что. Ибо история ничему не учит человека… Кроме искусства ловко сочинять небылицы)
Или…
Нет и не будет никакого AGI, а все мечты о нём построены исключительно на человеческих иллюзиях, где желаемое готовы выдать за действительное. Подобных терминов уйма. Логика простая: «Не знаем, как это работает, но нам хочется, чтобы это работало? Что ж, дадим этому красивое имя уже сейчас. Как проверять и доказывать? Да чёрт его знает, решим по ходу. Но согласитесь — имя звучит мощно».
Главное, чтобы в конце нашего бессовестно длинного сериала под названием «Жизнь» AGI не оказался очередной кузькиной матерью. Это будет явно плохой финал)
Логично что модель узнает паттерны из игр. Весь интернет забит прохождениями, исходниками движков и подробными разборами механик для геймдизайнеров
Для текстовых llm текст - это и есть мир. Она предсказывает текст. Это ее реакция на входящую информацию из промпта. Если модель обучать на видео, она будет выдавать видео. Это и будет ее миром. Если ей дать сигналы датчиков и действия - это и будет уже ближе к реальности. Если ей скармливать действия тысяч роботов в реальной среде, она получит модель реального мира. Вы требуете слишком много от текстовых моделей.
Человек тоже обучается и по сути это также предсказательная модель. Органы чувств - входная информация, действия человека - выходная.
Если моделям добавят фишку с обучением налету - получите agi.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Бенчмарк на AGI. Если ARC‑AGI-3 решён, есть ли у нас AGI?