О модели мира и мультимодальности говорят и герои статьи, да.
Это большая абстракция. Либо алгоритм упирается во что-то и "ему все понятно, нет неопределённости" (значит нужно задавать новые неопределённости, по сути программировать на познание мира), либо алгоритм замкнётся в бесконечном цикле, т.к. некоторые вопросы могут быть по умолчанию не отвечаем (например, почему вообще хоть что-то существует)
Симуляция потребностей и мира есть и в играх, колонисты в Dwarf Fortress "живут сами по себе". Функция уменьшения страданий, behavior tree или машина состояний — всё это алгоритмы, которые будут зашиты нами. С другой стороны, эволюция тоже "зашила алгоритмы", а мы просто кичимся, будто это мы такие молодцы, а на деле просто биороботы.
В любом случае, я с интересом буду наблюдать за вашими результатами, т.к. не считаю, что простыми LLM можно обойтись уж точно.
И да, вас тоже с Наступающим! Пусть в Новом Году мы увидим прорыв от вашей команды!
Инструмент (палка, камень) появился до изобретения языка и, возможно, до появления символьного мышления.
Современные наработки идут с конца — пытаются натянуть символьный интеллект и заставить его сделать палку.
Проблема в том, что палку можно сделать и так, и городить целый ИИ для этого не нужно. А вот что действительно ценно — это если ИИ сам изобретёт палку, а потом символьное мышление и язык для обучения своих соплеменников перед страхом общей угрозы.
То, что КСС может доказать, что 2+3=5 не говорит о том, что он понимает, что такое 2, 3 и уж тем более, что такое "=" и в принципе формализацию понятий "равно", "является" и "это", т.к. "живёт" внутри одной модальности, не может сопоставлять и проводить аналогии и в целом не имеет такой потребности.
Агенты — это тоже обработчики запросов, просто более сложные.
Тут можно провести параллели и обнаружится, что и LLM уже как люди. Или наоборот, любой искусственной системе далеко до людей.
Например, вы не сможете мне доказать, что LLM не обладает сознанием уже сейчас, как и доказать обратное. Мало того, вы не сможете доказать мне, что и у вас есть сознание (и понимание).
Поэтому все эти слои абстракций и "мы запрограммировали цель и агент сам к ней пришёл" абсолютно такое же поле для полемики, как и 60 лет назад.
Не умаляю ваших трудов в области КСС, но просто концептуально не получится доказать что-либо, это невозможно на человеческом языке сделать и не подвластно нашему разуму, я думаю.
Дискуссии очень интересные в комментариях, невероятно захватывающе читать!
К сожалению, в отличие от дискуссии между героями статьи они отличаются кардинально — ЛеКун и Хассабис говорят не о "что лучше", а "как скорее приблизить", каждый напирает на свой research taste.
Символьный интеллект так же плох, как и LLM, в том смысле, что являются машинами "ответов на вопросы". И не умеют задавать вопросы сами — себе или другим.
Ключевое отличие человека от калькулятора в том, что человеку (и другому живому организму) приходится существовать в среде, которая по умолчанию опасна и невероятно разнообразна. Нет состояния для живого организма, при котором не было бы ни единого пассивного раздражителя, побуждающего человека (например) к тому, чтобы оптимизировать существование и уменьшать страдания. Для ИИ можно лишь симулировать ограничения — т.е. надо начинать с конца — сначала заставить ИИ "поверить" в ограничения и потом ожидать (обучать), чтобы ИИ эти ограничения "понял", т.е. выработал механизм понимания какой-то. У живых организмов всё проще — мы по умолчанию понимаем (через накопление опыта и формирование знаний), что огонь = горячо, и можем помыслить о том, что это является ограничением, представить (построить модель), что бы мы могли делать будь мы невосприимчивы к огню, какие это даст преимущества и зачем это нужно. Практически любое действие или мысли может обладать какой-то целью в конце. Научиться готовить борщ — это быть сытым, оптимизировать ресурсы, получить социальное одобрение или работу повара, разнообразить досуг и провести хорошо время, получив удовлетворение от совершенной работы.
Чтобы ИИ научился делать это всё сам, его нужно поместить в среду с опасностями и угрозами, чтобы эти опасности и угрозы были для него "очевидны", и только в таком случае можно будет говорить о "понимании".
При этом, обвесив ИИ (GPT-9, например) датчиками и засунув его в гиперреалистичного робота, живущего в нашем реальном мире, мы не докажем, что это НЕ философский зомби...
До этого времени можно сколько угодно кодировать новый язык, пробрасывать мета-якори для шифрования абстракций и называть это "логическими выводами" или просто сравнивать статистическую модель с нейронами мозга, но всё это будет приближением и имитацией человеческого интеллекта. Возможно, с пониманием, но каким-то своим — явно не тем "пониманием", которое подразумевают люди, когда говорят "я понимаю".
Извините за сумбур, но это моё любительское мнение.
Сам ни на чьей стороне не нахожусь, вижу логические противоречия за и против как КСИ, так и LLM.
Начал пользоваться Power BI. Не нашёл темы (оформление) такой, чтобы было приятно глазу. Загрузил рандомную тему, закинул в дипсик "вот тема для Power BI. Сделай её в стиле VSCode". Тема — это json просто. Сколько бы у меня ушло времени на ручную настройку, поиск hex'ов, проверку и так далее? А тут я за минуту получил "красивую тёмную тему" для программы, в которой мне нужно работать.
Так вот, про нейрошизу. Она действительно есть, но возникает из-за таких вот неочевидных плюсов. Всякая муть типа "промпты против выгорания", "преврати нейронку в личного психолога/фин. директора/коуча по любовным делам" и правда захламляет интернет в частности и инфополе в целом, но люди реально находят в этом что-то!
HR транскрибируют собесы с кандидатами и подводят итоги с помощью ИИ.
Геймдизайнеры прогоняют идею через нейронку, получают ТЗ, делают быстрые прототипы.
Разработчики могут проверять идею алгоритма, обнаруживать редкие сценарии, из-за которых может возникнуть дыра.
Я пользуюсь нейронками уже года 2-3. И если раньше меня вдохновляла возможность быстро распарсить .pdf по полям с помощью регулярок, то сейчас меня удивляет, что я могу подстроить рабочую среду под себя за один вечер — начиная с тёмной темы для Power BI, заканчивая подсказками по структуре проекта моего игрового прототипа.
Ничего сверхреального я не сделал, прототип не запустил и не навайбкодил пет-проект на 6к баксов в месяц. Но ускорение процесса почувствовал и реальную пользу тоже.
Коммент чисто ради "поделиться" 🙂
P.S. И да, т.к. нейротекстов вычитал очень много, то от статьи тоже веет обработкой нейронки. "Ты не... — ты уже..." — классическая конструкция вообще.
Ну вот видите, по итогу уже оказывается, что редактор механик не нужен, нужны правила для их связки между собой, а без разработчика игру сделать редактором механик не выйдет. И ещё проблема тут в том, что у вас пока в примерах простые механики. Как только механика станет чуть сложнее, сразу и скрипты внутри вашей админки станут сложнее. По итогу мне это видится как необходимость разрабатывать игру в двух местах.
Я понял принцип и цель, но для разработки игр это какая-то очень амбициозная машина, учитывая, как сложны бывают игры. А в особенности ММОРПГ.
Пример. Нужна механика уворота. Геймдизайнер её описал, разработчик написал скрипт. И вместо того, чтобы внутри своей привычной среды разработки он потом написал "если %уворот% == true, то income_dmg = 0", он это напишет внутри вашей админки.
Я правильно понимаю, что это плата за то, что серверное взаимодействие уже выстроено вами?
Ну и админку всё равно надо будет переписывать под каждую игру ведь.
Это я просто цепляюсь за:
быстро запускать и проверять игры MMO
Не получится это делать быстро, используя только ваш инструмент. К тому же, в каждой игре разные понятия, что должно обрабатываться на сервере, что - на клиенте. Т.е. это всё опять же к тому, что возможно вы сделали хороший модуль в помощь, но универсальным такому модулю стать — очень тяжело.
Редактор NPC и игроков (что бы не в эксель, а изменил - и сразу все в игре)
Для этого в играх делается импортер конфигов или админка. Это разрабатывается вместе с игрой.
Редактор игровых механик (что бы вообще не завесить от программиста клиента
Как это? Я ввожу механику погоды, которая влияет на скорость регенерации растений в мире, из-за чего необходимость в растениях у NPC-фермеров снижается и они реже выдают квест на поиск растений — и это будет из коробки? Звучит здорово!
Например скоро я реализую крафт, инвентарь - в клиенте один раз UI только сделать надо)
У этого маловато практической пользы. Как обучающая штука пойдет, но как движок для игры — это вообще не туда. Крафт — одна из самых сложных игровых систем. А уж в ММО сделать её интересной — это отдельный челлендж. Я не особо понимаю, как можно "реализовать крафт" универсально. Для этого сначала должен быть дизайн и механика крафта, а потом уже админка для настройки. Если вы реализуете универсальный крафт, то конечно моё почтение, но это где-то на стыке гениального и невозможного.
У геймдизайнеров нет потребности реализовывать однотипные игры по шаблонам. Такая потребность есть у инвесторов. Но даже при создании "клонов" мобильных игр появляется очень много нюансов и там дело совсем не в том, что разработчик не знает, как объявить класс "Предмет" с параметром "Создаваемый" и загрузить в него список требуемых предметов для крафта.
Я хочу сказать, что такую вещь как ММОРПГ очень сложно унифицировать, поэтому админка с сущностями чуть более сложными, чем "отредактировать параметр в строке" вряд ли будет пользоваться спросом.
А чтобы пользовалась — нужно писать движок для игры, а не серверный модуль.
Нужен ли Вам - разработчикам игр подобный сервис ?
Если вы обращаетесь к серверным программистам, то тут не подскажу. Но как геймдизайнер могу сказать, что
(гейм дизайнер не полезет учить PHP и JS - максимум цифры поправит)
Это не так как минимум.
Не буду касаться темы серверов и прочих пингов, буду только про "игру". Вы создаёте движок для разработки игры? Если да, то текущая реализация, судя по циклу статей, является только одним из модулей? Геймдизайнерам не нужны поля для настройки персонажей - выставить пауку урон 10 вместо 5 можно и в экселе. Блок с компонентами лепится программистом за несколько минут, код для компонента или параметра пишется одинаково долго и для юнити и для вашего движка. Я хочу сказать, что если вы сосредоточились на игровом движке для ММО, то нужно быть движком. Если же вы создаёте конструктор прототипов или простеньких игр для обучения, то нужно тогда быть больше конструктором или обучающим инструментом. Демонстрационную игру посмотрел - как геймдизайнер не понял демонстрацию. Может быть разработчик поймет.
О модели мира и мультимодальности говорят и герои статьи, да.
Это большая абстракция. Либо алгоритм упирается во что-то и "ему все понятно, нет неопределённости" (значит нужно задавать новые неопределённости, по сути программировать на познание мира), либо алгоритм замкнётся в бесконечном цикле, т.к. некоторые вопросы могут быть по умолчанию не отвечаем (например, почему вообще хоть что-то существует)
Симуляция потребностей и мира есть и в играх, колонисты в Dwarf Fortress "живут сами по себе". Функция уменьшения страданий, behavior tree или машина состояний — всё это алгоритмы, которые будут зашиты нами. С другой стороны, эволюция тоже "зашила алгоритмы", а мы просто кичимся, будто это мы такие молодцы, а на деле просто биороботы.
В любом случае, я с интересом буду наблюдать за вашими результатами, т.к. не считаю, что простыми LLM можно обойтись уж точно.
И да, вас тоже с Наступающим! Пусть в Новом Году мы увидим прорыв от вашей команды!
Я немного не про это.
Инструмент (палка, камень) появился до изобретения языка и, возможно, до появления символьного мышления.
Современные наработки идут с конца — пытаются натянуть символьный интеллект и заставить его сделать палку.
Проблема в том, что палку можно сделать и так, и городить целый ИИ для этого не нужно. А вот что действительно ценно — это если ИИ сам изобретёт палку, а потом символьное мышление и язык для обучения своих соплеменников перед страхом общей угрозы.
То, что КСС может доказать, что 2+3=5 не говорит о том, что он понимает, что такое 2, 3 и уж тем более, что такое "=" и в принципе формализацию понятий "равно", "является" и "это", т.к. "живёт" внутри одной модальности, не может сопоставлять и проводить аналогии и в целом не имеет такой потребности.
А запрограммировать можно, да.
Агенты — это тоже обработчики запросов, просто более сложные.
Тут можно провести параллели и обнаружится, что и LLM уже как люди. Или наоборот, любой искусственной системе далеко до людей.
Например, вы не сможете мне доказать, что LLM не обладает сознанием уже сейчас, как и доказать обратное. Мало того, вы не сможете доказать мне, что и у вас есть сознание (и понимание).
Поэтому все эти слои абстракций и "мы запрограммировали цель и агент сам к ней пришёл" абсолютно такое же поле для полемики, как и 60 лет назад.
Не умаляю ваших трудов в области КСС, но просто концептуально не получится доказать что-либо, это невозможно на человеческом языке сделать и не подвластно нашему разуму, я думаю.
Дискуссии очень интересные в комментариях, невероятно захватывающе читать!
К сожалению, в отличие от дискуссии между героями статьи они отличаются кардинально — ЛеКун и Хассабис говорят не о "что лучше", а "как скорее приблизить", каждый напирает на свой research taste.
Символьный интеллект так же плох, как и LLM, в том смысле, что являются машинами "ответов на вопросы". И не умеют задавать вопросы сами — себе или другим.
Ключевое отличие человека от калькулятора в том, что человеку (и другому живому организму) приходится существовать в среде, которая по умолчанию опасна и невероятно разнообразна. Нет состояния для живого организма, при котором не было бы ни единого пассивного раздражителя, побуждающего человека (например) к тому, чтобы оптимизировать существование и уменьшать страдания. Для ИИ можно лишь симулировать ограничения — т.е. надо начинать с конца — сначала заставить ИИ "поверить" в ограничения и потом ожидать (обучать), чтобы ИИ эти ограничения "понял", т.е. выработал механизм понимания какой-то. У живых организмов всё проще — мы по умолчанию понимаем (через накопление опыта и формирование знаний), что огонь = горячо, и можем помыслить о том, что это является ограничением, представить (построить модель), что бы мы могли делать будь мы невосприимчивы к огню, какие это даст преимущества и зачем это нужно. Практически любое действие или мысли может обладать какой-то целью в конце. Научиться готовить борщ — это быть сытым, оптимизировать ресурсы, получить социальное одобрение или работу повара, разнообразить досуг и провести хорошо время, получив удовлетворение от совершенной работы.
Чтобы ИИ научился делать это всё сам, его нужно поместить в среду с опасностями и угрозами, чтобы эти опасности и угрозы были для него "очевидны", и только в таком случае можно будет говорить о "понимании".
При этом, обвесив ИИ (GPT-9, например) датчиками и засунув его в гиперреалистичного робота, живущего в нашем реальном мире, мы не докажем, что это НЕ философский зомби...
До этого времени можно сколько угодно кодировать новый язык, пробрасывать мета-якори для шифрования абстракций и называть это "логическими выводами" или просто сравнивать статистическую модель с нейронами мозга, но всё это будет приближением и имитацией человеческого интеллекта. Возможно, с пониманием, но каким-то своим — явно не тем "пониманием", которое подразумевают люди, когда говорят "я понимаю".
Извините за сумбур, но это моё любительское мнение.
Сам ни на чьей стороне не нахожусь, вижу логические противоречия за и против как КСИ, так и LLM.
Если я правильно понял описание, то вы только что изобрели ноги...
А почему на techpowerup пишут 80? В отзывах на карту покупатели делают скрины и там так же 80. Где ошибка?
Касательно пользы: я до сих пор иногда в шоке.
Начал пользоваться Power BI. Не нашёл темы (оформление) такой, чтобы было приятно глазу. Загрузил рандомную тему, закинул в дипсик "вот тема для Power BI. Сделай её в стиле VSCode". Тема — это json просто. Сколько бы у меня ушло времени на ручную настройку, поиск hex'ов, проверку и так далее? А тут я за минуту получил "красивую тёмную тему" для программы, в которой мне нужно работать.
Так вот, про нейрошизу. Она действительно есть, но возникает из-за таких вот неочевидных плюсов. Всякая муть типа "промпты против выгорания", "преврати нейронку в личного психолога/фин. директора/коуча по любовным делам" и правда захламляет интернет в частности и инфополе в целом, но люди реально находят в этом что-то!
HR транскрибируют собесы с кандидатами и подводят итоги с помощью ИИ.
Геймдизайнеры прогоняют идею через нейронку, получают ТЗ, делают быстрые прототипы.
Разработчики могут проверять идею алгоритма, обнаруживать редкие сценарии, из-за которых может возникнуть дыра.
Я пользуюсь нейронками уже года 2-3. И если раньше меня вдохновляла возможность быстро распарсить .pdf по полям с помощью регулярок, то сейчас меня удивляет, что я могу подстроить рабочую среду под себя за один вечер — начиная с тёмной темы для Power BI, заканчивая подсказками по структуре проекта моего игрового прототипа.
Ничего сверхреального я не сделал, прототип не запустил и не навайбкодил пет-проект на 6к баксов в месяц. Но ускорение процесса почувствовал и реальную пользу тоже.
Коммент чисто ради "поделиться" 🙂
P.S. И да, т.к. нейротекстов вычитал очень много, то от статьи тоже веет обработкой нейронки. "Ты не... — ты уже..." — классическая конструкция вообще.
Ну вот видите, по итогу уже оказывается, что редактор механик не нужен, нужны правила для их связки между собой, а без разработчика игру сделать редактором механик не выйдет. И ещё проблема тут в том, что у вас пока в примерах простые механики. Как только механика станет чуть сложнее, сразу и скрипты внутри вашей админки станут сложнее. По итогу мне это видится как необходимость разрабатывать игру в двух местах.
Я понял принцип и цель, но для разработки игр это какая-то очень амбициозная машина, учитывая, как сложны бывают игры. А в особенности ММОРПГ.
Пример. Нужна механика уворота. Геймдизайнер её описал, разработчик написал скрипт. И вместо того, чтобы внутри своей привычной среды разработки он потом написал "если %уворот% == true, то income_dmg = 0", он это напишет внутри вашей админки.
Я правильно понимаю, что это плата за то, что серверное взаимодействие уже выстроено вами?
Ну и админку всё равно надо будет переписывать под каждую игру ведь.
Это я просто цепляюсь за:
Не получится это делать быстро, используя только ваш инструмент. К тому же, в каждой игре разные понятия, что должно обрабатываться на сервере, что - на клиенте. Т.е. это всё опять же к тому, что возможно вы сделали хороший модуль в помощь, но универсальным такому модулю стать — очень тяжело.
Ну вот я про это и говорю.
Для этого в играх делается импортер конфигов или админка. Это разрабатывается вместе с игрой.
Как это? Я ввожу механику погоды, которая влияет на скорость регенерации растений в мире, из-за чего необходимость в растениях у NPC-фермеров снижается и они реже выдают квест на поиск растений — и это будет из коробки? Звучит здорово!
У этого маловато практической пользы. Как обучающая штука пойдет, но как движок для игры — это вообще не туда. Крафт — одна из самых сложных игровых систем. А уж в ММО сделать её интересной — это отдельный челлендж. Я не особо понимаю, как можно "реализовать крафт" универсально. Для этого сначала должен быть дизайн и механика крафта, а потом уже админка для настройки. Если вы реализуете универсальный крафт, то конечно моё почтение, но это где-то на стыке гениального и невозможного.
У геймдизайнеров нет потребности реализовывать однотипные игры по шаблонам. Такая потребность есть у инвесторов. Но даже при создании "клонов" мобильных игр появляется очень много нюансов и там дело совсем не в том, что разработчик не знает, как объявить класс "Предмет" с параметром "Создаваемый" и загрузить в него список требуемых предметов для крафта.
Я хочу сказать, что такую вещь как ММОРПГ очень сложно унифицировать, поэтому админка с сущностями чуть более сложными, чем "отредактировать параметр в строке" вряд ли будет пользоваться спросом.
А чтобы пользовалась — нужно писать движок для игры, а не серверный модуль.
Если вы обращаетесь к серверным программистам, то тут не подскажу. Но как геймдизайнер могу сказать, что
Это не так как минимум.
Не буду касаться темы серверов и прочих пингов, буду только про "игру". Вы создаёте движок для разработки игры? Если да, то текущая реализация, судя по циклу статей, является только одним из модулей? Геймдизайнерам не нужны поля для настройки персонажей - выставить пауку урон 10 вместо 5 можно и в экселе. Блок с компонентами лепится программистом за несколько минут, код для компонента или параметра пишется одинаково долго и для юнити и для вашего движка.
Я хочу сказать, что если вы сосредоточились на игровом движке для ММО, то нужно быть движком. Если же вы создаёте конструктор прототипов или простеньких игр для обучения, то нужно тогда быть больше конструктором или обучающим инструментом.
Демонстрационную игру посмотрел - как геймдизайнер не понял демонстрацию. Может быть разработчик поймет.