Для данной задачи в том виде как вы ее описали существует алгоритм решения, который вы описали. Работа по этому алгоритму тривиальна для любой Тьюринг-полной системы и не является предметом обсуждения.
Я не достаточно в теме вашей работы/задачи, но возможно в теории может существовать алгоритм поиска решения не перебором всех возможных комбинаций, а…
Я понял, да. ;)
Я в своих рассуждениях упускаю этот момент. С одной стороны человек далеко не всегда находит лучший из всех возможных алгоритм решения. Но он находит ПРИЕМЛЕМЫЙ. Но при этом границы приемлемости откровенно неясны без понятий вычислимости/разрешимости и действительно могут сводится к эвристикам. НО! Если эти эвристики найдены в процессе а не заданы изначально — это уже вполне интеллектуальная деятельность!
Мне кажется, что прежде чем создавать интеллект сильнее человеческого, было бы неплохо создать интеллект сопоставимый человеческому (я даже готов пойти на компромисс: пусть он будет тупее, но не менее универсален!).
Т.е., если столь уважаемые люди не могут найти решение, то и AGI вовсе не обязан в первом приближении их в этом превосходить (по крайней мере до момента достижения технической сингулярности). Цимес в том, что вы сможете его этой проблемой озадачить, без необходимости строго под нее разрабатывать отдельный математический аппарат. При этом: а) его N% времени на решение проблемы будет равно 100; б) его ресурс на развитие, получение дополнительных знаний, самосовершенствование да и просто время жизни потенциально стремиться к бесконечности, в) в принципе число таких «решателей»вашей проблемы ограниченно лишь их стоимостью оных и вашими возможностями их оплатить (не знаю, как еще это сформулировать, но думаю вы понимаете, что речь не вполне о деньгах). Согласитесь, вам бы не помешали 5(7, 10, …) «аспирантов», пусть и не хватающих звезд с небес, но способных заниматься вашей проблемой 24/7?
все это отнюдь не гарантирует вам решение. Мало того, допускаю, что конкретно ваша проблема не получит значительного выигрыша от новых «аспирантов», ниже определенного уровня… не знаю чего… ну не IQ же. Некоего эквивалента мощности разума (не то же самое, что вычислительная мощность).
Своим собственным продуктом надо называть собственный продукт. Форки бывают разные. Бывают форки со своей функциональностью, сообществом, и фактически представляющие собой НОВЫЙ продукт, хотя и основанный на исходном. А бывают такие, где меняют название, иконки и выдают за отечественное по.
Можно в принципе и так и так — зависит от того, чего мы хотим добиться в итоге. В некоторых случаях лучше использовать оригинальный продукт, а не форкнутый: просто на просто нет никаких причин/выгод, а издержки приличные (меньшее комьюнити, плохая поддерка либо отсутствие оной, отсутствие актуальных репозиториев/обновлений безопасности и тп.). В таком случае форк — зло однозначно. В случае с postgress — Они существовали как отдельное решение довольно задолго до того, как попали в реестр и этой сборкой пользовались, причем никто никого не заставлял. В этом смысле им просто не нужен был реестр — у них и так все было неплохо. Стало ли им лучше чем раньше? Не уверен. Нужно у них спросить.
Исходно я просто написал, что искомые «неолуддиты» скорее руководствуются не страхом перед развитием сетей, потому что как это не парадоксально их развитие совсем не очевидно, если ты не вне системы, а просто устали от хайпа. Кто, зачем и почему хайпует на теме — вопрос не имеющий глубокого значения для меня. )
Кто зачем и почему финансирует — вопрос более интересный, но так же для меня несколько в стороне: финансирует и слава богу! Глядишь быстрее прогресс будет. Перестанут финансировать — тоже не беда: на мой взгляд излишняя перегретость темы не всегда способствует развитию — может стоит чутка притормозить, осознать достигнутые результаты и сверится с дорожной картой… ) У меня материала для исследований столько, что я все равно за всеми новыми веяниями не успеваю.
>>> А ощущение единственной правильной найденной дороги создаётся из-за наших когнитивных ограничений
Да в общем… Нет. ;) В том смысле, что человек, как правило, в общем случае тоже вроде бы не страдает заблуждением, что его решение — единственно верное. И на самом деле он часто, мягко говоря, не самое эффективное. И перебор и просчет некоторых в конечном счете тупиковых стратегий — довольно частое явление.
Дело в том, что человек легко переключает контексты, способен использовать универсальный опыт для решения новых задач, способен легко переключать цели (в отличие от RL Агентов у которых каждое действие всегда взвешено в контексте заданного goal, т.е. не просто инвертировать цель, типа игра «в поддавки», когда "+" превращается в "-" и наоборот, а скажем пройти игру не используя оружия или еще что-нибудь экзотическое). Универсальность — ключевое качество. Возможность решать произвольную задачу без перенастройки архитектуры. В последние годы есть несколько заметных прорывов в этом направлении (вплоть до того, что сети обученные на тексте, способны решать задачу классификации картинок — не самое знаковое, но однозначно впечатляющее достижение!).
Вы не видите достаточно конкретики у меня, потому, что у меня ее и нет! ))
Основной мой посыл был не в том, финансирование вот-вот прекратится, поэтому нужно больше хайпа, а в другую сторону: хайпа слишком много, обычные люди вероятно от него уже устали и я делаю некое ДОПУЩЕНИЕ (соглашусь — вполне возможно ошибочное), что он нужен для того, что бы подогревать тему и инвесторы не теряли интерес. Вполне возможно, что все иначе и инвесторы преследуют какие-то свои неведомые цели, а хайп создается, например, потому, что эти цели общество не одобрит. )) Т.е. вся шмиха нужна для того, что бы пояснить простым смертным какого черта столько денег вбухивается в технологию, в общем не несущую прямой экономической выгоды… Ведь вы же, кажется, тоже согласны, что «выхлоп» не эквивалентен затратам? GPT3 интересен, но по-прежнему с практической точки зрения не способен окупить вложенные в него усилия и средства…
>>> Я правильно полагаю, что основание для такого взгляда — это запрещающие теоремы (проблема остановки, теорема Райса)?
Ну, я очень много сталкивался именно с таким подходом к вопросу, но мне он не близок. Я согласен, что человек в этом плане ничем особенным не отличается. ;)
Тут другое… Человек каким-то образом нащупывает решение проблемы без полного перебора, и одними эвристиками (то бишь чисто эмпирическими правилами, отбрасывающими «тупиковые» ветки) это не объяснить… Однако мне кажется, что решение лежит где-то в области латентных пространств глубоких нейронных сетей. Вопрос: как правильно сформировать такое пространство? Мне почему-то кажется, что половина существующих топовых архитектур являются этапами в решении этой задачи.
Проблема не в том, что бы всегда быстро и безошибочно генерировать решение произвольной задачи… И даже не в том, что бы находить хоть какое-то решение. А в том, что бы находить НАПРАВЛЕНИЕ, в которым нужно двигаться, что бы решение найти. ;)
Тогда было другое отношение к жизни и смерти. Ну подумаешь больше половины детей не доживали до взрослого возраста — такова жизнь. Поэтому и детей было много…
Сейчас такое представить страшно. ( Поэтому хотя цифрам ковид-эпидемии очень далеко до испанки — все равно кажется страшно.
Опять же другая скученность населения, другая мобильность…
Инвестировать-то они инвестируют, но и хайп вокруг технологий стоит на мой взгляд избыточный. Ну правы же те, кто пишут — куда не плюнь, везде нейросети. ( Зачем еще это нужно, кроме подогревания интереса инвесторов?
Если бы инвесторы были такие прошаренные и сплошь понимали, что GPT3 — не инструмент для написания текстов, а промежуточный этап — модель для неограниченного прогноза последовательности (это может быть не последовательность слов, а какая угодно последовательность! просто со словами проще в плане датасета — их есть у нас и в огромном количестве), то не было бы вот этого холливара — может она писать осмысленный текст или не может! Она как бы не совсем для этого на самом деле. Но если сейчас разработчики скажут, что коммерческого смысла в ней не много, а они просто обкатывали некие академические идеи, боюсь таки «кранчик» могут и подпрекрыть! )
Хотя в этой полемике я скорее, на вашей стороне, но в вопросах алгоритма вынужден согласится с автором статьи: мы НЕ Алгоритмы. Мы системы для поиска/создания алгоритмов. Возможно некая полная по Тьюрингу подсистема является частью нашего разума — даже почти наверняка, но… Именно способность СОЗДАВАТЬ алгоритмы — необходимая черта разума…
В принципе любая система, способная создавать алгоритмы для решения поставленных задач имеет очень хорошие шансы в конкурсе на звание «Сильного ИИ». Но! Важно, что бы это не был просто «алгоритм второго порядка», т.е. строгое правило по перестановке имеющихся «библиотечных» функций для достижения нужного результата… Хотя… Если будет найден такой «алгоритм», и не для некоего класса задач, а для любой Произвольной задачи — технически даже он вполне неплохой кандидат в AGI… ;) И вопросы вычислимости, полноты, перебора, сложности — и тп тут не принципиальны: человек в целом так себе вычислитель! Просто он действительно универсален. Он способен искать решение чего угодно, при этом от простого перебора/брутфорса его методы отличаются настолько, что никакие эвристики не помогут — иногда иначе чем инсайтом/откровением свыше не объяснишь… Но! Как я уже писал ранее — на м не обязательно повторять человека. Нам нужно любое решение, которое не столкнется с комбинаторным взрывом в процессе… И некоторые туманные перспективы в этом направлении, как мне кажется начинают вырисовываться… ;)
Я не думаю, что это буквально страх. Скорее некоторая усталость от хайпа, зачастую не очень оправданного. Многие из разработанных в последнее время архитектур, не оправдывают затраченных на них средств в глазах инвесторов, не демонстрируют такого уж ВАУ-эффекта, как хотелось бы. И их создатели вынуждены пиарится как могут для сохранения финансирования…
При этом это очень важные и нужные этапы, которые дадут свои плоды, но позже — в составе более сложных комплексных систем… Проблема в том, что бизнесу «потом» не очень надо, им надо здесь и сейчас. И это в общем логично. Поэтому имеем то, что имеем.
Возможно даже перед непосредственно эрой AGI, нас ждет еще одна «зима» ИИ, которая даже пойдет на пользу — будет меньше хайпа, меньше пустышек, наработанные технологии улягутся и будут правильно переосмыслены…
Но мое стойкое убеждение — сейчас есть уже все или практически все для реализации сильного ИИ — все компоненты. Нужно просто правильно их собрать… Или НЕ нужно. ;) Но это другой вопрос, не относящийся к области технической возможности.
С учетом того, что вероятнее всего это будет точка невозврата я бы сказал, что неолудиты просто не в курсе насколько все близко и мало боятся! ;)
Все это проблемы людей, а не проблемы AI… И проблемы понятные — огромное количество ресурсов уходит на решение задач, которые пока всего-лишь кирпичики в здании AGI. Но деньги то бизнес вкладывает сейчас! И результата он хочет сейчас, а не в конце…
Представьте, что вы собираете искусственного человека. Вам нужны сердце, легкие, печень… И на каждом этапе разработки все эти вещи вас заставляют как-то использовать коммерчески, а не потом — в составе конечного «продукта»… В результате у вас сердце качает воду для полива растений, печень работает фильтром питьевой воды, а легкие — в качестве системы вентиляции. Это не те функции, для которых вы из создавали, но они как-то криво-косо выполняются и вроде как несколько отбивают затраты на их разработку…
GPT3 — не AGI и никогда AGI не будет. Но вполне возможно, что какая-то GPT (10, 100, 2000) будет ЧАСТЬЮ AGI. Составным элементом… Как и некоторые другие архитектуры…
>>> то как раз переводится на профессиональный язык как
Кем переводится? ;) Вами? Автором? Мной вот не переводится. Если есть хотя бы один человек, располагающий рабочей теорией о том, как бы оно могло бы работать, а так же у него есть ресурс для того, что бы на практике эту теорию реализовать, то вне зависимости от того, что думают об этой теории я, вы, автор и все прочие — данный человек вполне может достичь успеха в своих изысканиях, не так ли? И тот факт, что он не добился признания своей теории в «академических кругах» ровным счетом ни о чем не говорит — скорее наоборот: академическое сообщество ДОЛЖНО демонстрировать некую инертность, что бы не принимать всерьез всевозможные гипотезы без их практического подтверждения…
Хорошо это или плохо, но боюсь единственным практическим подтверждением сильного ИИ (AGI) будет его реализация на практике… Я не вполне уверен, что мы все этому обрадуемся, но… Судя по тому, что я наблюдаю сейчас — примерно так оно и будет.
т.е. вы не знаете, и склонны экстраполировать это незнание на все человечество? ;)
Правильно говорить «нет единого мнения», или «не пришли к соглашению». У каждого первого исследователя в области ИИ есть свои соображения на этот счет (иначе в общем довольно сложно работать — не имея никакой рабочей теории).
Судя по тому вектору развития, который я сейчас наблюдаю, довольно много команд имеют эти самые «рабочие теории» и последовательно решают самые разные задачи, на пути к окончательному решению. Со стороны это может показаться хайпом и теми же «граблями», что и раньше, но мне вот к примеру так не кажется. Прикол в том, что ряд проблем, к которым я не знал, как подступиться буквально 5 лет назад сейчас внезапно оказались решенными. Именно те проблемы, которые надо!
Так что я думаю все будет и будет довольно скоро. Хорошо это или плохо — отдельный вопрос…
С точки зрения RL (reinforcement learning), агент старается максимизировать награду/минимизировать штраф. Можно сказать, что он всячески стремится к победе и избегает поражения. Вопрос чем это отличается от нашего стремления к удовольствиям и избегании боли во многом является метафизическим! )
Искусственная сеть «помнит» чему ее учили и ее «память» имплементирована в вид весов нейронов этой сети. Там выше люди писали про избыточность — таки да, при тренировке, например, часто добавляют параметр dropaut, который «выключает» от 10 до 30 процентов случайных нейронов на слое, заставляя таким образом многократно дублировать веса, а так же не просто тупо запоминать буквально, а обобщать информацию — это буквально одно из важнейших свойств нейронки…
Биологический мозг в этом отношении по многим параметрам близок к искусственным сетям. Там это самое дублирование+обобщение работает совершенно иначе, но работает тоже. Поэтому, во-первых да: нейроны обновляются постепенно, а не вымирают кластерами, а во-вторых…
Вы не задавались другим вопросом: не что вы помните из своих 5 лет, а что забыли? А забыли вы гораздо больше, чем помните, на самом деле. Мало того — вы забываете большую часть того, что с вами происходит. По сути вы забываете всю информацию, которая не была востребована в течении какого-то периода времени (возможно как раз связанного со сроком жизни конкретных нейронов). Сохраняется только то, что вы постоянно обновляете — если это воспоминание из детства, то либо вы к нему возвращаетесь снова и снова, переодически вспоминая по какому-то тригеру, или… Это воспоминание является частью более широкого ОБОБЩЕНИЯ, которым вы так или иначе пользуетесь постоянно.
В общем концепция памяти, ее биологическая и… Ну если так можно сказать — математическая модель вполне существует. Есть реализации в железе (не буквально, и не «имитирующие реальную», но вполне работающие на практике!), только не путайте — это не какой-нибудь там DDR6 на 32Гб. Это так называемая память с адресацией по содержимому — штука очень не практичная в обычном понимании, но в силу дифференцируемости доступа — единственное возможное решение в построение современных ИНС.
>>> Вот с абстракцией есть определенные проблемы. Задачи вида «пойди туда, не знаю куда, и найди мне то, не знаю что» пока доступны только человеку.
Почему вы думаете, что это «доступно только человеку» и как это связано с «абстракцией»?
При тренировке RL-Агентов крайне важным параметром является так называемое «любопытство» — некое случайное действие не приносящая непосредственной выгоды, но позволяющее находить стратегии потенциально лучше уже существующих (если бы не было этого параметра, агент всегда действовал бы по одному единожды найденному сценарию). Чем вам не «пойду туда, не знаю куда»? ;) Или вы что-то иное имели ввиду?
А абстракция… Ну как правило в глубоких нейронных сетях каждый следующий слой нейронной сети работает с абстракциями более высокого уровня… Т.е. абстракция там как бы одно из краеугольных понятий архитектуры…
>>> Для начала, опустим то, что написано в Википедии. Это больше напоминает ужас, летящий на крыльях ночи.
Это вы очень зря. AI дословно с с английского artificial intelligence, или «интеллектуальная деятельность». На заре появления термина туда входили задачи распознавания символов, компьютерное зрение и да, от части имитация человека (хотя последнее — это скорее ложное направление заданное тестом Тьюринга, который в свою очередь был порожден отсутствием критерия разумности). Но! AI — определение не точное строгое. Это область CS на острие, которое решает, главным образом НЕРЕШЕННЫЕ задачи. Сейчас CV, детекцию/сегментацию объектов и экспертные системы какие-нибудь уже не принято относить к задачам AI. Как правильно написано в вики: «AI — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Другими словами — то, что легко и непринужденно может машина, обычно уже не считается AI. Т.е. на текущий момент это уже вполне творческие задачи, такие как генерация текста, музыки, графики и тп.
>>> AI — это просто аглоритм.
Как правило — с точностью до наоборот! ;) AI решает задачи для которых алгоритма не существует. Как только таковой найден — данная задача перестает быть AI, и становится одной из многих технических задач, как то распознавание текста, лиц, вероятно в ближайшем будущем будет автономное вождение и тп.
>>> Несмотря на все усилия определённых людей он всегда будет имитацией человека.
Этого я не понимаю, правда. ( Вы знаете кого-то лично, кого интересовало бы ИМИТАЦИЯ человека? Я понимаю, откуда эту тему вытаскивают журналисты и обыватели — с легкой руки Тьюринга определением Искусственного Интеллекта стала его неотличимость от человека и это, наверное, самая большая беда всего направления! Но уж вы то должны понимать, что индустрия AI решает задачи совсем иного плана. AI работает над тем, что бы НА ПРАКТИКЕ решить те задачи, которые обычно может решить только человек. При этом имитировать человека абсолютно не обязательно! Важно решить. Искусственные нейроны, как и методы их обучения далеки от их биологических прототипов, но это не мешает строить на них что-то, что вполне годно работает на практике. Чат-боты имитирующие людей это в основном пет/фан-проекты в отличает от вполне практичных экспертных систем, которые нередко используют подходы, чуждые людям, но приводящие к решению задачи.
>>> Этот текст, в 22000 символов я написал за 2.5 часа. У меня просто появилась идея, написать текст об AI, и я его написал.
Ну и кто сейчас имитирует? )) Вы написали текст для того, что бы написать текст. И лично мне кажется, что это заметно. НЕ в том плане, что текст не связан или похож на авто сгенерированный — ни в коем случае. Просто… Ну неискренний он что ли какой-то… ;) Не от души.
>>> Я не верю в системы AI генерации текста. И если Вы хотите писать статьи, то я рекомендую Вам тоже в них не верить.
Системы автогенерации текста пока имеют некоторые проблемы (хотя вопрос — какой моделью вы пользовались? Количество параметров решает, а в свободном доступе не по подписке существуют лишь относительно небольшие сетки), согласен. Это похоже не на внятное мышление, а скорее на подсознание… Сырой материал, если хотите, которому еще следует придать некую форму путем критического осмысления. Однако самые продвинутые из GPT3, весьма годно улавливают контекст и способны внятно отвечать на поставленные вопросы, что уже очень впечатляет. Так же рекомендую осмотреть в сторону мультимодальных сетей, тех, что генерят визуальные образы по тексту, особенно.
>>> Для вакцины это проблема – ей нужно проскочить мимо нашей иммунной системы. За много лет экспериментов было обнаружено, что если в РНК U заменить на немного изменённую молекулу, наша иммунная система теряет к ней интерес. Вообще.
Правильно ли я понимаю что следующая «уханьская лаборатория» будет проводить эксперименты с вирусом, где U будет заменен на Ψ и когда он вырвется на свободу — нам уже наверняка хана?
Я не достаточно в теме вашей работы/задачи, но возможно в теории может существовать алгоритм поиска решения не перебором всех возможных комбинаций, а…
Я понял, да. ;)
Я в своих рассуждениях упускаю этот момент. С одной стороны человек далеко не всегда находит лучший из всех возможных алгоритм решения. Но он находит ПРИЕМЛЕМЫЙ. Но при этом границы приемлемости откровенно неясны без понятий вычислимости/разрешимости и действительно могут сводится к эвристикам. НО! Если эти эвристики найдены в процессе а не заданы изначально — это уже вполне интеллектуальная деятельность!
Мне кажется, что прежде чем создавать интеллект сильнее человеческого, было бы неплохо создать интеллект сопоставимый человеческому (я даже готов пойти на компромисс: пусть он будет тупее, но не менее универсален!).
Т.е., если столь уважаемые люди не могут найти решение, то и AGI вовсе не обязан в первом приближении их в этом превосходить (по крайней мере до момента достижения технической сингулярности). Цимес в том, что вы сможете его этой проблемой озадачить, без необходимости строго под нее разрабатывать отдельный математический аппарат. При этом: а) его N% времени на решение проблемы будет равно 100; б) его ресурс на развитие, получение дополнительных знаний, самосовершенствование да и просто время жизни потенциально стремиться к бесконечности, в) в принципе число таких «решателей»вашей проблемы ограниченно лишь их стоимостью оных и вашими возможностями их оплатить (не знаю, как еще это сформулировать, но думаю вы понимаете, что речь не вполне о деньгах). Согласитесь, вам бы не помешали 5(7, 10, …) «аспирантов», пусть и не хватающих звезд с небес, но способных заниматься вашей проблемой 24/7?
все это отнюдь не гарантирует вам решение. Мало того, допускаю, что конкретно ваша проблема не получит значительного выигрыша от новых «аспирантов», ниже определенного уровня… не знаю чего… ну не IQ же. Некоего эквивалента мощности разума (не то же самое, что вычислительная мощность).
и тем не менее это то, с чего следует начать.
Решить — может и не сможет (в конце концов не у всех задач есть решение), но решать будет! )
Можно в принципе и так и так — зависит от того, чего мы хотим добиться в итоге. В некоторых случаях лучше использовать оригинальный продукт, а не форкнутый: просто на просто нет никаких причин/выгод, а издержки приличные (меньшее комьюнити, плохая поддерка либо отсутствие оной, отсутствие актуальных репозиториев/обновлений безопасности и тп.). В таком случае форк — зло однозначно. В случае с postgress — Они существовали как отдельное решение довольно задолго до того, как попали в реестр и этой сборкой пользовались, причем никто никого не заставлял. В этом смысле им просто не нужен был реестр — у них и так все было неплохо. Стало ли им лучше чем раньше? Не уверен. Нужно у них спросить.
Исходно я просто написал, что искомые «неолуддиты» скорее руководствуются не страхом перед развитием сетей, потому что как это не парадоксально их развитие совсем не очевидно, если ты не вне системы, а просто устали от хайпа. Кто, зачем и почему хайпует на теме — вопрос не имеющий глубокого значения для меня. )
Кто зачем и почему финансирует — вопрос более интересный, но так же для меня несколько в стороне: финансирует и слава богу! Глядишь быстрее прогресс будет. Перестанут финансировать — тоже не беда: на мой взгляд излишняя перегретость темы не всегда способствует развитию — может стоит чутка притормозить, осознать достигнутые результаты и сверится с дорожной картой… ) У меня материала для исследований столько, что я все равно за всеми новыми веяниями не успеваю.
Да в общем… Нет. ;) В том смысле, что человек, как правило, в общем случае тоже вроде бы не страдает заблуждением, что его решение — единственно верное. И на самом деле он часто, мягко говоря, не самое эффективное. И перебор и просчет некоторых в конечном счете тупиковых стратегий — довольно частое явление.
Дело в том, что человек легко переключает контексты, способен использовать универсальный опыт для решения новых задач, способен легко переключать цели (в отличие от RL Агентов у которых каждое действие всегда взвешено в контексте заданного goal, т.е. не просто инвертировать цель, типа игра «в поддавки», когда "+" превращается в "-" и наоборот, а скажем пройти игру не используя оружия или еще что-нибудь экзотическое). Универсальность — ключевое качество. Возможность решать произвольную задачу без перенастройки архитектуры. В последние годы есть несколько заметных прорывов в этом направлении (вплоть до того, что сети обученные на тексте, способны решать задачу классификации картинок — не самое знаковое, но однозначно впечатляющее достижение!).
Основной мой посыл был не в том, финансирование вот-вот прекратится, поэтому нужно больше хайпа, а в другую сторону: хайпа слишком много, обычные люди вероятно от него уже устали и я делаю некое ДОПУЩЕНИЕ (соглашусь — вполне возможно ошибочное), что он нужен для того, что бы подогревать тему и инвесторы не теряли интерес. Вполне возможно, что все иначе и инвесторы преследуют какие-то свои неведомые цели, а хайп создается, например, потому, что эти цели общество не одобрит. )) Т.е. вся шмиха нужна для того, что бы пояснить простым смертным какого черта столько денег вбухивается в технологию, в общем не несущую прямой экономической выгоды… Ведь вы же, кажется, тоже согласны, что «выхлоп» не эквивалентен затратам? GPT3 интересен, но по-прежнему с практической точки зрения не способен окупить вложенные в него усилия и средства…
Ну, я очень много сталкивался именно с таким подходом к вопросу, но мне он не близок. Я согласен, что человек в этом плане ничем особенным не отличается. ;)
Тут другое… Человек каким-то образом нащупывает решение проблемы без полного перебора, и одними эвристиками (то бишь чисто эмпирическими правилами, отбрасывающими «тупиковые» ветки) это не объяснить… Однако мне кажется, что решение лежит где-то в области латентных пространств глубоких нейронных сетей. Вопрос: как правильно сформировать такое пространство? Мне почему-то кажется, что половина существующих топовых архитектур являются этапами в решении этой задачи.
Проблема не в том, что бы всегда быстро и безошибочно генерировать решение произвольной задачи… И даже не в том, что бы находить хоть какое-то решение. А в том, что бы находить НАПРАВЛЕНИЕ, в которым нужно двигаться, что бы решение найти. ;)
Сейчас такое представить страшно. ( Поэтому хотя цифрам ковид-эпидемии очень далеко до испанки — все равно кажется страшно.
Опять же другая скученность населения, другая мобильность…
В общем сравнивать тяжело.
Если бы инвесторы были такие прошаренные и сплошь понимали, что GPT3 — не инструмент для написания текстов, а промежуточный этап — модель для неограниченного прогноза последовательности (это может быть не последовательность слов, а какая угодно последовательность! просто со словами проще в плане датасета — их есть у нас и в огромном количестве), то не было бы вот этого холливара — может она писать осмысленный текст или не может! Она как бы не совсем для этого на самом деле. Но если сейчас разработчики скажут, что коммерческого смысла в ней не много, а они просто обкатывали некие академические идеи, боюсь таки «кранчик» могут и подпрекрыть! )
В принципе любая система, способная создавать алгоритмы для решения поставленных задач имеет очень хорошие шансы в конкурсе на звание «Сильного ИИ». Но! Важно, что бы это не был просто «алгоритм второго порядка», т.е. строгое правило по перестановке имеющихся «библиотечных» функций для достижения нужного результата… Хотя… Если будет найден такой «алгоритм», и не для некоего класса задач, а для любой Произвольной задачи — технически даже он вполне неплохой кандидат в AGI… ;) И вопросы вычислимости, полноты, перебора, сложности — и тп тут не принципиальны: человек в целом так себе вычислитель! Просто он действительно универсален. Он способен искать решение чего угодно, при этом от простого перебора/брутфорса его методы отличаются настолько, что никакие эвристики не помогут — иногда иначе чем инсайтом/откровением свыше не объяснишь… Но! Как я уже писал ранее — на м не обязательно повторять человека. Нам нужно любое решение, которое не столкнется с комбинаторным взрывом в процессе… И некоторые туманные перспективы в этом направлении, как мне кажется начинают вырисовываться… ;)
При этом это очень важные и нужные этапы, которые дадут свои плоды, но позже — в составе более сложных комплексных систем… Проблема в том, что бизнесу «потом» не очень надо, им надо здесь и сейчас. И это в общем логично. Поэтому имеем то, что имеем.
Возможно даже перед непосредственно эрой AGI, нас ждет еще одна «зима» ИИ, которая даже пойдет на пользу — будет меньше хайпа, меньше пустышек, наработанные технологии улягутся и будут правильно переосмыслены…
Но мое стойкое убеждение — сейчас есть уже все или практически все для реализации сильного ИИ — все компоненты. Нужно просто правильно их собрать… Или НЕ нужно. ;) Но это другой вопрос, не относящийся к области технической возможности.
С учетом того, что вероятнее всего это будет точка невозврата я бы сказал, что неолудиты просто не в курсе насколько все близко и мало боятся! ;)
Представьте, что вы собираете искусственного человека. Вам нужны сердце, легкие, печень… И на каждом этапе разработки все эти вещи вас заставляют как-то использовать коммерчески, а не потом — в составе конечного «продукта»… В результате у вас сердце качает воду для полива растений, печень работает фильтром питьевой воды, а легкие — в качестве системы вентиляции. Это не те функции, для которых вы из создавали, но они как-то криво-косо выполняются и вроде как несколько отбивают затраты на их разработку…
GPT3 — не AGI и никогда AGI не будет. Но вполне возможно, что какая-то GPT (10, 100, 2000) будет ЧАСТЬЮ AGI. Составным элементом… Как и некоторые другие архитектуры…
Кем переводится? ;) Вами? Автором? Мной вот не переводится. Если есть хотя бы один человек, располагающий рабочей теорией о том, как бы оно могло бы работать, а так же у него есть ресурс для того, что бы на практике эту теорию реализовать, то вне зависимости от того, что думают об этой теории я, вы, автор и все прочие — данный человек вполне может достичь успеха в своих изысканиях, не так ли? И тот факт, что он не добился признания своей теории в «академических кругах» ровным счетом ни о чем не говорит — скорее наоборот: академическое сообщество ДОЛЖНО демонстрировать некую инертность, что бы не принимать всерьез всевозможные гипотезы без их практического подтверждения…
Хорошо это или плохо, но боюсь единственным практическим подтверждением сильного ИИ (AGI) будет его реализация на практике… Я не вполне уверен, что мы все этому обрадуемся, но… Судя по тому, что я наблюдаю сейчас — примерно так оно и будет.
т.е. вы не знаете, и склонны экстраполировать это незнание на все человечество? ;)
Правильно говорить «нет единого мнения», или «не пришли к соглашению». У каждого первого исследователя в области ИИ есть свои соображения на этот счет (иначе в общем довольно сложно работать — не имея никакой рабочей теории).
Судя по тому вектору развития, который я сейчас наблюдаю, довольно много команд имеют эти самые «рабочие теории» и последовательно решают самые разные задачи, на пути к окончательному решению. Со стороны это может показаться хайпом и теми же «граблями», что и раньше, но мне вот к примеру так не кажется. Прикол в том, что ряд проблем, к которым я не знал, как подступиться буквально 5 лет назад сейчас внезапно оказались решенными. Именно те проблемы, которые надо!
Так что я думаю все будет и будет довольно скоро. Хорошо это или плохо — отдельный вопрос…
С точки зрения RL (reinforcement learning), агент старается максимизировать награду/минимизировать штраф. Можно сказать, что он всячески стремится к победе и избегает поражения. Вопрос чем это отличается от нашего стремления к удовольствиям и избегании боли во многом является метафизическим! )
Биологический мозг в этом отношении по многим параметрам близок к искусственным сетям. Там это самое дублирование+обобщение работает совершенно иначе, но работает тоже. Поэтому, во-первых да: нейроны обновляются постепенно, а не вымирают кластерами, а во-вторых…
Вы не задавались другим вопросом: не что вы помните из своих 5 лет, а что забыли? А забыли вы гораздо больше, чем помните, на самом деле. Мало того — вы забываете большую часть того, что с вами происходит. По сути вы забываете всю информацию, которая не была востребована в течении какого-то периода времени (возможно как раз связанного со сроком жизни конкретных нейронов). Сохраняется только то, что вы постоянно обновляете — если это воспоминание из детства, то либо вы к нему возвращаетесь снова и снова, переодически вспоминая по какому-то тригеру, или… Это воспоминание является частью более широкого ОБОБЩЕНИЯ, которым вы так или иначе пользуетесь постоянно.
В общем концепция памяти, ее биологическая и… Ну если так можно сказать — математическая модель вполне существует. Есть реализации в железе (не буквально, и не «имитирующие реальную», но вполне работающие на практике!), только не путайте — это не какой-нибудь там DDR6 на 32Гб. Это так называемая память с адресацией по содержимому — штука очень не практичная в обычном понимании, но в силу дифференцируемости доступа — единственное возможное решение в построение современных ИНС.
Почему вы думаете, что это «доступно только человеку» и как это связано с «абстракцией»?
При тренировке RL-Агентов крайне важным параметром является так называемое «любопытство» — некое случайное действие не приносящая непосредственной выгоды, но позволяющее находить стратегии потенциально лучше уже существующих (если бы не было этого параметра, агент всегда действовал бы по одному единожды найденному сценарию). Чем вам не «пойду туда, не знаю куда»? ;) Или вы что-то иное имели ввиду?
А абстракция… Ну как правило в глубоких нейронных сетях каждый следующий слой нейронной сети работает с абстракциями более высокого уровня… Т.е. абстракция там как бы одно из краеугольных понятий архитектуры…
Это вы очень зря. AI дословно с с английского artificial intelligence, или «интеллектуальная деятельность». На заре появления термина туда входили задачи распознавания символов, компьютерное зрение и да, от части имитация человека (хотя последнее — это скорее ложное направление заданное тестом Тьюринга, который в свою очередь был порожден отсутствием критерия разумности). Но! AI — определение не
точноестрогое. Это область CS на острие, которое решает, главным образом НЕРЕШЕННЫЕ задачи. Сейчас CV, детекцию/сегментацию объектов и экспертные системы какие-нибудь уже не принято относить к задачам AI. Как правильно написано в вики: «AI — свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Другими словами — то, что легко и непринужденно может машина, обычно уже не считается AI. Т.е. на текущий момент это уже вполне творческие задачи, такие как генерация текста, музыки, графики и тп.>>> AI — это просто аглоритм.
Как правило — с точностью до наоборот! ;) AI решает задачи для которых алгоритма не существует. Как только таковой найден — данная задача перестает быть AI, и становится одной из многих технических задач, как то распознавание текста, лиц, вероятно в ближайшем будущем будет автономное вождение и тп.
>>> Несмотря на все усилия определённых людей он всегда будет имитацией человека.
Этого я не понимаю, правда. ( Вы знаете кого-то лично, кого интересовало бы ИМИТАЦИЯ человека? Я понимаю, откуда эту тему вытаскивают журналисты и обыватели — с легкой руки Тьюринга определением Искусственного Интеллекта стала его неотличимость от человека и это, наверное, самая большая беда всего направления! Но уж вы то должны понимать, что индустрия AI решает задачи совсем иного плана. AI работает над тем, что бы НА ПРАКТИКЕ решить те задачи, которые обычно может решить только человек. При этом имитировать человека абсолютно не обязательно! Важно решить. Искусственные нейроны, как и методы их обучения далеки от их биологических прототипов, но это не мешает строить на них что-то, что вполне годно работает на практике. Чат-боты имитирующие людей это в основном пет/фан-проекты в отличает от вполне практичных экспертных систем, которые нередко используют подходы, чуждые людям, но приводящие к решению задачи.
>>> Этот текст, в 22000 символов я написал за 2.5 часа. У меня просто появилась идея, написать текст об AI, и я его написал.
Ну и кто сейчас имитирует? )) Вы написали текст для того, что бы написать текст. И лично мне кажется, что это заметно. НЕ в том плане, что текст не связан или похож на авто сгенерированный — ни в коем случае. Просто… Ну неискренний он что ли какой-то… ;) Не от души.
>>> Я не верю в системы AI генерации текста. И если Вы хотите писать статьи, то я рекомендую Вам тоже в них не верить.
Системы автогенерации текста пока имеют некоторые проблемы (хотя вопрос — какой моделью вы пользовались? Количество параметров решает, а в свободном доступе не по подписке существуют лишь относительно небольшие сетки), согласен. Это похоже не на внятное мышление, а скорее на подсознание… Сырой материал, если хотите, которому еще следует придать некую форму путем критического осмысления. Однако самые продвинутые из GPT3, весьма годно улавливают контекст и способны внятно отвечать на поставленные вопросы, что уже очень впечатляет. Так же рекомендую осмотреть в сторону мультимодальных сетей, тех, что генерят визуальные образы по тексту, особенно.
Правильно ли я понимаю что следующая «уханьская лаборатория» будет проводить эксперименты с вирусом, где U будет заменен на Ψ и когда он вырвется на свободу — нам уже наверняка хана?