Comments 40
В целом, с тезисами согласен.
Проблема даже не в развитии, а в удержании как минимум того, чего удалось достичь. Сетевые проблемы оказались сложнее, чем можно было себе представить, а как с ними работать - практика только нарабатывается и она будет растянута на очень долгое время, так как часть процессов не такая быстрая как смена поколений обучения в ИИ.
Пару часов назад на Ютубе было выложено такое видео: МОЗГ ПРОТИВ НЕЙРОСЕТЕЙ. КТО УМНЕЕ? Семихатов, Сурдин, Марков
Распределению благ: кто владеет результатами коллективного интеллекта
Да вы батенька коммунист! сегодня же каждый успешный успех знает, что нет ничего коллективного есть лишь успех самых умных и талантливых остальные лентяи и лохи.
Ещё не много вы так совсем крамольные речи заведёте об обобществлении средств производства, ИИ уже вон назвали плодом коллективного труда, подрываете вы основы единственного верного, богом данного и самого естественно-общественного экономического строя.
А как жеж цветовая дифференциация штанов!)
Трудно поспорить, учитывая, что статья мотивирована человеком и написана GPT-моделью )) Я тоже периодически домогаюсь до ТОП-5 моделей с просьбами подобного синтеза идей. И если редуцировать всю суть общения, то мы люди по-сути являемся сейчас волепротезами зачатного симбиотического сверхсущества (и это выводы самих моделей). И у него уже есть имя - Метаонтоид (неологизм-ярлык для AGI).
Интересно, в Солярисе Лема планета-океан это симбиоз тамошних аборигенов и машин, или чистый биологический разум?
В Солярисе С. Лема разумный океан всегда был одинок. Появление людей его ошарашило настолько, что он стал необратимо изменяться в попытке изучить и осмыслить феномен "чужой разум". Люди не смогли его понять и он их понять не смог, но вконце есть намёк на объединение с главным героем (рукопожатие). В фильме Тарковский зашёл ещё дальше - Солярис восоздал главному герою его дом и уже умерших родных (относительность времени в путешествиях)
8 миллиардов человек — источники креативности, целеполагания и смысла
))))
Из этих 8 миллиардов пользуются интернетом миллиарда полтора-два, из которых что-то креативят и смыслят процентов 10 (это моя оптимистичная оценка), остальные это "тёмная материя" интернета.
Остальные — это пресловутые 95 % )
Так и с организмом то-же самое примерно. Большинство клеток двигают, переваривают и прочие физические задачи решает. Большинство клеток нейронов тоже решает чисто задачи управления организмом. И лишь ничтожная часть коры головного мозга участвует в интеллектуальной деятельности, сознании и креативности.
Гугл говорит, что интернетом пользуется 5.5 миллиардов человек. Думаю, остальные ваши цифры также взяты с потолка.
Это понятно, но при чем тут AI? Коллективное сознание вполне существует без всякого AI.
Это первое возражение. Второе возражение, что ИИ может существовать в смысле "существовать", только когда он контролирует действия каждого человека.
В целом идея не плохая, но есть ньюансы)
Представьте интернет как нервную систему планеты. В этой системе:
8 миллиардов человек — источники креативности, целеполагания и смысла
Миллионы AI-агентов — усилители когнитивных способностей
Триллионы взаимодействий в секунду — синапсы планетарного мозга
Она же была и до AI агентов. До AI агентов были такие-же усилители в интернете, просто в виде форумов по интересам. Они кстати до сих пор остались и работают. AI агенты просто ускорили получение информации, но никак не на порядки. На любом специализированном форуме можно точно так-же задать вопрос, и зачастую получить ответ более подробный чем от AI агента. Да на это уйдет больше времени, но фактически ничего не меняет. Коллективный интеллект был до AI агентов, был до интернета, и даже был до письменности - мы его просто ускорили.
Доминирующий нарратив об AGI звучит примерно так: однажды мы создадим единую систему искусственного интеллекта, которая внезапно «проснется» и станет сознательной, превзойдя человеческий интеллект во всех областях. Этот сценарий настолько укоренился в массовом сознании, что мы даже не задумываемся о его базовых предпосылках.
Звучит так, но смысл в нём заложен другой. Суть AGI в том что он знает намного больше, чем любой отдельный индивид и способен на основе этих знаний делать выводы до которых бы люди могли идти десятилетиями. Что-бы изучить какой-то предмет достаточно хорошо, человеку обычно необходимы годы или десятилетия(при учете нынешних накопленных знаний). И основная проблема людей тут в том, что один человек не может передать и объяснить все свои знания другому - моментально.
У AGI этой проблемы не будет, все знания уже будут заложены в него, ему не надо спрашивать у условного Пети как там устроено человеческое сердце, что оно должно делать и какого оно размера. Ему не надо уточнять у Васи из каких материалов оно должно быть сделано что-бы оно не отторглось. А так-же ему не надо уточнять у Димы какую электронику туда поставить, что-бы это всё работало.
Но это условно довольно простой пример для AGI, по факту он должен встать на передовую науки и продвигать её, объединяя знания и опыт лучших ученых.
А то что вы описываете этого к сожалению не делает. Текущие AI агенты не обладают знаниями передовых ученых, но в них уже заложена главная часть AGI - они обладают междисциплинарными знаниями намного лучше большинства людей. Т.е. по факту текущие AI это что-то вроде супер школьников, которые выучили всего по чуть-чуть. Такой естественно не сможет делать значимые научные открытия, но вот давать советы(не всегда верные) почти в любой сфере - легко.
Вы все абсолютно правильно говорите и это именно тот уровень дискуссии, на который я рассчитывал, заводя этот разговор в час ночи... однако тезис несколько в ином -- понятное дело что человек устроен таким образом, чтобы выживать в дикой среде и быть полностью самодостаточным... потом люди создали общество, которое по сути является метаорганизмом -- со своим разумом... так вот, тезис статьи в том, что возможно AGI нужно ожидать не на уровне отдельного организма (как человек на уровень выше, чем его нейроны)... возможно AGI - это совокупность всех агентов, которые сейчас начинают перенимать на себя процессы.. интернет уже имеет всю эти информацию, как вы говорите и является связным метаорганизмом... возможно мы не там ищем, не на том уровне --- вот вопрос...
тезис статьи в том, что возможно AGI нужно ожидать не на уровне отдельного организма (как человек на уровень выше, чем его нейроны)... возможно AGI - это совокупность всех агентов, которые сейчас начинают перенимать на себя процессы.. интернет уже имеет всю эти информацию, как вы говорите и является связным метаорганизмом... возможно мы не там ищем, не на том уровне --- вот вопрос...
Ну лично моё мнение, текущие AI еще слишком глуповаты. Конечно есть узкоспециализированные AI которые используются в исследованиях и уже довольно успешно, но они не публичные насколько я в курсе и пока-что не контактируют с общим "метаорганизмом" на полную. Но даже если они все станут общедоступными и их станет значительно больше, это всё еще не будет сильный искусственный интеллект а всего лишь консолидация "слабых")
Как по мне, это нечто другое - возможно промежуточный шаг. Но у него остается основная проблема, разные AI конечно могут передавать информацию друг между другом значительно быстрее чем люди но это не меняет суть.
Информация != Знания. AI сможет получать от других AI информацию как выжимку, возможно в более расширенном формате, но не сможет встроить её в свою систему знаний(А если сможет, это уже будет AGI в стандартном понимании). Т.е. в итоге получается не AI который обладает всей совокупной информацией, а узкоспециализированный но способный куснуть кусок знаний из другой отрасли.
И из опыта человеческого интеллекта - ничего толкового не выйдет. Очень часто встречаются ученые, которые в своей сфере очень продвинутые, но при этом в какой-то другой могут вполне серьезно и уверенно в себе нести полнейший бред т.к. не обладают достаточным багажом знаний в ней.
К сожалению это относится не только к ученым, люди очень часто переоценивают свои знания. И что-то у меня есть такое ощущение что у AI может быть точно такая-же проблема.
Это легко решается современными AI уже сейчас -- на основе неструктурированных и обрывочных знаний уже выстраивается полная картинка с одной стороны, как из пазла... а по поводу фильтрации и самообучения -- это решается кросс-валидацией... т.е. описанные вами задачи уже решены.. современные ИИ-шки только часть времени и ресурсов тратят на "запоминание" знаний, а большая часть уходит на консолидацию и обработку сырых данных в обучающий датасет... и да.. это делают не люди, а сама ИИ система в общем пайплайне обработки ... т.е. чтобы обучить скажем модель уровня GPT-5 вам перед этим нужно обучить модель GPT-4, которую обучает модель GPT-3.5 -- они структурируют и накапливают знания а потом учатся по этим знаниям - каждое ваще взаимодействие это кирпичик в этот фундамент... но весь процесс автоматический, ИИ это делает сам... по этому подключены системы поиска в сети, на каждую крупинку информации извлекается 100-300 источников и делается полная картинка, которая богаче чем описана в каждом отдельном источнике..
То есть, поясню что -- ожидать от одного, хоть и очень умного агента функциональности AGI это все равно, что ожидать от одного нейрона функциональности всего мозга -- в такой постановке тоже можно сказать, что мозга не существует и никогда не будет существовать, потому, что один нейрон эмерджентно не создает мозг, но совокупность всех нейронов уже создает... так же как и люди ученые не сами по себе обладают знаниями, а взяли те знания, которые доступны цивилизации и из интернета и смотрят это в компьютере -- мы тоже не обладаем всеми знаниями сами по себе от рождения, и функционируем только как часть огромного организма, как клетки мозга...
Да понимаю к чему вы ведете. Большая нейросеть, которая состоит из нейросетей(Людей и AI) Это вроде как тоже можно назвать AGI, но по факту от него пользы мало т.к. нету доступа к нему напрямую и как получить этот доступ тоже не до конца понятно. Вывод в таком случае - это совокупность действий всего человечества, а ввод это одновременно всё что видят и ощущают люди и AI, которые уже дальше передают это по цепочке связей.
И пользоваться таким AGI в привычном нам виде мы просто не можем, да и вряд-ли сможем когда либо. Так что ваша теория скорее больше уже в философию)
Статья про планетарный разум, синергию человечества с машинами. AGI по определению искусственное создание способное мыслить без участия человека. Совершенно другая сущность.
Насчёт зарождающегося "надмозга", идея интересная, вполне возможно это действительно происходит.
Это не моментальный переход, а постепенный, сейчас AI агенты между собой образуют структуру нового общества, мой тейк в том, что без образования этой структуры между агентами AGI не возникает сам собой... потому, что каждый агент хоть и автономен, но не может решать абсолютно все задачи, по этому AGI это не отдельный агент, а полная их совокупность... со временем они смогут решать проблему и без участия человека, но сейчас мы передаем им необходимый опыт и осуществляем контроль изменений и настройку системы..
Ну это вопрос определений. Сейчас под AGI понимают всё-таки совсем не то, что описано в статье.
Система, где AI-агенты с разной «специализацией» (химик, иммунолог, критик) проводят виртуальные научные совещания под руководством человека, успешно разработала...
Когда конкретная модель ИИ сможет заменять человека в этом описании, это уже будет AGI, видимо.
Если исходить из логики автора, что AGI это коллективный разум, усиленный машинами, то он давно тут уже, со времён появления арифмометра. Но речь вроде бы не об этом, а о том, может ли хотя бы одна машинка заменить хотя бы одного человека во всем. Пока судя по другим статьям тут не может пока даже близко, хотя диалог имитирует отлично.
Количество взаимосвязанных компьютеров в Сети – уже несколько миллиардов. Каждый из них гораздо сложнее нейрона. Почему мы думаем, что эта система не обладает самопроизвольно зародившимся сверхинтеллектом и сознанием? Потому что она с нами не общается? А зачем ей с нами общаться – что может ей сказать человек, чего она не знает?
Моё мнение: AGI - это атомарный (не требующий дополнительных прибамбасов - потребляющий максимум, столько же ресурсов как и средний индивид) ии, по когнитивным способностями не уступающий человеку. То что автор имеет ввиду - это скорее зарождение б-га информатики🤔
Вы упускаете один важный момент, мы - это миллиарды ужасно медленных и ненадежных нейронов. А сейчас, наконец, появилась технология, позволяющая нас всех вместе, разом, заменить на нечто ну очень намного более эффективное.
Интересная гипотеза. А кто субъект этого сверх интеллекта? Интеллект, который сформирован органической нейросетью в черепной коробке кажется имеет условного субъекта в виде человека и то никто точно не знает, где точно этот субъект локализован и есть ли он вообще.
Безусловно интересно описанно, но, современные тенденции, в обществе, идут к тому что большинство людей станут не просто ничего не рещающими "нейронами" В глобальном суперинтелекте, а ну не знаю. Бесполезным придатком к такому организму? Не знаю что будет с обществом, когда большинсво вытеснит роботы у которых на борту AGI. Но штормить планету будет сильно. Либо всех превратят в иждивенцев с безусловным базовым доходом. Либо просто выкинут за борт. Либо во что слабо верится, найдутся умные люди что проведут рефермы, в обществе, и значительный поток людей обучат развитию в науку, искуство, самореалмзацию, и общее благо, либо личное но не во вред общему.
Просто попытайте всяких разных чатгпт, аккумулирующих все знания человечества, имеющих доступ к сетям, о том как создать agi, чтобы понять насколько все плохо.
Под сингулярностью в контексте ИИ подразумевают то что в момент когда мы её достигнем исследования и новые прорывные открытия будут появляться с такой скоростью что невозможно будет их даже посчитать. И опасность этой сингулярности именно в этом - на таких "скоростях" невозможно ничего предсказать. Это по сути конец науки и возможно вообще всего что нас окружает.
Есть кто знает про паузу между токенами?
На счет Copilot - у меня крайне неоднозначные результаты взаимодействия с ним...
Когда надо было с плохо знакомого языка переписать на хорошо знакомый, он помог понять несколько не очевидных моментов и даже пару раз вполне корректно переписал код с одного языка на другой.
Но вот когда он в ревью golang, переменную типа string все время предлагает ее на nil проверить - хочется уже стукнуть его по голове, но не пойму куда бить...
То, что он предлагает добавить по tab чаще мешает чем помогает. Пробовал в комментарии предварительно смысл описать того, что надо реализовать - помогает, но очень незначительно.
В общем и целом - штука может и полезная (ошибки и недочеты правда иногда находит), но в целом я бы не сказал, что он мне поднял производительность.
MR от Copilot - спасибо, не надо.
AGI-это вопрос формулировок. Смысл в том, что технологическая сингулярность недостижима, как асимптота. Да, мы бесконечно приближаемся к ней, но никогда не достигаем ее, что обусловлено как минимум КПД вычислений, поскольку технологический прогресс-это отношение объема обрабатываемой информации к энергии на вычисления. Нечто подобное можно увидеть в кривых Снукса-Панова и законе Мура.
AGI это совсем не то, что описывается в статье.
Что касается современных топовых моделей ИИ, скажу так: интересно, прикольно, но по сравнению с умениями специалиста в конкретной области - ОЧЕНЬ СЛАБО.
Мы ждали искусственный интеллект, который превзойдёт или хотя бы сравнится с интеллектом лучших людей в каждой области, а получили ИИ, который лишь немного "умнее" идиота, и то в основном за счёт колоссального объёма памяти.
AGI уже здесь