Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 41
А оно не получится что AGI - это как бы солянка из разного типа эти нейросеток? Ну, скажем, 37 типов нейросетей (для языков, для изображений, для аудио и т.д.) + некий общий координатор, который по конкретной задаче вызывает нужные нейросети и если не получилось - пробует другие?
Ну в общем-то это уже так и работает. Условно ты работаешь с одной нейронкой, она в процессе запускает другие для создания фото, видео и прочего. Так делают уже многие. Z.ai, Qwen, Gemini и т.д. понятно что ещё достаточно не мультимодальных нейронок, но тем не менее на рынке достаточно универсальных продуктов.
А что касаемо это статьи, я думаю так будет всегда. Даже если предположить, что пузырь не лопнет и нейронки будут всегда активно развиваться, всегда будет что-то, что не даст нам считать их полноценным AGI.
Это по большей части философская проблема.
Многие вещи нам непонятны не потому что наши понятия слабы; но потому, что сии вещи не входят в круг наших понятий "(Козьма Прутков)
Так устроен мозг, он состоит из более чем 100 органов (с большой вариабельностью).
Тут еще вопрос цены. Вот если делаешь верстку UI-проги - тебе приходится глазами смотреть что получилось и говорить LLM что не так. А если будет подсистема для классификации изображений - то она сама сможет анализировать изображение и сама исправлять нюансы. Но будет стоить дороже, т.к. классификация объектов на изображении по отдельному ценнику.
Полагаю, нынешний ажиотаж вокруг ИИ в основном связан с рекламируемой коммерческой привлекательностью предлагаемых решений. Эта привлекательность, в свою очередь, является порождением призрачной мечты о замене работников чем‑то, не требующим материального вознаграждения. Однако пока, похоже, цель не оправдывает средства, за исключением тех, кто зарабатывает на продаже услуг LLM. На практике, очевидно, только достаточно ограниченные области применения, связанные с распознаванием и поиском аналогий, действительно очень эффективно реализуются языковыми моделями.
Я, например, вижу для себя большую пользу от использования ИИ при редактировании и вычитке текстов.
мечты о замене работников чем‑то, не требующим материального вознаграждения
И тут возникает вопрос - если всех/большинство работников заменить чем-то не требующим материяального вознаграждени, то для кого будет делаться продукт, и главное, как с него планируется зарабатывать - поскольку у основной массы потенциальных потребителей в этом случа просто не будет средств для его покупки? То есть риск того что все эти вложения, - если будет достигнута та самая мечта/заявленый желаемый результат - просто будет невозможно окупить.
для кого будет делаться продукт, и главное, как с него планируется зарабатывать
Элита сможет избавиться от балласта и выстроить систему без людей вообще.
Элита сможет избавиться от балласта и выстроить систему без людей вообще.
А для чего эта система тогда вообще будет нужна в том виде в котором ее выстраивают? По идее, все эти мощности сразу окажутся избыточными , то есть вложение в нее не окупиться никогда уже в материальном смысле. Если принять что "элиты" хотят жить хорошо, и все для этого затевается, то по большому счету они итак уже хорошо живут - если посмотреть на имеющиеся возможности по сравнению с усредненным человеком , опять таки "в гробу карманов нет", а тут именно "сэкономить на работныиках чтобы заработать еще больше", только вот по сути если смотреть на состояния которые уже есть и которые потратить практически невозможно это превращается просто в гонку за очередной циферкой не более и не менее.
Если принять что "элиты" хотят жить хорошо, и все для этого затевается, то по большому счету они итак уже хорошо живут
Но планета не выдерживает. В идеале утилизировать 95% населения, чтобы элита продолжила жить уже без этого балласта. В новом технологическом мире - но уже без балласта.
И тут вопрос - как выстроить правила игры так, чтобы биомасса не могла ничего изменить.
Допустим формальное право на землю и ресурсы - в руках элиты. Но ведь массы могут устроить революцию и сместить элиту, наплевать на договоренности? Однако же если права элиты защищаются не кожаными а боевыми дронами с ИИ - то боевые дроны будут защищать договоренности и как бы все правильно.
Но планета не выдерживает.
Что она не выдерживает?
В новом технологическом мире - но уже без балласта.
Проблема что без этого балласта она перестанет быть "элитой" потому что весь статус только в сравненни с кем-то по сути, и отсутсвие возможности реального сравнения низводит весь "статус" к нулю.
По сути, то что вы рисуете, это достаточно часто встречающийся штамп в фантастике в том числе - та же Солярия у Азимова (особенно в той итерации что показана в книге "Основание и Земля"), только вот его жизнеспособность под вопросом - если ИИ развит настолько, то ограниченого количества сибаритсвующей "элиты" может оказаться недостаточно, чтобы предотвратить "осознания себя" например или даже понять логику действий, или в случае если происходит нечто катастрофическое и так далее, а наличие некого пула понимающих и знающих как это делать создает риск тех самых "революций" уже со стороны этих знающих/обслуги. Ну или оно просто превратится в "Клетку для орхидей" что в принципе тот же вариант что с катастрофическим концом.
Что она не выдерживает?
Биомассу людей. Им же нужны пахотные земли чтобы жрать. Убрать балласт - и вся земля превратится в красивый заповедник.
Проблема что без этого балласта она перестанет быть "элитой" потому что весь статус только в сравненни с кем-то по сути
Возможно у них другие представления -т.е. важно не компенсировать самооценку за счет других (как у псевдо- элиты) а достичь определенных целей. Пока люди нужны - используют. Не нужны - утилизировать. Хорошо если решат утилизировать мягко - т.е.д стерилизация в обмен на ББД.
чтобы предотвратить "осознания себя" например или даже понять логику действий
Допустим у элиты есть точные данные что сознание - это не вычислительный процесс и какой бы мощной ни была вычислительная система - она ни на йоту не приблизится к осознающей (т.е. имеющей наслаждения и страдания.
Биомассу людей. Им же нужны пахотные земли чтобы жрать. Убрать балласт - и вся земля превратится в красивый заповедник.
Где про это можно почитать? Как раз таки зачастую имеет место перепроизводство - проблема в равномерности распределения . А так население планеты уже растет только за счет Африки в основном, везде потихоньку тенденция к тому что оно начнет снижаться ну или в лучше случае стабилизируется
И да заповедник это не про красоту, а про естественные процессы, там по хорошему нельзя вмешиваться в естественные процессы вообщею То есть заповедник это буераки, всякая живность не сильно приятная и так далее, а не то что приятно и красиво человеку
Возможно у них другие представления
Сомневаюсь, просто большинство людей в принципе не имеют сколь либо далекого горизонта планирования и ограничены предполагаемой продолжительностью жизни
Допустим у элиты есть точные данные что сознание
Слишком много допущений. Ну и даже если так, то другая проблема остается, нужно достаточное количество тех кто может разобраться что делать если что-то пойдет не так в принципе, и это тем более важно, чем больше зависимость от технических решений. Если таких не будет то со временем получатся те самые "техножрецы" выполняющие ритуалы, но непонимающие основ того что происходит и вымирающие если что-то вдруг пошло не так, и управляющий ИИ почему то заглючил/сломался.
просто большинство людей
Так мы же про элиту, а не про большинство.
нужно достаточное количество тех кто может разобраться что делать если что-то пойдет не так в принципе
Так в том и вопрос - будет ИИ достаточно сильный - он и разберется.
При этом сознание доподлинно не возникнет, т.к. это это не эмерджентное свойство преобразования данных или вычислений (как некоторые ошибочно путают) - а фундаментальное явление.
Так мы же про элиту, а не про большинство.
А элита не относится к людям получается? И свободна от ограничений присущих людям как биологическому виду как физиологических и психологических
Так в том и вопрос - будет ИИ достаточно сильный - он и разберется.
Как и в чем и каковы результаты этого будут? Опять таки если эти решения самостоятельно принимаются ИИ и никто не контролирует это самое "разберется" и не понимает снова причины за теми или иными решениями - то есть по сути те самые "техножрецы", которые не имеют никакого влияния на решения или методы.
А элита не относится к людям получается?
Они не как большинство.
Как и в чем и каковы результаты этого будут?
Поддерживать экосистему стабильной. Т.е. обновлять дома, выращивать пищу и т.д. И чтобы без кожаных.
Они не как большинство.
Почему, еще раз повторю вопрос, они уже освободились от ограничений присущих человеку как биологической особи?
Поддерживать экосистему стабильной. Т.е. обновлять дома, выращивать пищу и т.д. И чтобы без кожаных.
Повторюсь если внутри ИИ произойдет некая смена логики для лучшего достижения этих целей и методы для этого изменятся на те которые для "техножрецов" окажутся неприятными, то кто сможет их подкорректировать это все?
Ну и если ИИ настолько силен что действует без коррекций наличие или отсутсвие сознания неважно, важно то что оно абсолютно автономен, то на него не получится повлиять, и по сути не нужно влиять - то есть конечный сценарий этого та самая "Клетка для орхидей".
они уже освободились от ограничений присущих человеку как биологической особи
Они устанавливают правила игры. Одно из правил - обазательная школа. Школа, среди прочего, учит вас отказу от кооперации и постоянному высшему авторитету (учительница). Если работа выполнена совместно - двойка каждому. Если занимался не тем что учительница сказала - двойка.
Т.е. тупое большинство - это не естественный а установленный этой элитой порядок, который на себя они не распространяют.
важно то что оно абсолютно автономен, то на него не получится повлиять,
Автономен - но можно влиять на него. Умный человек и волевой человек - разные вещи. Человек может быть очень умным - но воли своей у него нет - просто делает что говорят. У ИИ не будет сознания а следовательно и желаний, воли - просто исплнитель беспрекословный. Т.е. то что сейчас исполнители преследуют свои интересы (ввиду наличия у них сознания) - скорее проблема.
Они устанавливают правила игры.
Еще раз как это относится к физиологическим и психологическим особенностям людей - каким образом эти самые элиты преодолели эти ограничения вы так и не ответили. И да эти самые элиты ровно так же учились в школах и прочее. В общем то что бы пишете это уже прям территория махровых теорий заговора - про рептилоидов/масонов/анунаков тайно управляющих всем и вся и так далее
Автономен - но можно влиять на него
Если ты не знаешь как он работает то влиять на него получится слабо, и условно случайно особенно если он адаптивен (а в описываемом сценарии он должен быть адаптивен по определению), а не зафиксирован жестко в определенном состоянии когда стандартное действие всегда дает стандартный и неизменный результат. То есть через некие ритуалы и "молитвы" максимум, без понимания почему так, чистое "нажми на кнопку и получишь результат" техномагия в чистом виде, потому что если все доверено этому ИИ тех кто разбирается как оно работает, и главное тех кто захочет разбираться будет становиться все меньше и меньше. Собственно на эту тему ровно так же есть всяких фантастических произведений типа " Пасынков вселенной" - где люди прератились вот в таких техножрецов по сути, утратив представление о том как работает та машинерии которая обеспечивает их жизнедеятельность, и выработав очень своеобразную картину мира - при том что изначально это были образованные и технически подкованые люди просто по определению , можно даже сказать своего рода элита.
физиологическим и психологическим особенностям людей
Нет, все это не встроенное - этому обучаются.
да эти самые элиты ровно так же учились в школах и прочее
Конечно же нет. (Дети семьи Рокфеллеров, как правило, не ходили в «обычные» школы в классическом смысле. Семья была крайне состоятельной и придавала большое значение индивидуальному воспитанию и образованию.)
То есть через некие ритуалы и "молитвы" максимум, без понимания почему так, чистое "нажми на кнопку и получишь результат" техномагия в чистом виде, потому что если все доверено этому ИИ тех кто разбирается как оно работает, и главное тех кто захочет разбираться будет становиться все меньше и меньше
Когда экосистема отлажена - не обязательно понимать. Вот мы живем в телах, которые не понимаем как устроены, не можем починить. Лопаем растения, которые так же не ясно как устроены - черный ящик. Но жили же тысячи лет и все ОК.
Главное чтобы экосистема была отлажена.
Нет, все это не встроенное - этому обучаются.
Биология и биохимия они встроеные , обучением далеко не все корректируется.
Конечно же нет.
Они не ходили в обычные школы, на этом разница кончается. Тем не менее обучение там присутствовало на тех же принципах , а часто как бы там и не суровей было (в смысле авторитетов и прочего) - те же закрытые школы для детей элит по своим внутренним порядкам зачастую приближались к интернатам тюремного типа.
Когда экосистема отлажена - не обязательно понимать. Вот мы живем в телах, которые не понимаем как устроены, не можем починить. Лопаем растения, которые так же не ясно как устроены - черный ящик. Но жили же тысячи лет и все ОК.
Главное чтобы экосистема была отлажена.
Только вот эта самая экосистема, да и наши тела и прочее это продукт ну очень долгой эволюции в процессе которой неудачные решения жестко отбраковывались.
Про тела мы таки понимаем, но не до конца само собой, и вполне умеем их чинить - ограничено, но тем не менее. Собственно в связи с этим в голову пришла аналогия - представть что все врачи исчезли и остались только смутные знания о том как и что там лечить, но без деталей и прочего, только некое понимание что это ка кто можно сделать. Так и тут если не будет понимающих как работает ИИ, то результаты попыток корректировки будут не очень, как и с лечением - в смысле как повезет
обучением далеко не все корректируется.
Изначально вы писали о чем:
"просто большинство людей в принципе не имеют сколь либо далекого горизонта планирования"
так вот у элиты с горизонтом планирования и пониманием общей ситуации, способностью не утонуть в мелочах - все ОК.
Так и тут если не будет понимающих как работает ИИ, то результаты попыток корректировки будут не очень, как и с лечением - в смысле как повезет
Думаю что важно дотянуть до стадии, когда сам ИИ начнет себя понимать.
так вот у элиты с горизонтом планирования и пониманием общей ситуации, способностью не утонуть в мелочах - все ОК.
Вы в этом уверены? Я вот нет. И да я спрашивал про то , что неужто элиты избавлены от человеческих недостатков и особенностей, которые неизбежно хотим мы этого или нет влияют на принимаемые решения.
Думаю что важно дотянуть до стадии, когда сам ИИ начнет себя понимать.
А если не дотянется по ряду причин, или если осознавший/понимающий себя ИИ начнет действовать не так как предполагалось, вот что это изменит в ситуации для "техножрецов"? Или он начнет внезапно учить всех чтоб они понимали?
В общем конкретики нет, только некие практически теории заговора вперемешку с верой, и явные противоречия то элиты знают что ИИ себя не осознает никогда и потому будет контролируем, то он должен себя понимать/осознавать и быть полностью автономным для функционирования всей системы без достаточного количества понимающих этого людей
Вы в этом уверены?
Умение планировать, видеть общую картину - зависит от обучения а не от природных качеств. Понятное дело что для управленцев высшего масштаба - это самое главное.
Они могут не уметь некое ремесло, возможно даже унитаз починить не смогут - а вот вопросы управления - это их стихия.
если не дотянется по ряду причин, или если осознавший/понимающий себя ИИ начнет действовать не так как предполагалось
Это мы скоро увидим достоверно. Пока только ставки люди делают - некоторые делают ставку что упрется в потолок, не сможет решать сложные задачи а простые сможет. Некоторые делают ставку что возникнет сознание - другие же делают ставку что не возникнет.
Лучшие специалисты по ставкам как раз элита, т.е. они как бы на уровне интуиции могут предугадать как оно будет, даже не имея точных научных доказательств. Кругозор позволяет видеть то, что другие (имеющие узкий кругозор) - не смогут увидеть.
К примеру по вопросу сознания есть много не научных, но достаточно убедительных подсказок - что сознание - не реализуется с помощью любого преобразования данных. Т.е. какой бы ни была вычислительная система - сознание там не возникнет ни в какой степени.
Они могут не уметь некое ремесло, возможно даже унитаз починить не смогут - а вот вопросы управления - это их стихия.
Тем не менее они все равно зависимы от человеческой природы. Опять таки неоднократно в истории, да и сейчас бывает так что те самые представители элит ошибаются, в том числе и потому что в конце концов они люди. Да у них мложет быть стратегия и горизонт планирования дальше, но ничто и никто не гарантирует что они верны - просто людям свойственно помнить успех и забывать неудачи тоже.
Это мы скоро увидим достоверно.
Или не увидим.
Речь шла прежде всего о том, что вне зависимости от того может ли обладать ИИ сознанием или нет, в описываемом сценарии развития этот самый ИИ должен по сути управлять и контролировать все процессы или очень близко к тому, и проблема именно в том, что если он будет таким всеобъемлющим и если количество людей будет ограничено, то с течением времени понимающих как он работает и развивается будет становиться все меньше и меньше, и влияния на направление развити тоже будет меньше. То есть те самые "элиты" якобы затевающие это не с целью сиюминутной наживы, а с долгосрочными целями рискуют (и скорее всего так произойдет потому что для поддержания каждого уровня развития скорее всего есть минимально необходимый уровень популяции) превратиться в прихожан, ну может священников церкви всемогущего ИИ просто потому что они будут зависимы от этого самого ИИ во всех аспектах жизни - если это их цель, ваши рассуждения о их стратегическом мышлении и прочем не выглядят убедительными
да и сейчас бывает так что те самые представители элит ошибаются
Но получается так. Сейчас 90% людей работают не над научными и сложными инженерными проблемами - а обеспечивают инфраструктуру. Выращивают зерно, водят комбайны, поезда, готовят еду, обучают других мелких холопов. Так вот все это становится не очень нужным, если есть ИИ. Да, некая прослойка людей для подстраховки еще понадобится - но лучшие из лучших. Ну миллионов 100 человек хватит.
Но получается так.
Да, некая прослойка людей для подстраховки еще понадобится - но лучшие из лучших.
Еще раз, эти самые элиты ошибаются , где гарантия, что рисуемая вами картинка - фантастическая это именно то что будет. Увы всего предусмотреть невозможно и сильно "умный" и самостоятельный ИИ вполне может оказаться еще однгим фактором риска - в общем то что вы пишете это прям классическое "гладко было на бумаге, да забыли про овраги" приправленое прямо таки религиозной верой в непогрешимость "элит" и "ИИ"
Статья мне кажется странной. Я не понимаю цели авторов. Что они хотели донести и зачем?
Ну допустим качество стали сейчас не позволяют строить больше 200 этажей и батискафы для погружения в марианскую впадину. Медецина не позволяет гарантировать здоровье и долголетие и много чего еще есть подобного. Да, качество моделей не измерить обьективными метриками, но субьективно их качество растет и растет очень быстро (медицине бы так).
В статье я при этом не увидел предложений и даже вывода.
Какой месседж статьи и какова цель авторов?
Кто понял, напишите плиз…
какова цель авторов
Денег просить/отрабатывать. Кто-то же должен бдеть, чтобы не упустить момент прихода злобного общего ИИ.
Абсолютно верно. При всем уважении к когда-то авторитетным изданиям, они тоже скатываются в "желтые кликбейтные" дебри. Авторы не выполнили самостоятельной научной работы в виде тестов, экспериментов и тд., но сказали, что другие ошибаются и AGI нет. Но по им же самим приведенным определениям AGI, это совершенно не аргументированно.
У современных моделей нет "гибкости и способности обобщать"? Они это серьезно?
По математике тоже интересно - модели не умеют создавать новые решения, а используют только существующие подходы. Получается, у Эйнштейна тоже был какой-то "недоразвитый интеллект", когда он соединил геометрию Римана и законы Ньютона и предложил общую теорию относительности?
Авторы не выполнили самостоятельной научной работы в виде тестов, экспериментов и тд., но сказали, что другие ошибаются и AGI нет.
В смысле натравить существующие модели на какие-нибудь нетривиальные задачи? Своего рода стресс-бенчмарки?
Возможно и так. В научной работе есть разные методы и способы проверок гипотез, в том числе и эксперименты. Здесь авторы выполнили метаанализ проведенных исследований, а вернее, сделали обзор других работ и не согласились с другими выводами с очень спорными аргументами, если не сказать, безосновательными.
Мета тоже имеет право на жизнь и это довольно серьёзный труд. А вот разработка уникальных стресс-бенчмарков - это работа, требующая на порядок (а то и не на один) более значительных вложений времени, труда и, внезапно, денег. Стоят ли такие вложения одной статьи?
Конечно, стоят, если это статья в Nature. Но так раньше было. Сейчас уровень рецензирования статей в научных журналах достаточно низкий. Поэтому и пропускают материалы на уровне библиографического обзора начинающего аспиранта, как вот обсуждаемая статья.
Конечно, стоят, если это статья в Nature.
Думается, там затраты будут такие, что пойти на них можно разве только для новой книги в Библию. Обычные бенчмарки крупные компании разрабатывают, а не профессора за ноутбуком в свободное время.
Сейчас уровень рецензирования статей в научных журналах достаточно низкий.
О, да! Сколько раз Lancet, к примеру лажал.
Все упирается только в то, что считать общим интеллектом. Если это интеллект среднего прохожего в среднем населенном пункте, то этот уровень пройден.
Если это интеллект среднего прохожего в среднем населенном пункте, то этот уровень пройден.
Человек может интегрировать информацию - и визуальную и слуховую и тактильную и т.д. Вот если я чего-то не могу представить - я беру ручку и рисую схему на листе бумаги, потом смотрю глазами. Т.е. множество разрозненных нейросетей (как зрительная - классификация изображений) - работают как единое целое, согласованно.
А искусственные нейросети пока не имеют такого координатора, который смог бы множество разных нейросетей объединить в одно целое для решения задач. Т.е. чтобы по задаче - оно само нарисовало схему, само эту схему начало распознавать, классифицировать и т.д.
И тут еще вопрос цены сразу добавляется.
Можно долго обсуждать пользу и недостатки синтетических тестов. Их прохождение некоторый показатель прогресса. Но самый объективный тест, например, по физике приведен здесь) Решат ЯМ хотя бы оду из этих проблем, или существенно поспособствует, тест сравнения с возможностями человека к решению творческих задач буде пройден. Такие списки проблем имеются в каждой области знаний, вот в самих нейронауках. Экзаменаторы сама Вселенная, само сознание, сама неизведанная реальность.
Мне кажется, вы путаете интеллект среднестатистического человека, и интеллект всего человечества. Первое если ещё и не достигнуто, то уже очень близко к тому. А до второго ещё минимум несколько лет, как мне кажется.
А оно корректное сравнение со средним человеком?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Слухи о появлении общего ИИ сильно преувеличены: ответ на статью в The Nature