Comments 19
Возможно, для скорейшего приближения к AGI, из процесса надо исключить самого Альтмана
А скрипач альтист Альтман не нужен, родной. Он только лишнее топливо жрёт. ©
кароче - как сделать AGI я не знаю (просто потому что никто не знаыет пока) поэтому давате считать AGI то что я могу сделать и таким образом я выполню наобещаное
если ИИ сможет проводить научные исследования и расширять сумму человеческих знаний — то "в каком-то смысле это уже суперинтеллект"
Получается, дело за малым - придумать исследование, с которым справиться текущий ИИ, и можно объявлять, что AGI готов.
Для квантовых компьютеров придумали «квантовое превосходство», для ИИ был тест Тьюринга, но видимо этого недостаточно.
В основе теста Тьюринга лежит идея, что то, что кажется интеллектуальным им и является. Несостоятельность эти идеи демонстрирует тележки Брайтенберга, когда простые автономные системы демонстрируют неожиданно сложное поведение.
В какой-то мере Брайтенберг предвосхитил и объяснил современную ИИ-истерию, когда много людей, вроде бы умных, верят, что LLM "мыслят", "совершают открытия" и прочее.
Не очень понятно как тележки Брайтенберга это демонстрируют. Их поведение похоже в лучшем случае на поведение насекомых. При этом по сути своей они и есть - грубая модель нервной системы насекомых. Что и как это доказывает?
Несостоятельность эти идеи демонстрирует тележки Брайтенберга, когда простые автономные системы демонстрируют неожиданно сложное поведение.
А они точно так же показывают несостоятельность и того утверждения, будто "мыслить" могут и люди. Мы ведь до сих пор не знаем, что такое "мыслить", все объяснения сводятся к "ну вот пятой точкой чувствую, что человек может что-то принципиально недоступное животным и машинам". Мы до сих пор не знаем, демонстрируют ли люди не просто сложное поведение, а поведение качественно, принципиально отличающееся от сложного поведения других сущностей, биологических ли, кремниевых ли, а не просто количественно. И не является ли наша уверенность следствием работы отлично знакомого каждому из нас, с одной стороны, и плотно изученного наукой, с другой стороны, механизма иллюзий и самообманов — вопрос открытый. И чем дальше прогрессируют нейронки, тем в более тревожную сторону склоняется чаша весов.
Вспомните, совсем недавно ученые твердо "знали", что человек есть венец творения, обладатель бессмертной души и фундаментально отличается от животных. Но потом пришел Линней, Дарвин, наконец Поппер — ах, какие баталии были! И покушения, и отлучения от церкви! — и сейчас мы так же твердо знаем, что человек — это, без сомнения, животное, и, строго говоря, даже не самое эволюционно продвинутое, душу же и вовсе пришлось убрать из области научного знания. И ничего, привыкли. От осознания этого факта очень многие расстроились, но почти никто не умер.
Ваша точка зрения отдает такой знакомой, кондовой, посконно-антропной богоизбранностью. А доказать вы ее, не сводя к банальной казуистике "ну вот на момент сейчас все открытия были сделаны людьми, а не нейронками" смогли бы? Этак, ну, фундаментально?
Лично я, таки да, предпочитаю думать, что между человеческим интеллектом и языковыми моделями есть качественная непреодолимая граница. Но я прекрасно отдаю себе отчет в том, что доказать я это не могу, что это легко и просто в какой-то момент может оказаться неправдой, может даже и при моей жизни, и что это просто мое личное предпочтение, вызванное желанием жить менее тревожно и быть по возможности уверенным в завтрашнем дне. Но не более.
Как вы надоели. Я не буду в очередной раз поднимать вопросы что архитектура трансформера и AGI это разные вещи. Потому что не увижу рассуждений на эту тему в подобных рекламных статьях.
Я предложу свой железобетонный способ определения AGI.
Когда ИИ сможет спокойно заменить бабу Клаву на кассе - вот тогда и настанет то самое светлое будущее.
Представьте - чуть ли не половина (а может и процентов 90) населения уйдёт в утиль. Потому что кроме болтологии ничего не делают.
Не надо от AGI никаких нобелевских изобретений. Достаточно что бы просто мог нормально понимать бред очередного тупого мясного AGI.
Сейчас же что имеем? На 1-2 вопроса отвечает вроде норм. А дальше начинаешь видеть что это тупая машина не держащая контекст разговора. А из самой сути трансформера - это бесконечный генератор следующего слога, ответы которого исскуственно надо резать. Либо по размеру ответа либо по стоп токену. Короче если сравнивать детали - то вообще всё не так работает как у человеческого ИИ.
Вот за этот комментарий мне какой то альтернативно-одарённый влепил минус в карму. Желаю что бы на этом чудесном сайте остались только статьи сгенерированные ИИ.
Звучит примерно так - "когда человек сможет заменить пчелу в улье, тогда и скажем, что человек достиг уровня пчелы".
С чего Вы вообще решили, что интеллект AGI будет повторять интеллект бабы Клавы, Ваш или Эйнштейна?
Звучит примерно так - "когда человек сможет заменить пчелу в улье, тогда и скажем, что человек достиг уровня пчелы".
Ви так говорите, как будто человек не может построить соты, охладить улей, прогнать нападающих ос или собрать пыльцу.
Он вполне может всё это (и много-много гораздо более сложных вещей). Но зачем???
С удовольствием посмотрю, как этот человек станцует танец указания на богатые цветы. А потом слетает, соберёт и отрыгнёт пыльцу.
Он вполне может всё это (и много-много гораздо более сложных вещей). Но зачем???
Вот ровно за тем же:
Когда ИИ сможет спокойно заменить бабу Клаву на кассе
С удовольствием посмотрю, как этот человек станцует танец указания на богатые цветы.
Исследователи пчёл уже давно это повторяют, при помощи модели пчелы на проволочке. На тутрубе того учебного фильма, увы, не нашёл.
Когда ИИ сможет спокойно заменить бабу Клаву на кассе
Баба Маша уже давно спокойно заменяет бабу Клаву на кассе!
Скинул картинку циферблата обычных часов в 3 разных нейронки, попросил сказать, сколько времени показывают. Все ответили неверно. Видимо, время научных открытии от ИИ ещё не скоро.
Питер Уоттс. "Морские звёзды"
– Нет, серьезно. Он там управлял системой подземки – никаких нареканий, идеальный работник, а потом однажды эта штука просто забыла запустить вентиляторы, когда было надо. Поезд заезжает на пятнадцать метров под землю, пассажиры выходят, воздуха нет, бум!
Джоэл уже слышал эту историю. Коронная фраза как-то связана со сломанными часами, если он все помнит точно.
– Эти штуки вроде как учатся на собственном опыте, правильно? – продолжает Джарвис. – Ну и все думали, что зельц научился запускать вентиляторы по какому-то очевидному признаку. Жару тела, движению, уровню углекислого газа, ну ты понимаешь. В результате выяснилось, что эта хрень просто смотрела за часами на стене. Прибытие поезда совпадало с предсказуемым набором паттернов на цифровом дисплее, поэтому она включала вертушки, когда видела один из них.
– Ага. Точно. – Джоэл качает головой. – А какие-то вандалы часы разбили. Или что-то вроде того.
Сэм Альтман рассказал, каким видит путь к созданию AGI