Comments 64
скорее человеческое мышление во многом может быть выражено через обезличенный нерефлексивный процесс генерации текста )))
ИМХО скорее нет, чем да. Скажу более. Вербальную картинку "мышления" мозг уже рисует постфактум. В некотором роде чаще всего, мы имеем бессознательное обоснование некоторого действия или вывода и рефлексия по этому поводу, отображенная в сознании. В большинстве случаев доверять этому потоку сознания можно не больше, чем комментариям биржевых аналитиков событиям на бирже постфактум.
Просто пока что оно обогнало только уровень исследователей :)
Шо, опять?
Так как это официальная позиция корпорации, то имхо, уместнее говорить, что Microsoft смогли формализовать термин "интеллект". Осталось узнать, является ли интеллект по мнению Microsoft исчисляемым термином? Если да, то это грозит созданием числовой оценки интеллекта вообще, не только у ИИ.
Про IQ не слышали? :)
IQ придуман для измерения пригодности молодого человека к работе на заводе. Это индекс тупизны на самом деле, оценка эффекта посещения школы. Умные люди этот тест отказываются проходить
Согласен - тесты IQ стандартны и человек на низ может быть натаскан.
Можно натаскаться на любые тесты, это не показатель
В этом и отличие тестов от экзаменов с живым экзаментором.
Экзамены на интеллект?)
Почему бы и нет? Уверен, что к этому придём со временем.
Потому что кто будет экзаминировать экзаменаторов? Что они будут спрашивать? Типовые вопросы? А если нетиповые, как выравнивать показатели?
Вы предлагаете отменить "егэ по интеллекту" и снова вернуться к "школьным оценкам". При всех минусах тестов это деградация, а не развитие
На что только не готовы "представители точных наук", чтобы не признавать гуманитарные науки наукам:)
Экзаменировать экзаменаторов будут другие экзаменаторы. Испокон веков так было и ничего страшного в этом не было.
Зачнм сводить всё к ЕГЭ? Есть ещё и устные экзамены в ВУЗах каждую сессию и их точно не заменят тестами. Вопросы там обычно бывают "расскажите, почему вы решали эту задачу таким образом?"
Большего бреда в жизни не слышал.
Тесты IQ не привязаны к образованию, они показывают скорость мышления. IQ школьника и нобелевского лауреата могут быть одинаковы.
Ну и "ни один настоящий шотландец" в конце до кучи
Слышали и даже про критику теста на IQ слышали. Вот только есть разница когда такими измерениями занимаются ученые и корпорации, первые это делают ради изучения природы субъекта, вторые ради выгоды. Т.е. корпорация быстрее введет кастовую систему основанную на показателях интеллекта, чем научное сообщество.
Ну и немножечко критики теста на IQ.
Эта критика не по существу. Метафизичность, марксизм, ещё что-то. Есть статистика. Разница в IQ объясняет 25% разницы в доходах - самый большой единичный критерий. Есть связь между IQ и доходами во всех областях. И т. д. И т. п.
Если IQ не существует, то ничего из психометрии не существует: ни опросников депрессии, ничего.
Какое наглядное манипулирование тезисами)) От "у GPT-4 есть признаки человеческого мышления" пришли к "GPT-4 достигает производительности человеческого уровня".
Генератор случайных чисел тоже можно использовать в качестве движка калькулятора. И при современных аппаратных мощностях он наверняка обгонит человека...
Дык штука в том, что человеческий уровень - это очень, крайне низкий уровень. Если брать именно среднего человека, а не специалиста. Средний человек совершенно ужасен буквально во всем. Так что, на самом деле, ни кому не нужна система, которая работает на "человеческом уровне".
Нужна система тупее чем средний человек, "самых умных" никто не любит. Что бы можно было ИИ навязать три закона робототехники.
Средний человек сильно отличается от специалиста в основном знаниями и навыками. разница непосредственно в способности мыслить минимальна.
Конкретно в способности мыслить современные нейросети сильно не дотягивают даже до уровня животного. Животное я могу научить складывать числа произвольной длины, а нейросеть - нет.
Конкретно в способности мыслить современные нейросети сильно не дотягивают даже до уровня животного
Совершенно точно. Я о том, что " крайне низкий уровень среднего человека", это недостижимо высокий уровень для сегодняшних нейросетей. даже если человек - ребенок. Они даже просто контекст разговора с трудом удерживают.
Вы сужаете шкалу. Сравните самого тупого человека и улитку — вот это уже гораздо лучший масштаб. Но и то мало. Ещё лучше — от амёбы до чего-то, превосходящего человека, как человек — амёбу.
ИИ начинал не с уровня тупого человека, а с уровня амёбы. И продолжает рост.
ИИ начинал не с уровня тупого человека, а с уровня амёбы.
Но там же по сути экспонента. Т.е. между амебой и средним человеком уровень меньше, чем между средним человеком и специалистом. А между средним человеком и специалистом меньше, чем между просто специалистом и топовым специалистом-гением. Т.е. ИИ сделал только первый шаг. Или не шаг даже - только ногу приподнял. Или даже не приподнял - только собрался приподнимать)
А дальше целый марафон еще бежать.
И продолжает рост.
Да все уже, закончил в текущей архитектуре. Дальше некуда расти.
Т.е. между амебой и средним человеком уровень меньше, чем между средним человеком и специалистом.
Это или очень тонкий сарказм, или очень большое заблуждение. Разница между Эйнштейном и дауном гораздо меньше, чем разница между дауном и шимпанзе, а про амёб и речи нет.
Да все уже, закончил в текущей архитектуре. Дальше некуда расти.
У меня нет такой уверенности про текущую архитектуру, и тем более — я ничего не утверждал про конкретную архитектуру.
По тону комментария, мне кажется, что имелось ввиду больше, а не меньше. А так да, даже Нил ДеГрасс Тайсон говорил, что разница между самыми глупыми и самыми умными людьми настолько мала, что всего лишь "в 2 раза" более умные пришельцы для нас будут просто на другом уровне понимания
Ну собственно про это ещё Кларк писал в "Конце детства" в 1953м, задолго до Тайсона и прочих.
разница между самыми глупыми и самыми умными людьми настолько мала, что всего лишь "в 2 раза" более умные пришельцы для нас будут просто на другом уровне понимания
А в чем проводятся измерения? Представьте что у вас есть пароль на 10 символов и есть на 20 символов. Второй - "всего лишь" в два раза длиннее, но подобрать его несоизмеримо сложнее. Далеко не в два раза.
Я нашёл точный источник - речь шла о процентах различия ДНК, и не 2 раза, а 1%
Разница между Эйнштейном и дауном гораздо меньше, чем разница между дауном и шимпанзе, а про амёб и речи нет.
Это очень распространенное заблуждение, и я сам не понимаю вообще, откуда оно взялось. На самом деле, все как раз наоборот - чем дальше тем выше становится разрыв. При этом вроде как все этот факт понимают просто исходя из практики - очень легко сделать что-то, что работает на 90%, но вот добить оставшиеся 10% - это проблема. Для того, чтобы поставить новый мировой рекорд и пробежать стометровку на 0.1с быстрее, уходит на порядок больше сил и средств, чем на то, чтобы сделать из среднего человека кмс по бегу.
У меня нет такой уверенности про текущую архитектуру, и тем более — я ничего не утверждал про конкретную архитектуру.
Тогда про что? "нетекущей" архитектуры то нет.
чем дальше тем выше становится разрыв
Понятно, откуда взялось это заблуждение. Вы опираетесь на свой жизненный опыт и сравниваете "обычных" людей вокруг и продвинутых в своих областях профессионалов. Предлагаю ещё раз сравнить способности к мышлению, обучению и выполнению абстрактных операций у человеческого дауна и у шимпанзе. И можно сравнить эффективность Эйнштейна в токарном деле с навыкам и умениями "обычного" запойного токаря 6го разряда.
Люди если и достигают вершин, то в одной-двух узких специальностях, в остальном они такие же средние, если не хуже. Даун плох во всём. Но даже даун отстоит от шимпанзе, как бог. И любой шимпанзе отстоит от улитки настолько, что разницы между дауном и Эйнштейном нет. А улитка от амёбы — вообще непредставимо.
И да, этоn график не обрывается условным Эйнштейном, а вполне может продолжаться неограниченно вверх.
Чтобы назвать зависимость экспонентой, необхоlимо назвать вторую ось. Мне в голову не приходит, какая ось может быть второй, чтобы график интеллекта выглядел экспонентой
Чтобы назвать зависимость экспонентой, необхоlимо назвать вторую ось. Мне в голову не приходит, какая ось может быть второй, чтобы график интеллекта выглядел экспонентой
А какую вторую ось берете изначально?
Я беру затраты, которые требуются для получения некоей условной вычислительной системы, которая будет демонстрировать требуемый уровень интеллекта.
С-но, если нам понадобилось Х затрат чтобы прогрейдить сетку от амебы до "близко к человеку", то до "совсем человек" надо будет затратить, допустим, раз в 100 больше усилий, т.е. 100х. Потом еще раз в 100 - чтобы довести человека до уровня специалиста. Еще сотня - до эйнштейна, еще сотня - сверхьюман перформанс. В итоге совокупно 10^8, а сейчас проведено 0.000001% от всей работы.
Так у вас речь о проделанной работе, а вопрос был про разницу интеллекта
Так разница интеллекта может быть измерена в чем угодно, без контекста такой вопрос смысла не имеет.
Ну если начинать от начал, надо определить, что такое интеллект. Я исхожу из понятия — способность ставить и решать задачи.
Ну вот если это способность решать задачи, то интеллект который может решить задачу брутфорса пароля (или замените любой np-complete проблемой) из 10 символов отличается от интеллекта, который может решить за ту же секунду задачу брутфорса пароля из 20 - отличается как? По-вашему, видимо, вдвое? А по-моему все же в x^10 раз - где х количество возможных вариантов символа в пароле.
"Решать задачи" и "решать узкоспециализированные задачи" — это немного очень разные понятия.
Любой калькулятор умеет перемножать 10-значные числа лучше любого живого, но это не делает его интеллектом. Любой перфоратор пробьёт дырку лучше, чем любой живой руками.
Но ни калькулятор, ни перфоратор не могут понять, что надо подзарядиться, и двинуться к заряднику.
Умный пылесос, кстати, уже имеет интеллект не хуже амёбы.
По оси У — интеллектуальность, по оси Х — разные виды и экземпляры, более-менее в порядке возникновения на Земле. Ось Х не формализована, поэтому говорить о форме графика не приходится.
Я беру затраты, которые требуются для получения некоей условной вычислительной системы, которая будет демонстрировать требуемый уровень интеллекта.
От какого уровня или момента отсчитывать эти затраты и что в них включать? Если брать текущий уровень, то затраты на эмуляцию амёбы — около 0, 10летний ребёнок — сколько-то там миллиардов долларов и ресурсы крупного ДЦ, а эмуляция взрослого человека — невозможна. А вот если брать ресурсы "от сохи и до реализации", то ресурсы на эмуляцию амбы — это всё развитие электрики + электроники + программирования до 1960х примерно, то есть минимум 10к лет; затраты на достижение уровня 10летнего ребёнка — ещё 60 лет сверху; затраты на достижение уровня взрослого человека — предположительно ещё год-два.
Ось Х не формализована, поэтому говорить о форме графика не приходится.
Но вы же первый о нем заговорили.
10летний ребёнок — сколько-то там миллиардов долларов и ресурсы крутного ДЦ
10летнего ребенка сейчас не сэмулируешь ни как. Даже близко. Собственно я выше уже говорил - даже уровень животного (не слишком умного) сейчас недоступен (и почти наверняка не будет доступен в ближайшие десятилетия).
это всё развитие электрики + электроники + программирования до 1960х примерно, то есть минимум 10к лет; затраты на достижение уровня 10летнего ребёнка — ещё 60 лет сверху; затраты на достижение уровня взрослого человека — предположительно ещё год-два.
Так эти затраты даже не просто экспоненциальны, а сверхэкспоненциальны, я то и говорю. ввп рос примерно экспоненциально (пропорционально росту численности населения) вплоть до индустриальной революции, где рост стал сверхэкспоненциален. При этом доля ввп, которая уходила на исследования того или иного рода тоже постоянно росла - до недавнего времени основная доля человеческого производства уходила просто в банальное пожрать. Так что прогресс за последние пару десятков лет бьет прогресс за предыдущие пару десятков тысяч.
Амёба умеет уползти от опасности и приползти к еде. Впрочем, есть и гораздо более сложные формы поведения (образование колоний амёбами, распространение спор). Тем не менее эмулируется легко.
10-летний ребёнок — это ChatGPT4. Уже.
По шкале "время" затраты считаются, внимание, в годах. И затраты, очевидно, убывают. Экспоненциально или по-другому, отдельная тема.
То, что Вы пытаетесь считать всё в деньгах, это Ваш выбор, непонятно на чём основанный. Сами деньги меняют стоимость, причём с перекосами в разных отраслях. Соотенесение стоимости денег между эпохами крайне затруднено.
Посчитайте в деньгах эволюцию от амёбы до собаки, хотя бы. А в годах — можно.
А можно считать затраты в человеко-годах.
А можно ещё как-то.
Но самый удобный способ — просто в годах. Это интегральный показатель, в конечном итоге.
10-летний ребёнок — это ChatGPT4.
Даже не близко. Еще раз - чатгпт бесконенчо далека даже от животного. Еще десятки лет до этого уровня.
По шкале "время" затраты считаются, внимание, в годах.
Затраты не могут считаться в годах. Ну просто by definition.
То, что Вы пытаетесь считать всё в деньгах
Если у вас победил коммунизм, то можете в трудодни перевести. Это не важно.
Но самый удобный способ — просто в годах. Это интегральный показатель, в конечном итоге.
Только в том случае, если затраты константны по времени. Если же затраты сами являются ф-ей от конкретного момента времени - то показатель корректным не будет.
Даже не близко. Еще раз — чатгпт бесконенчо далека даже от животного. Еще десятки лет до этого уровня.
В Вас говорит животный шовинизм. Фактически же ChatGPT рассуждает, ставит подцели и выполняет их лучше любого ребёнка. Вы посмотрите хотя бы картинку в этой статье или в любой из соседних. Какой ребёнок в состоянии так рассуждать и строить планы? Не про знания речь, а про рассуждения и планы. Смиритесь.
Затраты не могут считаться в годах. Ну просто by definition.
/смотрит на план работ с разбивкой по датам deadline/
Любой большой план считается как в ресурсах, так и во времени. Ресурсы 2023го и 1823го нельзя соотнести, а тем более ресурсы 2023 и -1000023 годов
Если у вас победил коммунизм, то можете в трудодни перевести. Это не важно.
Вы явно про что-то другое. Мне кажется, вы зациклились на финансах. Сложность работ исчисляется не только финансами.
Деревня никогда не построит звездолёт, хотя финансов требуется на каждом конкретном уровне развития примерно одинаково.
Только в том случае, если затраты константны по времени.
Извините, финансовые затраты меня не интересуют от слова совсем. Вы (и никто) не может оценить стоимость колонизации Марса в деньгах. Даже оценить. Однако оценить затраты времени +-кирпич можно.
Фактически же ChatGPT рассуждает, ставит подцели и выполняет их лучше любого ребёнка.
Нет. Еще раз - она не может выполнить задачи, которые может выполнить условный голубь.
Любой большой план считается как в ресурсах, так и во времени.
При этом первичны именно ресурсы, которые потом можно перевести во время исходя из того, какие ресурсы доступны.
Если 10 строителей за пол года могут построить 1 дом- это не значит что 1 строитель может построить дом за год.
Не понимаю, почему вообще приходится явно высказывать столь очевидные утверждения.
Мне кажется, вы зациклились на финансах.
При чем тут финансы? Я же говорю, можете перевести в трудодни.
Деревня никогда не построит звездолёт, хотя финансов требуется на каждом конкретном уровне развития примерно одинаково.
Почему же? Построит, просто это будет _очень долго._ Ну, т.е. - реально _очень_.
Извините, финансовые затраты меня не интересуют от слова совсем.
Меня тоже. Это вы о них заговорили, не я.
Я говорил о затратах в общем - которые просто оцениваются в виде финансов ()и это самая точная оценка, котоаря нам доступна).
Так вот, в целом, количество ресурсов (под "ресурсами" подразумевается все что угодно, что может потребоваться для выполнения задачи), которые человечество могло тратить на решение тех или иных проблем росло сверхэкспонециально. Обеспечивалось это все двумя основными факторами - рост численности населения и (начиная с индустриальной революции) рост технологического уровня (который в свою очередь вел к росту производительности труда).
К 2023 оба фактора сдулись.
Похоже тренд сменился с "Ни дня без новости о тесле" на "ни дня без новости о гпт от майкрософт"
Вот когда начнет говорить "не знаю" или "не понял вопроса", тогда и поговорим. А то сейчас на непонятные запросы выдает околесицу как студент на экзамене.
нужно добавить подфункцию, которая будет заменять околесицу на ответ "не знаю"!
Тут возникает гносеологическая проблема - как нейросеть может осознать, что несет околесицу. Более того, вот представьте себе условного Галилея - первооткрывателя нового знания. Его знания, для нейросети облученной по старым дата-сетам будет околесицей!
как нейросеть может осознать, что несет околесицу
Звонок другуРазбор и проверка сгенерированного ответа другой нейросетью / генерация нескольких ответов и их разбор/сравнение.
Это не совсем правда, даже 3.5 умеет.
Например:
Проблема в том, что если хоть что-то известно по теме, то тут уже может начать выдумывать.
Или я Вас не понял или уже говорит. Если ввести случайный набор букв, то пишет: I'm sorry, but your input does not make any sense. Please provide a valid question or statement for me to assist you.
Если ввести вопрос на который человечество ещё не дало ответа, то так и напишет, что-то вроде, что на этот вопрос ещё нет ответа, не помню какая там точно формулировка.
ИМХО у нейросети на настоящий момент нет нескольких специализированных слоев, которые развились у человека в ходе эволюции, связанных за оценку достоверности и правдивости информации. Полагаю, что в течении ближайших 3-5 лет такие слои появятся.
Если оценка достоверности физических обьектов и процессов еще более-менее работает у человека, то на счет любой виртуальной информации - все плохо. Мы не в состоянии оценивать достоверность новостей, особенно если их готовили специалисты по манипуляции сознанием.
Не знаю, как это реализуется ( какими слоями и их конфигурацией), но человек строит свою виртуальную модель мира на основе полученной информации, и может мысленно представить какой-то физический объект, и способы его взаимодействия с миром. Выдвинуть гипотезу и провести мысленный эксперимент. И получив новые знания на основе этого мысленного эксперимента, воскликнуть как Архимед: "Эврика!".
Думаю, что для этого нужен движек другого типа, а не просто слой нейросети.
Некий сервер виртуализации.
Вообще-то риторика очень даже позволяет находить манипуляции. Судя по всему эти модели такому можно обучить.
Технические средства могут давать оценку вероятности достоверности информации. Я делал такой проект с использованием Байесовских методов и некоторых других технических приемов. Обычному человеку проделать такой обьем работы, который делает эта система - не под силу: у него на это нет времени и квалификации.
Кстати, какой бы качественной ни была система оценки достоверности, доверять ее работе сможет только тот, кто ей управляет. Внешний наблюдатель точно так же не может доверять выводам этой системы, как и любому другому источнику информации.
А что, "производительность человеческого уровня" - это уже признак "человеческого мышления"? Даже у табулятора Холлерита производительность превосходит человеческий уровень многократно. Правда, всего в одном виде задач. Но при этом до "признаков человеческого мышления" там...
Исследователи Microsoft: у GPT-4 есть признаки человеческого мышления