Так вот, и там и там - никакого цифрового отставания от Москвы не было, скорее наоборот. В Польше я, помнится, поразился, насколько продвинутым был мой интернет-банкинг по сравнению с российским. В Лондоне меня поразило многое еще больше, начиная с того что рабочий интернет со скоростью 1 гбит я получил ровно через 2 минуты после того как заселился в квартиру ( конечно, это везение, но я здесь говорю о своем опыте) и кончая в принципе тем, что здесь все очень технологично, даже условный уборщик работает на технике.
Может, конечно, дело в том, что из Москвы я уехал в 2016м, и я сравниваю, условно Лондон-2023 и Москву-2016 из своей памяти, но в любом случае все эти истории об "отставании западных стран" меня удивляют.
А можно какие-то пруфы про то, как люди умирают в очередях и что это прям массовое явление?
Не сомневаюсь, что периодически такое происходит, но это периодически происходит и в России. Про очереди еще вспомнилось как я, будучи проездом в России, попытался записаться на прием в поликлинику - и не было ни одного свободного слота в ближайшие три месяца, а на более дальний срок записаться уже и не давали. В целом, в интернете я вижу что абсолютно все жители ругают медицину в стране в которой находятся. Российские - ругают российскую, германские - немецкую, американцы - американскую и т.п. Это как раз тот случай, когда в чужой тарелке еда слаще.
В 1940-1944х годах с третьим рейхом тоже ( особенно в краткосрочной перспективе ) выгодней было торговать, а не воевать. Если мы сейчас говорим о странах не задетых войной - вроде Латинской америки. Но вот же незадача, эти идиоты - не иначе как под принуждением своих американских кураторов - большей частью отказались торговать с агрессорами и даже помогали союзникам. Т.е. вместо выгодной торговли с фашистами, забирали деньги и товары у своего народа - посылая помощь Советскому Союзу и встревая в чужую войну. Уверен, что в нацистких газетах неоднократно высмеивались экономические трудности которые эти идиоты сами себе создали, вместо того чтобы спокойно, выгодно и прибыльно торговать с нацистами.
Верно. Но не забываем и при этом их ругать и обвинять в пособничестве нацистам - когда это удобно.
Но касательно себя я на этот вопрос ответил - я не покупаю продукцию компаний, про которые я знаю, что они не ушли с российского рынка. Я знаю что таких как я мало, и вряд ли они даже заметят подобную реакцию в своих фин. отчетах, тем не менее.
Интересно, когда американские компании одна за другим уходили с немецкого рынка начиная с 1939го - нацистские СМИ наверное тоже говорили "Вот, дураки, деньги считать не умеют, сами отдают рынок итальянцам/японцам/бог знает кому еще"? Уверен, что и писали и говорили. Но суд истории рассудил иначе - и сейчас мы ругаем не те компании кто ушел, а тех, кто тогда решил остаться.
"Мне интересно, есть ли вероятность возникновения принципиально новых качеств, т.е. потенциально присутсвующих в данных, но недоступных для человека в силу его естественных ограничений. "
Я бы сказал, что это просто неизбежно. Нужно быть сильно антропоцентричным, чтобы считать иначе.
Мысль Елиезера была в том, что прогресс между GPT2 и GPT3 застал всех врасплох. Как раньше, например, застала всех врасплох AlphaGo. Когда еще вчера - ни одна одна программа не может выиграть в Go у опытного любителя, а сегодня - она разносит чемпиона мира.
Еще вчера - мы говорим о тесте Тьюринга как о достоверном, сегодня GPTx его проходит с легкостью, а мы вместо того чтобы задуматься, просто начинаем говорить "Ну, тест тьюринга ничего не показывает. Вот когда..." Два месяца назад журналист опубликовал статью с примерами задач, которые проваливал GPT3 и говорил что именно поэтому у него нет разума, а настоящий разум будет у той системы, которая их решит. Знаете что? GPT4 успешно решает все задачи из его статьи. Его "блестящая статья" не продержалась и двух месяцев. Он, вероятно, уже придумывает новые задачи, которые "Уж точно будут лакмусовой бумажкой для интеллекта", но история довольно показательная.
Таким образом, вопрос который задает Элиезер - что если GPT5 будет настолько же превосходить GPT4 , насколько GPT3 превосходит GPT2? А что если после этого будет еще один переход? Эти резкие скачки в уровне совершенно непредсказуемы, и именно это пугает. Уже сейчас куча споров в интернете о его разумности, а в любой момент может произойти очередной большой скачок в его возможностях, так что и спорить будет не о чем. А может быть, и некому.
Я прекрасно застал время когда простейшая сейчас задача сканирования текста считалась сложной и требующей самых продвинутых алгоритмов хотя бы для 90% надежности, электронные переводчики переводили тупо пословно, а игра в го считалась слишком сложной для машин, а за написание ботов для "Доты" обыгрывающей сильнейших чемпионов даже никто бы и не взялся. Может быть, я глубокий старик? Да нет, это было всего 15 лет назад. Мы даже не изучали тогда машинное обучение и нейросети в университете - вся эта область информатики считалась глубоко мертвой и не оправдавшей себя.
Если бы мне 15 лет назад кто описал возможности GPT4, Midjourney и AlphaZero - я был бы в шоке, да и вы все, если честно были бы. Поэтому то, что Элиезер смотрит вперед и не видит нас через 15 лет как вид если мы свернем с избранного пути - выглядит как паникерство, но возможно этот тот самый глас вопиющего в пустыне, глас какого-нибудь того самого мудреца из аборигенов острове Пасхи, призывающего не рубить последние деревья. Я не утверждаю это, я говорю лишь - такое возможно.
После того как автор блестяще выяснил столь сложный вопрос, осветил своим светлым умом, предлагаю ему заодно разобраться - так сколько же все-таки ангелов поместится на кончике иглы?
Все эти "новости" с диалогами в которых аи просто пишет то, к чему пользователь его подталкивает, вроде как признаны создавать хайп вокруг нейросеток, создавая сильно преувеличенное впечатление об их прогрессе и возможностях. Но я уже начинаю опасаться, что хайпующие переборщат, и любители которые не понимают принципы работы нейросетей ( а среди чиновников таких, наверное, >99%) просто перепаникуют и все запретят, чем остановят любой прогресс в этой области.
Российские власти - это последняя организация в мире от которой нужно опасаться прорывов в деле высоких технологий. Повод для опасений был бы если бы они пустили все на самотек, а так - ничего не получится, "место проклятое".
Моя логика заключается в следующем, попробую написать ее чуть более подробно.
Возьмем вашего русскоговорящего эксперта. Я предполагаю, что если он действительно 'чувствует' что какие-то проблемы есть с текстом которые выдают не-носителя, то как правило он может и объяснить - в чем дело ( в отличие от нейросетки, как раз). Т.е. он видит какие-то обороты несвойственные носителю, нехарактерные для носителей фразы, построение предложений, риторические и стилистические приемы или даже конкретные слова. А если он это действительно видит - то соответственно и при написании своих текстов он может избегать этого чтобы 'сойти' за носителя. Способность распознавать плохие тексты идет рядом со способностью не писать их.
Есть, конечно, и альтернативная гипотеза, которую здесь в комментариях некоторые продвигают ( опять же без доказательств). Что, мол, это разные способности - способность 'чувствовать' что что-то не так ( причем правильно чувствовать, так чтобы проверяемые тесты показавали что чутье действительно работает) и способность 'понимать' что конкретно не так ( и соответственно избегать в своих сочинениях ). Это допущение мне кажется ни на чем не обоснованным и лишним. У вас есть хоть какое-то доказательство подобной двойственной природы?
Ну а дальше, смотрите. Если мы опрашиваем 'native' экспертов то неважно какая из двух гипотез верна. А если опрашивать русскоговорящих экспертов, то в случае если верна моя гипотеза ( и способность 'чувствовать' и способность 'понимать' идут вместе ) - то весь ваш опрос просто бесмысленнен, его результаты были предсказумы заранее. Какие они собственно и получились. Если они не могут писать сочинения 'правильно', то и распознать их, конечно, же не смогут. Таким образом, опрос русскоговорящих экспертов дает примерно ничего кроме косвенного свидетельства о том, что моя гипотеза верна.
Если же вы бы опрашивали 'native' экспертов, то вы бы не зависели от результатов этой гипотезы. Но их вы почему-то опросили только троих.
Детектор в мозгу мне ничего не говорит то том, в какую сторону надо практически изменить текст, чтобы он был таким, как хочется.
Извините, пожалуйста, я удалил абзац на который вы ответили. Удалил его именно потому что предположил что развернется дискуссия вокруг него, а не собственно вокруг исходного моего утверждения.
Ладно, соглашусь что конкретно это предложение возможно требует доказательства.
Но это никак не опровергает мое предложение о том, что если есть некая разница между native-уровнем и learned-уровнем, то ее в первую очередь нужно предлагать искать именно native-уровню. То что learned-уровень ее не видит - не означает в данном случае вообще ничего.
Если я правильно прочитал статью, то столь далеко идущие выводы о превосходстве AI были сделаны на результатах опроса трех ( трех, Карл! ) британцев, про которых даже не было сказано - являются ли они экспертами или хотя бы образованными и были ли они хоть как-то мотивированы на результат. Результаты опроса автор статьи даже постеснялся сюда выложить.
Да, русскоязычных авторов опросили больше, но то что они не смогли различить тексты здесь как раз неудивительно и абсолютно ожидаемо. Если и есть разница между 'native' и 'learned' уровнями владения языка, то очень странно предлагать ее увидеть именно 'learned' людям. Если бы они могли ее увидеть, то для них не составляло бы и проблемы и писать тексты так, чтобы она не ощущалась. Это как дальтоникам предлагать определять - какие из написанных картин написаны дальтониками, очевидно что предлагать нужно другой стороне.
Добавлю еще что мне не понравился фрагмент 'с уровнем английского С1-С2 '. Между C1 и С2 настоящая пропасть, разница в несколько лет интенсивного обучения, смешивать их в одну кучу - просто странно. Например, я сдал экзамен на C1 вообще без какой-либо подготовки или дополнительного обучения, просто потому что несколько лет работал в иностранной компании, но на уровень C2 таким образом сдать совершенно невозможно.
В большинстве PvP партий решающая финальная битва двух человеков просто формальность и исход ее решает то, как игрок провел другую часть игры - против карты и нейтральных мобов. Очень в редком количестве партий игроки подходят к финальной битве с примерно равными войсками/параметрами, в подавляющем большинстве - у одного серьезное преимущество добытое более умелым прохождением карты ( или удачей ) .
Поэтому умение использовать глупость нейтральных мобов и, соответственно, побеждать малыми силами с малыми потерями - это один из двух важнейших скиллов для сильного игрока, наряду с эффективной логистикой множества героев.
Поле в героях нельзя настроить. Но есть (довольно сложный ) алгоритм по которому игра определяет какое будет поле для данной конкретной битвы. Это в основном зависит от типа территории, координат клетки и некоторых других параметров.
Т.е. нельзя заказать себе любое какое хочешь поле, но можно нудно перебирать клетку за клеткой пока поле битвы не будет таким, что оно тебе подойдет для твоей задумки. Т.е. автор карты возможно часами перебирал координаты, ища ту, где есть такая safe-клеточка. Но уже есть написанные умельцами тулы которые несколько автоматизируют этот процесс перебора.
После того как попытались придраться что в моем списке полезных элементов, якобы, было мало терминов относящихся к непрограммистам, поэтому, мол, все совершенно правильно подумали, что я говорил о программистах. Тогда как я это слово даже не использовал, а совершенно сознательно говорил "айтишники".
Но было интересно узнать по более чем десятку ответов которые я здесь получил, что почти для всех хабровчан ( по крайней мере отписавшихся ) "Айтишники" = "Программисты" и никак иначе.
P.S. Мне часто говорили что мол, отчего вы программисты такие снобы и что мол, ваши зарплаты раздувают у вас ложное ощущение сложности вашей работы и интеллектуального превосходства. Я всегда не верил и спорил с этим, но вот сейчас увидел как это выглядит со стороны. Теперь я больше понимаю тех, кто мне это говорил.
Постоянно читаю об этом - но не понимаю.
Я после Москвы жил в Польше и сейчас в Лондоне.
Так вот, и там и там - никакого цифрового отставания от Москвы не было, скорее наоборот. В Польше я, помнится, поразился, насколько продвинутым был мой интернет-банкинг по сравнению с российским. В Лондоне меня поразило многое еще больше, начиная с того что рабочий интернет со скоростью 1 гбит я получил ровно через 2 минуты после того как заселился в квартиру ( конечно, это везение, но я здесь говорю о своем опыте) и кончая в принципе тем, что здесь все очень технологично, даже условный уборщик работает на технике.
Может, конечно, дело в том, что из Москвы я уехал в 2016м, и я сравниваю, условно Лондон-2023 и Москву-2016 из своей памяти, но в любом случае все эти истории об "отставании западных стран" меня удивляют.
Поясните пожалуйста - в Канаде вообще нет коммерческих клиник? Или их стоимость недоступна понаехавшим?
А можно какие-то пруфы про то, как люди умирают в очередях и что это прям массовое явление?
Не сомневаюсь, что периодически такое происходит, но это периодически происходит и в России. Про очереди еще вспомнилось как я, будучи проездом в России, попытался записаться на прием в поликлинику - и не было ни одного свободного слота в ближайшие три месяца, а на более дальний срок записаться уже и не давали. В целом, в интернете я вижу что абсолютно все жители ругают медицину в стране в которой находятся. Российские - ругают российскую, германские - немецкую, американцы - американскую и т.п. Это как раз тот случай, когда в чужой тарелке еда слаще.
В 1940-1944х годах с третьим рейхом тоже ( особенно в краткосрочной перспективе ) выгодней было торговать, а не воевать. Если мы сейчас говорим о странах не задетых войной - вроде Латинской америки. Но вот же незадача, эти идиоты - не иначе как под принуждением своих американских кураторов - большей частью отказались торговать с агрессорами и даже помогали союзникам. Т.е. вместо выгодной торговли с фашистами, забирали деньги и товары у своего народа - посылая помощь Советскому Союзу и встревая в чужую войну. Уверен, что в нацистких газетах неоднократно высмеивались экономические трудности которые эти идиоты сами себе создали, вместо того чтобы спокойно, выгодно и прибыльно торговать с нацистами.
Верно. Но не забываем и при этом их ругать и обвинять в пособничестве нацистам - когда это удобно.
Но касательно себя я на этот вопрос ответил - я не покупаю продукцию компаний, про которые я знаю, что они не ушли с российского рынка. Я знаю что таких как я мало, и вряд ли они даже заметят подобную реакцию в своих фин. отчетах, тем не менее.
Интересно, когда американские компании одна за другим уходили с немецкого рынка начиная с 1939го - нацистские СМИ наверное тоже говорили "Вот, дураки, деньги считать не умеют, сами отдают рынок итальянцам/японцам/бог знает кому еще"? Уверен, что и писали и говорили. Но суд истории рассудил иначе - и сейчас мы ругаем не те компании кто ушел, а тех, кто тогда решил остаться.
"Мне интересно, есть ли вероятность возникновения принципиально новых качеств, т.е. потенциально присутсвующих в данных, но недоступных для человека в силу его естественных ограничений. "
Я бы сказал, что это просто неизбежно. Нужно быть сильно антропоцентричным, чтобы считать иначе.
Вы несколько перевираете его слова.
Мысль Елиезера была в том, что прогресс между GPT2 и GPT3 застал всех врасплох. Как раньше, например, застала всех врасплох AlphaGo. Когда еще вчера - ни одна одна программа не может выиграть в Go у опытного любителя, а сегодня - она разносит чемпиона мира.
Еще вчера - мы говорим о тесте Тьюринга как о достоверном, сегодня GPTx его проходит с легкостью, а мы вместо того чтобы задуматься, просто начинаем говорить "Ну, тест тьюринга ничего не показывает. Вот когда..." Два месяца назад журналист опубликовал статью с примерами задач, которые проваливал GPT3 и говорил что именно поэтому у него нет разума, а настоящий разум будет у той системы, которая их решит. Знаете что? GPT4 успешно решает все задачи из его статьи. Его "блестящая статья" не продержалась и двух месяцев. Он, вероятно, уже придумывает новые задачи, которые "Уж точно будут лакмусовой бумажкой для интеллекта", но история довольно показательная.
Таким образом, вопрос который задает Элиезер - что если GPT5 будет настолько же превосходить GPT4 , насколько GPT3 превосходит GPT2? А что если после этого будет еще один переход? Эти резкие скачки в уровне совершенно непредсказуемы, и именно это пугает. Уже сейчас куча споров в интернете о его разумности, а в любой момент может произойти очередной большой скачок в его возможностях, так что и спорить будет не о чем. А может быть, и некому.
Я прекрасно застал время когда простейшая сейчас задача сканирования текста считалась сложной и требующей самых продвинутых алгоритмов хотя бы для 90% надежности, электронные переводчики переводили тупо пословно, а игра в го считалась слишком сложной для машин, а за написание ботов для "Доты" обыгрывающей сильнейших чемпионов даже никто бы и не взялся. Может быть, я глубокий старик? Да нет, это было всего 15 лет назад. Мы даже не изучали тогда машинное обучение и нейросети в университете - вся эта область информатики считалась глубоко мертвой и не оправдавшей себя.
Если бы мне 15 лет назад кто описал возможности GPT4, Midjourney и AlphaZero - я был бы в шоке, да и вы все, если честно были бы. Поэтому то, что Элиезер смотрит вперед и не видит нас через 15 лет как вид если мы свернем с избранного пути - выглядит как паникерство, но возможно этот тот самый глас вопиющего в пустыне, глас какого-нибудь того самого мудреца из аборигенов острове Пасхи, призывающего не рубить последние деревья. Я не утверждаю это, я говорю лишь - такое возможно.
Да, стиль безошибочно узнаваем.
После того как автор блестяще выяснил столь сложный вопрос, осветил своим светлым умом, предлагаю ему заодно разобраться - так сколько же все-таки ангелов поместится на кончике иглы?
Все эти "новости" с диалогами в которых аи просто пишет то, к чему пользователь его подталкивает, вроде как признаны создавать хайп вокруг нейросеток, создавая сильно преувеличенное впечатление об их прогрессе и возможностях. Но я уже начинаю опасаться, что хайпующие переборщат, и любители которые не понимают принципы работы нейросетей ( а среди чиновников таких, наверное, >99%) просто перепаникуют и все запретят, чем остановят любой прогресс в этой области.
Российские власти - это последняя организация в мире от которой нужно опасаться прорывов в деле высоких технологий. Повод для опасений был бы если бы они пустили все на самотек, а так - ничего не получится, "место проклятое".
Моя логика заключается в следующем, попробую написать ее чуть более подробно.
Возьмем вашего русскоговорящего эксперта. Я предполагаю, что если он действительно 'чувствует' что какие-то проблемы есть с текстом которые выдают не-носителя, то как правило он может и объяснить - в чем дело ( в отличие от нейросетки, как раз). Т.е. он видит какие-то обороты несвойственные носителю, нехарактерные для носителей фразы, построение предложений, риторические и стилистические приемы или даже конкретные слова. А если он это действительно видит - то соответственно и при написании своих текстов он может избегать этого чтобы 'сойти' за носителя. Способность распознавать плохие тексты идет рядом со способностью не писать их.
Есть, конечно, и альтернативная гипотеза, которую здесь в комментариях некоторые продвигают ( опять же без доказательств). Что, мол, это разные способности - способность 'чувствовать' что что-то не так ( причем правильно чувствовать, так чтобы проверяемые тесты показавали что чутье действительно работает) и способность 'понимать' что конкретно не так ( и соответственно избегать в своих сочинениях ). Это допущение мне кажется ни на чем не обоснованным и лишним. У вас есть хоть какое-то доказательство подобной двойственной природы?
Ну а дальше, смотрите. Если мы опрашиваем 'native' экспертов то неважно какая из двух гипотез верна. А если опрашивать русскоговорящих экспертов, то в случае если верна моя гипотеза ( и способность 'чувствовать' и способность 'понимать' идут вместе ) - то весь ваш опрос просто бесмысленнен, его результаты были предсказумы заранее. Какие они собственно и получились. Если они не могут писать сочинения 'правильно', то и распознать их, конечно, же не смогут. Таким образом, опрос русскоговорящих экспертов дает примерно ничего кроме косвенного свидетельства о том, что моя гипотеза верна.
Если же вы бы опрашивали 'native' экспертов, то вы бы не зависели от результатов этой гипотезы. Но их вы почему-то опросили только троих.
Детектор в мозгу мне ничего не говорит то том, в какую сторону надо практически изменить текст, чтобы он был таким, как хочется.Извините, пожалуйста, я удалил абзац на который вы ответили. Удалил его именно потому что предположил что развернется дискуссия вокруг него, а не собственно вокруг исходного моего утверждения.
Ладно, соглашусь что конкретно это предложение возможно требует доказательства.
Но это никак не опровергает мое предложение о том, что если есть некая разница между native-уровнем и learned-уровнем, то ее в первую очередь нужно предлагать искать именно native-уровню. То что learned-уровень ее не видит - не означает в данном случае вообще ничего.
Если я правильно прочитал статью, то столь далеко идущие выводы о превосходстве AI были сделаны на результатах опроса трех ( трех, Карл! ) британцев, про которых даже не было сказано - являются ли они экспертами или хотя бы образованными и были ли они хоть как-то мотивированы на результат. Результаты опроса автор статьи даже постеснялся сюда выложить.
Да, русскоязычных авторов опросили больше, но то что они не смогли различить тексты здесь как раз неудивительно и абсолютно ожидаемо. Если и есть разница между 'native' и 'learned' уровнями владения языка, то очень странно предлагать ее увидеть именно 'learned' людям. Если бы они могли ее увидеть, то для них не составляло бы и проблемы и писать тексты так, чтобы она не ощущалась. Это как дальтоникам предлагать определять - какие из написанных картин написаны дальтониками, очевидно что предлагать нужно другой стороне.
Добавлю еще что мне не понравился фрагмент 'с уровнем английского С1-С2 '. Между C1 и С2 настоящая пропасть, разница в несколько лет интенсивного обучения, смешивать их в одну кучу - просто странно. Например, я сдал экзамен на C1 вообще без какой-либо подготовки или дополнительного обучения, просто потому что несколько лет работал в иностранной компании, но на уровень C2 таким образом сдать совершенно невозможно.
Да, я думал это мой банк скупердяи ( потому что они начали делать ровно то же самое даже еще до пандемии ).
Но в целом, это признание того, что гугл окончательно стал "большой корпорацией как все".
В большинстве PvP партий решающая финальная битва двух человеков просто формальность и исход ее решает то, как игрок провел другую часть игры - против карты и нейтральных мобов. Очень в редком количестве партий игроки подходят к финальной битве с примерно равными войсками/параметрами, в подавляющем большинстве - у одного серьезное преимущество добытое более умелым прохождением карты ( или удачей ) .
Поэтому умение использовать глупость нейтральных мобов и, соответственно, побеждать малыми силами с малыми потерями - это один из двух важнейших скиллов для сильного игрока, наряду с эффективной логистикой множества героев.
Поле в героях нельзя настроить. Но есть (довольно сложный ) алгоритм по которому игра определяет какое будет поле для данной конкретной битвы. Это в основном зависит от типа территории, координат клетки и некоторых других параметров.
Т.е. нельзя заказать себе любое какое хочешь поле, но можно нудно перебирать клетку за клеткой пока поле битвы не будет таким, что оно тебе подойдет для твоей задумки. Т.е. автор карты возможно часами перебирал координаты, ища ту, где есть такая safe-клеточка. Но уже есть написанные умельцами тулы которые несколько автоматизируют этот процесс перебора.
Опять же это придирки к словам.И это вы мне говорите? :)
После того как попытались придраться что в моем списке полезных элементов, якобы, было мало терминов относящихся к непрограммистам, поэтому, мол, все совершенно правильно подумали, что я говорил о программистах. Тогда как я это слово даже не использовал, а совершенно сознательно говорил "айтишники".
Но было интересно узнать по более чем десятку ответов которые я здесь получил, что почти для всех хабровчан ( по крайней мере отписавшихся ) "Айтишники" = "Программисты" и никак иначе.
P.S. Мне часто говорили что мол, отчего вы программисты такие снобы и что мол, ваши зарплаты раздувают у вас ложное ощущение сложности вашей работы и интеллектуального превосходства. Я всегда не верил и спорил с этим, но вот сейчас увидел как это выглядит со стороны. Теперь я больше понимаю тех, кто мне это говорил.