Вы: OpenAI бесплатно решил за них 10500 задач, а они ещё и недовольны! Луддиты какие-то, за тёплое место держатся.
Я: Да не луддиты они, нормальные ребята, их беспокоит (список).
Вы: OpenAI ничего не нарушал!
Я: Не нарушал, но список от этого никуда не делся.
Я перечитал часть про суды и полицию. Наверно, пример плохой, потому что он не туда заводит. Вы говорите, что наука устроена "не так", потому что математики недовольны, что им что-то сделали забесплатно, а они ноют. А я отвечаю, что наука устроена ровно так, как любой общественный институт -- и суд вам не обрадуется, если вы ногой дверь откроете и скажете, мол, бросайте дела, у меня тут несправедливость. И школа спасибо не скажет, если вы начнёте приводить туда с улицы всех, кто забыл теорему Пифагора. Так что удивляться нечему.
Ну так а хоть один математик заявил, что OpenAI нарушали законы? Одни захотели -- выложили. Другие захотели -- отреагировали. Нормальная дискуссия.
А насчёт ожиданий -- ну безусловно, ожидают. Представьте себе, что OpenAI вот это всё выкладывает, а от математиков полный игнор. Вы же сами об этом напишете, разве нет? Мол, тут целая пещера Аладдина на гитхабе, а со стороны математиков полный игнор.
Возвращаясь к примерам научных фриков вроде Фоменко (ок, не сравниваю, разные ситуации) -- от учёных таки ожидали, что кто-то да отреагирует.
Когда вам говорят, что учёные "бились" -- это сильное журналистское преувеличение. Над теоремой Ферма "бились" 300 лет отдельные одержимые ребята, среди которых было не так много профессиональных математиков. Должен совпасть интерес, область специализации, и возможность (грубо говоря, начальство даёт добро). А такие совпадения на практике редки.
Далее, разговоры про Lean это из области "вот я тут тебе уже накидал прототип софта в Claude/нарисовал арты в Paint, а дальше дело техники, $100 так и быть заплачу". Ведь ровно поэтому и существуют peer-review публикации: от всех этих препринтов до результата может быть так же далеко, как от Фоменко до Ключевского.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение.
Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Я лично думаю, что карьера конкретных подписантов уже сложилась, и подозревать их в луддизме нет оснований: им самим ничего не угрожает. Их беспокоит эрозия научного сообщества и попытки делать науку через твиттер. Ну вот меня тоже беспокоит, чего уж там, хотя LLM пользуюсь ежедневно и с большим удовольствием.
Мне кажется, вы не совсем справедливо относитесь к авторам письма. Ааронсон реагирует "адекватно" просто потому, что он про другое: когда доступны AI-инструменты, невозможно продолжать заниматься математикой по-старинке. И я думаю, что многие подписанты прекрасно это осознают. Мне кажется, там проблема в другом:
Во-первых, авторы совершенно правы в том, что многие математические задачи на практике не особо кому нужны, и их используют по сути как контекст для обсуждения более широкого круга задач, ну и надеются выявить связи между разными частями математики. Об этом много написано в известной книжке про доказательство теоремы Ферма, напр. А про фрустрацию компьютерным доказательством писали ещё в семидесятых в контексте теоремы о четырёх красках: ну да, компьютер перебором нашёл, что четырёх достаточно, и что нам с этого?
Во-вторых, про препринты. Математики оказываются тут в безвыигрышном положении, которое нам тоже хорошо известно по публикациям типа "Новой хронологии" Фоменко. У нас, с одной стороны, есть "слоп", который тиражируется и раздаётся из каждого утюга, а с другой стороны, есть учёные, которые должны для себя выбрать -- либо они делают вид, что ничего этого не существует (потому что это не peer review публикация, а значит, проходит по категории литературы, и тут каждый сочиняет чего хочет), либо считают своим долгом как-то это дело комментировать, что для профессионала по сути тягомотный и безвыигрышный труд во имя довольно абстрактных идеалов.
Так что ситуация куда деликатнее, чем просто "луддиты против open AI".
Ну вот вы начали с книжек, которые мы все вроде как читали, а теперь пишете целую простыню на тему того, что компьютерный ИИ победит человека, а все вокруг хлопают и ничего не понимают, как будто бы до вас никто про это не писал.
Вот, например, Артур Кларк в интервью BBC 1964 года (есть на ютюбе) говорит, что нам стоит ощущать "privilege to be stepping stones to higher things" (по Кларку, к мыслящим машинам). Примерно такой же точки зрения придерживался Вернор Виндж, а из ныне живущих -- Ричард Саттон, например (лауреат премии Тьюринга).
Я даже близко не хочу вас переубеждать -- позиция совершенно понятная и имеющая право на жизнь. Просто не думайте, что никто ничего не понимает. Люди понимают, но такое будущее пугает далеко не всех. Меня, наверно, не слишком пугает.
Ну так вы же сами говорите, что ничего нового. Были луки, стали арбалеты, были арбалеты, стали мушкеты. Вам же не 500 лет от роду, и мы с вами, наверно, ходили в одни и те же книжные магазины, которые уже на нашей жизни были забиты слопом типа Донцовой. Куда ни плюнь -- везде сериалы с продолжением: человек-паук сто сорок пять, оригинальность редка. Вместо домашних страничек сначала одинаковые посты на фейсбуке, но там хотя бы ещё разделы с фотографиями и друзьями были, а теперь ещё более одинаковые посты в телеграме, где и такого нет. Разумеется, массы забьют слопом интернет, но и пре-AI трафик уже на 99% процентов состоит из тиктоков и ютюбов типа "я ем котлеты".
В своё время Гугл как поисковик вырос на простой идее: фильтрация контента не нужна, нужно ранжирование. У Альтависты и прочих Яху выдача была куда короче, потому что если юзер писал "яблоко", надо было ему найти текст, где есть это слово. А Гугл решил. что пусть лучше малорелевантная лабуда окажется на странице 10, и незачем её выкидывать, главное, чтобы начало было хорошим. Мне кажется, сокрушаться по поводу слопа или бороться с ним -- затея гиблая. В идеальном мире поиск и discovery будут работать так, что наверху окажется качественный материал, неважно, какими инструментами созданный, а ерунда пойдёт на дно. Пока с этим дела обстоят так себе, конечно.
Ну право слово, вы считаете "более разнообразной" выборку случайных текстов конца 90-х по сравнению с полным объёмом доступных текстов, на которых учится нейросеть, и которая включает в себя в том числе и сетевые публикации 90-х, которые до сих пор доступны для индексирования? Мне как-то кажется самоочевидным, что нейросеть видела гораздо больше разнообразных текстов, чем я, например.
Вот этот редукционизм мне уже порядком надоел. Какая разница, что у нейросети на самом базовом уровне происходит? Если у нас "под капот" залезть, там тоже ничего "думательного" -- ну перелетают молекулы туда-сюда, ну звряды электрические, и ни одной мысли!
Верно, но если вам формулировки автора кажутся свежими и оригинальными, не исключено, что вы просто с ним на разных текстах росли. Или прямо сейчас автор читает своё, а вы своё. А для человека из авторского пузыря он звучит ровно так же, как для вас LMM-выхлоп.
Но вы же тоже учитесь на текстах, которые читаете. А те, кто их писали, тоже учились на предыдущих текста. И вся история развития письменного слова к коллапсу (вроде бы) не привела.
Но кнопка RSS есть же адресной строке браузера? А если я читаю на Хабре, значит, мне удобно читать именно здесь, а не в телеграмме, который я могу ещё воспринимать как ленту новостей, но для любого околотехнического контента выглядит как даунгрейд во всех отношениях. Меня раздражает не реклама, а само распространение подобных затей: а вот ссылка, где я под гитару пою свои программы на Java. Примерно в этом ключе.
Да мне кажется, что это вы уникум, если на полном серьёзе считаете, что жизнь среднего человека настолько тяжела, а варианты слегка отвлечься настолько немногочисленны, что единственный возможный вариант не скатиться в бесконечный скролл -- это выбросить смартфон.
В моём представлении есть дни хуже, есть дни лучше, иногда хочется весь день лежать на диване и ничего не делать, иногда хочется поехать куда-нибудь подальше и ни о чём не думать, но если у тебя скроллинг занимает настолько много места в жизни, что хочется его жёстко ограничить -- это уже за гранью.
По сути вы сейчас назвали меня "киброргом" лишь потому, что я считаю, что досуг не ограничивается просмотром ленты. Мне всегда казалось, что это ровно наоборот, верный признак нёрда -- есть что-то одно ему интересное, а остального как бы не существует.
Ну, по этой логике какое-то дикое количество людей только и делают, что пытаются справиться с "тяжёлыми когнитивными нагрузками". Наверно, Цукерберг с Маском тоже по полдня скролят, или уже давно кнопочные телефоны купили.
Я не вижу ничего криминального в том, чтобы утром за чашкой чая почитать новости и хабр и иногда чего-то там откомментировать. От этой безобидной привычки очень далеко до ситуации, когда человек готов выбросить смартфон, ибо руки сами тянутся потратить любую свободную минуту на чтение непонятно чего.
Проблема не в том, что пресса и научпоп переехали в онлайн, проблема в том, что люди подсаживаются на алгоритмическую ленту, которая по определению выдаёт рандомные посты от рандомных людей. В этом и состоит её работа: подсовывать разное и новое, чтобы не дай бог не закончить скроллинг и не заняться другими делами.
Я даже близко не хочу заниматься морализаторством, но очевидно же, что речь идёт о нездоровом потреблении. Если бы автор писал, что не может покупать больше одной плитки шоколада за раз, потому что съест все без остановки, я бы отреагировал ровно так же. Дело же не в телефоне и не в каналах, а в том, что у людей проблемы с чувством меры.
Но откуда вообще берётся желание скроллить ленту? У меня огромный список из непрочитанных книг и непросмотренных фильмов, и всё это продукция топ-класса, а не какие-то рандомные посты от рандомных людей, которые завтра никто не вспомнит. Если у меня есть свободные 5 минут, я учу карточки со словами или читаю книжку (конечно, хорошо бы погружаться глубже, но как получается), но сама мысль залезть в какую-то вкладку со случайно наваленным барахлом даже в голову не приходит.
Это я даже не в порядке критики, просто иногда диву даёшься, как по-разному устроены люди. Для меня это как слот-машины: ровно такая же непостижимая история. Я знаю, что масса людей дёргают эти рычаги и смотрят на барабаны с фруктами, но понять не могу никак, ведь даже в Super Mario Bros. на порядок больше геймплея. Как-то ради интереса решил подёргать рычаг, пока не проиграю (небольшую) купюру из кармана, так вот это были едва ли не самые скучные 15 минут жизни.
Ну по моему опыту даже с описанными требованиями всё равно LLM не хуже. Грубо говоря, в умелых руках LLM явно добавляет производительности. Соответственно, хорший джун будет использовать LLM (нет ни одной причины не использовать). А далее вопрос в том, какую прибавочную стоимость он создаёт для вас, учитывая, что вы и без него можете использовать LLM. С моей точки зрения, человек, который создаёт прибавочную стоимость в таких условиях уже не совсем джун.
Мне этот диалог видится иначе:
Вы: OpenAI бесплатно решил за них 10500 задач, а они ещё и недовольны! Луддиты какие-то, за тёплое место держатся.
Я: Да не луддиты они, нормальные ребята, их беспокоит (список).
Вы: OpenAI ничего не нарушал!
Я: Не нарушал, но список от этого никуда не делся.
Я перечитал часть про суды и полицию. Наверно, пример плохой, потому что он не туда заводит. Вы говорите, что наука устроена "не так", потому что математики недовольны, что им что-то сделали забесплатно, а они ноют. А я отвечаю, что наука устроена ровно так, как любой общественный институт -- и суд вам не обрадуется, если вы ногой дверь откроете и скажете, мол, бросайте дела, у меня тут несправедливость. И школа спасибо не скажет, если вы начнёте приводить туда с улицы всех, кто забыл теорему Пифагора. Так что удивляться нечему.
Ну так а хоть один математик заявил, что OpenAI нарушали законы? Одни захотели -- выложили. Другие захотели -- отреагировали. Нормальная дискуссия.
А насчёт ожиданий -- ну безусловно, ожидают. Представьте себе, что OpenAI вот это всё выкладывает, а от математиков полный игнор. Вы же сами об этом напишете, разве нет? Мол, тут целая пещера Аладдина на гитхабе, а со стороны математиков полный игнор.
Возвращаясь к примерам научных фриков вроде Фоменко (ок, не сравниваю, разные ситуации) -- от учёных таки ожидали, что кто-то да отреагирует.
Да нет, нормально устроены дела.
Когда вам говорят, что учёные "бились" -- это сильное журналистское преувеличение. Над теоремой Ферма "бились" 300 лет отдельные одержимые ребята, среди которых было не так много профессиональных математиков. Должен совпасть интерес, область специализации, и возможность (грубо говоря, начальство даёт добро). А такие совпадения на практике редки.
Далее, разговоры про Lean это из области "вот я тут тебе уже накидал прототип софта в Claude/нарисовал арты в Paint, а дальше дело техники, $100 так и быть заплачу". Ведь ровно поэтому и существуют peer-review публикации: от всех этих препринтов до результата может быть так же далеко, как от Фоменко до Ключевского.
Организованная наука -- это такой же общественный институт, как и всё остальное. Если вам (как вам кажется) незаконно не обменяли товар в магазине или уволили с работы, вы же не ожидаете, что справедливость сама собой восторжествует? Есть компетентные органы, установленные процедуры, суды. Так и здесь ровно то же: подаёте вашу рукопись в журнал и получаете экспертное заключение.
Почему-то никто не ожидает, что полицейский в свободное от работы время будет патрулировать улицы, а от учёного что-то в этом роде ожидается.
Я лично думаю, что карьера конкретных подписантов уже сложилась, и подозревать их в луддизме нет оснований: им самим ничего не угрожает. Их беспокоит эрозия научного сообщества и попытки делать науку через твиттер. Ну вот меня тоже беспокоит, чего уж там, хотя LLM пользуюсь ежедневно и с большим удовольствием.
Мне кажется, вы не совсем справедливо относитесь к авторам письма. Ааронсон реагирует "адекватно" просто потому, что он про другое: когда доступны AI-инструменты, невозможно продолжать заниматься математикой по-старинке. И я думаю, что многие подписанты прекрасно это осознают. Мне кажется, там проблема в другом:
Во-первых, авторы совершенно правы в том, что многие математические задачи на практике не особо кому нужны, и их используют по сути как контекст для обсуждения более широкого круга задач, ну и надеются выявить связи между разными частями математики. Об этом много написано в известной книжке про доказательство теоремы Ферма, напр. А про фрустрацию компьютерным доказательством писали ещё в семидесятых в контексте теоремы о четырёх красках: ну да, компьютер перебором нашёл, что четырёх достаточно, и что нам с этого?
Во-вторых, про препринты. Математики оказываются тут в безвыигрышном положении, которое нам тоже хорошо известно по публикациям типа "Новой хронологии" Фоменко. У нас, с одной стороны, есть "слоп", который тиражируется и раздаётся из каждого утюга, а с другой стороны, есть учёные, которые должны для себя выбрать -- либо они делают вид, что ничего этого не существует (потому что это не peer review публикация, а значит, проходит по категории литературы, и тут каждый сочиняет чего хочет), либо считают своим долгом как-то это дело комментировать, что для профессионала по сути тягомотный и безвыигрышный труд во имя довольно абстрактных идеалов.
Так что ситуация куда деликатнее, чем просто "луддиты против open AI".
Ну вот вы начали с книжек, которые мы все вроде как читали, а теперь пишете целую простыню на тему того, что компьютерный ИИ победит человека, а все вокруг хлопают и ничего не понимают, как будто бы до вас никто про это не писал.
Вот, например, Артур Кларк в интервью BBC 1964 года (есть на ютюбе) говорит, что нам стоит ощущать "privilege to be stepping stones to higher things" (по Кларку, к мыслящим машинам). Примерно такой же точки зрения придерживался Вернор Виндж, а из ныне живущих -- Ричард Саттон, например (лауреат премии Тьюринга).
Я даже близко не хочу вас переубеждать -- позиция совершенно понятная и имеющая право на жизнь. Просто не думайте, что никто ничего не понимает. Люди понимают, но такое будущее пугает далеко не всех. Меня, наверно, не слишком пугает.
Ну так вы же сами говорите, что ничего нового. Были луки, стали арбалеты, были арбалеты, стали мушкеты. Вам же не 500 лет от роду, и мы с вами, наверно, ходили в одни и те же книжные магазины, которые уже на нашей жизни были забиты слопом типа Донцовой. Куда ни плюнь -- везде сериалы с продолжением: человек-паук сто сорок пять, оригинальность редка. Вместо домашних страничек сначала одинаковые посты на фейсбуке, но там хотя бы ещё разделы с фотографиями и друзьями были, а теперь ещё более одинаковые посты в телеграме, где и такого нет. Разумеется, массы забьют слопом интернет, но и пре-AI трафик уже на 99% процентов состоит из тиктоков и ютюбов типа "я ем котлеты".
В своё время Гугл как поисковик вырос на простой идее: фильтрация контента не нужна, нужно ранжирование. У Альтависты и прочих Яху выдача была куда короче, потому что если юзер писал "яблоко", надо было ему найти текст, где есть это слово. А Гугл решил. что пусть лучше малорелевантная лабуда окажется на странице 10, и незачем её выкидывать, главное, чтобы начало было хорошим. Мне кажется, сокрушаться по поводу слопа или бороться с ним -- затея гиблая. В идеальном мире поиск и discovery будут работать так, что наверху окажется качественный материал, неважно, какими инструментами созданный, а ерунда пойдёт на дно. Пока с этим дела обстоят так себе, конечно.
Ну в таком случае человеческая голова, очевидно, компьютеру проигрывает.
-Will Computers Ever Be as Smart as Humans?”
-“Yes, But Only Briefly" (Vernor Vinge)
Ну право слово, вы считаете "более разнообразной" выборку случайных текстов конца 90-х по сравнению с полным объёмом доступных текстов, на которых учится нейросеть, и которая включает в себя в том числе и сетевые публикации 90-х, которые до сих пор доступны для индексирования? Мне как-то кажется самоочевидным, что нейросеть видела гораздо больше разнообразных текстов, чем я, например.
Ну и у LLM возникает. Или нет, мы не знаем. Я любом случае совершенно неважно, что на самом низу токены, зачем их упоминать вообще.
Вот этот редукционизм мне уже порядком надоел. Какая разница, что у нейросети на самом базовом уровне происходит? Если у нас "под капот" залезть, там тоже ничего "думательного" -- ну перелетают молекулы туда-сюда, ну звряды электрические, и ни одной мысли!
А оптимизация математический функций -- это вы про то что, что в LLM происходит или в голове? В голове же тоже не магия какая, понятные процессы.
Верно, но если вам формулировки автора кажутся свежими и оригинальными, не исключено, что вы просто с ним на разных текстах росли. Или прямо сейчас автор читает своё, а вы своё. А для человека из авторского пузыря он звучит ровно так же, как для вас LMM-выхлоп.
Но вы же тоже учитесь на текстах, которые читаете. А те, кто их писали, тоже учились на предыдущих текста. И вся история развития письменного слова к коллапсу (вроде бы) не привела.
Но кнопка RSS есть же адресной строке браузера? А если я читаю на Хабре, значит, мне удобно читать именно здесь, а не в телеграмме, который я могу ещё воспринимать как ленту новостей, но для любого околотехнического контента выглядит как даунгрейд во всех отношениях. Меня раздражает не реклама, а само распространение подобных затей: а вот ссылка, где я под гитару пою свои программы на Java. Примерно в этом ключе.
Да мне кажется, что это вы уникум, если на полном серьёзе считаете, что жизнь среднего человека настолько тяжела, а варианты слегка отвлечься настолько немногочисленны, что единственный возможный вариант не скатиться в бесконечный скролл -- это выбросить смартфон.
В моём представлении есть дни хуже, есть дни лучше, иногда хочется весь день лежать на диване и ничего не делать, иногда хочется поехать куда-нибудь подальше и ни о чём не думать, но если у тебя скроллинг занимает настолько много места в жизни, что хочется его жёстко ограничить -- это уже за гранью.
По сути вы сейчас назвали меня "киброргом" лишь потому, что я считаю, что досуг не ограничивается просмотром ленты. Мне всегда казалось, что это ровно наоборот, верный признак нёрда -- есть что-то одно ему интересное, а остального как бы не существует.
Ну, по этой логике какое-то дикое количество людей только и делают, что пытаются справиться с "тяжёлыми когнитивными нагрузками". Наверно, Цукерберг с Маском тоже по полдня скролят, или уже давно кнопочные телефоны купили.
Я не вижу ничего криминального в том, чтобы утром за чашкой чая почитать новости и хабр и иногда чего-то там откомментировать. От этой безобидной привычки очень далеко до ситуации, когда человек готов выбросить смартфон, ибо руки сами тянутся потратить любую свободную минуту на чтение непонятно чего.
Проблема не в том, что пресса и научпоп переехали в онлайн, проблема в том, что люди подсаживаются на алгоритмическую ленту, которая по определению выдаёт рандомные посты от рандомных людей. В этом и состоит её работа: подсовывать разное и новое, чтобы не дай бог не закончить скроллинг и не заняться другими делами.
Я даже близко не хочу заниматься морализаторством, но очевидно же, что речь идёт о нездоровом потреблении. Если бы автор писал, что не может покупать больше одной плитки шоколада за раз, потому что съест все без остановки, я бы отреагировал ровно так же. Дело же не в телефоне и не в каналах, а в том, что у людей проблемы с чувством меры.
Но откуда вообще берётся желание скроллить ленту? У меня огромный список из непрочитанных книг и непросмотренных фильмов, и всё это продукция топ-класса, а не какие-то рандомные посты от рандомных людей, которые завтра никто не вспомнит. Если у меня есть свободные 5 минут, я учу карточки со словами или читаю книжку (конечно, хорошо бы погружаться глубже, но как получается), но сама мысль залезть в какую-то вкладку со случайно наваленным барахлом даже в голову не приходит.
Это я даже не в порядке критики, просто иногда диву даёшься, как по-разному устроены люди. Для меня это как слот-машины: ровно такая же непостижимая история. Я знаю, что масса людей дёргают эти рычаги и смотрят на барабаны с фруктами, но понять не могу никак, ведь даже в Super Mario Bros. на порядок больше геймплея. Как-то ради интереса решил подёргать рычаг, пока не проиграю (небольшую) купюру из кармана, так вот это были едва ли не самые скучные 15 минут жизни.
Из статьи:
Вот отсюда и вопрос.
Ну по моему опыту даже с описанными требованиями всё равно LLM не хуже. Грубо говоря, в умелых руках LLM явно добавляет производительности. Соответственно, хорший джун будет использовать LLM (нет ни одной причины не использовать). А далее вопрос в том, какую прибавочную стоимость он создаёт для вас, учитывая, что вы и без него можете использовать LLM. С моей точки зрения, человек, который создаёт прибавочную стоимость в таких условиях уже не совсем джун.