Вообще, тот факт, что нейронные сети хорошо параллелятся, меня и пугает. Чем больше в нейронной сети параметров и вычислений, тем лучше она работает, причём качественно лучше. А это значит, что нейронные сети скоро станут дорогостоящим инструментом, требующим кластеров, и доступным только для крупных корпораций.
Дальше вспомним экономическую теорию про средства производства и начальный капитал. Программирование было той областью, куда было легко войти с небольшими капиталовложениями (купить компьютер) и начать работать на себя. Сейчас же средством производства становятся дорогостоящие вычислительные кластеры и информация (веса обученных нейросетей). Дверь закрывается, программисты теряют привилегированную позицию.
Мир не ограничивается только центральными процессорами.
Посмотрите на прогресс в GFLOPS в видеокартах: https://en.wikipedia.org/wiki/Nvidia_Tesla
51 TFLOPS (350W) в 2022 году против 4 TFLOPS (225W) в 2012 году.
Увеличение ядер тоже не дает экспоненциальный рост производительности, ибо ограничивается законом Амдала.
Меня ChatGPT здорово выручает, когда я ему пишу запросы типа: write c# pinvoke for XXX function. Конечно, можно это сделать и самому по документации, но через ChatGPT это тупо быстрее.
Инкременталки ругают за то, что они эксплуатируют особенности человеческой психики. Зачем заморачиваться, вбухивать десятки миллионов в разботку AAA-игры, когда можно склепать на коленке аддиктивный кликер и зарабатывать на донатах?
И речь тут не только про россию и россиян, это общая тенденция. Золотые визы отменяют, условия ужесточают, цены поднимают, гарантии уменьшают, сроки рассмотрения увеличивают.
Правда, после того, как экономика превратилась в кровавое месиво
Именно. Просто сейчас не будет как с Германией после второй мировой. Это слишком затратно. А вот задушить экономику и разрушить страну тупо дешевле обходится.
В истории нет примеров, когда бы санкциями получалось добиться коррекции политического курса страны. Главная цель санкций — истощение экономики на длинной дистанции.
Вы не поняли моего посыла. Деньги — это просто способ распределения благ и услуг. Если каждому индусу выдать по $50000, то больше благ и услуг от этого не станет. Средний уровень жизни как был нищенским, так им и останется.
Каждый программист по мере своего развития приобретает скиллы. При этом у разных программистов формируются разные скиллы. И чем опытнее программисты, тем меньше у них множество общих скиллов. Соответственно, найти на вакансию с высокими требованиями сотрудника с совпадающими скиллами становится задачей практически невозможной.
У компании остаётся три варианта:
Продолжать искать идеального сотрудника. Это огромные затраты времени.
Нанять сотрудника с более обширным множеством скиллов, подмножество которых совпадает с требованиями вакансии. Но такой сотрудник будет требовать высокую компенсацию.
Нанять сотрудника аналогичной квалификации, но с неполным соответствием множества скиллов и потратить время на его подготовку.
Важный момент: перед дискретизацией сигнал должен быть идеально отфильтрован, снят и воспроизведён с идеальными АЦП-ЦАП, что на практике обычно невозможно. Потому при низкой частоте дискретизации либо придётся мириться с алиасингом, либо резать высокие частоты.
Подумайте, что случится с частотой 30 кГц при дискретизации с частотой 44 кГц. Она не пропадёт, а станет паразитным 14 кГц писком.
Однако, я полностью согласен с тем, что после оцифровки c 192/24 сигнал можно перекодировать в 44/16, потом преобразовать обратно в 192/24, и на слух разницы не будет.
Как раз наоборот, она хороша тем, что съедает накопления. Накопления, для поддержания которых не нужно прикладывать усилий — это зло, потому что это способствует концентрации капитала в одних руках.
Инфляция заставляет работать, а накопления инвестировать в развитие экономики. А налоги на собственность съедают накопления, привязанные к физическим ресурсам.
Вообще, тот факт, что нейронные сети хорошо параллелятся, меня и пугает. Чем больше в нейронной сети параметров и вычислений, тем лучше она работает, причём качественно лучше. А это значит, что нейронные сети скоро станут дорогостоящим инструментом, требующим кластеров, и доступным только для крупных корпораций.
Дальше вспомним экономическую теорию про средства производства и начальный капитал. Программирование было той областью, куда было легко войти с небольшими капиталовложениями (купить компьютер) и начать работать на себя. Сейчас же средством производства становятся дорогостоящие вычислительные кластеры и информация (веса обученных нейросетей). Дверь закрывается, программисты теряют привилегированную позицию.
Мир не ограничивается только центральными процессорами.
Посмотрите на прогресс в GFLOPS в видеокартах:
https://en.wikipedia.org/wiki/Nvidia_Tesla
51 TFLOPS (350W) в 2022 году против 4 TFLOPS (225W) в 2012 году.
Для классических вычислений — да. Но нейросети — это как раз те задачи, которые очень хорошо параллелятся не только на тысячи вычислителей на одной видеокарте, но и на кластеры из видеокарт:
https://medium.com/pytorch/training-a-1-trillion-parameter-model-with-pytorch-fully-sharded-data-parallel-on-aws-3ac13aa96cff
Меня ChatGPT здорово выручает, когда я ему пишу запросы типа: write c# pinvoke for XXX function. Конечно, можно это сделать и самому по документации, но через ChatGPT это тупо быстрее.
И много ли заработал создатель Antimatter Dimensions по сравнению с этими тык-тык-тыками?
Инкременталки ругают за то, что они эксплуатируют особенности человеческой психики. Зачем заморачиваться, вбухивать десятки миллионов в разботку AAA-игры, когда можно склепать на коленке аддиктивный кликер и зарабатывать на донатах?
Советую почитать:
https://habr.com/ru/post/335754/
А как же катастрофическая зависимость от импортных технологий? Не будет ни нефти, ни газа. Будет немного еды. И всё.
Тот же СССР не был полностью закрытым. Западные страны поставляли и станки, и технологии. Сейчас этого не будет.
Глобализация подходит к концу.
Именно. Просто сейчас не будет как с Германией после второй мировой. Это слишком затратно. А вот задушить экономику и разрушить страну тупо дешевле обходится.
В истории нет примеров, когда бы санкциями получалось добиться коррекции политического курса страны. Главная цель санкций — истощение экономики на длинной дистанции.
Это легко гуглящаяся информация. Вбейте "us house size" в поиск.
https://money.cnn.com/2014/06/04/real_estate/american-home-size/index.html
https://www.aei.org/carpe-diem/new-us-homes-today-are-1000-square-feet-larger-than-in-1973-and-living-space-per-person-has-nearly-doubled/
Аналогия хороша, потому что именно эти методы применяются китайскими компаниями в Африке. И они действительно работают.
Вы не поняли моего посыла. Деньги — это просто способ распределения благ и услуг. Если каждому индусу выдать по $50000, то больше благ и услуг от этого не станет. Средний уровень жизни как был нищенским, так им и останется.
Не так важна сумма денег, как множество благ, которые на них можно позволить себе купить.
У меня другое объяснение на этот счёт:
Каждый программист по мере своего развития приобретает скиллы. При этом у разных программистов формируются разные скиллы. И чем опытнее программисты, тем меньше у них множество общих скиллов. Соответственно, найти на вакансию с высокими требованиями сотрудника с совпадающими скиллами становится задачей практически невозможной.
У компании остаётся три варианта:
Продолжать искать идеального сотрудника. Это огромные затраты времени.
Нанять сотрудника с более обширным множеством скиллов, подмножество которых совпадает с требованиями вакансии. Но такой сотрудник будет требовать высокую компенсацию.
Нанять сотрудника аналогичной квалификации, но с неполным соответствием множества скиллов и потратить время на его подготовку.
Важный момент: перед дискретизацией сигнал должен быть идеально отфильтрован, снят и воспроизведён с идеальными АЦП-ЦАП, что на практике обычно невозможно. Потому при низкой частоте дискретизации либо придётся мириться с алиасингом, либо резать высокие частоты.
Подумайте, что случится с частотой 30 кГц при дискретизации с частотой 44 кГц. Она не пропадёт, а станет паразитным 14 кГц писком.
Однако, я полностью согласен с тем, что после оцифровки c 192/24 сигнал можно перекодировать в 44/16, потом преобразовать обратно в 192/24, и на слух разницы не будет.
А ещё лучше перейти от жопочасов к сдельной оплате труда.
Так у остальных она уже поднята (работают меньше за те же деньги).
Если меньше платить, то они разбегутся. Ведь в остальных отраслях зарплаты-то не упадут.
Жить на пенсию. Очевидно же.
У таких обычно и накоплений нет.
Как раз наоборот, она хороша тем, что съедает накопления. Накопления, для поддержания которых не нужно прикладывать усилий — это зло, потому что это способствует концентрации капитала в одних руках.
Инфляция заставляет работать, а накопления инвестировать в развитие экономики. А налоги на собственность съедают накопления, привязанные к физическим ресурсам.