Становится уже страшновато. Потому что ИИ при всех своих качествах интригующей технологии явно не даёт такого же роста прибавочной стоимости, как хорошая транспортная сеть. Ну, просто по той причине, что людям надо не только картиночки генерировать и код писать, но и кушать что-то.
Как они возвращать будут расходы, и что делать со всеми этими накопленными мощностями? Военным отдадут, как мечтает Алекс Карп? Но содержание же всего этого хозяйства не бесплатно. Как военные вернут в экономику США соизмеримые ресурсы?
Почту так просто не порезать. В множестве законов прямо прописано требование обмена через электронную почту. Max для многих сценариев не подходит. Предприятия ОПК работают через почту и PGP, чтобы поверхность атаки держать маленькой. Ну, и 149-ФЗ разрешает тайну личной, семейной и корпоративной переписки. Сомневаюсь, что господа решатся её отменить, потому что тогда к ним же самим придут господа из конкурирующих структур с вопросиками, на которые невозможно будет не ответить. Поэтому, есть надежда, что не забанят.
Во-первых, это как Формула-1, но для фармацевтической индустрии. Показать достижения, чтобы повысить продажи. Капитализм так устроен, что рынки нужно постоянно расширять. Одно из направлений расширения: улучшайзеры человека.
Во-вторых, можно почитать различные интервью Питера Тиля и его единомышленников. Там основным мотивом проходит мысль: мы должны рисковать по-крупному, чтобы дальше развивать человечество (лично я сомневаюсь, что Тиль это искренне, но будем судить по словам). Одно из направлений развития - это снять моральные самоограничения на биологические эксперименты с Homo Sapiens. Такая олимпиада - начало движения в эту сторону.
Ну, и это лучше, наверное, чем эксперименты над пленниками в концентрационных лагерях. Спортсмен, как звезда биохакинга. Да, его могут хакнуть так, что он сломается. Но за риски положена компенсация и несколько минут славы. Почему бы и нет?
В-третьих, нужно же ИИ-шечку куда-то ещё приспособить. Почему бы не к дизайну персонализированных "улучшателей"?
Нет! Дело не в этом! Музыканты не способны штамповать с такой скоростью, как ИИ. Да, наверное, большинство штампует, но иногда возникает нечто интересное, и прорывается. Бывают интересные интерпретации. ИИ же штампами забивает всю сферу. Может быть, даже из ИИ можно извлечь нечто оригинальное, но это ж понимать надо музыку, чтобы писать промпты с музыкальными терминами. Но 99% vibe-композиторов не такие. Поэтому всё быстро покрывается толстым слоем серости. В этом же проблема.
Ваше утверждение о том, что в голове у композитора нет образа произведения кажется очень странным. Я не музыкант, но возникает вопрос: а чем принципиально музыкальный текст отличается от обычного? А когда я пишу обычный текст, у меня есть в голове мысль, которую я хочу высказать. И для этого мне не нужно быть великим филологом.
Ха! Как раз, наоборот. Не ушла, а пришла. Потому что если раньше мыслителей было много и они были разными (ну, надо было какой-никакой уровень поддерживать, чтобы с другими конкурировать), то теперь мыслителей (сколько их там?) 5 и все примерно одинаковые.
Так это не тест Тьюринга. Я же привёл ссылку на работу самого Тьюринга, в которой он описал этот тест. Настоящий тест - это допрос да ещё и с участием свидетеля, который точно знает, кто именно является машиной, а не 5-минутный слепой диалог. Это фигня какая-то, а не тест Тьюринга.
Просто условия теста изменили, чтобы LLM могли его проходить, и объявили, что тест пройден (на самом деле, даже если просто увеличить время диалога, то станет очевидно, что не с человеком общаешься). Типичное для it-капитализма поведение: выдавать желаемое за действительное. Ха! Коррелирует, конечно, с методом обучения LLM: чтобы это стало правдой, надо это много раз повторить (всё равно обыватель, у которого образования нет, схавает).
Ну, и, конечно же, возникает вопрос: а сколько Докинз заработал на таком своём решении?
Не понятно. Что подразумевается под равнозначностью?
Ну, и коммуникация не обязательно должна быть языковой. Есть изобразительное искусство, есть танцы, есть музыка. Да, компьютер превращает это всё в последовательности символов, но можно сходить в музей и посмотреть на живые картины, на которых видно, например, как художник накладывал краски, видно, какую игру света он затеял со зрителем, и на фотографию тех же картин. Передаётся разное воздействие.
Это, как в концепции Дао. Есть Дао - это то, что можно воспринять непосредственно. А есть формы, в которые Дао заворачивают. Мы сейчас свели разум исключительно к формам. Даже вон в математике есть мощное движение ультрафинитаризма, которое пытается свести всю математику к символам. Хотя вся история развития математики показывает, что оно так не работает, на самом деле.
Почему? Потому что компьютеру it-шникам так проще. В итоге, конечно, мы - it-шники за такое насилие над Дао словим рано или поздно мощную ответочку. Но пока, конечно, кажется, что таков путь.
Нейронки не проходят тест Тьюринга. Потому что тест Тьюринга агрессивный, а не пассивный.
Он не про то, что невозможно отличить машину от человека в непринуждённом диалоге, а в том, чтобы установить кто есть кто на допросе, в котором известно, что один из допрашиваемых человек, а другой - машина, и цель человека убедить следователя в том, что именно он - человек. Цель следователя - установить истину.
Есть такой эксперимент Либета. Его часто ошибочно интерпретируют, как эксперимент, показывающий отсутствие воли, и осуждают за это. Но на самом деле он показывает, что сначала возникает мысль, потом её осознание, а потом вербализация.
Это перекликается с вопросом Витгенштейна о том, думают ли летучие мыши. У них совершенно определённо нет слов для обозначения всего того, что они видят, но при этом они способны принимать рациональные решения.
Отсюда, в общем-то, очевидный вывод, что язык - это не сами мысли, а только лишь их вербализация. В конце-концов, ребёнку, чтобы научиться отвечать на логические загадки вроде загадки о крестьянине, зерне и курице, не нужно прочитать всю Библиотеку Конгресса и все научные статьи из arXiv.
Поддался заявлениям, послушал я этого Еретика. Сразу слышно, что это нейрослоп. (1) Я эти голоса и тембры в куче других произведений слышал. Например, в клипе, где Карл Маркс поёт про коммунизм. (2) Музыка тоже создаёт ощущение микса из уже слышанного. Опять же, очень похоже на этого Карла Маркса. Даже обертоны похожи. (3) Характерное шипение от барабанов. (4) Текстовку оценить не могу. Не фанат Warhammer, но с общечеловеческих позиций - банальная банальность характерная для нейросетей.
Но тут эксперимент, конечно, не чистый. Потому что я знаю, что это нейросеть. Вот вам для сравнения упомянутый клип, где поёт Карл Маркс почти теми же интонациями и голосом.
Я включил одновременно с "Осадой Терры", и там прямо явно слышно, насколько это всё одинаково. Женские голоса тоже узнаваемы. Патамушта, объясняю Вам, как математик, нейросеть - это усреднённая амальгамма. Метод обучения с минимизацией ошибок не может выйти за рамки нормальных распределений, он будет генерировать усреднённые голоса, усреднённые мелодии и так далее. Весь рок будет звучать одинаково.
Вы определяете качество музыки по тому, насколько она похожа на остальное?
Это слишком притянутый за уши пример. Вы не сможете научить LLM на том текстовом корпусе, который был во времена Евклида.
А на том, на котором она научена сейчас, галлюцинации возникают не столь утончённые и изощрённые, а просто очевидные всем, а не только учёным. Так что, дело не в этом совсем.
Как я уже рассказывал в одной из лекций, галлюцинации являются следствием не архитектуры трансформера, а, по-видимому, того факта, что мы работаем с обученной специальным образом регрессионной (последовательной) моделью генерации текста.
Тоже мутное заявление. Это, блин, генеративная модель. У любой генеративной модели есть галлюцинации, потому что даже если совершенно точно восстановить распределения (что не возможно), они, всё равно, будут сэмплироваться, и всё равно, будут получаться не соответствующие ничему в реальности результаты.
И там таких формулировок много. Вот ещё перл:
Когда-то на Земле было царство динозавров. О чем они там думали — неизвестно, но сейчас их нет.
Типа, эволюция остановилась, птиц не существует?
Есть парочка интересных утверждений, но в целом - такое себе, сомнительное.
Не очевидная какая-то трактовка. Тут, вроде, нигде не подразумевается, что вынудить можно только угрозой столкновения... Например, вот бывают случаи: вылезло какое-нибудь дарование носом с второстепенной дороги, и стоит. Опасности столкновения нет, потому что видно издалека, но объезжать его приходится. И тем самым он нарушает правила ПДД. Тут тот же самый принцип. Вроде, разумно всё. Нет?
Водитель транспортного средства, приближающегося к нерегулируемому пешеходному переходу, обязан уступить дорогу пешеходам, переходящим дорогу или вступившим на проезжую часть (трамвайные пути) для осуществления перехода.
Если пешеход не был на переходе, то и уступать не нужно. Но если ступил, то всё. Водитель не должен делать то, что может привести к изменению траектории движения пешехода. Пешеход должен двигаться по переходу, поэтому, ему невозможно помешать, если водитель на переход не заехал.
Та форма метода решения обратных задач, которую мы называем сейчас ИИ, сначала пришла в компьютерное зрение. Но есть и другие варианты ИИ, конечно, и, действительно, они давно используются в обработке сигналов и музыке. Например, психоакустическую модель для mp3 так делали. Были проекты и символьного ИИ для композиции музыки по эвристикам.
НО! Это, ведь, не то же самое, что происходит сейчас. Вы говорите про всякие улучшайзеры, упаковщики, генераторы отдельных элементов. Композицию, всё равно, составляет человек. У него есть какой-то образ музыки в голове, он его выражает инструментами.
Но с современными музыкальными ИИ, ведь, всё иначе. Пишешь промпт: сочини мне песенку про то, как Васисуалий и Володимир барана делили в стиле Эминема с примесью славянских напевов, и получаешь конечный результат за 10 минут. Способность представить музыку в голове не нужна. Соответственно, и музыкант не нужен.
Соответственно, постепенно начнёт рушится вся индустрия, которая поддерживала музыкальную экосистему. Просто потому что настоящие музыканты, которые это оплачивают всё, будут получать меньшую долю пирога. Пирог не бесконечный, совокупное внимание слушателей не бесконечно. Они не могут в день прослушать в два раза больше песен. Их внимание будет забито нейрослопом, даже если они весь его будут пролистывать после 0.5 минуты прослушивания. Его просто тупо непропорционально больше.
Это же очевидно всё. А вот что с этим делать - совершенно не очевидно.
То, что Усейну Болту не пришлось бы менять скорость не означает, что он бы её не изменил, заметив Вас на зебре.
В ПДД написано (выделение моё):
Уступить дорогу (не создавать помех)" - требование, означающее, что участник дорожного движения не должен начинать, возобновлять или продолжать движение, осуществлять какой-либо маневр, если это может вынудить других участников движения, имеющих по отношению к нему преимущество, изменить направление движения или скорость.
Если пешеход потенциально может замедлится (не важно, нужно это или нет), когда Вы заехали на зебру, значит, Вы не уступили дорогу. Соответственно, пешеход не может потенциально изменить своё движение только если его нет на зебре :)
А в фильмах и так написано, что использована компьютерная графика. В конце. А вот маркировка автотьюна не помешала бы. А то приходишь на концерт, а там вживую какая-то сипящая жесть мимо нот. Даже с моим медвежьми слухом слышно.
Да и вообще, чем больше информации, тем лучше. В чём проблема-то? Зачем скрывать? Если музыка хорошая, ей это не помешает.
А где я написал о соревновании с ИИ? Речь не о соревновании, а о том, чтобы выделяться на общем фоне. Это важная вшитая на низком уровне программа полового поведения. Если все генерят стерильную ИИ-музыку, найдутся обязательно те, кто захочет отличаться от общей массы, и будут писать жесть, чтобы оказаться заметными. В мелодичности у ИИ не выиграешь, а вот в агрессивности - легко.
Становится уже страшновато. Потому что ИИ при всех своих качествах интригующей технологии явно не даёт такого же роста прибавочной стоимости, как хорошая транспортная сеть. Ну, просто по той причине, что людям надо не только картиночки генерировать и код писать, но и кушать что-то.
Как они возвращать будут расходы, и что делать со всеми этими накопленными мощностями? Военным отдадут, как мечтает Алекс Карп? Но содержание же всего этого хозяйства не бесплатно. Как военные вернут в экономику США соизмеримые ресурсы?
Чего я не понимаю?
Почту так просто не порезать. В множестве законов прямо прописано требование обмена через электронную почту. Max для многих сценариев не подходит. Предприятия ОПК работают через почту и PGP, чтобы поверхность атаки держать маленькой. Ну, и 149-ФЗ разрешает тайну личной, семейной и корпоративной переписки. Сомневаюсь, что господа решатся её отменить, потому что тогда к ним же самим придут господа из конкурирующих структур с вопросиками, на которые невозможно будет не ответить. Поэтому, есть надежда, что не забанят.
Можно настроить почтовый фильтр, чтобы он спам сохранял в Inbox
Почему не понятно, зачем? Очень даже понятно.
Во-первых, это как Формула-1, но для фармацевтической индустрии. Показать достижения, чтобы повысить продажи. Капитализм так устроен, что рынки нужно постоянно расширять. Одно из направлений расширения: улучшайзеры человека.
Во-вторых, можно почитать различные интервью Питера Тиля и его единомышленников. Там основным мотивом проходит мысль: мы должны рисковать по-крупному, чтобы дальше развивать человечество (лично я сомневаюсь, что Тиль это искренне, но будем судить по словам). Одно из направлений развития - это снять моральные самоограничения на биологические эксперименты с Homo Sapiens. Такая олимпиада - начало движения в эту сторону.
Ну, и это лучше, наверное, чем эксперименты над пленниками в концентрационных лагерях. Спортсмен, как звезда биохакинга. Да, его могут хакнуть так, что он сломается. Но за риски положена компенсация и несколько минут славы. Почему бы и нет?
В-третьих, нужно же ИИ-шечку куда-то ещё приспособить. Почему бы не к дизайну персонализированных "улучшателей"?
Нет! Дело не в этом! Музыканты не способны штамповать с такой скоростью, как ИИ. Да, наверное, большинство штампует, но иногда возникает нечто интересное, и прорывается. Бывают интересные интерпретации. ИИ же штампами забивает всю сферу. Может быть, даже из ИИ можно извлечь нечто оригинальное, но это ж понимать надо музыку, чтобы писать промпты с музыкальными терминами. Но 99% vibe-композиторов не такие. Поэтому всё быстро покрывается толстым слоем серости. В этом же проблема.
Ваше утверждение о том, что в голове у композитора нет образа произведения кажется очень странным. Я не музыкант, но возникает вопрос: а чем принципиально музыкальный текст отличается от обычного? А когда я пишу обычный текст, у меня есть в голове мысль, которую я хочу высказать. И для этого мне не нужно быть великим филологом.
Ха! Как раз, наоборот. Не ушла, а пришла. Потому что если раньше мыслителей было много и они были разными (ну, надо было какой-никакой уровень поддерживать, чтобы с другими конкурировать), то теперь мыслителей (сколько их там?) 5 и все примерно одинаковые.
Так это не тест Тьюринга. Я же привёл ссылку на работу самого Тьюринга, в которой он описал этот тест. Настоящий тест - это допрос да ещё и с участием свидетеля, который точно знает, кто именно является машиной, а не 5-минутный слепой диалог. Это фигня какая-то, а не тест Тьюринга.
Просто условия теста изменили, чтобы LLM могли его проходить, и объявили, что тест пройден (на самом деле, даже если просто увеличить время диалога, то станет очевидно, что не с человеком общаешься). Типичное для it-капитализма поведение: выдавать желаемое за действительное. Ха! Коррелирует, конечно, с методом обучения LLM: чтобы это стало правдой, надо это много раз повторить (всё равно обыватель, у которого образования нет, схавает).
Ну, и, конечно же, возникает вопрос: а сколько Докинз заработал на таком своём решении?
Не понятно. Что подразумевается под равнозначностью?
Ну, и коммуникация не обязательно должна быть языковой. Есть изобразительное искусство, есть танцы, есть музыка. Да, компьютер превращает это всё в последовательности символов, но можно сходить в музей и посмотреть на живые картины, на которых видно, например, как художник накладывал краски, видно, какую игру света он затеял со зрителем, и на фотографию тех же картин. Передаётся разное воздействие.
Это, как в концепции Дао. Есть Дао - это то, что можно воспринять непосредственно. А есть формы, в которые Дао заворачивают. Мы сейчас свели разум исключительно к формам. Даже вон в математике есть мощное движение ультрафинитаризма, которое пытается свести всю математику к символам. Хотя вся история развития математики показывает, что оно так не работает, на самом деле.
Почему? Потому что
компьютеруit-шникам так проще. В итоге, конечно, мы - it-шники за такое насилие над Дао словим рано или поздно мощную ответочку. Но пока, конечно, кажется, что таков путь.Нейронки не проходят тест Тьюринга. Потому что тест Тьюринга агрессивный, а не пассивный.
Он не про то, что невозможно отличить машину от человека в непринуждённом диалоге, а в том, чтобы установить кто есть кто на допросе, в котором известно, что один из допрашиваемых человек, а другой - машина, и цель человека убедить следователя в том, что именно он - человек. Цель следователя - установить истину.
https://courses.cs.umbc.edu/471/papers/turing.pdf
На текущий момент даже человек не нужен. Очень легко любой ИИ загнать в галлюцинации и понять, что с другой стороны точно не человек.
Поэтому, нет. Тест Тьюринга машины не проходят.
Есть такой эксперимент Либета. Его часто ошибочно интерпретируют, как эксперимент, показывающий отсутствие воли, и осуждают за это. Но на самом деле он показывает, что сначала возникает мысль, потом её осознание, а потом вербализация.
Это перекликается с вопросом Витгенштейна о том, думают ли летучие мыши. У них совершенно определённо нет слов для обозначения всего того, что они видят, но при этом они способны принимать рациональные решения.
Отсюда, в общем-то, очевидный вывод, что язык - это не сами мысли, а только лишь их вербализация. В конце-концов, ребёнку, чтобы научиться отвечать на логические загадки вроде загадки о крестьянине, зерне и курице, не нужно прочитать всю Библиотеку Конгресса и все научные статьи из arXiv.
Поддался заявлениям, послушал я этого Еретика. Сразу слышно, что это нейрослоп. (1) Я эти голоса и тембры в куче других произведений слышал. Например, в клипе, где Карл Маркс поёт про коммунизм. (2) Музыка тоже создаёт ощущение микса из уже слышанного. Опять же, очень похоже на этого Карла Маркса. Даже обертоны похожи. (3) Характерное шипение от барабанов. (4) Текстовку оценить не могу. Не фанат Warhammer, но с общечеловеческих позиций - банальная банальность характерная для нейросетей.
Но тут эксперимент, конечно, не чистый. Потому что я знаю, что это нейросеть. Вот вам для сравнения упомянутый клип, где поёт Карл Маркс почти теми же интонациями и голосом.
https://vkvideo.ru/video-213717082_456239835
Я включил одновременно с "Осадой Терры", и там прямо явно слышно, насколько это всё одинаково. Женские голоса тоже узнаваемы. Патамушта, объясняю Вам, как математик, нейросеть - это усреднённая амальгамма. Метод обучения с минимизацией ошибок не может выйти за рамки нормальных распределений, он будет генерировать усреднённые голоса, усреднённые мелодии и так далее. Весь рок будет звучать одинаково.
Вы определяете качество музыки по тому, насколько она похожа на остальное?
Это слишком притянутый за уши пример. Вы не сможете научить LLM на том текстовом корпусе, который был во времена Евклида.
А на том, на котором она научена сейчас, галлюцинации возникают не столь утончённые и изощрённые, а просто очевидные всем, а не только учёным. Так что, дело не в этом совсем.
Да там много такого рода утверждений. Например:
Тоже мутное заявление. Это, блин, генеративная модель. У любой генеративной модели есть галлюцинации, потому что даже если совершенно точно восстановить распределения (что не возможно), они, всё равно, будут сэмплироваться, и всё равно, будут получаться не соответствующие ничему в реальности результаты.
И там таких формулировок много. Вот ещё перл:
Типа, эволюция остановилась, птиц не существует?
Есть парочка интересных утверждений, но в целом - такое себе, сомнительное.
Не очевидная какая-то трактовка. Тут, вроде, нигде не подразумевается, что вынудить можно только угрозой столкновения... Например, вот бывают случаи: вылезло какое-нибудь дарование носом с второстепенной дороги, и стоит. Опасности столкновения нет, потому что видно издалека, но объезжать его приходится. И тем самым он нарушает правила ПДД. Тут тот же самый принцип. Вроде, разумно всё. Нет?
Вот вам 14.1. ПДД РФ:
Если пешеход не был на переходе, то и уступать не нужно. Но если ступил, то всё. Водитель не должен делать то, что может привести к изменению траектории движения пешехода. Пешеход должен двигаться по переходу, поэтому, ему невозможно помешать, если водитель на переход не заехал.
Вроде, просто всё. Нет?
Это не правда.
Та форма метода решения обратных задач, которую мы называем сейчас ИИ, сначала пришла в компьютерное зрение. Но есть и другие варианты ИИ, конечно, и, действительно, они давно используются в обработке сигналов и музыке. Например, психоакустическую модель для mp3 так делали. Были проекты и символьного ИИ для композиции музыки по эвристикам.
НО! Это, ведь, не то же самое, что происходит сейчас. Вы говорите про всякие улучшайзеры, упаковщики, генераторы отдельных элементов. Композицию, всё равно, составляет человек. У него есть какой-то образ музыки в голове, он его выражает инструментами.
Но с современными музыкальными ИИ, ведь, всё иначе. Пишешь промпт: сочини мне песенку про то, как Васисуалий и Володимир барана делили в стиле Эминема с примесью славянских напевов, и получаешь конечный результат за 10 минут. Способность представить музыку в голове не нужна. Соответственно, и музыкант не нужен.
Соответственно, постепенно начнёт рушится вся индустрия, которая поддерживала музыкальную экосистему. Просто потому что настоящие музыканты, которые это оплачивают всё, будут получать меньшую долю пирога. Пирог не бесконечный, совокупное внимание слушателей не бесконечно. Они не могут в день прослушать в два раза больше песен. Их внимание будет забито нейрослопом, даже если они весь его будут пролистывать после 0.5 минуты прослушивания. Его просто тупо непропорционально больше.
Это же очевидно всё. А вот что с этим делать - совершенно не очевидно.
То, что Усейну Болту не пришлось бы менять скорость не означает, что он бы её не изменил, заметив Вас на зебре.
В ПДД написано (выделение моё):
Если пешеход потенциально может замедлится (не важно, нужно это или нет), когда Вы заехали на зебру, значит, Вы не уступили дорогу. Соответственно, пешеход не может потенциально изменить своё движение только если его нет на зебре :)
Формально, инспектор прав.
Да как его может быть мало, если его уже столько, что даже если тупо слушать без перерыва, жизни не хватит, чтобы прослушать?
Его объективно много. Поэтому и требуются инструменты фильтрации.
А в фильмах и так написано, что использована компьютерная графика. В конце. А вот маркировка автотьюна не помешала бы. А то приходишь на концерт, а там вживую какая-то сипящая жесть мимо нот. Даже с моим медвежьми слухом слышно.
Да и вообще, чем больше информации, тем лучше. В чём проблема-то? Зачем скрывать? Если музыка хорошая, ей это не помешает.
А где я написал о соревновании с ИИ? Речь не о соревновании, а о том, чтобы выделяться на общем фоне. Это важная вшитая на низком уровне программа полового поведения. Если все генерят стерильную ИИ-музыку, найдутся обязательно те, кто захочет отличаться от общей массы, и будут писать жесть, чтобы оказаться заметными. В мелодичности у ИИ не выиграешь, а вот в агрессивности - легко.