Это слишком притянутый за уши пример. Вы не сможете научить LLM на том текстовом корпусе, который был во времена Евклида.
А на том, на котором она научена сейчас, галлюцинации возникают не столь утончённые и изощрённые, а просто очевидные всем, а не только учёным. Так что, дело не в этом совсем.
Как я уже рассказывал в одной из лекций, галлюцинации являются следствием не архитектуры трансформера, а, по-видимому, того факта, что мы работаем с обученной специальным образом регрессионной (последовательной) моделью генерации текста.
Тоже мутное заявление. Это, блин, генеративная модель. У любой генеративной модели есть галлюцинации, потому что даже если совершенно точно восстановить распределения (что не возможно), они, всё равно, будут сэмплироваться, и всё равно, будут получаться не соответствующие ничему в реальности результаты.
И там таких формулировок много. Вот ещё перл:
Когда-то на Земле было царство динозавров. О чем они там думали — неизвестно, но сейчас их нет.
Типа, эволюция остановилась, птиц не существует?
Есть парочка интересных утверждений, но в целом - такое себе, сомнительное.
Не очевидная какая-то трактовка. Тут, вроде, нигде не подразумевается, что вынудить можно только угрозой столкновения... Например, вот бывают случаи: вылезло какое-нибудь дарование носом с второстепенной дороги, и стоит. Опасности столкновения нет, потому что видно издалека, но объезжать его приходится. И тем самым он нарушает правила ПДД. Тут тот же самый принцип. Вроде, разумно всё. Нет?
Водитель транспортного средства, приближающегося к нерегулируемому пешеходному переходу, обязан уступить дорогу пешеходам, переходящим дорогу или вступившим на проезжую часть (трамвайные пути) для осуществления перехода.
Если пешеход не был на переходе, то и уступать не нужно. Но если ступил, то всё. Водитель не должен делать то, что может привести к изменению траектории движения пешехода. Пешеход должен двигаться по переходу, поэтому, ему невозможно помешать, если водитель на переход не заехал.
Та форма метода решения обратных задач, которую мы называем сейчас ИИ, сначала пришла в компьютерное зрение. Но есть и другие варианты ИИ, конечно, и, действительно, они давно используются в обработке сигналов и музыке. Например, психоакустическую модель для mp3 так делали. Были проекты и символьного ИИ для композиции музыки по эвристикам.
НО! Это, ведь, не то же самое, что происходит сейчас. Вы говорите про всякие улучшайзеры, упаковщики, генераторы отдельных элементов. Композицию, всё равно, составляет человек. У него есть какой-то образ музыки в голове, он его выражает инструментами.
Но с современными музыкальными ИИ, ведь, всё иначе. Пишешь промпт: сочини мне песенку про то, как Васисуалий и Володимир барана делили в стиле Эминема с примесью славянских напевов, и получаешь конечный результат за 10 минут. Способность представить музыку в голове не нужна. Соответственно, и музыкант не нужен.
Соответственно, постепенно начнёт рушится вся индустрия, которая поддерживала музыкальную экосистему. Просто потому что настоящие музыканты, которые это оплачивают всё, будут получать меньшую долю пирога. Пирог не бесконечный, совокупное внимание слушателей не бесконечно. Они не могут в день прослушать в два раза больше песен. Их внимание будет забито нейрослопом, даже если они весь его будут пролистывать после 0.5 минуты прослушивания. Его просто тупо непропорционально больше.
Это же очевидно всё. А вот что с этим делать - совершенно не очевидно.
То, что Усейну Болту не пришлось бы менять скорость не означает, что он бы её не изменил, заметив Вас на зебре.
В ПДД написано (выделение моё):
Уступить дорогу (не создавать помех)" - требование, означающее, что участник дорожного движения не должен начинать, возобновлять или продолжать движение, осуществлять какой-либо маневр, если это может вынудить других участников движения, имеющих по отношению к нему преимущество, изменить направление движения или скорость.
Если пешеход потенциально может замедлится (не важно, нужно это или нет), когда Вы заехали на зебру, значит, Вы не уступили дорогу. Соответственно, пешеход не может потенциально изменить своё движение только если его нет на зебре :)
А в фильмах и так написано, что использована компьютерная графика. В конце. А вот маркировка автотьюна не помешала бы. А то приходишь на концерт, а там вживую какая-то сипящая жесть мимо нот. Даже с моим медвежьми слухом слышно.
Да и вообще, чем больше информации, тем лучше. В чём проблема-то? Зачем скрывать? Если музыка хорошая, ей это не помешает.
А где я написал о соревновании с ИИ? Речь не о соревновании, а о том, чтобы выделяться на общем фоне. Это важная вшитая на низком уровне программа полового поведения. Если все генерят стерильную ИИ-музыку, найдутся обязательно те, кто захочет отличаться от общей массы, и будут писать жесть, чтобы оказаться заметными. В мелодичности у ИИ не выиграешь, а вот в агрессивности - легко.
Мы обсуждаем конкретно Яндекс.Музыку. Там нет таких фильтров.Ну, и "не-ИИ" это конкретно тот фильтр, который хочется. Да, есть хорошие трэки, которые сделаны при помощи ИИ. Но я не хочу слушать тысячи плохих трэков ради одного хорошего. Это отвлекает, отнимает время, удручает и так далее. Не хочу, и всё. Почему у меня не должно быть такого права?
Кроме того, можно же ввести градацию. Ну, и опять же, генерация отдельных сэмплов - это совсем не то же самое, что генерация трэков целиком без особых усилий. А таких трэков большинство. В этом же проблема. Вроде, очевидно всё.
Но ленту надо нарезать, надо склеить. Нужно подумать, чего резать, чего клеить. Можно, конечно, наверное, без образования это делать, но какая-то музыкальная эрудиция и интуиция должны быть.
Вон Earworm тоже клеит свои State of Pop, и это воспринимается гениально, потому что человек чувствует чего клеит.
Нейросеть же никаких усилий, знаний, талантов не требует. Вообще никаких. За минуту промпт написал, и вот уже песенка готова. Я, было время, развлекался тем, что заставлял нейросеточки в стихотворную форму переводить код на Haskell и накладывать на музыку Rammstein. Monad Do! Все дела.
Но, блин, это же не искусство. Я не музыкант, у меня нет слуха, я никогда не напишу нечто оригинальное. А нейрослопа настолько много, что рынка просто для самостоятельных музыкантов не остаётся. Прям видно, как места на площадке для них всё меньше и меньше, та же Яндекс-Музыка гораздо чаще в предложку суёт нейрослоп, а не живых артистов. Просто потому что нейрослопа намного больше, и его легче подогнать под структуру популярных композиций, чтобы рекомендательная нейросеточка поднимала его вверх.
Вот вы хотите жить в музыкальном мире, в котором всё нарезано из архивных магнитных лент?.. Не понимаю, чего в таком мире может быть привлекательного.
Технологически задорно, да... Но я в музыкальный сервис за музыкой прихожу, за эмоциями и чувствами, а не за демонстрацией технологических возможностей современных моделей. Поэтому, получается, Яндекс-Музыка стремительно теряет для меня (ну, и не только для меня) ценность.
Так вам же и толкуют о том, что невозможно выбрать себе "не-ИИ" контент. Нет такого фильтра. Поэтому, хотите/не хотите, а придётся и дядюшке Ляо забашлять, и клея нюхнуть. Даже если деньги есть на более качественную обувь.
Сейчас это выглядит так: я пришёл в магазин за хорошей обувью, но чтобы до неё добраться, мне нужно перенюхать 100 пар от дядюшки Ляо. И ничего с этим я не могу сделать.
Ага. Только вот обещали, что автоматизируют не творческие профессии, а тяжёлую, грязную и неблагодарную работу. Но что-то пошло не так. И вот ИИ освобождает человека от занятий музыкой, чтобы у него появилось время мыть сортиры. Гойда!
Конкретно оно не появится. Но там же этого нейрослопа просто какие-то бездны. Появится нечто похожее. Да и люди музыку слушают не просто для того, чтобы слушать. Она воздействует на психику. У нейрослопа какое-то специфичное воздействие, от которого просто устаёшь, видимо, эффект uncanny valley. А я слушаю музыку фоном в работе. Попытался побороться настройками с Яндексом, ничего не получилось. В итоге забил, ушёл в личную коллекцию.
А может, это бунт против ИИ? ИИ такого точно не нагенерит. Новая контркультура. Это, кстати, тоже проблема. Как человек будет состязаться с ИИ, чтобы доказать свою человечность? Что может человек, но ИИ не может? А вот это может человек, а ИИ не может.
И это тоже проблема.
Короче, вся эта история с ИИ, конечно, не остановится (бабла там уже чрезмерно много), но по человечеству ударит сильно. И не факт, что это будет пинок в полезном для выживания человечества направлении.
Нет. Ровно того же не происходило, потому что музыке надо было учиться. Играть на скрипке не так-то просто, даже если её просто купить. Даже на синтезаторе играть не просто, даже на компьютерном.
Наверное, когда появились библиотеки треков, которые в миксерах сводят, тогда начало происходить нечто подобное. Но даже так, у автора должна быть наслушанность и хороший вкус, чтобы из нарезки сэмплов собрать нечто интересное.
С ИИ не нужно практически ничего. Опять же, ваш пример. Я ничего не слышал и не знаю про Angine De Poitrine, зато навскидку могу перечислеть кучу нейрослоповых "композиторов", которые у меня светились в рекомендациях. О том же и речь. Это Вам кажется, что Angine нашумела, из вашего социального пузыря. Но нашумели ли они в реальности?
Да кто знает по нынешним временам?.. Везде сплошной фэйк, в том числе и в рейтингах.
Добавлю, как оно работает, просто на реальном примере.
Один знакомый - талантливейший программист - решил написать библиотеку. Начал он её писать и выкладывать на GitHub, буквально за неделю появилась дюжина китайских репозиториев с точно такой же идеей, с точно такими же описаниями, но уже "готовых". То есть, можно брать и пользовать. При чём, у них там уже накручены и звёзды, и лайки, и вообще, всё, что угодно.
У знакомого по всем метрикам - убогий репозиторий, на который никто не обращает внимания. И что с этим делать? Он попробовал как-то пообщаться с этими авторами, так они ему просто ничего не отвечают, а генерят ответы нейронками. И фсё.
И с музыкой будет та же хрень. Даже если хороший музыкант что-нибудь выстрадает. С ИИ там или без ИИ. Это мгновенно будет раскопировано миллионами вариантов, и исходный просто потонет в этой бездне. Так какой смысл музыканту напрягаться теперь?
А кто говорит, что нельзя? Я просто описываю, к чему это всё приведёт. И эти тренды очевидные. Откуда у хороших музыкантов деньги на студию/запись? Оттуда, что они хорошие, могут собрать эти финансы, концертами там, PR-ом, тем, что их спонсоры ценят. При капитализме - это некий индикатор качества.
Ну, да, хорошим музыкантам ИИ что-то облегчает. Но он облегчает и плохим. При чём, пропорция резко выросла в сторону доступности для плохих музыкантов. Это как с кодом. Хороший программист будет писать код даже с ИИ неделю, допустим. Нейрослопщик навайбкодит альтернативу гораздо худшего качества за день. И нейрослопщиков таких гораздо больше хороших программистов. В итоге, софт превращается в говно (это прям чувствуется уже), потому что хороший программист не может попасть в какой-либо топ приложений. Просто потому что всё забито нейрослопом. Это прям реально то, что происходит на площадках приложений сейчас.
Музыканты просто позже начали, но в чём разница? Будет тот же самый процесс, что и с кодом.
Просто ниши не останется для хороших музыкантов. Но у музыкантов хоть есть возможность концерты давать. Можно генерить музыку, потом вживую её за денежки петь. А вот что делать программистам и писателям - бааАальшой вопрос.
В этом же ключевая проблема: у вас появился инструмент, который просто выкашивает ниши для людей, которые готовы и способны развиваться в чём-то, кроме промпт-инжиниринга. Это в перспективе всё выглядит ужасно уныло, серо и однообразно. Чё-то не хочется в таком мире жить.
Это слишком притянутый за уши пример. Вы не сможете научить LLM на том текстовом корпусе, который был во времена Евклида.
А на том, на котором она научена сейчас, галлюцинации возникают не столь утончённые и изощрённые, а просто очевидные всем, а не только учёным. Так что, дело не в этом совсем.
Да там много такого рода утверждений. Например:
Тоже мутное заявление. Это, блин, генеративная модель. У любой генеративной модели есть галлюцинации, потому что даже если совершенно точно восстановить распределения (что не возможно), они, всё равно, будут сэмплироваться, и всё равно, будут получаться не соответствующие ничему в реальности результаты.
И там таких формулировок много. Вот ещё перл:
Типа, эволюция остановилась, птиц не существует?
Есть парочка интересных утверждений, но в целом - такое себе, сомнительное.
Не очевидная какая-то трактовка. Тут, вроде, нигде не подразумевается, что вынудить можно только угрозой столкновения... Например, вот бывают случаи: вылезло какое-нибудь дарование носом с второстепенной дороги, и стоит. Опасности столкновения нет, потому что видно издалека, но объезжать его приходится. И тем самым он нарушает правила ПДД. Тут тот же самый принцип. Вроде, разумно всё. Нет?
Вот вам 14.1. ПДД РФ:
Если пешеход не был на переходе, то и уступать не нужно. Но если ступил, то всё. Водитель не должен делать то, что может привести к изменению траектории движения пешехода. Пешеход должен двигаться по переходу, поэтому, ему невозможно помешать, если водитель на переход не заехал.
Вроде, просто всё. Нет?
Это не правда.
Та форма метода решения обратных задач, которую мы называем сейчас ИИ, сначала пришла в компьютерное зрение. Но есть и другие варианты ИИ, конечно, и, действительно, они давно используются в обработке сигналов и музыке. Например, психоакустическую модель для mp3 так делали. Были проекты и символьного ИИ для композиции музыки по эвристикам.
НО! Это, ведь, не то же самое, что происходит сейчас. Вы говорите про всякие улучшайзеры, упаковщики, генераторы отдельных элементов. Композицию, всё равно, составляет человек. У него есть какой-то образ музыки в голове, он его выражает инструментами.
Но с современными музыкальными ИИ, ведь, всё иначе. Пишешь промпт: сочини мне песенку про то, как Васисуалий и Володимир барана делили в стиле Эминема с примесью славянских напевов, и получаешь конечный результат за 10 минут. Способность представить музыку в голове не нужна. Соответственно, и музыкант не нужен.
Соответственно, постепенно начнёт рушится вся индустрия, которая поддерживала музыкальную экосистему. Просто потому что настоящие музыканты, которые это оплачивают всё, будут получать меньшую долю пирога. Пирог не бесконечный, совокупное внимание слушателей не бесконечно. Они не могут в день прослушать в два раза больше песен. Их внимание будет забито нейрослопом, даже если они весь его будут пролистывать после 0.5 минуты прослушивания. Его просто тупо непропорционально больше.
Это же очевидно всё. А вот что с этим делать - совершенно не очевидно.
То, что Усейну Болту не пришлось бы менять скорость не означает, что он бы её не изменил, заметив Вас на зебре.
В ПДД написано (выделение моё):
Если пешеход потенциально может замедлится (не важно, нужно это или нет), когда Вы заехали на зебру, значит, Вы не уступили дорогу. Соответственно, пешеход не может потенциально изменить своё движение только если его нет на зебре :)
Формально, инспектор прав.
Да как его может быть мало, если его уже столько, что даже если тупо слушать без перерыва, жизни не хватит, чтобы прослушать?
Его объективно много. Поэтому и требуются инструменты фильтрации.
А в фильмах и так написано, что использована компьютерная графика. В конце. А вот маркировка автотьюна не помешала бы. А то приходишь на концерт, а там вживую какая-то сипящая жесть мимо нот. Даже с моим медвежьми слухом слышно.
Да и вообще, чем больше информации, тем лучше. В чём проблема-то? Зачем скрывать? Если музыка хорошая, ей это не помешает.
А где я написал о соревновании с ИИ? Речь не о соревновании, а о том, чтобы выделяться на общем фоне. Это важная вшитая на низком уровне программа полового поведения. Если все генерят стерильную ИИ-музыку, найдутся обязательно те, кто захочет отличаться от общей массы, и будут писать жесть, чтобы оказаться заметными. В мелодичности у ИИ не выиграешь, а вот в агрессивности - легко.
Мы обсуждаем конкретно Яндекс.Музыку. Там нет таких фильтров.Ну, и "не-ИИ" это конкретно тот фильтр, который хочется. Да, есть хорошие трэки, которые сделаны при помощи ИИ. Но я не хочу слушать тысячи плохих трэков ради одного хорошего. Это отвлекает, отнимает время, удручает и так далее. Не хочу, и всё. Почему у меня не должно быть такого права?
Кроме того, можно же ввести градацию. Ну, и опять же, генерация отдельных сэмплов - это совсем не то же самое, что генерация трэков целиком без особых усилий. А таких трэков большинство. В этом же проблема. Вроде, очевидно всё.
Но ленту надо нарезать, надо склеить. Нужно подумать, чего резать, чего клеить. Можно, конечно, наверное, без образования это делать, но какая-то музыкальная эрудиция и интуиция должны быть.
Вон Earworm тоже клеит свои State of Pop, и это воспринимается гениально, потому что человек чувствует чего клеит.
Нейросеть же никаких усилий, знаний, талантов не требует. Вообще никаких. За минуту промпт написал, и вот уже песенка готова. Я, было время, развлекался тем, что заставлял нейросеточки в стихотворную форму переводить код на Haskell и накладывать на музыку Rammstein. Monad Do! Все дела.
Но, блин, это же не искусство. Я не музыкант, у меня нет слуха, я никогда не напишу нечто оригинальное. А нейрослопа настолько много, что рынка просто для самостоятельных музыкантов не остаётся. Прям видно, как места на площадке для них всё меньше и меньше, та же Яндекс-Музыка гораздо чаще в предложку суёт нейрослоп, а не живых артистов. Просто потому что нейрослопа намного больше, и его легче подогнать под структуру популярных композиций, чтобы рекомендательная нейросеточка поднимала его вверх.
Вот вы хотите жить в музыкальном мире, в котором всё нарезано из архивных магнитных лент?.. Не понимаю, чего в таком мире может быть привлекательного.
Технологически задорно, да... Но я в музыкальный сервис за музыкой прихожу, за эмоциями и чувствами, а не за демонстрацией технологических возможностей современных моделей. Поэтому, получается, Яндекс-Музыка стремительно теряет для меня (ну, и не только для меня) ценность.
"не, но", "не, а"... Неужели нельзя модель запромптить так, чтобы не было подобных оборотов?
Так вам же и толкуют о том, что невозможно выбрать себе "не-ИИ" контент. Нет такого фильтра. Поэтому, хотите/не хотите, а придётся и дядюшке Ляо забашлять, и клея нюхнуть. Даже если деньги есть на более качественную обувь.
Сейчас это выглядит так: я пришёл в магазин за хорошей обувью, но чтобы до неё добраться, мне нужно перенюхать 100 пар от дядюшки Ляо. И ничего с этим я не могу сделать.
Как-то это... Ну. Хреново, что ли.
Ага. Только вот обещали, что автоматизируют не творческие профессии, а тяжёлую, грязную и неблагодарную работу. Но что-то пошло не так. И вот ИИ освобождает человека от занятий музыкой, чтобы у него появилось время мыть сортиры. Гойда!
Конкретно оно не появится. Но там же этого нейрослопа просто какие-то бездны. Появится нечто похожее. Да и люди музыку слушают не просто для того, чтобы слушать. Она воздействует на психику. У нейрослопа какое-то специфичное воздействие, от которого просто устаёшь, видимо, эффект uncanny valley. А я слушаю музыку фоном в работе. Попытался побороться настройками с Яндексом, ничего не получилось. В итоге забил, ушёл в личную коллекцию.
А может, это бунт против ИИ? ИИ такого точно не нагенерит. Новая контркультура. Это, кстати, тоже проблема. Как человек будет состязаться с ИИ, чтобы доказать свою человечность? Что может человек, но ИИ не может? А вот это может человек, а ИИ не может.
И это тоже проблема.
Короче, вся эта история с ИИ, конечно, не остановится (бабла там уже чрезмерно много), но по человечеству ударит сильно. И не факт, что это будет пинок в полезном для выживания человечества направлении.
Нет. Ровно того же не происходило, потому что музыке надо было учиться. Играть на скрипке не так-то просто, даже если её просто купить. Даже на синтезаторе играть не просто, даже на компьютерном.
Наверное, когда появились библиотеки треков, которые в миксерах сводят, тогда начало происходить нечто подобное. Но даже так, у автора должна быть наслушанность и хороший вкус, чтобы из нарезки сэмплов собрать нечто интересное.
С ИИ не нужно практически ничего. Опять же, ваш пример. Я ничего не слышал и не знаю про Angine De Poitrine, зато навскидку могу перечислеть кучу нейрослоповых "композиторов", которые у меня светились в рекомендациях. О том же и речь. Это Вам кажется, что Angine нашумела, из вашего социального пузыря. Но нашумели ли они в реальности?
Да кто знает по нынешним временам?.. Везде сплошной фэйк, в том числе и в рейтингах.
Будут невероятные количества в квадрате... Вопрос: а оно нам точно нужно?
Добавлю, как оно работает, просто на реальном примере.
Один знакомый - талантливейший программист - решил написать библиотеку. Начал он её писать и выкладывать на GitHub, буквально за неделю появилась дюжина китайских репозиториев с точно такой же идеей, с точно такими же описаниями, но уже "готовых". То есть, можно брать и пользовать. При чём, у них там уже накручены и звёзды, и лайки, и вообще, всё, что угодно.
У знакомого по всем метрикам - убогий репозиторий, на который никто не обращает внимания. И что с этим делать? Он попробовал как-то пообщаться с этими авторами, так они ему просто ничего не отвечают, а генерят ответы нейронками. И фсё.
И с музыкой будет та же хрень. Даже если хороший музыкант что-нибудь выстрадает. С ИИ там или без ИИ. Это мгновенно будет раскопировано миллионами вариантов, и исходный просто потонет в этой бездне. Так какой смысл музыканту напрягаться теперь?
Что с этим-то делать?
А кто говорит, что нельзя? Я просто описываю, к чему это всё приведёт. И эти тренды очевидные. Откуда у хороших музыкантов деньги на студию/запись? Оттуда, что они хорошие, могут собрать эти финансы, концертами там, PR-ом, тем, что их спонсоры ценят. При капитализме - это некий индикатор качества.
Ну, да, хорошим музыкантам ИИ что-то облегчает. Но он облегчает и плохим. При чём, пропорция резко выросла в сторону доступности для плохих музыкантов. Это как с кодом. Хороший программист будет писать код даже с ИИ неделю, допустим. Нейрослопщик навайбкодит альтернативу гораздо худшего качества за день. И нейрослопщиков таких гораздо больше хороших программистов. В итоге, софт превращается в говно (это прям чувствуется уже), потому что хороший программист не может попасть в какой-либо топ приложений. Просто потому что всё забито нейрослопом. Это прям реально то, что происходит на площадках приложений сейчас.
Музыканты просто позже начали, но в чём разница? Будет тот же самый процесс, что и с кодом.
Просто ниши не останется для хороших музыкантов. Но у музыкантов хоть есть возможность концерты давать. Можно генерить музыку, потом вживую её за денежки петь. А вот что делать программистам и писателям - бааАальшой вопрос.
В этом же ключевая проблема: у вас появился инструмент, который просто выкашивает ниши для людей, которые готовы и способны развиваться в чём-то, кроме промпт-инжиниринга. Это в перспективе всё выглядит ужасно уныло, серо и однообразно. Чё-то не хочется в таком мире жить.