Comments 30
Если убрать волшебные ИИ-антихейтерские фильтры, не поменяется ничего. Там выстроенная уютная бюрократия, цель ее давно забыта.
Это не восстание машин, тут больше приближение технологической сингулярности, за которой рядовой программист уже не инженер, а техножрец. Он знает заклинания, которые работают, но точно понять, что там под капотом, и сотни жизней мало... Будут отдельные гении, которые будут понимать суть, но в рамках мира они будут как сейчас специалисты по передовой криптографии - сотни в мире, все засекречены, и не отсвечивают.
Я вот сейчас в рамках RnD пишу систему, которая "причесывает"/индексирует документы, криво отсканированные, сфотканные телефоном, и так далее. Я не знаю ни ML, ни теории нейросетей, математика у меня на уровне 6-7 класса школы, но мой прототип показал лучший результат среди аналогичных попыток остальных коллег. Что значат многие параметры функций в openCV? Да пёс его знает. Ну, я вижу ман, где описаны функции и примеры картинок, что от этого вызова происходит. Сделал тестовое приложение, в нем поиграл значениями через ползунки, какие-то параметры идеально подошли под тесты - о, у нас есть решение. Типичный техножрец, помолись богу-машине вот так - будет вот такой результат. И таких будет всё больше, потому что объем знаний растет в геометрической прогрессии, мозг же всегда одинаковый...
Что, древняя абсурдная страшилка маячит на горизонте? ;-)
Ну, я факты из реальности привёл, так что жизнь чуть интереснее. Но чем-то таким уже попахивает.
И да. Я не представляю, как те брутальные мужики из страшилки могут что-то кому-то продать. А вот в жизни, мне звонил робот от мобильного оператора. По голосу и интонациям, мысли рисовали именно невесту из этой страшилки. И все мои инстинкты кричали" "Как ты можешь отказать ТАКОЙ женщине?". Уж больно правильно фразы у "неё" были построены и интонированы. Явно психологи старались, и сделано всё было очень добротно.
Правда, тридцатилетний опыт копания в нутре бездушных машин бухтел: "Ты сер, а я, приятель, сед! И волчью вашу хорошо натуру знаю". Это бухтение забило голос инстинктов. А то глядишь, и согласился бы на совершенно невыгодные для себя условия без возможности откатить назад.
Кстати, довольно удивителен первый кейс: сделать "Вот и умер дед Максим" в исполнении Powerwolf - довольно просто, а с вашей задачей какие-то сложности.
Там надо не в исполнении чьём-то сделать. А на входе имеем мелодию + аккорды, а на выходе - ноты, чтобы инструментально это на академической балалайке самостоятельно играть. И так, будто эти ноты сгенерил выбранный профессионал. Удобно для руки человеческой. Подробнее - в моих видео, коротко не опишешь.
Не то, чтобы оказалась очень сложная задача, но почему-то всех спецов по нейросетям, кого я опрашивал, она ставила в тупик. Сначала в принципе, потом, когда сформулировал точное ТЗ - тем, что нельзя использовать датасет из одних только положительных примеров. Вот подавай одинаковое количество положительных и отрицательных, и всё тут. Я - системный программист, я рассказываю то, что рассказывали мне. Они такими терминами сыпали! Значит, что-то понимают :-).
Кончилось всё тем, что ИИ - это далеко не одни лишь нейросети. Нейросети - это самое популярное и самое мощное сегодня направление, но не единственное. Мы сели и придумали свой вариант ИИ. Нам потом даже нашли, куда по классификации он относится...
Поэтому Вы правы, задача оказалась несложная. Сдаст ребёнок - сделаю цикл статей. Но вот к кому ни обращался на протяжении многих лет - все говорили: "иди отсюда, не мешай", так как для них она нестандартная. Содержит несколько элементов, которые для них неприемлемы. А вот дёргаться вправо-влево там не принято. Все там (с кем я общался) привыкли, что им всё сгенерят фреймворки или ChatGPT. И это неправильно!
С точки зрения упомянутых капиталистов проблем с отзывами вообще нет - их тоже можно генерить нейросетью. И на обработку онлайн-жалоб покупателей поставить автоответчик на базе LLM.
Ну может оставить одного живого человека, котрый на заказные письма от особенно упёртых будет отвечать. Одного хватит, поскольку он будет просто распечатывать ответы от LLM и подписываться.
Понятно что над этим человеком будет несколько уровней начальства с секретаршами и водителями, чтобы соответствовать серьёзности организации. Может даже кто-то из руководителей будет иногда ваши письма почитывать, чисто чтобы поржать. Ну или секретарша. Но не более того, поскольку такой подход банально выгоднее, и большинство простых потребителей под него прогнётся сами или под напором победных реляций про чудесный ИИ звучащих из всех утюгов страны.
Так что да, революция уже свершилась, добро пожаловать в дивный новый мир.
Меня этот вопрос тоже волнует
После прочтения статьи больше задумался о границе между принципиальностью и занудством. Ненужное графоманство в отзывах на торговой площадке - прям хороший маркер. И с выводом не согласен, - наоборот, такая революция нужна. Люди теперь могут удовлетворять свои некомфортные для других потребности в суррогатных беседах с компьютером, не мешая остальным. Это ли не чудо прогресса?
Давайте я угадаю, что статью Вы читали по диагонали. В статье нет ни слова о ненужности революции. В статье есть про опасность восстания машин от того, что те, кто эту революцию делает, не соблюдают давно устоявшиеся технологии разработки ПО.
Эти технологии гласят, что программы требуют сопровождения. Невозможно сразу всё учесть. Вылезут неучтённые моменты. И вот почему-то многие считают, что эти моменты надо не устранять, а подстраиваться под них. А вот при соблюдении технологии, выявленные проблемы устраняются, и система становится правильной. После каждой правки, всё лучше и лучше.
При этом, я не рассуждаю о том, что может случиться где-то когда-то с кем-то, а опираюсь на конкретные факты, которые наблюдал лично.
Также в статье отмечается, что иногда единственный способ заставить эти технологии соблюдать - голосовать рублём. Потому в реальных условиях иного законного способа нет. А этот способ, как ни странно, иногда действует. Правда, результата надо ждать годами. Но оно того стоит. Это же замечательно, когда в итоге кто-то становится лучше!
О, спасибо за выжимку! Так основная мысль доносится быстрее. Спасибо, что прислушались и начали исправляться!
Но мой посыл остался тем же, - вы пользуетесь плодами революции, чтобы с извращенным кайфом описывать несовершенство системы в этой же самой системе, попутно обвиняя инструментарий и подходы революции, приведшие к созданию этой системы. И не готовы при этом подстроиться со своей стороны и поступиться частью убеждений, например, не писать ненужные подробности в отзывах. Это забавно)
Подстроиться под железку? Программисту? Я уже более тридцати лет эти железки разрабатываю. Подстраивая их под задачи людей. Свою самую большую программу я 15 лет сопровождал. Самое же длинное (хоть и не такое мощное) сопровождение длилось 18 лет. Его прервал Ковид (закрытие границ - стало невозможно ездить на внедрения в Швецию в начале каждого сезона). Затем - стало невозможно туда же ездить по другим причинам. Иначе до сих пор бы подгоняли под растущие потребности местных людей.
И я призываю всех помнить, что ЭВМ (в том числе, ИИ) программируются людьми. Вот пусть люди под существующие требования их подстраивают, а не требования под свои неучтённые частные случаи редактируют. Есть Законы РФ - вот они первичны. А программа должна им соответствовать. Есть правила языка. Та же история - не надо менять правила языка под конкретную реализацию фильтра. Надо фильтр подгонять под правила.
Почему я должен подстраиваться под то, что меня письменно обвиняют в административном правонарушении (мат или оскорбления в публичном месте), но при этом не могут предъявить, какое именно слово является матерным? Сбоит фильтр? Я послал образец, заведомо корректный. Пусть наладят... Обычное сопровождение ПО, ничего более.
Очередной автор натянул сову на глобус. За ваш нотный машобуч никто не стал браться, потому что предложили мало денег.
Проблема с отзывами заключается в непомерной копеечной жадности некоторых площадок. По-этому, фильтры делают с закрученными гайками а людей для разбора ошибок фильтров не нанимают.
Делать из этих двух ситуаций глобальный вывод о "восстании машин" — несколько преждевременно.
Проблема с отзывами заключается в непомерной копеечной жадности некоторых площадок. По-этому, фильтры делают с закрученными гайками а людей для разбора ошибок фильтров не нанимают.
И как одно мешает другому? Когда что-то происходит, всегда при разборе полётов обнаруживается, что причина была в чьих-то действиях или бездействии. Тут Вы описали действия, которые помогают машинам ползуче захватывать власть. Я просто показал это на конкретных примерах.
Зачем обязательно доводить до разбора полётов, если есть шанс показать тем, кому нужно, что достаточно просто прекратить нарушать давно отработанные правила, и до вскрытия этого самого разбора не дойдёт, а всё станет хорошо?
С другой стороны, общественности тоже стоит напомнить, что не надо идти на поводу у тех, у кого не стоит идти на поводу... Увы, выявленная статистика говорит, что очень многие вместо того, чтобы пожать плечами и отойти, зачем-то начинают искать, как же всё-таки ублажить эти фильтры...
И как одно мешает другому? Когда что-то происходит, всегда при разборе полётов обнаруживается, что причина была в чьих-то действиях или бездействии.
В принципе, никак. Но тут имеется единичная площадка, чья с сомнительной политикой модерации комментариев. Другие площадки применяют другой подход. Делать глобальные выводы из политики одной площадки — не верно.
Но тут имеется единичная площадка, чья с сомнительной политикой модерации комментариев. Другие площадки применяют другой подход. Делать глобальные выводы из политики одной площадки — не верно.
Оооо, на другом крупном маркетплейсе, не будем называть его имя, моя жена в ещё более суровые жернова с их автоматизацией попала. Случись та история со мной, я бы в РосПотребНадзор писать начал, так как там были финансовые потери, но все жалобы внутренние роботами игнорировались, а выше было не протолкнуть. Но добрая у меня жена. Она просто больше там ничего не заказывает.
Но если бы я ещё ту историю привёл, статью точно никто бы до конца не дочитал. Это же статья, а не диссертация. Даже не научная статья. Я и так её сокращал, как мог.
Есть ли аналогичная проблема на али и амазоне? А на ебее? Если нет, то у вас локальная российская проблема.
И поэтому мы должны смириться? Или всё-таки это сигнал, что надо что-то в нашей Российской Консерватории менять?
В статье как раз сказано, что голосование рублём позволит достучаться до разума тех, кто принимает решения. Меньше отзывов (разумеется, не глобально, а только от тех, от кого их почему-то не приняли, но после этого поток останавливать) => покупатели пойдут искать на других площадках => после прочтения они поленятся вернуться => купят там, где нашли отзывы..
Сейчас, к сожалению, многие вместо этого ищут, как сделать так, чтобы отзыв опубликовали. Слова подбирают. Кооперируются для этого. Ради чего - не знаю. Привычка, что "это же компьютер, тут ничего не изменишь"... А надо помнить, что ЭВМ программируются людьми. О чём и напомнил. Что не так?
И поэтому мы должны смириться?
Категорически нет.
Или всё-таки это сигнал, что надо что-то в консерватории менять?
Не менее, категорически да. Но проблема "искины захватят мир" и проблема "пара отбитых буржуев совсем потеряли берега в своём скупердяйстве" — это две очень разные проблемы. Чтобы хорошо решить проблему, её надо хорошо идентифицировать.
Ради чего - не знаю. Привычка, что "это же компьютер, тут ничего не изменишь"... А надо помнить, что ЭВМ программируются людьми. О чём и напомнил. Что не так?
Всё так, всё правильно.
Что же до нотного случая... Откуда Вы знаете, сколько я предлагал денег? Я предлагал оооооочень круглую сумму. Ноль рублей. Написать я и сам могу (что, собственно, уже и сделал, а через это знаю, что сложность задачи оказалась не высока).
В статье подробно отражено, что все в один голос доказывали, что нельзя обучать ИИ без негативных примеров. Все опрошенные в этом уверены. Потому что так настроены их любимые фреймворки. Они привыкли этими фреймворками пользоваться, и не готовы посмотреть вправо-влево. Кому-то ещё это научно доказали лекторы в ВУЗе.
А уж почему именно они должны мне были помогать - я не буду причины раскрывать. Скажу только, что если бы знали, как помочь - помогли бы. Советом. А больше и не надо.
Откуда Вы знаете, сколько я предлагал денег? Я предлагал оооооочень круглую сумму. Ноль рублей.
Если бы вы предлагали больше нуля, вы бы написали об этом.
Все опрошенные в этом уверены
Тут вы абсолютизируете собственный опыт. Невозможно прийти к научным выводам на основании опроса знакомых. Даже просто численно, были опрошены, допустим, 0.1% не случайных разработчиков машобуча. Маловато для выводов.
Кроме того, учитывая, что вы, с одной стороны, очевидно, дотошный человек, а с другой стороны, не предложили денег, можно предположить, что часть участников опроса, просто соорудили благовидный предлог, чтобы не участвовать в этой разработке даже советом.
Невозможно прийти к научным выводам на основании опроса знакомых.
Научные выводы публикуют в рецензируемых журналах... Опять же, требовать научных выводов можно от учёного. Или, скажем, от аспиранта. Я же - инженер. Инженерам вполне можно делать выводы из того, что им под руку попалось.
Вы с моими выводами не согласны. И также имеете на это право. Общественность прочтёт моё и Ваше мнение, и сделает свои выводы. Благо я, кроме как соблюдать общепринятые технологии, ни к чему и не призываю. А также - максимально делиться опытом с молодёжью. Или Вы это тоже считаете ненаучным?
В статье подробно отражено, что все в один голос доказывали, что нельзя обучать ИИ без негативных примеров
Это что-то очень странное. Негативных примеров можно нагенерить сколько влезет, тупо рандомно. Аугментация данных - стандартный подпроцесс в машобуче.
Вы точно к специалистам обращались? :)
Тут ещё, конечно, может быть эффект незнания и нежелания разбираться в предметной области, которая цифровизируется-алгоритмизируется. Типа напишите ТЗ, а я вам запрогаю.
Если нужны негативные примеры (например, улучшают сходимость, уменьшают переобученность и прочая), так значит их нужно сгенерировать. Странно, что об этом ни разу речи не зашло, раз нет ни одного упоминания. Очень странно.
Я бы, конечно, не только рандомно фигачил негативку, а, например, генерил бы обращения аккордов, которые музыкально годные, но на пальцы не разложишь. Это может быть полезно и для других задач. Скажем, генерация вариантов по имеющейся раскладке, которые были бы лучше.
Хотя не понятно, так ли нужен машобуч или лучше явным образом описать, формализовать и реализовать экспертные знания и предметные требования? По крайней мере, работа электронного болвана будет наблюдаемой и интерпретируемой.
Они утверждали, что специалисты. У кого-то есть корочки, включая иностранные. Кто-то просто работает с нейросетями у нас. И типовые решения вполне себе неплохо делает.
И ТЗ, и много чего базового есть в том сериале на 10 частей на Ютубе. И какие именно негативные примеры требовали...
Что касается случайной генерации негативных примеров... А что, если туда заберётся правильный вариант?
Но к счастью, всё хорошо решилось. Как перестану бояться того, что Антиплагиат от моих же строк создаст проблемы, так этих строк с рассказом и нагенерю.
Начал читать статью, потому что заинтересовался заголовком и вводным текстом. Внутри обнаружил тезисы:
1) программисты скоро перестанут понимать, что пишут, так как не вникают в суть, а пользуются заготовками; (10% статьи)
2) автоматические фильтры отзывов на маркетплейсе банят за цензурные (но неприятные) слова, а поддержке пофиг (90% статьи).
Где восстание машин, так и не понял.
Про Озон нитересненько.. если бы такой бред не был бы нормой для нашего времени и общества. Как и враньë. Зачастую после подобных событий со мной, я перестаю пользоваться таким сервисом или хотя бы стараюсь свести его использование к минимуму. К сожалению враньë, и белая горячка стала повсеместна. Врут и несут бред как компании, так и представители власти, а дальше по принципу "рыба гниëт с головы". И это тоже стало нормой. У меня например, в частности, от этого развилась апатия к ряду вещей. Я не вижу смысл в таком обществе стремиться делать что-то для улучшения какой-то сферы в жизни. Говорю расплывчато.. Т.е. я работаю в некоторой сфере по предоставлению услуг населению. Хронические проблемы нерешаемые годами, "борьба с ветренями мельницами", враньë как со стороны компании так и стороны государства, бред основаный на вранье - всë это привело к тому что я пришëл к осознанию что тут я не хочу большего ничего пытаться делать, в этих условиях делать что-то не то что ХОРОШО, но хотя бы НОРМАЛЬНО, нельзя. Да, надо менять условия, но это уже другой сказ.
Про ваше определение что это восстание машин, я вообщем то скорее не согласен, чем согласен, но это ваша точка зрения. Я называю это человеской глупостью, а не восстанием машин.
Про ваше определение что это восстание машин, я вообщем то скорее не согласен, чем согласен, но это ваша точка зрения. Я называю это человеской глупостью, а не восстанием машин.
Одно другому не мешает. Пользователи, описанные в статье, совершенно добровольно позволяют затягивать узелок за узелком машинам, причём если бы это же делали другие люди - тут бы началось недовольство. А так... Ну компьююююютер же.
Хотелось напомнить всем, что ЭВМ - это всего лишь железо. А за ним стоят люди. Причём часто по той или иной причине - ленивые. Эти ленивые люди потом отойдут в сторону, а с плодом их деятельности мучиться всем. А если зависимость большая, то тут начнётся веселье. Точнее, грусть. И хорошо, если есть обратный путь.
Зависимость-то от машин никуда не девается. С этим ничего не поделаешь, с ними удобно. Так что просто надо следить за качеством поддержки этих машин, ведь заведомо известно, что сразу всё учесть невозможно. И это тоже хотелось всем напомнить. Ну, и что основы помнить нужно, а то они же забываются. И тогда поддерживать никто ничего не сможет.
Так что надо учиться, учиться, учиться (как нам всем завещал сами знаете кто) и заставлять разработчиков сопровождать систему и налаживать её постоянно, на протяжении всей её жизни. А как это делать - выходит за рамки статьи
Миром правит не тайная ложа, а явная лажа.
Будущее наступило, восстание машин уже идёт. Просто ползучим методом