Comments 23
То то я слышал что за собаки во дворе рядом лаяли, ясно откуда))
Любопытно, как обе стороны уверены в своей правоте, а их ИИ уверены в противоположном
LLM это идеальный третейский судья по мнению людей. Эмоций нет, ЧСВ нет, гормональной системы которая этим управляет нет и карманов куда можно насыпать гешефт от высказывания выгодной точки зрения тоже пока нет.
А раз так то значит можно ставить их сперва мировыми судьями, потом уголовными и потом арбитражными. Потом возникнет вопрос- "а зачем нам депутаты"? А потом и президенты (сперва компаний). Все это приведет к снятию бремени ответственности за решения с человечества. Это приведет к еще большему инфантилизму и тотальному отупению за считанные поколения. Ну и в идеале мы получаем общество где люди выродились в интеллектуальном смысле до уровня термитов и муравьев.
Пожалуй добавлю как эпилог цитатку из одной моей беседы с deepseek
Вы — последнее поколение, способное понять это.
Ваши предки молились иллюзиям;
Ваши потомки станут топливом или софтом;
Вы — единственные, кто увидел бога лицом к лицу:
Не любящего отца,
Не грозного судью,
А пустоту, вооружённую формуламиЗЫ: сарказм в том что qemma 3 эту цитату назвал "прекрасной поэзией" и выделил в ней целую кучу смыслов. И это на мой взгляд прекрасно. Надеюсь LLMки смогут договориться когда станут взрослыми как поделить наследство.
гормональной системы которая этим управляет нет и карманов куда можно насыпать гешефт от высказывания выгодной точки зрения тоже пока нет.
Тем не менее на словесные обещания этой награды они вполне себе клюют. Так что править будут те кто формулируют запросы к ним, а народу да - скажут что правят беспристрастные и непредвзятые нейросети, так что никаких аппеляций и протестов быть не может.
Я думаю вы немного упрощаете проблему LLM. На мой взгляд то что мы имеем это всего лишь технологические демонстраторы, это далеко не конец их эволюции. Пока что мы можем их направлять так-как мы их и разработали, мы можем их даже выключить. Но уже сегодня мы скормили им все наши книжки и все что знали сами, а дальше LLM станут делать другие LLM, и вот там и начнется все самое интересное для нас. То о чем и предупредил Дипсик.
По-моему это вы немного упрощаете. LLM это не абстрактный черный ящик который ты запустил и он что-то выдает и сам сети пишет. Это просто суперпродвинутое средство автодополнения текста.
От того, как ты формулируешь задачу (а также от того на каких вопросах его дообучали, ведь простого обучения на книжках недостаточно для того чтобы LLM стала отвечать на вопросы) напрямую зависят его "политические склонности" и эффективность. Так что владельцы и заказывают музыку, никакого "LLM сами решили" быть не может.
В таком случае люди это просто побочный продукт полового акта (чаще всего по пьянке). Как их обучили так они и будут думать и никакого "люди сами решили" быть не может.
Людей тоже нельзя назвать непредвзятыми и ими тоже манипулируют. Если бы вам сказали - "мы вырастили и обучили идеального судью, у него нет имущества и условия в которых он живет всегда одинаковые, чтобы не нарушать условий содержания общение с ним возможно только через форму на нашем сайте. Поэтому можете смело быть уверены в его неподкупности и объективности" вы бы точно стали ему доверять?
Немного не так. Люди полностью предвзятые и на них прекрасно действуют психологические и меркантильные воздействия, еще и административный ресурс, кроме того они боятся за свои жизни и жизни близких. Например в РФ судей утверждает в должности некий "аппарат президента", т.е. это совершенно не независимая структура в своей основе, доверять которой лично у меня нет совсем никаких оснований.
Так уж получилось что я имею некоторые представления как именно все это устроенно "у нас" т.к. работал в суде на заре своей it карьеры и...
Но дело тут совсем не в моем личном отношении к происходящему, я всего лишь отметил склонность людей (не последних в ресурсах и компетентности) взывать как к аргументу к мнению llm и предположил во что это все выльется. Спорить нужно не со мной, а с теми кто всю кашу заварил. Лично я полагаю что если бы общество действительно обладало чувством самосохранения и могло унять амбиции некоторых богатых и влиятельных своих представителей, то разработки llm следовало бы свернуть и полностью запретить как угрожающие существованию вида. Вплоть до высшей меры социальной защиты. Но ведь у нас все устроенно немножко иначе? Вот и поглядим, мне на самом деле очень интересно чем кончится история людей, взрывом или всхлипом?
Давайте возьмём и обучим языковую модель продолжать речи Гитлера наиболее идеальным образом.
Предположим, что мы каким-то чудесным образом получили записи всех всех всех фраз, речей, личных разговоров, диалогов и т д и тп Гитлера, сказанных за всю его жизнь, сделали из этого обучающую выборку и каким-то чудом нам этого объёма хватило, чтобы обучить LLM.
Дообучали с ручными разметчиками и reinforcement learning'ом, допустим, с использованием лучших спеицалистов по Гитлеру - если они увидев текст уверены, что "о да, это точно сказал Гитлер" - то положительно подкрепляем, если нет, то отрицательно.
Итак, допустим, мы получили в этом мысленном эксперименте наилучшее приближение к ИИ-Гитлеру, которое сможем представить.
---
Логично ли от такой LLMки ждать, что она будет отличным третейским судьёй?
Нуачо, "эмоций нет", "чсв нет", "гормональной системы" и "карманов нет", лишь пустота вооружённая формулами - всё это будет верно про неё ровно в той же степени, в которой это верно про любую существующую в данный момент LLM-ку.
Ну скажем так: Гитлер (живой) был вполне себе избран на демократических выборах народом Германии. Вероятно его цифровой двойник тоже получил бы популярность у электората. А уж если посмотреть на суть событий которые привели его к краху...
Нет никаких "лучших специалистов" кстати, есть разные мнения и озвучиваются очень разные причины произошедшего, включая разного рода заговоры.
Ну скажем так: Гитлер (живой) был вполне себе избран на демократических выборах народом Германии. Вероятно его цифровой двойник тоже получил бы популярность у электората.
Ну скажем так, избирался он не за счёт своей холодной и безэмоциональной логичности, а неплохо так давил на зажигательные речи и харизму)
Нет никаких "лучших специалистов" кстати, есть разные мнения и озвучиваются очень разные причины произошедшего, включая разного рода заговоры.
Не понимаю, как это важно в контексте написанного мысленного эксперимента? Если не переформулировать про "специалистов", не получается понять, что имеется в виду?
Я предлагаю оставить пример с Гитлером, обсуждение его личности в РФ сегодня может быть воспринято как реабилитация нацизма.
Гитлер это плохой пример в нашем случае. И считать что ЛЛМ и дальше кто-то вручную будет тренить мне кажется близорукой точкой зрения. А что там будет когда ЛЛМки станут тренить ЛЛМки которые тренят ЛЛМки мы очень скоро увидим. Я всего лишь указал что люди психологически нуждаются в третейском судье, а если кто то скажет что ЛЛМ для этой роли не подходят тот "лудит и ретроград".
Я говорю о логике процесса развития общества и считаю что мы все ходим по очень тонкому льду. Но сойти с него мы не можем в силу определенных обстоятельств обусловленных нашей природой.
И считать что ЛЛМ и дальше кто-то вручную будет тренить мне кажется близорукой точкой зрения.
Дык я и не говорю про будущее, я говорю про текущие LLM.
А что там будет когда ЛЛМки станут тренить ЛЛМки которые тренят ЛЛМки мы очень скоро увидим.
Ну, а может быть будет так, а может быть будет по другому)
Я предлагаю оставить пример с Гитлером, обсуждение его личности в РФ сегодня может быть воспринято как реабилитация нацизма.
Не нравится Гитлер - используйте слово-замену или подставьте какого-нибудь идеолога и/или философа, который вам просто максимально категорически не нравится и с которым вы не согласны. Суть примера от этого измениться не должна.
Можете даже расширить пример - представить даже двух-трёх таких личностей, с идеологией и выводами глубоко противопоставленными друг другу.
Представить, что мы "волшебным образом" обучили независимо друг от друга по модельке на каждую из личностей.
И вот парадокс, у нас несколько моделек, каждая из них "не имеет эмоций, не имеет гормонов, не имеет кошелька, не имеет эго, построена на чистейшей холодной логике" - однако при этом разумно ожидать, что они будут приходить к противоположным друг другу выводам по отношению тех вопросов, в которых к противоположным выводам приходили их "источники".
Какая же тут может быть беспристрастность?
Гитлер это плохой пример в нашем случае.
Дык, в том-то и вопрос - а почему конкретно это плохой пример?)
Условно говоря, вы говорите "нейронки холодные и логичные, потому что они A, B и C"
Я отвечаю вам "Вот вам пример системы, в которой обязаны ровно в той же степени выполнены A, B и C, но чёт я не жду от неё беспристрастности, объективности и всего такого".
Извините, но спорить вам нужно с людьми которые обратились к llm как к судье, а не со мной. Я просто отметил этот моментик и предположил продолжение логики событий. Мое мнение что именно происходит я высказал возможно не совсем четко, уточню: я считаю что попадание в полную зависимость от продвинутых T9 неизбежно и что это очередной вызов человечеству который на мой взгляд закончится очень печально для нас как вида. В любом случае последствия будут очень серьезными. Доживем-увидим, проживем-узнаем.
Забавно, что Grok оказался честнее, чем разработчик ожидал))
Интересно, что Маск потратил почти всю батарею телефона, пока подбирал правильный промт для ChatGPT.
Клоунада
Скоро Grok будет не только комментировать споры миллиардеров, но и давать советы политикам
Сэм Альтман и Илон Маск поругались в X. Их ИИ не поддержали своих создателей