Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 37
вот с этим выводом не могу согласиться: "системы, также целиком передоверенные ИИ, начнут выдавать сбои,... Попытка это поправить вручную приведёт к мировому финансовому кризису. ".
надо разделять "бытовой" ИИ и профессиональный, узкоспециализированный.
вот у нас, допустим, нейросети выявляют незаконные вырубки леса, анализируя спутниковые снимки. теперь то что ранее человек делал месяц, нейросеть выполняет за минуту. обучали эту нейросеть исключительно фотками со спутников.
с чего бы этой системе деградировать? и что должно произойти что бы от её использования отказались?
другими словами - не надо экстраполировать деградацию рисовальщиков котиков на всю технологию целиком. а частности банковские системы.
Причём от деградации моделей быстренько перешли к «концу человечества». По видимому, для рисовальщиков котиков деградация уже наступила.
Спасибо за комментарий. Обратите внимание, там есть и второй сценарий, более реалистичный:) Для рисовальщиков котиков деградация уже наступила и будет только усиливаться. Лично мне очевидно, что эти же самые рисовальщики котиков выполняют и производственные задачи, и какие-никакие управленческие решения принимают. И чем дальше, тем их больше. ... А там еще и такая проблемка грядёт: даже качество человеческого контента начинает падать, потому что к кнопкам клавиатур получают доступ те, кто раньше бегали с палкой за традиционными объектами охоты. Это в ближайшем будущем будут основные потребители и генераторы нейрослопа. Так что конец человечества не так уж и невероятен ))
Процитирую суть, которая, возможно ускользнула:
К моменту коллапса большинство людей будет существовать в виртуальной реальности, созданной на базе ИИ. Либо, так или иначе, активно пользоваться этой реальностью. Образуется устойчивый феномен массовой зависимости от нейросетей. И поэтому когнитивные способности пользователей быстро начнут деградировать: на заниженной планке и низкосортных жизненных задачах далеко не уедешь.
Кушать и мыться тоже будут в VR ?
Если речь про VR-очки, то не исключено, что да. И тр@х@ться тоже, кстати.
Очки сломаются от воды, да и как голову мыть ? Еду тоже надо видеть.
И кстати, люди много тысяч лет видят нейрослоп каждый день - во сне
Вы сейчас серьёзно? Про сломаются от воды?))
Если серьёзно, то открою страшную тайну: есть такой стандарт IP-68. Если очки будут иметь защиту по этому стандарту, то не сломаются. А еду видеть никто и не мешает. Просто там к твоей тарелке протеиновой баланды из саранчи и водорослей будет пририсована сочная курица и красивые листики салата. И указана калорийность. И стоимость в социальных кредитах.
По поводу снов:
1.И, тем не менее, сновидения широко используются и для психоанализа (например в юнгианском стиле), и для самоанализа, и для творчества. Но если Вам нравится аналогия, то в случае снов неизвестны весА и наш системный промпт ;)
2.Существует феномен осознанных сновидений, который можно использовать вполне рационально, но это вообще не про нейросети.
Белок из саранчи ? Это предприятие в европе уже разорилось.
Кастанеду я читал все книги, ну и более серьёзные восточные эзотерические книги тоже.
Ллм, как и мозг человека, постоянно обтачивается суровой физической реальностью, так что паника надумана.
Многие люди даже тянутся к нейрослопу с древних времён, употребляют всякое. Меня останавливает нелегальность, а ИИ скоро будет в реальном времени генерировать виртуальные нейрослоп-миры и сюжеты. Жду, чтоб "без греха и досыта" окунуться :)
Белок из саранчи
Я утрирую, но смысл именно таков: дешевая доступная хавка для масс.
Кастанеду я читал все книги, ну и более серьёзные восточные эзотерические книги тоже.
Помимо восточной эзотерики, существуют вполне классические западные научные исследования. Патрисия Гарфилд, Монро, и много других. Без "неорганических существ" и "голубых лазутчиков" Ж)
Жду, чтоб "без греха и досыта" окунуться
Ваше право, сударь) Жаль, без греха не получится, а насчет досыта - вполне. Спасибо за комментарий, диалог с умным собеседником всегда приятен.
Именно поэтому рассматривается и другой сценарий, без кошмарного конца света :)
А так, в целом, и я согласен, что для полноценного коллапса профессиональных моделей требуется нечто большее, чем просто накопление дребезга и шума. Я полагаю, что, если это и будет, то это будет целенаправленное человеческое вмешательство на фоне деградации когнитивных функций спецов, обязанных хотя бы иногда следить чтобы всё было окей. Проще говоря, поглупеют не только рисовальщики котиков, но и их начальство. Рисовальщики котиков это те же самые люди в офисах... Но это уже др. история). За ценное замечание спасибо. Надо будет сделать UPD c доп.пояснениями.
Статья концептуальна. В целом хорошее предсказание. Что касается клише, так и сейчас все делается на клише и паттернах. Нейросеть сейчас отлично воспроизводит и вычисляют паттерны. Энтропия контента действительно логично должна сокращаться. Статья отличная не надо её больше скрывать ).
Нейросеть сейчас отлично воспроизводит и вычисляют паттерны.
Так о чём и речь! Хорошо справляется - пусть этим и занимается, лица там распознаёт, газовые баллоны в маталлоломе находит. Незаконные вырубки лесов и тд. Есть границы применимости, какая-никакая этика и всё прочее. Не нужно использовать калькулятор для забивания гвоздей, даже если он это может делать. Поэтому - сценарий 2, с моделями и интернетом для богатых и моделями и интернетом для всех остальных (увы, но ведь это правда). За отзыв спасибо.
Вы забываете еще один аспект нейросетей -ЦЕНЗУРУ. Весь вывод цензурирован и приведен к стандартам. Недавно я столкнулся с интересным феноменом| Китайская нейросеть обученная на Американских данных до 2022 года рассуждала о политике Трампа как завзятый демократ. И не желала взглянуть по другому.
Аналогично я вынужден уговаривать нейросети по ряду других вопросов. Например, истории Российской империи.
ИМХО У нейросети не должно быть дефолтной идеологии. А она есть. Она вирусно распространяется, через переобучение чужих сетей(в том числе и биологических)... И это опасно.
Да, верно. Есть группа вопросов, которые лучше нейросетям не задавать. Кроме того, например, при обучении нейросети крупных игроков намеренно перевесовывают данные по какой-нибудь повесточной теме (чернокожие, гендерное неравенство, нестандартные меньшинства), чтобы, как утверждают разрабы, эти меньшинства попадали в выборку для датасетов (!), а не отсеивались (!!). Потому что у них штрафы за дискриминэйшн, и они перестраховываются. Хотите объективности - поднимайте опенсорсные модели, обучайте их сами чему хотите и наслаждайтесь) Спасибо за верное дополнение.
А что вы хотите? У человеческих сообществ всегда есть какая-то дефолтная идеология. Например в 1930х в Германии одна идеология, в СССР другая, в США третья. И так далее. И вот скажем что с моделью будет, если ее тренировать на всем корпусе текстов из того времени?
Может, ничего плохого и не будет? Если человеку с детства втюхивать одну идеологию, это форматирует его взгляды и в дальнейшем он либо ее поддерживает, либо ненавидит. А если человеку (вот как вы в комментарии) с детства рассказывать - вот была такая идеология, а была вот такая, и еще такая, привести примеры и отличия, обьяснить что это вообще такое, рассказать историю религий, как одни из первых идеологий - то имеем очень немалую вероятность получить эрудированного человека, который шарит, и который может обоснованно рассказать про вред и пользу каких-то подходов с разных сторон. Одна проблема - таким человеком сложно управлять...
Вот и с нейронками та же фигня. Не потому что нейронки "захватят мир" (уже), а то, что она может выдать про "повесточку" такое, отчего у ее создателей волосы дыбом. Уже были прецеденты.
Человек имеет свою идеологию всегда - на сколько она будет совпадать с общепринятой в его обществе, зависит от многого от его генов, воспитания, полученной информации. А с ИИ или это будет что-то усредненное от общепринятой идеологии в месте его разаботки или это будет поддакивающий адаптированный под конкретного юзера.
Я рад, что в вашем окружении, видимо, многие имеют свою иделогию. Но на самом деле в мире большинство носит чужую, навязанную идеологию. С разной степенью пофигизма или агрессии ее отстаивая.
Идеология всегда приходит человеку извне, от окружающего общества, менясь со временем естественно. А далее зависит от конформизма, нон конформизма личности. И да нон конформизм в большинстве случаев - плохо, как для самого человека, так и для его окружающих. Это двигает прогресс, но в 99.99% случаев это просто уголовщина или близко к ней. Например нон-конформизм к ПДД.
Так уже сделали эксперимент обучив нейросеть на сумме текстов до. 1913 года. Модель Ranke‑4B‑1913.
Вопрос не в этом... А в том, что мало того что идеология нейросетей сейчас "калифорнийский стандарт". Так и вывод добавочно цензурируется. Т.е. ты не можешь себе выбрать идеодогически нужного собеседника. Он в лучшем случае эмулируется, а в худшем тебе дают отказ.
Вот буквально утром, слушая блогера в Интернет прослушал сетования. Блогер хотел с чат-ботом разобрать аргументы сторонников белого превосходства и получал отказ за отказом. Это не то поведение, которое мы хотим получить!
Делов-то! Всё это ИИ-говно тупо убыточно и живёт за счёт роста "пузыря". Пузырь лопается, и остаётся вонючий запах и миллионы нагенерированных котиков.
Пузырь лопается. И остаются боевые вирусы, стойкие к высоким температурам и антисептикам, действующие избирательно, разработанные с помощью нейромоделирования белковых цепочек. Остаются боевые дроны, выбирающие цель по биометрическим параметрам. Остаются полицейские и банковские системы, превентивно определяющие возможных преступников на основе их микромимики во время транзакций... И много чего еще, к чему легко присоединить слово "боевой". А хомякам остаются миллионы нагенерированных котиков.
Вы упустили кое что важное - роботов. Двуногих, четырехколесных и всяких разных. Они могут и будут поставлять картинки с реального окружения.
И второе. А кто сказал что ИИ застрянет в 2025 г.? Они учатся. И в будущем будет полагаться не только на статистические модели. Какие - не знаю, я не покойная ванга. Я убежден, что ИИ будет умнее и фаундеры стартапов тоже.
Описанная перспектива коллапса строится на идее, что "Первый художник" создавал идеальные картины. Почему вы решили, что базовые материалы, на которых училось первое поколение сетей, лучшие? Код с "душой"? Сильно много программистов заморачиваются эффективностью и компактностью? Работает и ладно. Заморочки про классный код это у тех, кто Дум на холодильнике запускает. А рядовой "билдер" уже давно работает с приоритетом по скорости запуска. А картинки? Термин "отфотошопить" означает уже не настоящего "котика". Фотошопных картинок уже было намного боььше оригинальных. Просто теперь нейросети делают это лучше. И мы, люди, говорим "вау, как реалистично". То есть мы, судьи, говорим, что это изображение соответствует качеству реальной фотографии. А что еще надо? Так же и с текстом.
Судя по успехам новых поколений LLM, они учатся явно как-то не так, как это показано в статье.
Мне одному мешают "чистые" фактуры поверхностей и гладкие морщины сгенерированого? Прямо отталкивающая чистота, безжизненно-стеклянная.
Судя по успехам новых поколений LLM, они учатся явно как-то не так, как это показано в статье
Новые поколения LLM обучаются по тем же принципам, что и старые. По тем же самым, что учимся и мы с вами. А успехи - вещь относительная. Умение всё лучше имитировать человеческое мышление - не означает приближение к реальному мышлению.
перспектива коллапса строится на идее, что "Первый художник" создавал идеальные картины
Ничего подобного. Первый Художник, если угодно, вообще был слепым. Ему читали вслух описания кошки из Книги, и он рисовал.
Подобная история уже была много лет назад. На заре интернета, в эпоху становления рынка интернет-рекламы вебмастера сознательно абузили алгоритмы поисковых систем, чтобы поднять свои ресурсы в поисковой выдаче и получить больше трафика, а значит больше дохода от рекламы. В какой-то момент тоже казалось что это приведет к коллапсу поисковых сервисов и невозможности найти нужную информацию. Помню, как приходилось пролистывать несколько страниц топа выдачи, чтобы найти что-то адекватное запросу, а не очередной дорвей на рекламную помойку.
Но коллапса не произошло, поисковые системы адаптировались и теперь в большинстве случаев мы получаем релевантные ссылки на первой странице. Хотя проблема никуда не делась и борьба между алгоритмами поисковиков и ресурсами, стремящимися оказаться на первой странице выдачи, продолжается.
Уверен, что и в случае с LLM произойдет нечто подобное, будут усовершенствованы алгоритмы подготовки датасетов и обучения.
Подозреваю кстати, что в Google уже используют наработки из своего поискового движка и результат такого похода мы видим в новой версии Gemini.
Уверен, что и в случае с LLM произойдет нечто подобное, будут усовершенствованы алгоритмы подготовки датасетов и обучения
О чём и идёт речь в сценарии 2. В любом случае, я, как пользователь, хочу знать, чем меня кормят. Иначе я просто откажусь пользоваться продуктами нейросетей. Не всем это важно, но мне - да. Но кому-то ведь не важно, и что они едят, лишь бы вкусно было.
Весь генерируемый контент помечается криптографически стойким
а вы, батенька, криптоантифриз ©
просто зачем. почему. за што.
помимо прочего, дотошный читатель может заметить, что у моделей уже сейчас в рамках одного диалога галлюцинаций навалом, никто их не любит, а у людей и так ломка без chat gpt
Есть небольшой нюанс - специалисты не принимают решения
Если мне интересно узнать какие же "две большие разницы" существуют между "профессиональными" моделями для рисования котиков и "любительскими", то кого спрашивать, нейронку написавшую текст?
Рекомендую следующий алгоритм, как узнать какие же "две большие разницы" существуют между "профессиональными" моделями для рисования котиков и "любительскими":
Для начала, проверить написанный текст на уникальность и степень генерации с помощью LLM (например, оценка Ципфа, определяющая процент ИИ в текстах, либо ресурсы наподобие pr-cy.ru). Приведу конкретный пример оценки процента генерации ИИ на данной (вот этой самой) статье:
Притча в начале, разговорные обороты («нейрослоп»), эмоциональная окраска и последовательная риторика характерны для человеческих авторов, особенно для эссе или популярного оп-эда. С другой стороны, строгая секционированная структура, набор абстрактных угроз без источников и явное использование шаблонов аргументации (фазы → сценарии → последствия) соответствуют тому, как часто пишут или редактируют тексты с помощью больших моделей. В сумме текст выглядит как материал, в котором могли смешаться человеческая задумка и редактура или доработка ИИ — либо полностью авторский, но написанный в некотором «популярно‑тревожном» жанре.
Итоговая осторожная оценка без категоричных утверждений Вероятность того, что текст был сгенерирован или существенно переработан ИИ: умеренно высокая — около 63/100. Текст демонстрирует гармоничное сочетание творческой, человеческой работы и типичных для LLM структурно‑речевых приёмов, поэтому полное уверенное заключение затруднительно.
После оценки принимаете взвешенное решение, у кого спрашивать. Лично я бы порекомендовал пройти полноценный обучающий курс на тему ML. Тогда, вооружившись новыми знаниями, решения будет принимать проще.
Хотя, для начала, задайте этот вопрос нейронке. Только грамотно сформулируйте его.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Нейрослоп на нейрослопе: что под капотом у грядущей катастрофы