Comments 24
ИИ, который обучили на старых журналах, наверняка будет выдавать устаревшие сведения. Без вычитывания экспертом будет школьное сочинение, а не научная статья.
Генеративные текстовые модели, очень грубо говоря, предсказывают, какое слово/слог будет идти за следующим на основе обучающего корпуса литературы. В данном случае проблема не в том, что она обучена на старых номерах журналов, как пишут выше. Дело в том, что научные исследования решают помимо задач анализа задачу синтеза, а языковые модели на синтез неспособны, они не могут, загрузив номер журнала про вертолеты и номер журнала про радиоуправляемые машинки на литий-полимерных аккумуляторах, придумать дрон. Это такие Остапы Бендеры, которые, сориентировавшись в моменте, выдадут правдоподобный текст, ничего в нем не смысля.
То, что ИИ "предсказывает следующее слово", и то, способен ли ИИ к "решению задач синтеза" - это абсолютно ортогональные друг другу концепты.
"ИИ не может X потому что он просто предсказывает следующее слово", показывая на текущее поколение LLM - это как говорить "предмет не может быть квадратным потому что он очевидно оранжевый", показывая пальцем на апельсин.
Я согласен, что они ортогональны. Я говорил именно про современные генеративные языковые модели. Я понимаю, что ИИ можно заточить и на синтез, и это было бы гораздо интереснее. Но это уже рождает вопрос, а обучение с подкреплением вообще для этого подходит?
Лично мне не ясны ваши аналоги. Потому что я не LLM. Если утверждается, что модель предсказывает следующее слово, то я полностью с этим согласен. Модель ориентируется на гигабайты текстовой информации определённого языка. Прекрасно владеет всеми школьными учебниками этого языка, правила построения предложений, правила грамматики, пунктуации и так далее, и на этом основания она прекрасно может предсказать следующее слово слог, падеж, кончание, устойчивые фразеологизмы. Здесь нет мысли.
Это прекрасно, видно в задачах кодирования. Ставишь ему задачу. И он её очень часто даже и решает. Но я нахожу в его ответах точные цитаты с других подобных сайтов типа СтакОверфлоу, и может Хабра. Точные цитаты, до запятой в описании . Здесь нет синтеза. Он решил задачу, но он её скопировал с чужой страницы, подходящей под описание. Что такое подходящее описание : это число близких слов , в подходящей позиции. По их высокой плотности делается вывод: да, это решение. Где здесь синтез ? Ставишь ему задачу. ИИ дает код. Слабо, близко. Уточняю. ИИ: Понял ! Давайте поменяем, новый подход ! И выдаёт копию предыдущего. И так 3 раза. Где здесь мозги ? У меня их мало, так и у него их не больше.
В том и дело, что ИИ не "копипастит". У него "компрессия" от объёма датасетов такая дикая, что от оригинальных данных практически ничего не остаётся. Модель технически неспособна помнить слово в слово весь StackOverflow.
В этом и источник производительности ИИ. Он вынужден не заучивать тексты, а находить закономерности и выделять абстракции.
Кроме Остапа, любой депутат и политик научен этому навыку выдавать большое полотно полноводного текста.
Как заявили представители журнала, решение было продиктовано финансовыми проблемами. Стало ли это истинной причиной увольнений сотрудников — неизвестно
Владелец журнала решил, что самый умный и подключил ИИ, но получил скандал. Ожидаемо.
Эту раковую опухоль под названием ИИ зря выпустили из бутылки. Подумаешь, какой-то журнал... Сейчас интернет насыщается бесполезным копирайтингом от ИИ. Скоро всё дойдет до того, что интернет превратится в свалку текста, в котором ничего невозможно будет найти. И так до введения ИИ копирайтеры постарались, наплодив тонны бесполезных однотипных текстов, а теперь ещё и ИИ.
Сейчас всё чаще натыкаюсь на мнения о возрождении каталогов сайтов. Как в 2000 году. Потому, что поисковая выдача уже просто ниже плинтуса - уже не ясно, где написано экспертом, где копирайтером, а где ИИ.
Я уже высказывал мнение о такой профессии, как Хранитель верифицированных знаний, к нему обращаешься - а он тебе выдает скрижали проверенную информацию, экспертное мнение, сертифицированный не копирайтерский-не-ИИ-текст.
Толку от каталогов, если они будут содержать те же сайты с тем же генерированным контентом. Сломались то не поисковики, сломались сами сайты которые они индексируют...
Извините, а разве копирайтинг от людей был сильно лучше?
Очень интересно в рамках того, что статьи и очень внимательно и пристально проверяют, при том что к статьям людей такого серьезного внимания нет. И люди часто галюцинируют едва ли не сильнее, чем ии, и нормально, с оплатой по количеству знаков прокатывает.
И нормально справятся с компиляцией из старых работ, если подкрутить необходимость выдачи в любом случае, придумывая результат. Создание исследовательской или научной работы им пока не под силу и вряд ли будет.
Мне кажется тут проблема есть по серьёзней. Тут пишут, что статьи издали, после того как выяснили, что их написал ИИ, нашли в них ошибки и неточности. Но простите, что с проверкой до публикации?
Такое ощущение, что эту статью написал тоже ИИ: неоправданно длинная, много воды, некорректное использование "всё дело из-за..." (должно быть "всё дело в...).
а теперь представим что текущая статья написана тоже ИИ ( что возможно так и есть) и получится сингулярность )
но по итогу статьи написанные ИИ- это сборная солянка всех статей по этой теме. Ничего нового там не сможет появиться, никаких новых идей и развития
Искусственный интеллект все же лишает людей работы?
Лол, похоже, в ближайшее время лишится работы вся редакция журнала, включая руководство)))
К последним кустарям пришла индустриализация. Недавно художники вопили, что их, таких талантливых, ИИ лишает куска хлеба. А они в каждый свой рисунок рисунок вкладывают душу, а работы ИИ - бездушны. А до этого - сценаристы.
А сотню лет назад гончары стонали что каждое их изделие - произведение искусства, в отличии от машинной штамповки. И сапожники, и ткачи...
Посредственности вымрут, останутся Мастера.
Искусственный интеллект все же лишает людей работы? История с научным журналом Cosmos