Комментарии 11
А существуют методики, которые позволяют анализировать тему, которая тебе неизвестна в процессе сборки ?
Я решил проверить и собрать нейросеть, не зная как они в принципе устроены и какие существуют подходы + проект большой на столько, что его не возможно полностью загрузить в чат для анализа.
Возможно ли это и если возможно с какими ограничениями ?
Мне хватило пары раз общения с гпт, в плане "найди мне в Интернете статью о том-то и том-то", чтобы нарваться на выдуманные инициалы авторов, выдуманные названия статей, выдуманные doi статей (!!!), неверные года и интерпретации написанного.
Нет. По сути и смыслу надо читать самому. А автоматическте угадыватели следующего наиболее вероятного слога во фразе за смыслы не отвечают.
Я когда задавал вопросы по большому техническому документу, сразу стал получать точные и верные ответы, но буквально через пару часов на те же ответы нейронка стала лгать прямо откровенно. Получается, вообще нельзя верить ничему от них и каждое слово проверять
Я вчера кстати после этого камента еще погуглил одну свою идею для фантастической повести. Первый запрос был: "возможно ли теоретически погасить свет интерференцией или античастицами?". ИИ от гугла такой: "да, разумеется. Можно дать свету волну в противофазе, либо поглотить фотоны антифотонами, как другие частицы, имеющие античастицу". Ну про интерференцию я и так понимал, и работает это только с когерентным светом, поэтому я задал второй вопрос: "возможно ли поглотить поток фотонов антифотонами?". И ИИ от гугла такой - "нет, вы че, фотоны - нейтральная частица, у которой античастиц нет". Зашибись.
Я соблазнился на краткий пересказ научных статей. Увы, и там врать умудряются. И так убедительно формулы латехом рисуют (неправильные).
Недавно Springer опубликовали книгу Mastering Machine Learning: From Basics to Advanced, и журналисты обнаружили в ней явные признаки того, что над текстом работала система ИИ.
Ну уж ьакую-то книгу грех не писать с использованием нейросетей.
Грустно и забавно. Мне пришла статья на рецензию из Physics of Fluids, это достаточно понтовый американский журнал по гидродинамике. Читаю - а статья какая-то странная. Много общих слов, странные термины, рассматривается течение жидкого металла в... псевдоторе, хм... ну ок, непонятно что это, но формула написана для кривых описывающих геометрию, используют РЕЛЯТИВИСТКИЙ солвер... ссылок мало... и автор - "независимый исследователь" из Мексики. Ну по идее в Мексике есть сильная магнитогидродинамическая лаборатория, может беглый сотрудник? Или студент / аспирант который взял солвер который был (пофиг, что релятивисткий, из пушки по воробьям никто ж не запрещает), нарисовал геометрию, что-то получил и написал статью.
Но. В конце статью начинается бред про физику за пределами "стандартной модели"!!! Я проверяю ссылки - их мало, живых - всего две. Остальные ведут непонятно куда - в пустоту или на вообще другие статьи. Штирлиц начинает что-то подозревать. Скармливаю DeepSeek название статьи и прошу сгенерить... научную статью - и получаю... нечто очень похожее по структуре - такое же бла-бла-бла. Скармливаю DeepSeek саму статью и спрашиваю - а не твой ли собрат навал это? DeepSeek подумал и вынес вердикт, что таки да - ИИ-шное творение. И в заключение - псевдорозочка на псевдоторте - там была приведена плотность жидкого металла, я пересчитал на процентное содержание и обнаружил, что при таком составе металл должен быть... твердым.
Мне стало интересно - это редакция проверяет меня как рецензента или действительно им такое прислали? Задал такой вопрос напрямую, мне сказали, что вот-с... статья такая - а замечания вы загрузите. Я написал штук двадцать замечаний, через неделю пришло письмо, что статью отклонили. Уф.
А вот что бывает когда не отклоняют.
Журнал:
"Геология, география и глобальная энергия"
https://geo.asu-edu.ru/
Статья:
https://elibrary.ru/item.asp?id=82753833
Цитата
Накопления эпигенетического реверсивного алгосемиотирования геоморфного ценоза на урбанизированной территории выводят ноо-комплементарные репарационные оксолибрационные фибрилляции в голоценную экспозицию кардио-систолического антропо-филирования. В результате образуются гео-антропо-тектонические корофикационные ноо-протекционные оксогенации – переходы во фрактальную этиономию (в правило когерентного стохастирования) симплификационного гема-паттернального ампилирования или голофобного ретроспектирования, позволяющего денонсифицировать фенотипологические електоральные ассигнации автохтонного антропизма. Совмещение урбоморфологии с геоморфологией позволяет интенсифицировать репаративные атеро-копульсивные гетерогенные репелленции с антропологическим энергетически пониженным аллопатическим трансмутированием, формируя сегментационные метаклональные резонационные пространственно-координатные камерально-гематические регуляции патронатного генореспондентного амфилирования – коллапсического ауторексирования. Амфиляционная генокомпенсационная меноконтрактация обеспечивает когенизационные апробации эпигенетического коллаборирования антропо-геологического совмещения. Репеллентная алгометация (геологическая периклазная диабазольная трансценденция) формообразующего патнегенеза [7, с. 75] в единой генеалогической плезиоформации задает семиотическую медиаляцию экстатической силлогистике градо-архитектурного эволюционного тектонирования. Эволюционное развитие патнегенетического согласия по мере формирования этно-национального конгломерирования получило дискретное фенотипическое контрактирование в виде транскрипционных систоляционных метаморфий парастенического плагиата аптеросного, гемалогического компенсаторного камерирования – галлюциногенного портогулирования или эксцентрического сингулирования. Исходная гравиточная, герменевтически постулированная камерация распространилась в модерационных копиях грекомодального кортирования – сигнационного гармонойного аутореферирования терминального репарационного эквивалента. Типологическим примером этого служит Афинский акрополь (рис. 1).
Я так понимаю, от сотрудников университета требуют публикаций, они пытаются выкрутиться и генерят вот такой бред подставляя себя.
Пф, мне уже два года как минимум стабильно присылают на рецензию по паре нейросетевых статей в месяц.
Я так понимаю, от сотрудников университета требуют публикаций, они пытаются выкрутиться
А как эта теория соотносится с тем, что автор статьи не поставил афилиацию? Такой статьей перед университетом не отчитаешься. Нет, это чувак просто себе publication record накручивает, по собственной инициативе. Или просто шиз, таких тоже полно.
Недавно рецензировал работу, в которой 15 из 30 ссылок оказались галлюцинациями. Отчасти это даже удобно: проверив такие формальные вещи, можно с чистой совестью отклонить статью, не тратя время на чтение.
Научный «дипфейк»? Как галлюцинации нейросетей — и другие проблемы — просачиваются в академические статьи