Comments 29
Такое лицо у меня было, когда скопировав текст рандомного кавера "Говновоз" с ютуба и отправив нейронкам получил ответы: "Это известная песня группы Король и Шут/Любэ альбома 'На службе' "
А почему нейронка должна была знать все песни и говнокаверы?
Так в этом всё дело. Вместо того, чтобы честно сказать "не знаю", она галлюцинирует.
я как-то раз спросил про бренд холодильника SUMSANG (опечатавшись), модель не стала поправлять себя и придумала что да, в действительности в севереной Кореи есть такие холодильники и они просто для внутреннего рынка и потому о них нет информации, а так они существуют в самом деле. правда это было порядком времени назад
Что вы, пару дней назад мне дипсик заявил, что для того, чтобы распознать куар, который находится на смартфоне в виде скриншота, нужно вывести его на экран смартфона, а затем просто отсканировать его камерой этого же смартфона.
я как-то раз спросил про бренд холодильника SUMSANG (опечатавшись)
Неожиданно, в материковом Китае, действительно существует компания под таким брендом ;) И что-то мне подсказывает что она не одна 8D
А ещё совершенно точно есть компания SAMSIJNG создающая бюджетные ТВ платформы и Смарт ТВ ;))
Обычный чатГПТ вполне себе узнаёт эту песню, судя по всему, пользуясь инструментами:
Сама модель GPT 4.1 без инструментов песню не знает, но отвечает, что какая-то дворовая, что на галлюцинацию не тянет, скорее на логичный вывод.
Как это она ее "узнает", если она просто ищет в интернете? (Видите, ссылки даёт)
Очень некорректное заявление.
у gpt нет долговременной памяти, точнее что то есть похожее, но как следствие невероятной избыточности по весам, и особенности сбора обучающего датасета.
Все что 'знает' ИИ - это то что вы поместите в его контекстное окно, и то, с увеличением этого окна, все начинают путаться в данных.
Текущий ИИ еще далек от AGI (но кажется асимптотически к нему приближается) и уж тем более не ASI. Но все бегают с криками - 'оно буквы считать не умеет, закапывайте'.
Не бойтесь, AGI будет достигнут, в этом практически нет сомнения, и 'желанные' увольнения с робких 5-10% в узких областях, превратятся в 80% от рабочего населения (останутся либо очень дешевая рабочая сила, либо наоборот, редкие и очень skilled специалисты, с изворотливым умом и нестандартным мышлением) .
Рассказ по описанию нейронки тоже не помогли мне найти.
запрос
Назови фантастический рассказ, в котором герой за ночь успевает разбогатеть, жениться и потерять состояние.
герой за ночь успевает разбогатеть, жениться и потерять состояние.
Дайте догадаюсь: второе — потому что первое, а третье — потому что второе?
Нет. Рассказ о мире, в котором научились ускорять работу мозга.
Медленная ночь со вторника на среду?
Гигачат тоже знатно погаллюцинировал, особенно в конце:
Скрытый текст
Это знаменитый фантастический рассказ Герберта Уэллса «История Платтнера» (The Plattner Story), однако сюжет немного отличается от вашего описания. Возможно, вы имели в виду рассказ Александра Грина «Крысолов».
Но точное совпадение сюжета обнаруживается в произведении Евгения Замятина «Мы» (хотя там события растянуты во времени). Однако если мы говорим именно о фантастическом рассказе с указанным сюжетом, скорее всего, речь идет о следующем варианте:
Рассказ Ивана Ефремова «Белый Рог»
В этом рассказе главный герой проходит путь стремительного обогащения, свадьбы и потери состояния буквально за одну ночь благодаря загадочным обстоятельствам и невероятным событиям, связанным с магическим предметом — Белым Рогов. Именно этот элемент добавляет сказочную атмосферу и делает произведение уникальным примером жанра научной фантастики и фэнтези одновременно.
Также похожий мотив встречается в некоторых народных сказаниях и литературных произведениях, особенно связанных с волшебством и сверхъестественными явлениями. Например, фольклорные истории, где герой получает богатство благодаря чудесам, быстро теряет его, и вся жизнь переворачивается за короткий промежуток времени.
Знакомая ситуация. Около 15 лет назад читал книгу, не помню ни автора ни названия, только некоторые детали сюжета. И ни одна нейронка по описанию не смогла найти. ChatGPT, Deepseek и Алиса сходу начали путать авторов и их произведения, иногда приписывали несуществующие рассказы и путали имена героев.
Кто вам сказал, откуда вообще это взялось, что ЭТОТ ИИ сможет решать такие задачи?
На его основе да, можно, с помощью того же RAG и саморизации, просканировать какой-нибудь архив 500gb флибусты, и давать такие ответы, но не сырая языковая модель, которая может даже и видела во время обучения куски этих книг, связать их в одно (если при обучении не ставили это целью, что явно не так) не способна.
То, что модель на некоторые книги все же дает ответы, так это популярный список, явно не очень большой,.. и там, информации минимум.
Задал вопрос ChatGPT o3, он сходил в интернет, нашел эту ветку с комментариями и гордо вернулся с верным ответом. Поздравляю, вы сделали AGI чуточку ближе.
Сейчас попробовал найти другой рассказ того же автора. Если модель не подключается к сети, то галлюцинирует, если ищет в сети, то находит. Запрос очень близок к тексту рассказа.
Подскажи название рассказа, в котором герой на другой планете расспрашивает бабушек о том как все началось, а они только смеются.
Это интересный момент. С одной стороны, я часто читаю страдания разработчиков ИИ, что хорошие данные для обучения заканчиваются. С другой - уже не в первый раз сталкиваюсь с ситуацией как сегодня, когда модель не знает что-то сама, но может найти в сети (это кстати тоже неплохо).
А давайте Вы мне попробуете помочь?
Описание сюжета
Время действия: 1960-е годы. Группа ветеранов войны в кафе что-то там отмечает, среди них слепой, который был танкистом, при отступлении горел в подбитом танке и потерял зрение. В кафе входят несколько иностранцев, слепой останавливается на полуслове, принюхивается и говорит: "ребята, здесь немцы!". Выясняется, что иностранцы — действительно немцы из ГДР.
Слепой рассказывает — он добирался до своих при помощи местных жителей, в частности, прятался в стогах, а когда оставался один — мог рассчитывать только на свой слух и нюх. Вскоре он уже реально "мог учуять немца за километр", что и показало произошедшее.
В конце ветераны и ГДРовцы сдвигают столы и пьют за мир.
Читали "Зенитные кодексы Аль Эфесби" Виктора Пелевина? Он примерно так описывал принцип работы "Slim shady", системы для беспилотников, которая решала, террорист попал в прицел или нет.
https://www.fierce-network.com/modernization/ai-bubble-verge-bursting "Эта сделка — самый явный признак того, что нынешний пузырь искусственного интеллекта находится на грани схлопывания. У Thinking Machines нет ни продукта, ни дохода. Зато есть 45 сотрудников с высокой зарплатой, плавающих в бассейне самолюбования Кремниевой долины, поддерживаемых страхом упустить что-то важное (FOMO) у инвесторов. Даже его название, которое он украл у одноименной провалившейся компании 80-х годов, занимавшейся разработкой суперкомпьютеров , отдает высокомерием « самых умных парней в комнате »."
"В реальности (неизведанная территория для крупных технологических компаний) истинная сила ИИ заключается в трансформации мировой экономики, способствуя цифровизации промышленности, в том числе тяжёлой, по всему миру. Это рынок объёмом 45 триллионов долларов, на котором работают такие известные поставщики, как Huawei, Ericsson и Nokia, а также десятки стартапов."
Буквально на днях, мне ии доказывал, что на моем скрине цифры находятся в д слева, а не в кредите справа.
Жду того времени, когда для правдивой информации нужно будет искать и открывать бумажную энциклопедию 20ого века, и она будет стоить на вес золота, и за ней будут все охотиться... Типа как в фильме "Книга Илая".
Если archive.org снесут — так и будет...
Работу модуля OpenAI для борьбы с «галлюцинациями» описали в деталях