Комментарии 71
Что и требовалось доказать.
"Сказали суровые сибирские мужики, и пошли дальше валить лес двуручными пилами"
Не, ну если бы они говорили "Мы создали инструмент, способный помочь в решении некоторых задач обработки информации", то было бы норм. Но они же говорят: "Мы создали великое нечто, способное изменить мир". Это звучит как вызов для суровых сибирских мужиков.
Как по вашему интернет-поисковики изменили мир? Социальные сети? Мобильная связь? Смартфоны? Персональные компьютеры?
А помните как это всё выглядело в первые годы после появления?
Так и запишем (Епифанцев.jpg): Не удовлетворившись обычными каналами маркетинга своего продукта, компания решила продолжить продвижение на почве хайпа, желательно привлекая не обученных, сильных физически и удаленных от цивилизации пользователей с менталитетом доведения систем до неработоспособности.
Если боятся, то зачем пользуются. Никто не мешает юзерам не использовать AI.
Учитывая что сейчас все известные поисковики пихают пережеванный идиотом материал в первую строку выдачи (и не особо подчеркивая что это идиот и верить не стоит), простой пользователь с большой вероятностью будет подвержен проблеме. Только вчера мне ИИ выдал что из центра Москвы до Домодедово 320км и нужно выходить из дома за 6 часов до вылета
В принципе это неплохо. Как бы естественный фильтр и обратная связь. Человек возмущается и посылает этот поисковик к черту и берет условный 🦆 🦆 go.
К сожалению, можно с уверенностью говорить, что весомая часть пользователей тех же яндекс и гугл поиска вообще не имеют представления о сущности "поисковик". Кроме того, у части пользователей (и у меня в т.ч) возникает конфликт между релевантностью выборки и глупостью ИИ ответов. Тот же яндекс, например, мои повседневные запросы решает лучше, если игнорировать ИИ - подсказки
Хорошо хоть ошибку признали (но уж лучше бы её вообще не было)
Чтобы её не было, нужно создать верифицированный корпус текстов, который LLM считал бы гарантированной истиной. Он должен быть большим, но чтобы туда не попало шуток, альтернативных фриков и политической трясни. Кто будет заниматься его составлением?
Выражение "В этих ваших интернетах не поймёшь, кто прикалывается, а кто правда дебил" заиграло новыми смыслами.
Из верифицированного корпуса текстов можно сгенерировать не меньшую чушь. Это уменьшит число ошибок, но не уберет их полностью.
Но тогда нейросеть не сможет давать шутливые ответы, даже если её попросят.
А судьи кто?
Вопросу примерно 2000 лет.
Кто сторожит сторожей?
Quis custodiet ipsos custodes?
Who watch the watchers?
Дальше сами
Кто будет заниматься его составлением?
Почему бы не взять за эталон тексты энциклопедий, которые весьма обширны, есть на разных языках и довольно качественно многократно проверены.
Ну вот попадёт в Ваш "верифицированный корпус текстов" та или другая священная книга — и это самоё АИ на серьёзных щщах посоветует какому-нибудь верховному вождю начать ядрёну войну, потому как "а что вам терять, всё равно в рай с девственницами попадёте"...
Ызвынись, дон.
Ызвыняться будут те, кому есть, что терять. Что вы (не Вы лично, а человеки) можете мне сделать? Максимум — убить. Ага, напугал кобеля горбушкой.
Ваш стиль мне импонирует.
А что нормальный обычный человек должен был сделать? Наброситься на Вас с отборным матом?
Ну всякое бывает.
В т.ч и здесь.
Ну просто как-то странно, когда нормальное поведение индивида, у которого не играют гормоны и нет тенденции набрасываться с оскаленной пастью на каждого, кто с ним не согласен, воспринимается как нечто из ряда вон выходящее. Навевает грустные мысли относительно текущего состояния этой страны планеты.
А ошибки и не было. Сетка сделала ровно то, для чего её написали - продолжила фразу пользователя. Языковые модели ничего не знают про смысл слов ("клей", "камни", ...), зато они отлично умеют продолжать текст на основе обработанного ранее материала.
Неужели кто-то ожидает что эти чат-боты действительно отвечают на вопросы? Да нет же, они выучили эмпирические связи между словами в миллиардах постов на форумах - и выдают совпадение. Что там кожаные мешки наобсуждали - то и получайте.
ни выучили эмпирические связи между словами в миллиардах постов на форумах
Вот именно. Онако человекам так хочется маленького братика (по разуму), что любой голос разума вроде Вашего будет немедленно выброшен на задворки истории... :(
Ваще понимание о ллм отстало на пару лет. Почитайте что сейчас они умеют
Почитайте что сейчас они умеют
То же, что и всегда: предсказывать наболее вероятный следующий токен в потоке.
Теперь все знают, как опасно глотать камни. Один даже мой знакомый сочинил такое выражение: «Кавео», что значит: «Камни внутрь опасно». И хорошо сделал. «Кавео» легко запомнить, и как потребуется, так и вспомнишь сразу.
Все эти интеграции нейросетей в поисковики смотрятся очень странно, как попытка оседлать волну хайпа. Они же часто выдают случайную информацию, разбавленную водой и только сбивают пользователя с толку.
Так и есть. С каждым годом найти что-то в интернете становится все сложнее. То "я лучше знаю, что вы имели ввиду", то рекламные ссылки, заполоняющие страницу, то отказ от страниц в пользу бесконечной ленты (гугл, ЗОШТО!?), то теперь вот это... Интернет скукоживается до лент соцсетей за сегодняшний день.
Мне из ИИ-поисковиков только Copilot понравился, хотя даже он тупит. Я ему давал текст на перефразировку (в нем была описана личность, какая не помню). И он эту личность называет вообще левым каким-то, да ещё он на слово верит: ему можно сказать, что Сталин первый покорил Эверест и если чутка помучаться, то Copilot будет считать это истиной.
при этом не имея доступа к полезной информации
А нафига она тогда нужна-то?)
Google объяснила, почему нейросеть Gemini советовала использовать клей для пиццы и есть камни
Google пишет, что AI Overview основана на настраиваемой языковой модели. Эта модель интегрирована с основными системами веб‑рейтинга в поисковой системе и предназначена для выполнения традиционных задач — например, выявления релевантных результатов по индексу Google. Таким образом, Gemini начала считать советы склеивать пиццу и пить мочу наиболее подходящими результатами поиска.
Кажется, нихера она не объяснила. Лучше этого объяснения только:
Свет с Венеры отразился от верхних слоёв атмосферы и вызвал взрыв болотного газа.
В веб-интерфейсе диалога с нейросетью достаточно нажать F12, найти в HTML ответ и подправить его и сделать скриншот. А потом инженеры Гугла не могут понять: да откуда же клей и камни в пице ??
Мне кажется, проблема куда глубже, чем кажется.
Во первых, здравомыслящие люди врятли пойдут лить клей в пиццу и есть камни. А те, у кого есть проблемы с когнитивным восприятием, прекрасно справятся с этой задачей и без нейросетки.
Во вторых, она может врать/галлюцинировать и в не столь очевидных местах. И исправить это невозможно в силу самого принципа работы генеративных ИИ.
Гугл продвигает Gemini, как нечто новое и прорывное, и у пользователя складывается ощущение в надёжности и достоверности ИИ. При этом сам инструмент совершенно не предназначен для точной работы. Получаем бомбу замедленного действия, которая рванёт рано или поздно неизвестно где.
те, у кого есть проблемы с когнитивным восприятием, прекрасно справятся с этой задачей и без нейросетки.
Но с "это я не сам придумал — я сделал так потому, что мне контупер сказал" доля послушавшихся вырастет.
Ничего нового в этом нет, пользователи и раньше сами могли перейти на Reddit и прочитать там, что нужно есть камни. А ещё лет 30 назад воду заряжали, ставя стакан у экрана телевизора. В общем критическое мышление по-прежнему маст хэв.
Побыстрее рванёт, чтоб всё лишнее отгорело и отлично. Гугл суетится, т.к. заказчики должны гемини интегрировать в максимальное количество продуктов и платить-платить-платить. Если забить и не заговаривать зубы и не развешивать лапшу, то заказчики могут забить на гемини.
заметно чаще ошибается, но при этом делает проверку результата, и иногда сообщает о "косяке".
Однако человекам (вот дураки, да?) нужны гарантированные вещи, а не "ну этот мост не рухнет, когда по нему поезд поедет... в 95% случев..." Им сообщения о косяках нужны не "иногда", а всегда.
А без СИМ карты под VPN?
С 3.5 сравнивать всё-таки нет смысла, она довольно сильно устарела, гемини в принципе почти на уровне четверки, но вот 4o уже на уровень выше. А ведь и 5я гпт уже в разработке...
Чисто формально, ИИ-поисковик абсолютно прав. Ведь он нашел редкую информацию. На самом деле, очень мало людей знают сколько нужно есть камней, и поисковик нашел мнение одного из немногих специалистов.
А вот предобученный ИИ-чат, такой ответ дать не смог бы. Потому что редкое упоминание, о съедобности камней, он бы счел просто человеческой галлюцинацией.
Вероятно, нейросеть определяла некоторые шутливые ответы с Reddit и других форумов как популярные, что привело к выдаче вредных советов.
Выходит, что не зря на Хабре не любят юмор. Ведь если ставить плюсы за шутки, то ИИ-поисковик решит что это благодарность за полезную информацию.
Ну да, а давайте использовать LLM в качестве General AI? Хайпанем. Ой, а что могло пойти не так?
Почему, почему... Китайская каморка выдаёт карточки в ответ на другие карточки, совершенно не вникая в смысл, вот почему. Другого по технологии китайской каморки не добиться.
Один учёный сравнивал чатботов с попугаем, который может с энтузиазмом рассказывать рецепт приготовления жаркого из попугая всем, кто готов его слушать.
Тем временем где-то в параллельной реальности: фотографы жалуются, что не могут добиться помощи от ботов о том, как удержать сыр на пицце для хорошей фотографии, бот хочет говорить только о еде.
А так больше людей узнает про то, что все путают ИИ и сверх-разум, и это будет куда полезнее, чем оправдания гугла.
Жареные гвозди не предлагает?
Напоминаю, в 2019 году Google убрал слоган «Don't be evil» из корпоративного кодекса поведения
глотать камни для решения проблем с пищеварением
Вполне вероятно, что ИИ взял факт глотания камней из мира животных, не очень-то применимый для людей. Например, птицы глотают камешки и песчинки для перемалывания еды в желудке, т.к. у них нет зубов. Также камешки (гастролиты) глотают многие земноводные и рептилии, и даже морские млекопитающие (тюлени и морские львы).
Очевидно Гугл ворует тексты для обучения. А ведь нужно просто покупать у достоверных авторов. Но Сергей Брин решил на воровоном сэкономить.
Google объяснила, почему нейросеть Gemini советовала использовать клей для пиццы и есть камни