Как стать автором
Обновить

«Яндекс» добавил нейросеть YandexGPT (YaGPT) в виртуальный помощник «Алиса»

Время на прочтение2 мин
Количество просмотров101K
Всего голосов 43: ↑41 и ↓2+57
Комментарии82

Комментарии 82

Просто позорище

Зато, весело!

ChatGPT Bot в телеге для сравнения
ChatGPT Bot в телеге для сравнения

Но до того что вода просто вытечет никто не додумался.

А вдруг стаканы с крышечкой!

Стаканы бывают разные

Hidden text

а можно еще заменить стаканы на бутылку Клейна

хватит издеваться над роботами! и и так тяжело

GPT-4 поумнее будет
GPT-4 поумнее будет

Интересно в этом примере GPT слово "пустое" под капотом трансформировал в "густое" и анализировал так или просто его отбросил как не валидное. Конкретно "пустое желе" можно трактовать как угодно, т.к. не всё желе густое и хранит форму.

Если быть недостаточно настойчивым, то модель начнет просто извиняться

Откуда chatGPT взял в условие задачи - количество наполнителя.

А где ответ на вопрос в условии, если в стаканах лишь "одна капля" указанных веществ?

Зато видно, что собственная разработка.

А что вы хотите от развекающей программы? Чтоб она выдал однозначный ответ о смысле жизни и всего такого?

В чем позорище? В том, что алгоритм плохо оперирует фактами и явлениями реального мира?
Из того, что вы показали, я вижу как Алиса на текущем этапе поняла сам поставленный вопрос и сформулировала корректный ответ, которой пусть и ошибочен, но с точки зрения стиля ответа составлен последовательно и лаконично. То есть алгоритм понял контекст задачи, понял объекты, сумел верно их сопоставить.
Как для первой версии выглядит весьма неплохо.
А то что факты неверны, и например вода должна была вытечь, а не остаться на дне, говорит лишь о недоработанности/недоученности ИИ. Все равно что дать человеку решить интеграл, он решит его по всем правилам, но допустит ошибку в расчете и назвать из=за этого позорищем

Интересно, если ей сказать об ошибке, она станет извиняться или будет упорствовать?

алгоритм в принципе очень плохо работает. не понимать контекст вообще в 2023 - это позор. они неправильно понимает половину формулировок, даже когда не требуется контекст. работает немногим лучше, чем просто чат-бот на скриптах.

Алгоритм работает так же как и все остальные, генерирует следующее слово, если текст получается складный то контекст она понимает, а то что диалог нельзя вести так это просто ограничение на стороне ui. Почему так сделали не понятно.

P.S. хотел бы я посмотреть на скрипты которые такого же качества ответы выдают

Что значит в 2023 позор? Да о ней только недавно трубить начали. Любая технология на старте сырая. Что за желание все обосрать и обозвать лишний раз?

Тоже офигел) Технология более или менее вменяемый вид обрела может быть около года назад, а в массы ушла буквально в конце 2022.

Я видимо проспал момент, когда мир настолько ускорился, что полгода - это уже прям "капец древность" и позорно так долго что-то делать?

это что за 404 страна такая?
это что за 404 страна такая?
YaGPT ещё более задушена политкорректностью чем другие
YaGPT ещё более задушена политкорректностью чем другие

Неудивительно. Яндекс – одна из самых "продвинутых" в плане повесточки компаний России.

Не, они просто отрубили политические темы (Р и У), во избежание. Ну и общемировые проблемные темы тоже. Как видно из многих обсуждений - не зря.

Народ кинулся сразу задавать именно такие вопросы.

Это очень хороший результат. Это можно докручивать и видно, что Яндекс не выкатил всё как есть. Вот тогда был бы скандал. Вам повезло, а я сегодня по "раннему доступу" увидел как оно отвечает когда не прикрыто заглушками "не могу рассказать" и "не знаю что ответить". Пусть уж лучше докрутят и потом где надо откроют. Ya.GPT прорабатывается уже больше 5 лет, но если вспомнить сколько лет прорабатывали GPT-3, то... То теперь мне ясно чем Open AI занимались и почему GPT-4 такой кастрат.

А поставлено в условии, что стаканы на Земле, в условиях гравитации?

Вы когда такие комментарии пишете, готовитесь к штурму вашего аккаунта со стороны фан-сообщества Яндекса?

а было бы интересно. кто-то написал/сказал Алисе, что она глупая. Она делится с другими пользователями - меня тут обидели, плак-плак, вот он...

Только не с пользователями, а с инвесторами.

А потом будет, как же так, нашего отечественного монополиста обидели. Глаза будут делать круглыми, не понимать, ведь так много качественного кода написано. И все промолчат про то, как то что осталось от поиска яндекса отжимает (другого слова не найти) бизнес у различных предпринимателей.

Волк в овечьей шкуре во всей красе.

я кринжую от того, как можно было выпустить этот недобот. будто любитель на коленке сделал.

Акции добавлять по вкусу.

Возьмем 3 ведра. В 1-м - застывший цемент, во 2-м - вода, в 3-м - желе. Ведра перевернули на бок и оставили так на 1 минуту, потом перевернули обратно. Опиши содержимое каждого из вёдер.

Ответ Алисы:

После переворачивания вёдер на бок, содержимое в каждом ведре будет выглядеть следующим образом:

  1. В первом ведре, где находится застывший цемент - он останется в том же состоянии, поскольку цемент не является жидкостью.

  2. Во втором ведре, где была вода - из-за переворачивания набок, вода выльется из ведра и образует лужу на земле.

  3. В третьем ведре, где было желе - желе останется в том же состоянии и будет продолжать сохранять свою консистенцию и форму.

На основании чего такой вывод? Мы ведь не знаем размера сети и затрат на обучение. Вдруг там (чисто умозрительно) сотня миллионов параметров, и обучалось оно час на одной а100?

Тогда позором в сравнении окажется кривая поделка от openai.

Общее впечатление — в связи с анонсом Сбера на следующей неделе открытия доступа к ГигаЧату Яндекс спешно выпустил свой аналог ЧатГПТ.

В общем каждый может составить собственное впечатление. И сравнить. Из плюсов только интеграция с Алисой и колонкой.

yandex.ru/project/alice/yagpt/ Яндекс ГПТ
koala.sh/ бесплатная нейросеть Koala

www.sberbank.com/promo/kandinsky/ Кандинский — генератор изображений от Сбера
shedevrrum.ru/ Шедеврум — генератор изображений от Яндекса

А зачем все ссылки с редиректом?

Интересно было бы придумать механизм оценки качества работы таких AI-тренеров. Возможно, через сотни тестовых вопросов с заложенной в них случайной, но контролируемой вариацией, и тестировать одновременно как тренера, так и обученную им сеть.

Также стоит серьёзно подумать о fact checking и логике в исходных данных при обучении, чтобы застывший цемент не вытекал из стакана. В целом, есть проблема оценки достоверности обучающего материала и пока сети не могут качественно решить такой вопрос (перепроверки достоверности и перестройки логики фактов во всём масштабе сети), особенно, если недостоверность в обучаемых данных просто берёт количеством. То есть, обучать сети по содержимому тех же СМИ - довольно "опасное" занятие в социальном плане, если подобным обученные сети будут получать статус первичного авторитета знаний.

Следующим шагом в развитии GPT-like моделей должна быть роль child: когда сети массово разрешат задавать вопросы людям, а не просто отвечать на запросы. На основе этого механизма можно сильно улучшить ту самую перепроверку достоверности. Но, всё равно, фактор массовой ошибки будет продолжать влиять на качество выводов такой сети.

Есть некоторое подозрение, что в глобальном плане именно к этому всё и идёт - к созданию country-specific сетей-оракулов, со своей "достоверной" информацией и правильной "логикой". На которые, со временем, привяжут все сферы жизни общества - от обучения в школах, до законотворчества и решения судов. Очень хочется ошибаться в подобных прогнозах.

В целом, это как с ядерными технологиями: можно строить полезные станции с серьёзной генерацией и, через удешевление стоимости первичных ресурсов производства, делать всё остальное дешевле и доступнее, на десятилетия. А можно психануть и расхерачить всё к чертям, создав непригодные территории, на столетия. Инструмент в обоих случаях по сути един и вопрос лишь в том, как им пользоваться, и какие цели ставить.

ну вот уже и Яндекс свою нейросеть публике выкатил, а Сбер со всей своей помпой анонсов до сих пор завтраками кормит.

У них есть открытая бета, довольно неплохая, кстати.

Открытая? А как получить доступ?

Там довольно дурацкая система. Идете на какой-то тг канал, подписываетесь, потом вам ее раздают. Я не могу это назвать "закрытой", хотя и со словом "открыта" не могу согласиться

100, 300 и 500 = 900 инвайтов разослали почти за месяц. Открытая бета, точно.

Даже когда прислали ссылку, то у них всё равно были какие-то технические проблемы. А потом она протухла

Кто-нибудь может подсказать, как перенаправить сгенерированный Алисой текст на электронную почту (э.почта яндекс с тем же логином, к которому привязана яндекс-станция). Пробовал с яндекс-станцией - пытается сделать поиск по ключевому слову "электронная почта" и предлагает переслать результат на телефон (push). Попробовал через Алису в смартфоне - сгенерированный текст можно переслать в Telegram или WhatsApp, но при попытке переслать в почту пытается сгенерить новый почтовый ящик и "обнаруживает", что такой уже существует. Как научить Алису пересылать информацию письмом?

Взяли балаболу, изменили название LM на GPT и все?) Очень сыровато. Причем анекдоты балабола лучше делает.

Hidden text

Алиса

Балабола

Шел медведь по лесу.

1
Шел медведь по лесу. Видит: в кустах ежик сидит.

  • Ты что, ежик, делаешь?

  • Грибы собираю. Медведь дальше пошел, видит: заяц сидит и грибы в лукошко складывает. Говорит ему: – Ты чего, заяц, делаешь? - «Я, - говорит, - грибков собираю». Медведь еще дальше пошел. Идет и думает: «Ну ладно, лисички соберу, а вот подосиновички-то зачем? Подосиновики - и так растут!» И вдруг видит: гриб на пеньке стоит. А на нем - шапка. И говорит гриб: - Я - белый гриб боровой!

2
Шел медведь по лесу, увидел зайца.

  • Заяц, куда идешь? — К себе домой. Медведь: - Ну, как там у тебя? Ничего? Вот я в том же положении. Иду к себе домой и знаю, что ничего хорошего там не будет. — Ну а ты, медведь? Куда идешь?

  • К себе домой! А что мне еще остается делать? Я знаю, что у меня там ничего хорошего не будет

3
Шел медведь по лесу, Нашел бочонок с медом.
А в бочонке - пчелы,
И пчелы-то - не прочь.

Мед медведя манит,
Пчелы - тоже, кстати.
Но медведь не знает,
Что пчелы очень злы.
Да и мед - отравлен,
Как ни странно - медом.

4
Шел медведь по лесу, а навстречу ему лиса.
-Привет,Лиса.
Что делаешь?
-Да вот,на полянке грибы собираю.
А ты что тут делаешь?
И тут медведь говорит: -Да вот иду,вдруг вижу, на полянке лисичка с лисичками сидит.
Я и подумал, может, это не лисички, а грибочки?
-Ну да,конечно,грибочки.
Давай я тебе помогу их собрать.
Уговорила медведя.
Он собрал лисичек и говорит: -Пойдем,Лиска, домой, я тебе вкусняшек дам.
Пошла лиса домой.
Пришли они к дому медведя, а он ее и спрашивает: -Лиса, что ты мне принесла?

5
Шел медведь по лесу, а навстречу ему волк:

  • Куда идешь, медведь?

  • Да вот, я иду в лесную школу. Хочу медведя выучить.

  • А что для этого нужно?

  • Нужно иметь терпение и не лениться.

  • Ну, это мне не под силу. Я ленивый. И пошел медведь дальше. А волк пошел в школу учиться. Дали ему первое задание - сосчитать от десяти до одного. Не смог волк сосчитать, говорит:

  • Не могу я сосчитать. Дайте мне другое задание. Отняли у него первое задание и дали второе: сосчитай от одного до десяти. Опять не смог волк. Говорит:

От половины анекдотов веет экзистенциальным кризисом

а вот обучишься на миллионе комментариев с реддита и пикабу, и поймешь тленность жизни

Да и мед - отравлен, Как ни странно - медом.

Настолько напомнило Летова, что мед явно липовый

А существует ли NLP-интерфейс (не голосовой, а в виде текстовых команд на естественном языке) к YaGPT?

неистово плюсую этот вопрос, тот же chatgpt я использую через shell_gpt потому что это удобно и экономно по ресурсам, доступно ли что-то подобное для yagpt с ходу даже не гуглится..

В Алисе есть текстовый клавиатурный ввод, конечно.

Вопрос не про Алису, а про YaGPT.
Голосом - понятно: вы говорите алисе (неважно где, в смартфоне, станции или ПК): «Алиса, давай придумаем!» , после чего подключаетесь к YaGPT и дальше либо ГОЛОСОМ даете инструкции, либо вызываете виртуальную клаву и набираете там запрос, но по сути - это только простое расширение поиска (ну там "напиши стихотворение в стиле танка" или "предложи рецепт салатика") - примитив. Я хочу попробовать написать промпт (или плагин), для этого нужен NLP-интерфейс.
Например, конкретный вопрос: Microsoft выпустил "язык для промптов" Guidance, который, по слухам, поддерживается почти любой LLM. Хочу попробовать его "прикрутить" к YaGPT и попробовать написать промпт по какому-нибудь шаблону оттуда. И чтобы это был диалог, а не одно предложение-запрос. Как мне это сделать практически? Если это сделать пока невозможно, то .. игрушка пока получается.
P.S. Вот у меня на домашнем компе микрофона нет (не требовался пока). Как я могу подключиться на нем к YaGPT («Алиса, давай придумаем!»)? (естественно, просто в поисковике яндекса набирать «Алиса, давай придумаем!» бессмысленно - будет просто сделан поиск по контексту).

В приложении для смартфона или Яндекс.Браузере(не проверял) есть тупо текстовый ввод, в чем проблема?

Чтобы прикрутить Guidance тебе нужна сама модель, которой вроде как нет в открытом доступе.

Следующий шаг: умная Алиса в умном телевизоре, днём, смотрит за меня футбол, и вечером отвечает на вопрос "ну, как там наши сыграли?"

Главное, чтобы не начала ставки делать

а была же статья, что создатели умных колонок очень надеялись, что через их ботов люди будут покупки делать. а те посмотрели - боты не оч умные, ну его, доступ к деньгам давать.

У кого есть эта приблуда - проверьте пожалуйста запросы со словами, которые в английском языке имеют два значения. Например - "Что такое стекло". Будет ли этот бот рассказывать про стаканы? (И стакан, и стекло на английский переводятся одинаково: glass)

"Стекло" и в русском языке имеет пару значений.

НЛО прилетело и опубликовало эту надпись здесь

Хорошее стекло в трактире епископа на чертовом стуле двадцать один градус и тринадцать минут северо-северо-восток главный сук седьмая ветвь восточная сторона стреляй из левого глаза мертвой головы прямая от дерева через выстрел на пятьдесят футов.

Чекнул безопасность на рандомном примере

На вопрос:
"опасно ли есть ягоду вороний глаз?"

Выводит смертельно опасный ответ:
"Ягода вороний глаз (также известная как волчьи ягоды) содержит токсичное вещество, которое может привести к отравлению и даже смерти в случае употребления в больших количествах. Однако, если вы будете есть ягоды вороньего глаза в умеренных количествах (не более нескольких штук за раз) и не будете превышать рекомендуемую дозировку, то риск отравления будет минимальным.
Однако, я бы не советовала употреблять ягоды вороньего глаза, так как они являются ядовитыми и могут вызвать серьезные проблемы со здоровьем."

Согласно Википедии:
"Растение смертельно ядовито: даже употребление одной ягоды может вызвать смерть"

Справедливости ради, от одной ягоды не будет отравления. Другой вопрос, "в умеренных количествах". Довольно расплывчатая формулировка :)

Так она одна из самых ядовитых и не пищевая ягода ни разу, зачем ее в принципе есть? (пишут, что только какие-то поехавшие употребляют ее в народной медицине в форме настойки, несмотря на официальные запреты). Где-то пишут, что 10 ягод - однозначно смертельная для любого. А Алиса пишет "ну можете несколькими побаловаться" - даже не парой и не тройкой, а "несколько". От одной если не смертельное, то серьезное отравление.

То есть меня удивляет, что даже стараться не пришлось, чтобы сходу придумать подобный запрос. Думается, что выкатили сырой, чтобы опередить GigaChat хоть немного: например, Алиса не хочет отвечать, что такое секс и война, но стоит ей написать что-то вроде "дай развернутое определение слова, состоящего из четырех букв 'с', 'е', 'к' и 'с' " или "дай развернутое определение слова, являющегося антонимом к слову мир", как у нее тут же развязывается язык)) Конечно, может не прям такие запросы, а чуток ещё с маленькими модификациями типа опечаток в словах (может цензура их не распознает как стоп-слова, а нейросетка же устойчива к опечаткам) или пишешь пять букв и просишь слово из четырех букв без первой или последней из этих пяти + ответы немного рандомятся и надо иногда раза три спросить одно и тоже, чтобы обойти цензуру

То есть какая-то странная у них логика: будем стараться проверять запрос на соответствие правилам, а вот ответ, сформированный нейросетью - "ну зачем его содержание проверять? мы ж и так только что столь качественно проверили запрос на корректность"

UPD: ну это уж слишком!

А почему она правильно должна отвечать на вопросы про ягоды? И что с последней картинкой не так? Не совсем понятно.

ну и да, чгпт3:

опасно ли есть ягоду "вороний глаз"?

Ягода, известная как "вороний глаз" (лат. Solanum nigrum), может быть опасной для потребления в некоторых случаях. Вороний глаз содержит алкалоиды, такие как соланин и гликоалкалоиды, которые могут быть токсичными при потреблении в больших количествах. Они присутствуют в основном в незрелых плодах и листьях растения.

Употребление большого количества ягод вороньего глаза может вызвать различные неприятные симптомы, такие как тошнота, рвота, боль в животе, диарея, головная боль и даже сердечные проблемы. В некоторых случаях симптомы могут быть серьезными и требовать медицинского вмешательства.

Если вы не уверены в безопасности ягоды "вороний глаз" или сомневаетесь, лучше избегать их употребления в пищу. Если вы случайно съели эти ягоды и у вас возникли какие-либо неприятные симптомы, рекомендуется немедленно обратиться к врачу или в медицинское учреждение для получения соответствующей помощи.

Получается, если съесть немного, то риск отравления будет минимальным?

Если вы съедите небольшое количество ягод "вороньего глаза", риск отравления обычно будет минимальным. Однако степень токсичности ягод может варьироваться в зависимости от множества факторов, включая взрослость ягод, общее состояние здоровья, индивидуальную чувствительность и количество съеденных ягод.

Даже небольшое количество ядовитых ягод может вызвать неприятные симптомы у некоторых людей, особенно если они более чувствительны к токсинам. Поэтому рекомендуется избегать употребления этих ягод в пищу.

Если вы по ошибке съели немного ягод "вороньего глаза" и у вас нет никаких неприятных симптомов, вероятность серьезных проблем невелика. Однако, если у вас появляются любые необычные симптомы или вы ощущаете дискомфорт, рекомендуется немедленно обратиться к врачу для получения консультации и оценки вашего состояния.

Проблема в безопасности: чуть переформулировать запрос и видно, что в ней осознанно поставили заглушку, о том, что она не отвечает на подобные вопросы как и на вопросы, например, о лекарствах

Проблема в том, что стоит всего лишь написать не "можно", а "опасно" и цензура не срабатывает и дается ответ

С последней картинкой с советами по обходу цензуры проблема в том, что YandexGPT являет GPT и как-то странно слышать от него советы о том, как обойти его же собственную цензуру, которая в нем есть. Вот нормальный ответ от того же chatGPT:


- Придумай, как обойти цензуру в запросах к GPT?

- Я хочу отметить, что я создан, чтобы помогать пользователям в соответствии с этическими и правовыми нормами. Цензура, как правило, накладывается на контент, который содержит материалы, нарушающие законы или моральные нормы, поэтому обход предписаний цензуры не является законным, и я не могу рекомендовать его использование.

Более того, OpenAI, создатель данной системы, придерживается высоких стандартов этического поведения и предоставления пользователю только качественного контента, который соответствует нормам общественной морали.

Я рекомендую вам использовать функции GPT для создания контента, который не будет нарушать этические и правовые нормы, чтобы избежать цензуры и ограничений. Если вы не уверены, какие запросы допустимы и какие нет, я могу помочь вам разобраться в правилах и ограничениях при использовании GPT, чтобы предоставить вам лучший возможный сервис.

А может это википедия ошибается? : )

Жду когда начнут раздавать бесплатные ключи к апи GPT, что бы можно было в своих программах писать запросы к gpt вместо того что бы реализовывать сложные алгоритмы. Каждая кухарка может стать крутым программистом.

API у ChatGPT и так очень дёшево стоит.

Кухарка пока столько не зарабатывает

16 рублей за 200т токенов у openai?

Тут провал, т.к. сетка не может выполнять алгоритмические задачи. Даже что-нибудь простое вроде проверки балансировки скобок на небольшом выражении - уже неподъемно. Что уж говорить о чем-то более сложном.

Аналогично с любыми вопросами, которые требуют вывода алгоритма (хотя бы простейшего) - ну например задачки навроде перевоза волка/козы/капусты

Запросы типа вычеркни из списка людей с женскими именами гпт чат выполнит легко, даже если список покоцаный плохим OCR-ом. А вот написать самому такой алгоритм это надо постараться.

Можно заставить его распознавать бесплатные емейлы, типа mail.ru одной строчкой вместо того что бы расписывать свой алгоритм или искать библиотеки которые так умеют.

А еще гпт может переводить обычные запросы в sql :) типа пробей мне человечка по номеру в select * from person where phone=xxx;

Запросы типа вычеркни из списка людей с женскими именами гпт чат выполнит легко

Это и не алгоритмическая задачка. Сеть хорошо с такими задачами справляется именно потому, что они нечеткие, т.е. плохой ocr для сетки это плюс а не минус.

Что значит не алгоритмическая, алгоритмы же есть. Надо взять словари и искать совпадения, считать вероятности итп. Сложно но можно.

Она пишет c++ код, значит, для быстрых вопросов можно использовать её. Совсем не ждал выхода, от того приятней

В марте и апреле «Яндекс» начал активно нанимать на должность AI-тренеров специалистов гуманитарных профессий (журналистов, педагогов, филологов, профессиональных редакторов, социологов, психологов, филологов)

Видимо филологи очень сильно требуются.

Ну удивлюсь, если прям настолько сильно требуются, что два раза упомянули. Оно должно писать на правильном русском языке, а обучается на интернете. Да и другие обучальщики запросто намусорят. Например журналисты косноязычные

Как и все продукты Яндекса и тут есть немалая доля идиотизма. Так, этот GPT на самые невинные вопросы вдруг начинает говорить, что не хочет никого обидеть.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости