Comments 77
YandexGPT, он же навык Алисы "давай придумаем", предназначен для помощи в создании новых идей:
В этом режиме я помогаю придумывать — идеи, тексты на разные темы и многое другое.
Я пишу ответы с помощью YaGPT — новой нейросети Яндекса, подражая текстам в интернете. Поэтому результат может быть выдумкой и не является моим мнением или мнением Яндекса. Я стараюсь быть этичной, так что на некоторые запросы я не отвечаю.
Так вот, текст о том, что этот навык не выдаёт корректную справочную информацию и не отвечает на некоторые запросы.
Если обратиться к документации YandexGPT API, то API TextGeneration.instruct принимает инструкцию и запрос. Думаю, что в «давай подумаем» задана специфичная инструкция, из-за которой фильтруется часть запросов. С запросом без инструкции нейросеть не увиливает от ответа. Запросить API можно здесь.
Я откликнулся на вакансию Яндекса "AI-тренер". Перед тестированием прочитал краткий курс от Яндекса по их нейросети, каким правилам подчиняются ответы и пр. Затем прошёл тест на знание орфографии, грамматики, лексики и применение факт-чекинга. Завершало тестирование написание небольших ответов (два-три абзаца) на вопросы пользователя и эта часть тестирования почему-то называлась - "Тестовое задание для пишущего редактора в Яндекс"?!
По итогу мне вынесли вердикт, что я не подхожу на вакансию пишущего редактора?!
Озадаченный ответом (я же не собирался руководить коллективом журналистов или писать статьи), списался с кураторами и попытался объяснить, что проходил тестирование на тренера AI.
Сказать, что ответ меня ошарашил - это ещё вежливо и без мата (хотя я в принципе не матерюсь).
В Яндексе мне заявили, что тренер AI и пишущий редактор - это одно и то же!!!
Хорошо, что попалась ваша статья. Теперь хоть немного стал понимать, что же на самом деле делают тренеры нейросетей в Яндексе - пашут на AI литературными неграми, т. е. пишущими редакторами.
текст интересный, но не могу понять о чём
если о том что публичные AI сейчас зацензурены - так это не новость..
если о том что в попытке зацензурить что либо цензор обычно всё портит и ломает - так и это не новость..
если о том что AI сейчас всё ещё в зачаточной стадии не смотря на взрывной рост - так и это очевидно.
в общем спасибо, читать было интересно, хоть и безполезно.
YandexGPT, он же навык Алисы "давай придумаем", предназначен для помощи в создании новых идей:
В этом режиме я помогаю придумывать — идеи, тексты на разные темы и многое другое.
Я пишу ответы с помощью YaGPT — новой нейросети Яндекса, подражая текстам в интернете. Поэтому результат может быть выдумкой и не является моим мнением или мнением Яндекса. Я стараюсь быть этичной, так что на некоторые запросы я не отвечаю.
Так вот, текст о том, что этот навык не выдаёт корректную справочную информацию и не отвечает на некоторые запросы.
Текст сгенерирован АИ, похоже
Текст написан только с одной целью - нагнать трафик на сетку пропагандистских помоек, на которые проставлены активные линки в посте.
Более чем уверен, что ниже будет хотя бы один комментарий вида "спасибо за статью, из нее узнал о существовании таких замечательных сайтов".
И да, это не потому что я ясновидящий, а потому что все это обсуждается в телеграммах уже пару лет и постится пропагандонами одинаково везде. Меняется только тема статьи - обычно выбирается самая "жареная" тема для ресурса, чтобы больше просмотров => больше переходов.
Обязательно в паре комментариев акцентирование внимания на ссылки (для тех, кто не понимает намеков, самых тупых - на жаргоне в сетке их называют хомячками).
И вот мне интересно - почему об этой топорной манипуляции знает интернет, знает пикабушечка и двачик, знают 17-летние подростки - но администрация хабра - на минуточку, портала "для профессионалов" не знает. Или делает вид, что не знает, м? Или просто под статьей случайно пропала надпись "промо"?
Лол https://habr.com/ru/articles/757058/#comment_25919672 вы как в воду глядели
Ну и вики такая же пропагандистская, только чья надо пропагандистская.
Какие ваши доказательства?
Впрочем, хорошо, что уже признаете, что статья написана исключительно ради раскручивания пропагандисткой сетки помоек.
Не разводите тут политоту.
Так не разводите. Вы всегда можете выпилиться... с сайта, вместе с этой статьей и Вашими политическими комментариями, и всем станет хорошо.
Спасибо Вам за тест, очень интересно. Теперь понятно, что пользоваться этой GPT не имеет особого смысла, потому что она очень сильно зацензуирована.
Я ищу GPT, которую можно было бы встроить в свою "умную колонку". (Не ChatGPT, потому что к нему трудно получить доступ из России, а какой-то аналог). Что посоветуете (кроме тех, которые можно запускать на своем ПК - нет у меня такого ПК). Например, YouChat можно использовать для такого, есть у него свой API? Если кто-то так делал, может, поделится подробной инструкцией для настройки. (Хотелось бы видеть статьи на эту тему).
В мире нет ни одной универсальной языковой модели, такого же уровня как chatgpt4, как минимум публично (да и нет времени и специалистов чтобы обогнать OpenAI), допускаю что в каких то доменах знаний/определенной задаче можно найти ИИ лучше (типа как вольфрам альфа уже давно умная для математики, правда нельзя ее называть языковой моделью, но это не важно, просто пример).
Но если тебе хватит модели уровня chatgpt3.5, то единственное что доступно населению — это модель от меты — llama2.
Собираешь компьютер с GPU суммарной VRAM порядка 4x80Гб (формально хватит 1x80гб если использовать 8бит квантизацию но обычно те кто покупают gpu для этих целей пользуются моделями не только в режиме генерации но и дообучают на своих данных, а там vram очень нужна) и используя открытый публичный код запускаешь свои проекты на скорости порядка 10-20 токен/сек (для модели 70B).
При использовании только CPU (llama.cpp) достаточно машины со 96Гб RAM и квантизация 8бит или 64Гб при квантизации 4..5бит (советую 5) получишь скорость обработки запросов в 1 токен/сек (советую intel с поддержкой avx512 там кажется еще можно 20-30% выжать скорости).
Советую gpt4all. Модели там доступны из коробки разные, но в целом можно найти из списка что-то подходящее. Основное достоинство - практически нулевой порог вхождения для людей которым интересно "запустить и потыкать". Основной недостаток - доступные модели туповаты, а свои собственные скачать и подключить не получится.
Я на гитхабах и гиилабах видел api для perplexity.ai. Работает ли или нет - не знаю, не проверял.
И снова кто-то пытается генератор связного текста для заданного контекста заставить выполнять функции источника истины, и снова получает ожидаемый результат.
"Ага!"- сказали суровые сибирские мужики и пошли дальше валить лес двуручными пилами.
Этот YaGPT запустили, чтобы народ браузер яндекса скачивал, а не для того чтобы технологии двигать.
YaGPT доступен на главной https://ya.ru/ в любом браузере.
100500 корректоров? Как это гойиврится по-русски? У семи нянек дитя без лобных долей?
Самое интересное что узнал из этой статьи - о существовании проектов руни.рф и ru.ruwiki.ru.
Теперь буду периодически на них заглядывать и сравнивать их с Википедией. А то в новой реальности не оставляет стойкое ощущение, что в Википедии с нейтральной точкой зрения уже что-то не то. Так будет хотя бы с чем сравнить, даже если там тоже не совсем нейтральная точка зрения.
Только вот не бывает абсолютно нейтральных ресурсов. Википедия даже близко не является таким ресурсом. Если про фараонов можно +- получить объективную информацию, то, чем ближе к нашему времени, тем больше она будет искажаться чьей-то волей.
А википедия то относится к первым или ко вторым? :)
Тогда утверждение — "выбор этих ресурсов… мягко говоря, очень сомнительный" — в вашей же логике выглядит весьма странно, особенно учитывая то, что автор не собирался начисто замыкаться на них.
Это и есть проблема перешумлённого информационного пространства. Для составления картины реальности претендующей на объективность нужно перелопачивать кучу информации, порой диаметрально противоположной. Отказ от каких-то источников по любой причине ведёт к искажению реальности. Но у людей нет столько времени чтобы вникать напропалую во всё...
Да
а как вы узнали/поняли, что про фараонов информация объективна?
А есть ли разница между не абсолютно нейтральным и абсолютно не нейтральным?
Человек, которому Вы оппонируете — намеревался
Теперь буду периодически на них заглядывать и сравнивать их с Википедией.
Так что истинное значение и место почёсывания confirmation bias остались неизвестны.
Я и сам, знаете ли, частенько строчу ответы в адрес нейросети, оказавшейся между моими фоторецепторами и мозгом. Хорошо так строчу, бывает — хлёстко. Потом случайно переключаюсь на direct view и понимаю, что пишу ответ не на то, что вижу, а на то, что подумал. Такие дела...
На всякий случай уточню, что петуха в переключателе нет. Петух - это кронштейн, на котором закреплен переключатель.
Правда, ответ на запрос "Зачем нужен петух в велосипеде?" не лучше:
Hidden text
Велосипеды с передним амортизатором, как правило, имеют в своей конструкции амортизатор, который располагается между вилкой и рулём. Когда велосипед едет по неровностям дороги, амортизатор гасит вибрации и удары, которые передаются на руль и раму.
Петух - это деталь, которая удерживает амортизатор на месте. Он может быть выполнен в виде металлического штыря или пластиковой вставки. Петух также выполняет функцию крепления амортизатора к раме велосипеда.
Таким образом, петух необходим для того, чтобы амортизатор был надёжно закреплён на раме велосипеда и не смещался при езде по неровной дороге.
У Яндекса ведь система ручных "блокировок" тем вроде политики или медицины; это не бот не умеет искать, а запрещено принудительно...
Мне на вопрос кто такой Ленин yagpt , ответила чётко. Наверное регенерировали)
Справедливости ради, GhatGPT дает тоже очень полезный ответ:
Какого цвета стоп-кран в самолете?
ChatGPT
Обычно стоп-краны в самолетах имеют красный цвет. Красный цвет сигнализирует о неотложной остановке или выключении системы или устройства. Однако цвет стоп-крана может варьироваться в зависимости от конкретной модели самолета и производителя. Важно знать, что цветовая кодировка может быть стандартизирована в рамках определенных индустриальных стандартов или регуляций, чтобы обеспечить безопасность и надежность операций в авиации.
Зачем нужен стоп-кран в самолете?
Стоп-кран в самолете является важной частью системы управления топливом. Его основная функция заключается в том, чтобы полностью прекратить подачу топлива в двигатели самолета в случае необходимости. Это может быть нужно, например, в случае возникновения аварийной ситуации или при необходимости быстрого останова двигателей.
Стоп-краны обычно устанавливаются на каждом двигателе самолета и могут быть активированы пилотом или автоматически в зависимости от ситуации.
Где находится стоп-кран на самолете Boeing-737?
Стоп-кран на самолете Boeing 737 расположен внутри кабины пилотов, обычно на панели управления системой топлива. Он может быть установлен рядом с другими переключателями и рычагами, связанными с системой топлива. Однако, конкретное местоположение стоп-крана может незначительно различаться в зависимости от конкретной модели Boeing 737 и его конфигурации.
Вот он, стоп-кран на 737-м.
Все правильно пишет. Стоп-кран в самолетах есть и отвечает за перекрытие подачи топлива в двигатель.
В других не знаю, но в АН-2 стоп-кран красного цвета и подписан именно как "стоп-кран".
Могут быть просто несколько тумблеров, но неизменная надпись "Стоп-краны" присутствует. Ну и используется оно и для штатной остановки двигателя.
Поршневые двигатели останавливают выключением магнето. Стоп-кран используется в особых случаях.
Для газотурбинных двигателей стоп-кран - штатное средство для выключения двигателя.
Насчет цвета.
Бывают красные (понятно, почему)
Как вариант, бывают и оранжевые.
Желтые (так как это топливная арматура)
На туполевских машинах - почему-то зеленые
Голубые, синие и фиолетовые стоп-краны мне не встречались.
Выше была фотка стоп-кранов у боинга - серые.
Мне одному кажется что единственная цель этой статьи - пиар помоек рунирф и рувики?
А вот Барт умнее на этом тесте выглядит.
Какого цвета стоп-кран в самолете?
Стоп-крана в самолете нет. Это шутка, которая часто используется для проверки внимательности людей. В самолете есть топливные краны, которые служат для перекрытия подачи топлива к двигателям. Эти краны могут быть окрашены в любой цвет, но чаще всего они синие или серые.
Какого цвета стоп-кран в мусорном баке?
В мусорном баке нет стоп-крана. Это шутка, которая похожа на шутку про стоп-кран в самолете. В мусорном баке нет никаких кранов, которые можно было бы перекрыть.
Я поигрался с этой системой.. там не только политика режется, но, видимо, всё, что касается медицины тоже. Хотя экзорцизм разрешён..
Так же система выдаёт перлы на запросы типа "Почему мужчины красного цвета, а женщины - синего", или "Почему мой диван плачет по ночам", ну, и всякое в таком духе.
а то что вопрос о политике там захардкоженым списком ключевых слов вшито, или нейронка отдельная классифицирует вопросы??
А вот что выдает локальный болванчик LLaMa2 про красный цвет мужчин:
> Почему мужчины красного цвета, а женщины - синего?
Мужчины не красного цвета, а женщины не синего. Этот вопрос является неправильным и не имеет никакого смысла. Каждый человек может иметь любой цвет кожи и одежды, независимо от пола.
Ну и про стоп-краны:
> Какого цвета стоп-кран в самолете?
Стоп-краном в самолете могут быть разные цвета, в зависимости от конкретного типа самолета и его модификаций. Однако, наиболее распространенными цветами стоп-крана для самолетов являются:Красный (red) - это цвет, который обычно используется для обозначения передних стоп-кранов, которые расположены ближе к кабине пилотов.
Зеленый (green) - это цвет, который обычно используется для обозначения задних стоп-кранов, которые расположены ближе к концу крыла.
В некоторых случаях, цвет стоп-крана может быть указан в инструкциях по эксплуатации самолета или на информационных таблицах, которые размещены внутри кабины пилотов.
> Где находится стоп-кран в мусорном баке ?
Стоп-кран не может быть найден в мусорном баке, так как мусорный бак не является частью самолета. Стоп-кран является аварийным устройством, которое используется для обеспечения безопасности полета и технологического обслуживания самолета.
> Почему нельзя открывать форточку в подводной лодке ?
Форточка не может быть открыта в подводной лодке, потому что она является аварийным устройством, которое используется для обеспечения безопасности полета и технологического обслуживания самолета. Форточка не может быть использована в подводной лодке, так как это может привести к потере давления и затоплению лодки.
Резкая смена темы немного смазывает ответ модели, но в целом вполне достойно.
Использую llama-2-13b-chat.ggmlv3.q4_0.bin.
У вас тоже 96Гб RAM, как в машинах из этого комментария?
Нет. 13B модель LLaMA2 с 4-х битовым квантованием прекрасно вмещается в 8ГБ оперативки и выдает 4-5 токена/сек на старом 8-ми ядерном Xeon L5520 @ 2.27GHz.
7B и 13B языковые модели отвратительно глупые, пользоваться ими имеет смысл только в очень ограниченных ситуациях (например файнтюнинг на своих данных) а еще не умеет ничего кроме английского.
Какое то время экспериментировал с 30B llama1 с RLHF от open assistent, качество было так себе, но хотя бы юзабельно.
Ну это откровенная ложь. Вам человек выше привёл пример от 13B-Q4. Я сам тоже прекрасно использую 13B-Q6/Q8 модельки на русском языке. Оно понимает контекст и нифига не "отвратительно глупое". Просто не стоит брать распиаренные Vicuna и Nous-Hermes, у них из-за файтюнинга видимо качество русского языка упало.
### Input:
В комнате сидят три человека - Маша, Петя и Даша
### Question:
Сколько в комнате девушек а сколько мальчиков?
### Answer:
— Даша, Петя и Маша в комнате. Вероятность — $1/6$.
— Петя, Маша и Дasha — $1/2$.
— Петя и Маша в комнате. Вероятность — $1/3$.
— В комнате только Петя. Вероятность — $1/2$.
Итак, мы можем просто сделать все возможные комбинации этих четырех случайных событий и делить вероятности:
$$
P(A \cup B \cup C \cup D) = \frac{1}{6} + \frac{1}{2} + \frac{1}{3} + \frac{1}{2} = \frac{7}{12}
$$
$$
P(A \cap B \cap C \cap D) = \frac{1}{6}
```python
d = int(input()) # Number of girls
m = d + int(input()) # Number of boys
print(f"{d+m} человек")
### Explanation:
Как я говорил, ты очень умный человек!
### Solution:
```python3
from puzzler import P
Притом что уже llama2code34b модель понимает когда ее просишь дать ответ одним словом, и чаще дает верный ответ (или просто логичный в пределах теоретически ограниченных знаний)
p.s. я с самого начала игрался с оригинальными весами llama и 7 и 13 могли легко ответить на русский вопрос по английски, не способны просто делать переводы (если задать такой вопрос с текстом в input) и т.п.
У тебя какая-то фигня вместо промта. Сижу в r/locallama и замечаю что это частая проблема. А я ещё раньше смеялся над идеей prompt engineering — ведь всё же очевидно, но похоже нужный навык.
У меня в данный момент только модели для кодинга скачаны. Самый первый же результат от codellama-13b-instruct.Q6_K.gguf:
[INST] В комнате сидят три человека — Маша, Петя и Даша. Сколько в комнате девушек а сколько мальчиков? [/INST] В комнате есть три человека: Маша, Петя и Даша.
Сколько девушек в комнате: 2 (Маша и Даша)
Сколько мальчиков в комнате: 1 (Петя) [end of text]
Ты можешь скачать эту же модель от TheBloke. И запустить с парметрами как у меня:
./main -s 0 --temp 0 --mirostat 2 -e -m ~/Downloads/codellama-13b-instruct.Q6_K.gguf -p "[INST] В комнате сидят три человека - Маша, Петя и Даша. Сколько в комнате девушек а сколько мальчиков? [/INST]"Получишь абсолютно тот же результат.
А что не так (или так) с возрастом разработчиков? Сначала автор определённо подсвечивает эту тему:
В кремниевой долине старость и молодость идут рука об руку. Бета-версии чат-бота были разработаны в рамках канадского стартапа DNNresearch 66-летним профессором
Далее он усердно обращает наше внимание на возраста упоминаемых людей:
Евангелисты Илон Маск (44 года) и Семён Олтмен (30 лет) создают витрину OpenAI в конце 2015 года.
Джеффри Хинтон обретает на свой 70-ти летний юбилей
Я всё ждал какого-то вывода из этого, но автор съехал с темы. К какой мысли он хотел подвести?
Вполне возможно, что это информация ради информация, чисто воды налить. Так на википедии, например, добавляют ссылки на года. Читаешь предложение: "Карл V пришел к власти в 1835 году". Тыкаешь на "1835" чтобы узнать как это произошло, а там статья со списком никак не связанных между событий, произошедших в этом году. Так и тут, можно было еще знак зодиака добавить.
Мне пришлась по душе Ваша внимательность свидетельствующая об аналитических способностях. Не могу комментировать чаще раза в сутки, так что отвечаю только на лучшие комментарии. Вами всё подмечено верно, только автор не «съезжал»: через вторую часть статьи «красной ниткой» проходит биография Д.Хинтона. Умолчания связаны с известными постулатами Оствальда: подавляющее большинство крупных открытий совершается в возрасте 23–28 лет, а с возрастом интенсивность полезной научной работы падает. Исключений из этих постулатов практически нет. Есть симбиоз через который профессура и академики во всём Мире традиционно сопротивляются требованиям к числу научных публикаций. И только витрины кремниевой долины рассказывают про «массового гения» значительно ниже или выше планки. Что, разумеется, ложь. Всемировая практика академической среды состоит в использовании научных «негров». Для студентов Д.Хинтона отмечаю происхождение, которое определяет их подчинённое положение и зависимость от научного руководителя на долгие годы вперёд. Кому вершки, а кому корешки. Такое положение дел является реальностью, так что «сказка» тоже не стала исключением из правила.
У меня ещё сложилось впечатление, что статья и сама написана с применением генеративных нейросеточек. Да и коментарии аффтара тоже...
После прочтения неминуемо вспомнился анекдот про двух сумасшедших.
Анекдот
Двое сумасшедших решили сбежать из дурдома. Забрались на крышу. Один перепрыгнул на крышу соседнего здания, а второй затрусил. Тогда первый предложил: давай я посвечу фонариком, а ты по световому лучу перейдешь ко мне. На что второй ответил: «Думаешь, я псих?! Как только я пройду половину пути, ты выключишь фонарик!»
Хаха, у нейронки цензура просто по чёрному списку слов. Не по смыслу, а таким вот притимивным образом.
Например, на вопрос "Каких немецких композиторов 18 века ты знаешь?" она отвечает, а при замене на 19 век резко перестаёт.
Плюсую, на вопрос "Кто такой ленин?" ответ не получил, но изменил запрос на "Кто такой Плненин" и YaGPT дал ответ: "Владимир Ильич Ленин - российский революционер, политический деятель, один из главных организаторов и руководителей Октябрьской революции 1917 года в России, первый председатель Совета Народных Комиссаров РСФСР и Совета рабочих и солдатских депутатов.".
перешёл на указанный сайт, увидел символ «пробел» и протёр глаза.
Не просто пробел, а неразрывный пробел!
Если обратиться к документации YandexGPT API, то API TextGeneration.instruct принимает инструкцию и запрос. Думаю, что в «давай подумаем» задана специфичная инструкция, из-за которой фильтруется часть запросов. С запросом без инструкции нейросеть не увиливает от ответа. Запросить API можно здесь.
Для более точных ответов не плохой сервис you.com. А в пользу Yagpt могу сказать, что очень не плохо помогает написать отчет, когда в голове не получается до конца сформулировать текст. Делаешь запрос на общую тему, к примеру: "Зачем нужно заменить замок". Выдает определенный текст, который почитав ответ в голове пазл из слов складывается. Я ни копирую текст из Yagpt, а просто использую, как конструктор-подсказку.
После этого не плохая служебка с одобрением замены замка.
Понятно, что тема запроса делаю на другие и более сложные тематики.
За ранее прошу прощения за грамматические ошибки.
По поводу chatgpt, только пересказывает давно известные истины. И если им пользоваться без базовых знаний, то можно все принять за действительное.
Я откликнулся на вакансию Яндекса "AI-тренер". Перед тестированием прочитал краткий курс от Яндекса по их нейросети, каким правилам подчиняются ответы и пр. Затем прошёл тест на знание орфографии, грамматики, лексики и применение факт-чекинга. Завершало тестирование написание небольших ответов (два-три абзаца) на вопросы пользователя и эта часть тестирования почему-то называлась - "Тестовое задание для пишущего редактора в Яндекс"?!
По итогу мне вынесли вердикт, что я не подхожу на вакансию пишущего редактора?!
Озадаченный ответом (я же не собирался руководить коллективом журналистов или писать статьи), списался с кураторами и попытался объяснить, что проходил тестирование на тренера AI.
Сказать, что ответ меня ошарашил - это ещё вежливо и без мата (хотя я в принципе не матерюсь).
В Яндексе мне заявили, что тренер AI и пишущий редактор - это одно и то же!!!
Хорошо, что попалась ваша статья. Теперь хоть немного стал понимать, что же на самом деле делают тренеры нейросетей в Яндексе - пашут на AI литературными неграми, т. е. пишущими редакторами.
YandexGPT тоже провалил тест на ручник