Искусственный интеллект

Инженер и сооснователь компании Glean Дебаргья Дас поделился утечкой с расценками на ChatGPT Enterprise. Недавно, в конце августа, OpenAI объявила о новом тарифе на свои продукты, но стоимость на назвала. Вместо этого была применена излюбленная у гуру продаж тактика «цена по запросу».

Согласно твиту Дебаргья, OpenAI готова предоставить тариф Enterprise, если клиент хочет купить подписку на год от $100 тыс. В утечке нет точной формулы ценообразования. Зато названы два значения: $60 за пользователя в месяц, если их в организации 150, или $250 за каждого в месяц, если пользователей 50.

Также Дебаргья сообщает, что цена опускается даже ниже, но явно не меньше $20 за пользователя в месяц.

Выгоднее это или нет, чем платить за API по факту использования? Зависит от конкретных сценариев. Пример дорогого, но реалистично небольшого запроса к сервисам OpenAI: всего лишь один ответ на 2000 токенов с вводом в систему 20 000 токенов в GPT-4 32К обойдётся в почти полтора доллара (20·0,06 + 2·0,12 = 1,44). С другой стороны, запросы в «младшего брата» GPT-3.5 Turbo 4К дешевле в сорок с лишним раз, а много на контекст в модели на 4 тысячи токенов потратить просто не получится.

Можно ли самому написать нейросеть? Яндекс Практикум проводит бесплатный вебинар

Чтобы ответить на этот вопрос, мы позвали Ивана Ключникова — автора Youtube-канала «Уже Наступило». Его научпоп-ролики набирают сотни тысяч просмотров, и всё благодаря способности Ивана объяснять сложные штуки — такие как прыжки во времени или квантовую запутанность — просто и наглядно. Именно так он расскажет и про нейросети.

→ Бесплатно, 7 сентября в 19:00 Мск

О чём пойдёт речь:

• кто и зачем придумал нейросети;

• как фантасты прошлого представляли работу нейросетей и что вышло в реальности; 

• почему именно распознавание образов дало толчок к развитию ИИ;

• как научиться создавать нейросети.

→ Регистрация

Можно ли доверять генеративному ИИ?

Простое арифметические правило, когда сначала выполняется умножение, а потом сложение. К сожалению, уровень ответов GPT не лучше двоечника начальной школы.

Первый пример 2+2*2+2*2 и три разных ответа: 8, 10, 14.

Второй пример 2+2+2+2+2*2 и четыре разных ответа: 16, 6, 14 , 8.

Рандомные ответы на одинаковые вопросы.

Гендиректор Amazon Энди Джасси заявил, что компания работает над генеративным искусственным интеллектом. 

«Внутри Amazon каждая из наших команд работает над созданием генеративных ИИ-приложений, которые заново изобретают и улучшают опыт клиентов», — отметил он в ходе отчёта о доходах за второй квартал 2023 года. 

Джасси также рассказал о некоторых продуктах AWS в области генеративного искусственного интеллекта, в том числе чипах AWS Inferentia и сервисе Amazon Bedrock.

AWS Inferentia разработаны для обеспечения высокой производительности при работе с приложениями на основе глубокого обучения. Такой чип обеспечивает работу инстансов Amazon Elastic Compute Cloud (Amazon EC2) Inf1, которые дают до 2,3 раз более высокую пропускную способность и до 70% более низкую стоимость вывода по сравнению с инстансами Amazon EC2.

Agents for Bedrock позволит компаниям создавать приложения с искусственным интеллектом, которые могут автоматически выполнять задачи самостоятельно, например, бронировать рейс для пользователей. Разработчик может выбрать, какую базовую модель использовать, предоставить ей некоторые инструкции и задать данные, которые она будет считывать.

Сбер поделился моделями ruGPT-3.5

Сбер выложил в открытый доступ модели, по которым работает их GPT-система. Это значит, что теперь можно будет запустить GPT на своих ресурсах, который будет работать в чате GPT без привязки к сторонним системам. Возможно он будет работать не так круто, как ChatGPT, но для экспериментов самое то!

Более того, я уже нашел несколько видео, в которых рассказывается о том, как эти модели можно дообучить для работы по заранее заготовленным сценариям. Интересно, что эти видео были выложены в сеть еще более двух лет назад.

Уже интересно — смогу-ли я интегрировать эту модель внутрь своего бота. Мой бот уже отлично умеет выделять команды, которые я ему сообщил. Но пока еще приходится использовать api от openai для того, чтобы обрабатывать запросы, где нужно поработать с сырым текстом и извлечь из него что-то полезное.

Я поставил качаться эти модели и может дойду, в ближайшие дни, до попытки их применить — может даже что-то получится. Интересно то, что ее можно дообучить под свои нужды и использовать уже свою отдельно развернутую на своем сервере систему типа ChatGPT.

Google готовит ИИ-инструмент Genesis для журналистов. Его уже продемонстрировали руководителям Times, Washington Post и владельцу Wall Street Journal News Corp. Компания позиционирует Genesis как «ответственную» технологию, которая генерирует информацию для статьи из разных источников 

Представитель Google Дженн Крайдер заявила, что компания вместе со СМИ пока находится «на самых ранних стадиях изучения идей инструментов с поддержкой ИИ, чтобы помочь журналистам в их работе».

Как отмечают в редакциях, ИИ может быть полезен при выборе стиля материала, заголовка или поможет составлять головоломки. Однако журналисты по-прежнему считают, что время, которое они затрачивают на подготовку статьи и проверку фактов, оправданно.

Samsung может тестировать ChatGPT в веб-браузере своих смартфонов в приложении Samsung Internet Browser.

В версии 22.0.0.54 нашли код, который подразумевает интеграцию ChatGPT в браузер.

<string name="pref_chatgpt_enable">Enable ChatGpt</string>
<string name="pref_chatgpt_lab_title">Test ChatGPT</string>
<string name="pref_chatgpt_model">ChatGpt Model</string>
<string name="pref_chatgpt_query">Query For Summarizing</string>
<string name="pref_chatgpt_query_other_message">Enter chatGPT query to test</string>
<string name="pref_chatgpt_title">ChatGpt Settings</string>

Вероятно, это будет экспериментальная функция Labs. Например, посетители браузера смогут взаимодействовать с интерфейсом ChatGPT, не переходя на сайт. Они смогут менять настройки и даже выбирать модель ChatGPT. Возможно также, что пользователи смогут вызывать чат-бот на веб-страницах для создания их сводок.

Интеграция ChatGPT в настоящее время не работает в приложении Samsung Internet Browser, но для браузера доступны сторонние плагины.

Ранее сообщалось, что Samsung решила перейти с поиска Google по умолчанию на Microsoft Bing. Однако компания, по-видимому, отказалась от этого шага. Также Samsung запрещала использовать ChatGPT своим сотрудникам и даже начала разрабатывать свою версию ИИ.

В продолжение к прошлому посту про нейросети. Нашел еще крутое применение такого подхода — строить диаграммы очередей голосом.

Я также наговорил текстом что именно я хочу визуализировать, после чего попросил GPT отдать мне уже причесанный mermaid формат (вот пример) того что я наговорил.

В ответ GPT, не с первого раза, но выдал мне код для диаграммы очередей, который я могу уже вставлять внутрь своей документации.

В качестве картинки приложил диаграмму очередей, которую придумал на ходу и реализовал за 1.5 минуты! Ранее на подобное ушло бы минут 5 точно.

Я, без преувеличения, в восторге. Теперь визуальные составляющие документации можно рисовать гораздо быстрее!

Я тестирую новый подход к созданию текстового контента. Раньше я просто писал посты, редактировал их, удалял лишнее, перефразировал и затем публиковал их в своем Telegram-канале, блоге или в любом другом месте, где хотел опубликовать что-то.

Но теперь я нашел новый способ, который мне очень понравился, и решил поделиться им с вами.

Я включаю запись голосового сообщения в Телеграме в переписке с (пока что) бесплатным ботом Сбера и просто говорю текст, который хочу увидеть в итоговом результате. Я произношу текст как есть, не обращая внимания на паразитные слова и оговорки.

Затем я получаю текст от бота и передаю его в любой GPT, указывая, что нужно удалить паразитные слова, отформатировать и структурировать текст, добавить пунктуацию. В результате GPT возвращает мне отредактированный текст, который, конечно же, требует внимательной проверки и дополнительной правки.

Править существующий текст куда быстрее чем писать текст с нуля — в моем случае мысль голосом выразить быстрее чем писать текстом.

Этот пост, кстати, я написал именно таким способом, и я очень доволен результатом. От идеи до поста 5 минут.

Как будет время и этот процесс автоматизирую, чтобы я просто наговаривал текст своему боту, а он его конвертировал в пост внутри Notion, а дальше уже я руками приводил его в порядок.

Автор проекта «Ай, гитарист!» заставляет легенд русского рока — с помощью машинного обучения, конечно — исполнять такие песни, которые сильно отличаются от обычного репертуара обладателей голосов.

Основная активность проекта идёт в сообществе «ВКонтакте» и на канале Telegram. Собственно работы публикуются там же и на канале YouTube, но в виде шортов. Первый видеоролик в формате собственно видео вышел два дня назад — это был трёхминутный кавер «Знаешь ли ты» певицы МакSим, но выполненный характерным рыком Егора Летова.

Подобное изрядно удивило качеством, например, известного преподавателя игры на гитаре Юрия Шильникова. В хайлайте стрима он отметил, что получилось неплохо, «роботичности» голоса не слышно.

Нейросетевые модели автор «Ай, гитариста!» поначалу скачивал, а позднее взялся тренировать сам. В скриншотах из «гримёрки» заметен локальный веб-интерфейс от RVC — пакета для преобразования голоса в реальном времени. Для работы RVC нужна либо готовая модель, либо тренировка весов нейросети на относительно небольшом датасете (от 10 до 50 минут).

Adobe научила свою нейросеть Firefly генерировать картинки по запросу на русском языке. Компания расширила языковую поддержку в своих генеративных моделях искусственного интеллекта Firefly, добавив в том числе русский язык.

Нейросеть создаёт изображения по текстовому описанию, как это делают аналогичные ИИ. Она вшита в бета-версию Photoshop, что позволяет редактировать изображения по текстовым запросам.

Помимо русского, Adobe добавила поддержку ещё 19 языков, в том числе французского, немецкого, японского, испанского и бразильской версии португальского. Теперь нейросеть поддерживает 100 языков.

Протестировать нововведение возможно в веб-версии, в России она доступна только с помощью VPN.

Google работала над чат-ботом для поколения Z под названием «Bubble Characters», но позже отказалась от этой идеи, сообщили СМИ. В чат-боте должны были использоваться интерактивные цифровые персонажи.

Теперь компания «уменьшила приоритет» разработки в связи с внутренней реорганизацией. Обычно, когда это происходит, работа над продуктом прекращается.

Google работала над Bubble Characters с четвёртого квартала 2021 года. В описании приложения говорится, что в нём будут представлены «человеческие» темы, «интересные для поколения Z». В одном из примеров мультипликационный персонаж давал советы на тему отношений.

Теперь же членов команды Bubble Characters попросили приостановить свою работу над приложением, чтобы поработать над чат-ботом Bard.

Закончил отличный 9 месячный курс "Data science и нейронные сети". Рекомендую https://neural-university.ru/data-science_new

Курс охватывает множество современных задач и архитектур:

1. Решение задач классификации, регрессии и авторегрессии, прогнозирование временных рядов

2. Распознавания изображений сверточными нейронными сетями (CNN)

3. Генерации изображений генеративно-состязательными сетями (GAN) и вариационные автокодировщиками (VAE)

4. Решения задач обработки текста (NLP, NLU, NLG) моделями Sequence-to-sequence и Transformers

5. Обучение с подкреплением алгоритми Q-learning, Reinforce

6. Обнаружение объектов (Object Detection). Модели YOLOv3 и RetinaNet

7. Обработка аудио. Распознавание и генерация речи (SpeechToText, TextToSpeech)

Каждый раздел состоит из математических основ, практических занятий и лабораторных работ в основном на Keras и TensorFlow. Курс дает отличную базу, мне очень понравилось.

К недостаткам курса можно отнести отсутствие разборов современных маркетингового-продуктовых задач: динамическое ценообразование, ранжирование и матчинг товаров, UPLIFT моделирование, A/B-тестирование с ML

В английском языке, по разным оценкам от 150 до 450 тысяч слов (по данным Google), но GPT-3 знает только 50 000 слов. При этом для нас это совершенно не заметно. В чем здесь секрет? 

GPT фактически работает на подсловах (= токенах) вместо слов.

В качестве примера возьмем слово «экстраординарный», GPT услышит [«экстра», «ординарный»]. Точно так же «гидроэлектростанция» будет звучать как [«гидро», «электро», «странция»].

Это позволяет GPT свободно общаться сохраняя в памяти ограниченный словарный запас.

Это также позволяет ему адаптироваться к новым словам, которые он никогда не видел в процессе обучения.

Например: 

Я: «Что значит trumpified?»

GPT-3: «Термин «trumpified» (трампифицированный) не определен на момент прекращения моих знаний в сентябре 2021 года. Однако, учитывая контекст, если кто-то говорит, что он был «трампифицированным», это может означать, что он стал сторонником или последователь Дональда Трампа и его политических идеологий».

Вообще, процесс обучения ИИ крайне похож на процесс нашего обучения. Здесь достаточно много логики, а не просто работа с готовыми фактами. 

Проверить как это выглядит можно здесь: https://lnkd.in/dSXmc7XE

DeepMind утверждает, что следующий чат-бот компании будет конкурировать с ChatGPT или даже превосходить модель OpenAI.

DeepMind использует методы AlphaGo, системы искусственного интеллекта, которая первой победила профессионального игрока-человека в настольной игре Go, чтобы создать конкурирующего чат-бота под названием Gemini.

Если всё пойдёт по плану, Gemini сможет планировать или решать проблемы, а также анализировать текст.

Чат-бот будет использовать инновации в обучении с подкреплением для выполнения задач, с которыми сталкиваются сегодняшние языковые модели. 

В разработке Gemini принимают участие топ-сотрудники Google, включая Джеффа Дина, руководителя по исследованиям в области искусственного интеллекта.

Хидео Кодзима (Hideo Kojima) не боится искусственного интеллекта. На премьере посвященного гейм-дизайнеру документального фильма он рассказал, что ИИ не удастся «взять верх» над человечеством.

Тем не менее, глава Kojima Productions отметил, что он не против использования ИИ в создании игр. Как считает Кодзима, подобные технологии позволят ускорить разработку и вдвое сократить команду, однако кто-то по-прежнему должен будет руководить процессом и давать указания ИИ. Если же ИИ перестанет слушаться, то Кодзима пообещал «выпотрошить» его.

Всеанглийский клуб лаун-тенниса и крокета (AELTC) будет использовать систему ИИ от IBM, чтобы комментировать матчи Уимблдона в этом году. Однако прямой эфир по-прежнему будут освещать люди.

ИИ будет озвучивать видеоролики с нарезкой основных моментов теннисных матчей.

Система уже отображает статистические данные каждого участника и определяет игроков, которые станут фаворитами матча или всего турнира. Комментарии и субтитры будут доступны на английском языке для мужских и женских одиночных матчей Уимблдона. Оценить работу ИИ можно будет на официальном сайте Уимблдона и в мобильном приложении.

Также в этом году искусственный интеллект начнёт проводить анализ результатов жеребьёвки и определять варианты победы для каждого участника турнира. Он будет учитывать мировой рейтинг и посев, историю матчей между игроками, результаты травяных кортов, недавние травмы и другие факторы.

В будущем эту технологию планируют использовать и для освещения матчей, которые в настоящее время не комментируются людьми.

Project Tailwind от Google скоро будет доступен в раннем доступе — и под новым названием. По крайней мере, так говорится в уведомлении на веб-сайте Project Tailwind. Компания представила экспериментальный ноутбук с искусственным интеллектом на выставке Google I/O в этом году.

В Google пояснили, что Tailwind — это первый ноутбук с искусственным интеллектом, основанный на информации, которую пользователь выбирает и которой доверяет.

На Петербургский международный экономический форум (ПМЭФ-2023) пройдёт презентация нейросети «Жириновский», сообщили РИА Новости.

Сообщается, что работы по созданию искусственного интеллекта «Жириновский» идут полным ходом. Данные загружены, алгоритм уже функционирует и уже идёт стадия обучения и тестирования. Суммарно за два месяца было обработано порядка терабайта видео, текстов, изображений. С ИИ уже можно общаться.

15 июня 2023 года на ПМЭФ-2023 состоится презентация нейросети. Задача ИИ «Жириновский» обозначена как исключительно просветительская. ПМЭФ-2023 пройдет 14–17 июня.

Открываем новые возможности с ChatGPT и инженерией запросов

Всем привет! В этом посте хочется поделиться уникальным курсом от Исы Фулфорд (OpenAI) и Эндрю Ына (DeepLearning.AI) под названием "ChatGPT Prompt Engineering for Developers".

На этом курсе можно окунутся в удивительный мир больших языковых моделей (LLM) и узнать, как быстро создавать новые полезные приложения с их помощью. Благодаря API OpenAI можно научиться:

• Кратко излагать (например, суммаризировать отзывы пользователей)

• Извлекать информацию (например, классификация по настроению, извлечение тем)

• Трансформировать текст (перевод, исправление орфографии и грамматики)

• Расширять (например, автоматическое написание электронных писем)

Курс также затрагивает два ключевых принципа создания эффективных запросов, способы систематической разработки хороших запросов и создания собственного чат-бота. Про создание собственного чат-бота писал ранее в этом туториале.

Чтобы закрепить полученные знания, на курсе предоставляются наглядные примеры, с которыми можно поработать прямо в среде Jupyter notebook.

Курс подходит для начинающих. Для участия требуется лишь базовое знание Python. Однако этот курс также подойдет для опытных инженеров машинного обучения, стремящихся изучить передовые методы использования моделей LLM.

Не упустите свой шанс обучиться этому захватывающему направлению и выполнять разнообразные задачи с помощью умений инженерии запросов. Успехов! ?