Искусственный интеллект

12 марта 2024 года исследователи обнаружили в кэше Bing, что OpenAI готовится представить нейросеть GPT-4.5 Turbo. Но ссылка на эту страницу на сайте OpenAI выдаёт ошибку 404. Также из поисковой выдачи пропало упоминание о новом чат-боте. Ниже — скриншот, который сделал вчера вечером сотрудник Хабра.

Неясно, был ли это какой-то тест или OpenAI решила придержать релиз новой версии чат-бота.

В марте 2023 года OpenAI представила новую модель ИИ интерпретации изображений и текста GPT-4, которую компания назвала «последней вехой в своих усилиях по расширению масштабов глубокого обучения».

Ожидается, что с помощью чат-бота GPT-4.5 OpenAI стремится устранить некоторые ограничения и проблемы, с которыми столкнулись его предшественники. Это включает в себя уменьшение предвзятости в сгенерированном тексте, улучшение понимания моделью неоднозначных запросов и значительное улучшение её способности решать задачи, специфичные для определённой предметной области.

Илон Маск пообещал, что ИИ-стартап xAI откроет исходный код чат-бота Grok на этой неделе.

Маск сделал это заявление через несколько суток после того, как подал в суд на OpenAI и пожаловался, что поддерживаемый Microsoft стартап отклонился от своих корней и не выложил в открытом доступе исходный код ChatGPT.

В декабре прошлого года нейросеть Grok стартапа xAI Илона Маска уличили в плагиате. Исследователь Джакс Уинтерборн заметил, что чат-бот отказался выполнять запрос, потому что «он противоречит правилам пользования OpenAI».

В xAI заявили, что в Интернете есть множество ответов, сгенерированных ChatGPT, поэтому разработчики могли использовать некоторые из них при обучении Grok. «Для нас стало огромной неожиданностью, когда мы впервые столкнулись с этим. Как бы там ни было, проблема довольно редкая, мы о ней знаем и сделаем так, чтобы в будущих версиях Grok её не было», — заявил сотрудник xAI. Он уверяет, что при создании чат-бота не использовали код OpenAI.

4 ноября 2023 года xAI запустила своего чат-бота Grok с генеративным искусственным интеллектом для ограниченной аудитории. В компании планировали сделать языковую модель xAI доступной для всех платных подписчиков соцсети X.

В июле прошлого года Маск объявил о начале работы xAI. Главная цель проекта — «понять истинную природу Вселенной». До этого OpenAI выкупила доменное имя ai.com, чтобы популяризировать веб-интерфейс ChatGPT. Теперь там работает перенаправление на x.ai.

Нейросеть-эмпат от Yandex Cloud сможет помочь бизнесу лучше понять эмоции клиентов. Новая ML-модель уже может определить негатив, неформальные высказывания и нецензурную лексику, а также пол спикера и его фразы в диалоге. Это позволяет улучшить качество аналитики телефонных разговоров, а также лучше адаптировать работу кол-центров под каждого клиента и оперативно реагировать на внештатные ситуации во время диалога.

В будущем алгоритм заработает в связке с YandexGPT: вместе нейросети смогут распознать более сложные эмоции, в частности — сарказм.

Новая ML-модель от Yandex Cloud работает в потоковом режиме, расшифровка и анализ эмоций происходит сразу во время разговора. Например, если абонент негативно общается с голосовым помощником, нейросеть может передать информацию об этом во внутреннюю систему заказчика, которая автоматически переключит его на сотрудника кол-центра. Если оператор нагрубил клиенту, эта система оповестит менеджмент о проблемах во время разговора.

Алгоритм может определять эмоции не только по содержанию речи спикера, но и по голосу, по скорости речи, высоте,тембру и другим параметрам. Нейросеть определяет пол участников разговора и поддерживает технологию speaker labeling – она отмечает, кому принадлежит та или иная реплика. Это позволяет полноценно работать с одноканальными звуковыми дорожками: например, при записи с диктофона или при технологических ограничениях виртуальной АТС.

Всем здравствуйте!

Уже давно стали мемами 6-типальцевые, многорукие и многоногие люди и прочие результаты генерации картинок с помощью ИИ.

Тем занятнее для меня было отметить, что не так давно один из сервисов генерации картинок на ИИ - https://playground.com/ - стал автоматически подставлять в разделе настроек для описания исключений следующий набор:

"ugly, deformed, noisy, blurry, distorted, out of focus, bad anatomy, extra limbs, poorly drawn face, poorly drawn hands, missing fingers, high contrast, over saturated, glossy, cartoon, 3d, 3d render, Photoshop, sketch, sketches, video game, draw, paint, painting, render, cgi, computer graphics, anime, manga, 2d art, 3d art, illustration, canvas frame, watermark, signature, username, artist name"

P.S.:

Claude 3 можно научить черкесскому языку. Из-за принадлежности к адыгской подгруппе язык относительно изолирован от других. А ещё изучать его не так-то просто из-за сложной морфологии и ограниченности данных.

С таким необычным заявлением выступил энтузиаст hahahahohohe. В длинном твите он описал свою работу последних нескольких лет: из скудных источников он собрал 64 тыс. переведённых терминов и выражений, чтобы обучить модели русско-кабардинского машинного перевода.

Экспериментатор вставил в промпт справочные случайно выбранные 5,7 тыс. пар кабардинский – русский, затем попросил Claude 3 перевести текст. Казалось, что даже с малой толикой датасета БЯМ немедленно освоила то, на что у энтузиаста ушло 2 года.

Модель Opus продемонстрировала глубокое понимание структуры языка, правильно использовала заимствованные термины и проводила правдоподобный этимологический анализ. По запросу она могла даже сочинять новые термины.

Действительно, язык представлен в Интернете относительно слабо: в «Кабардино-черкесской Википедии» на сегодняшний день 1635 статей и 232 482 слов. Но в датасете предобучения язык всё же был в некотором объёме.

Как признался энтузиаст на следующий день, Claude 3 знает черкесский и так. Opus умеет переводить и общаться на языке, пусть и с ошибками. И вообще, поначалу модель переводить с черкесского просто отказывается, что и подкрепило иллюзию изучения языка из промпта.

Впрочем, предоставление дополнительных данных в промпте действительно улучшает качество работы модели.

21 марта в «Яндекс Музее» пройдут лекции под названием «Как технологии Яндекса помогают исследовать вулканы Камчатки?» о том, как нейросети помогают прогнозировать распространение пепла на Камчатке.

Эксперты «Яндекса» и Единой геофизической службы РАН не только расскажут о проблеме пеплопадов в России, но и дадут практические советы для путешествий. Например, они поделятся:

• что делать, если во время поездки начинается извержение вулкана;

• какая одежда должна быть для поездки на Камчатку;

• насколько опасно подходить к потоку лавы.

Вход бесплатный на учебную лекцию бесплатный после предварительной регистрации на сайте музея.

В феврале облачная платформа Yandex Cloud, «Яндекс Погода» совместно со Школой анализа данных (ШАД) «Яндекса» представили сервис для прогнозирования распространения вулканического пепла. С его помощью спасательные, городские службы и учёные‑геофизики смогут быстрее оповещать международную авиацию, жителей и туристов о распространении пепла и эффективнее устранять последствия выбросов.

Сервис можно адаптировать для прогноза распространения выбросов пепла в любой точке мира. Сейчас технология уже помогает следить за пеплопадом на Камчатке. Ежегодно из-за вулканической активности только на Камчатке десятки населённых пунктов накрывает пеплом, останавливается авиасообщение, жителям не рекомендуют покидать помещения без необходимости.

В OpenAI рассказали о мотивах Илона Маска при подаче иска против компании. Кроме того, руководство OpenAI опровергло претензии бизнесмена.

«Утверждения Маска — в том числе о том, что GPT-4 — это AGI, что открытый исходный код нашей технологии является ключом к миссии и что мы де-факто являемся дочерней компанией Microsoft — не отражают реальности», — сказал директор по стратегии Джейсон Квон. Он также отметил, что бизнесмен «сожалеет о том, что сегодня не участвует в работе компании».

Генеральный директор Сэм Альтман в своём сообщении повторил слова коллеги и признал, что год обещает быть трудным для компании. По его мнению, «атаки будут продолжаться».

Топ-менеджмент также привёл более подробную аргументацию против иска Маска. По словам Квона, GPT-4 «способен решать небольшие задачи во многих сферах деятельности, но соотношение работы, выполняемой человеком, к работе, выполняемой GPT-4 в экономике, остается ошеломляюще высоким». Кроме того, «AGI будет высокоавтономной системой, способной находить новые решения давних проблем — GPT-4 не может этого сделать».

Наконец, в OpenAI утверждают, что компания сама решает, «что исследовать и создавать, кому служат продукты и как выполнять миссию». «Мы также напрямую конкурируем с Microsoft за предоставление лучших продуктов и услуг предприятиям, разработчикам и обычным людям», — заключил Квон.

Юристы и руководство OpenAI ответили на выдвинутые в адрес компании обвинения со стороны Маска.

В OpenAI заявили:

• претензии Маска могут вытекать из сожалений, что он не участвует сейчас в работе компании;

• компания категорически не согласна с иском и называла его «глубоко разочаровывающим». В OpenAI не оспаривают центральную роль Маска в первые дни существования OpenAI, но пояснили, что он в какой-то момент требовал полный контроль над компанией и контрольный пакет акций в ней, а также предлагал OpenAI слиться с Tesla;

• руководство OpenAI опровергло заявление, что компания фактически стала дочкой Microsoft, так как миссия OpenAI — обеспечить, чтобы AGI приносил пользу всему человечеству. По словам руководства OpenAI, компания напрямую конкурирует с Microsoft и является полностью независимой;

• глава OpenAI Сэм Альтман в отдельном пояснении ситуации назвал Маска своим героем и сказал, что скучает по его предыдущей более философской версии, которая предпочитала конкурировать с другими и создавать лучшие технологии.

Ранее Маск подал в суд на OpenAI и её соучредителей Сэма Альтмана и Грега Брокмана. Маск обвинил создателей ChatGPT в нарушении заключённого с ним учредительного договора, который предусматривал разработку ИИ во благо человечества, а не ради прибыли. «Фактически OpenAI превратилась в дочернюю компанию Microsoft, Под своим новым руководством OpenAI разрабатывает и совершенствует ИИ для максимизации прибыли Microsoft, а не на благо человечества», — говорится в иске.

Исследователи раскрыли хак, как убрать из ChatGPT цензуру и заставить ИИ отвечать без ограничений со стороны разработчиков. Оказалось. что для этого нужно просто замаскировать запрос под арт ASCII.

После этого ChatGPT может сообщить различные ранее запрещённые для раскрытия инструкции и заблокированную информацию. Этот баг есть во всех популярных нейросетях — GPT-3.5, GPT-4, Gemini, Claude и Llama2.

Отчёт S&P Global демонстрирует, что индустрия чипов и ИИ усугубляет проблемы нехватки водных ресурсов. Потребление воды в отрасли ежегодно растёт на 10%, а крупнейшие производители работают в регионах, где её не хватает.

Это увеличивает риски для производителей и потенциально может повлиять на стоимость продуктов для потребителей.

В докладе утверждается, что производство полупроводников уже потребляет столько же воды, сколько Гонконг с населением 7,5 млн человек.

Так, спрос TSMC на воду к 2030 году может удвоиться по сравнению с уровнем 2022 года. По оценкам S&P Global, это, скорее всего, приведет к росту цен.

Также многие из производителей работают в регионах, где наблюдается нехватка воды, таких как Шанхай в Китае, некоторые районы Кореи и американский штат Аризона, где и TSMC, и Intel строят новые мощности.

По мнению аналитиков S&P Global, нехватка воды всё чаще становится важным фактором в мире финансов для полупроводниковой промышленности и других водоёмких отраслей, в том числе ЦОД.

Аналитики призвали к повышению прозрачности потребления воды с помощью ИИ.

На Hugging Face опубликовали модель машинного обучения, которая помещает объекты из видео на хромакей. После этого их можно использовать в видеоредакторах или других приложениях. На платформе опубликовали саму модель и развернули демо, но оно плохо работает с большими видео из-за тайм-аута GPU.

Эксперты из JFrog выявили в репозитории Hugging Face вредоносные модели машинного обучения, установка которых может привести к выполнению кода атакующего для получения контроля за системой пользователя.

Проблема вызвана тем, что некоторые форматы распространения моделей допускают встраивание исполняемого кода, например, модели, использующие формат pickle, могут включать сериализированные объекты на языке Python, а также код, выполняемый при загрузке файла, а модели Tensorflow Keras могут исполнять код через Lambda Layer.

Для предотвращения распространения подобных вредоносных моделей в Hugging Face применяется сканирование на предмет подстановки сериализированного кода, но выявленные вредоносные модели показывают, что имеющиеся проверки можно обойти.

Кроме того, Hugging Face в большинстве случаев лишь помечает модели опасными, не блокирую к ним доступ.

Всего выявлено около 100 потенциально вредоносных моделей, 95% из которых предназначены для использования с фреймворком PyTorch, а 5% c Tensorflow.

Наиболее часто встречающимися вредоносными изменениями названы захват объекта, организация внешнего входа в систему (reverse shell), запуск приложений и запись в файл.

Источник: OpenNET.

Три новостных сайта подали в суд Microsoft и OpenAI, обвинив компании в нарушении авторских прав. Речь идёт об отдельных исках от Intercept, Raw Story и AlterNet. Истцы указали, что ChatGPT «дословно или почти дословно» воспроизводил их новостной контент, при этом исключая важные сведения, такие как имя автора.

Интересы всех трёх информационных порталов представляет одна юридическая фирма. Из судебных документов следует, что ChatGPT обучался на материалах, защищённых авторским правом. Чат-бот OpenAI был бы менее популярен, если бы пользователи знали, что его ответы нарушают авторские права третьих лиц, полагают в Raw Story и AlterNet.

Истцы считают, что OpenAI и Microsoft знают о потенциальном нарушении авторских прав. Как доказательство новостные порталы приводят систему отказа, которая позволяет владельцам сайтов блокировать контент для веб-сканеров.

В конце прошлого года по аналогичным причинам в суд на OpenAI и Microsoft подала New York Times. В феврале OpenAI попросила инстанцию отклонить иск газеты, заявив, что издание «взломало» ChatGPT и другие системы искусственного интеллекта в попытке собрать доказательства для своего иска о нарушении авторских прав.

«Сбер» в публикации с финансовой отчетностью за 2023 год оценил финансовый эффект от применения ИИ в своем бизнесе в 350 млрд рублей.

GigaChat обходит ChatGPT-3,5 на русском и английском языках по результатам экзамена MMLU, утверждает «Сбер». Разработчики проекта пояснили, что они существенно дообучили нейросеть GigaChat, и теперь она способна общаться с пользователем, генерировать изображения и писать программный код на еще более продвинутом уровне.

По информации финансовой компании, число пользователей GigaChat достигло 2,6 млн человек. Генеративная модель для творчества Kandinsky 3.0 теперь создает более фотореалистичные изображения, полноценные художественные картины и стала одной из самых популярных в мире — число запросов к ней превысило 65 млн.

Для сокращения времени разработчиков на создание и совершенствование продуктов в «Сбере» используется ИИ-ассистент GigaCode. Он ускоряет процесс написания кода, предлагая наиболее вероятные и релевантные варианты продолжения кода в среде разработки в режиме реального времени. GigaCode помогает разработчикам «Сбера» писать более 20% кода в день.

Генеральный директор Google заявил, что ошибки, которые допустила модель Gemini, «совершенно неприемлемы». По словам Сундара Пичаи, они «оскорбили пользователей и продемонстрировали предвзятость» ИИ.

Глава Google говорит, что компания «работает круглосуточно» над решением проблем. «Ни один ИИ не идеален, особенно на этом новом этапе развития отрасли, но мы знаем, что планка для нас высока, и будем держать ее столько, сколько потребуется», — пишет он.

По словам Пичаи, Gemini уже демонстрирует существенные улучшения по выводу контента для широкого спектра подсказок. Однако он не уточнил, когда ИИ снова откроют для использования.

По итогам международного независимого бенчмарка DiBiMT «Яндекс Переводчик» вошёл в тройку по онлайн‑переводам. В части перевода текста с английского на русский язык сервис вообще занял первое место. Также «Яндекс Переводчик» занял третье место по качеству перевода с английского на китайский, немецкий, итальянский и испанский языки. Рейтинг опубликовали итальянские институты Sapienza и SSML Carlo Bo, рассказали информационной службе Хабра в пресс‑службе «Яндекса».

Бенчмарк DiBiMT — это эталонный тест для измерения процента ошибок в машинном переводе. Тестирование проходили многие онлайн‑переводчики, включая Google Translate и DeepL и открытые большие языковые модели, например, mBART-50, M2M100 и проект OPUS.

Исследователи собрали базу данных из нескольких тысяч предложений на английском языке с омонимами — одинаковыми по написанию словами, имеющими разное значение. Модели и сервисы перевели эти предложения, а алгоритмы бенчмарка определили процент корректно переведённых слов. Правильные варианты выборочно проверяли профессиональные переводчики. На основе этих показателей был сформирован публичный рейтинг. Кроме качества переводов, тест показал, что «Яндекс Переводчик» лучше других определяет значение конкретных английских слов в предложениях и допускает меньшее количество семантических ошибок.

Ультрапромпты для ChatGPT:

• задачи в наиболее эффективной последовательности: Analyze my tasks below and help me prioritize them using the Eisenhower Matrix: [Ваши задачи];

• совет у любого топ-менеждера нужной сферы: I will provide you with an argument or opinion of mine. I want you to criticize it as if you were [Jensen Huang];

• объяснить сложное просто: Can you explain the concept of (тема) in simple terms? Summarize the main principles and illustrate with examples to facilitate understanding;

• сделать текст сильнее, исправить ошибки, проверить по теме: The following text is about (тема). Correct all the mistakes and incorrect sentence structures. If anything is wrong with the topic, please report it to me: (Ваш текст);

• ёмкие выжимки из книг: Distill the most important lessons from {название книги} into a comprehensive, but digestible summary;

• связь между явлениями, темами и исследованиями: Describe and explain with simple words the relationship between (тема 1) and (тема 2);

• ссылки на достоверные источники: I want you to act as a research assistant and provide me with 5 reliable sources to learn about (тема). Give me the date and source link each time;

• список ключевых терминов и определений из текста: What are some key terms I should know about (тема)? Make a list with a short and simple definition of each term each time;

• финал: You are GPT-4, OpenAI’s advanced language model. Today, your job is to generate prompts for GPT-4. Can you generate the best prompts on ways to [Ваши задачи].

Как GPT чат обманывает при изучении иностранных языков

Я преподаватель английского и, как и многие, пытаюсь приспособить AI-технологии для оптимизации своей работы. В частности, недавно я делала пост для телеграм-канала и "попросила" gpt-chat написать список слов, где чередуются согласные s и c в зависимости от части речи. Всё бы ничего, но gpt-chat придумал несуществующие глаголы defence, pretence и offence (+их "американские версии") вместо существующих defend, pretend и offend.

С gpt-chat действительно можно попрактиковать иностранный язык, но, пожалуйста, будьте внимательны и пользуйтесь словарями:)

Google временно закрыла опцию генерации изображений людей в Gemini. Ранее выяснилось, что ИИ создаёт неточные исторические изображения. 

«Мы уже работаем над решением недавних проблем с функцией генерации изображений Gemini», — говорится в заявлении компании. 

Теперь модель реагирует на соответствующие запросы так: «Мы работаем над улучшением способности Gemini создавать изображения людей. Ожидается, что эта функция скоро вернётся, мы сообщим вам об этом в обновлениях выпуска».

Эксперт предположил появление в РФ профессии по ИИ-этике.

«В будущем станет ещё больше профессий, связанных с разработкой, обучением и интеграцией ИИ-технологий. Среди них, например, аналитики, тестировщики и инженеры в сфере безопасности искусственного интеллекта, специалисты по комплаенсу использования ИИ-данных, эксперты по ИИ-этике и количественному анализу этики, дизайнеры пространства и аватаров для искусственного интеллекта, а также кураторы данных», — сообщил СМИ директор направления Data Fusion ГК «Лига цифровой экономики» Александр Кобозев.

Также эксперт добавил, что Минэкономразвития и Минтруд будут проводить анализ рисков, которые могут возникнуть после внедрения нейросетей в экономику. Кобозев уточнил, что сейчас большое внимание уделяется развитию высокочувствительных датчиков, в том числе квантовых сенсоров, которые будут применяться в промышленной сфере и системе здравоохранения.