Как стать автором
Обновить
  • по релевантности
  • по времени
  • по рейтингу

Декларативный и императивный подходы к построению QA чатбота

Natural Language Processing *

В статье рассматривается теоретический и практический аспекты двух подходов к построению вопросно-ответной системы. Первый подход — императивный, он предполагает полное описание инструкций для решения каждой задачи, когда как второй подход, декларативный, требует лишь правильно сформулированной задачи и набора базовых логический правил. Практический аспект обоих подходов изучается на основе реального приложения для автоматизации ответов на вопросы студентов и сотрудников университета.

Читать далее
Всего голосов 1: ↑1 и ↓0 +1
Просмотры 976
Комментарии 0

В Москве пройдет хакатон по анализу текстов. Регистрация до 14 декабря

Программирование *Хакатоны Искусственный интеллект Natural Language Processing *
Приглашаем всех 15 декабря принять участие в очном хакатоне по анализу данных «Новый Год hack 2019» в Москве в Научном парке МГУ.

Хакатон проводят компании Лаборатория Наносемантика и Контакт-центр «Гран» вместе с МФТИ и МГУ.

Под катом — описание задач, критериев оценки, условий участия и призы.

image
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Просмотры 1.8K
Комментарии 5

Исследователи выяснили, что системы ИИ не различают предложения с перемешанными словами

Машинное обучение *Искусственный интеллект

Исследователи из Обернского университета пришли к выводу, что многие ИИ, предназначенные для обработки естественного языка (Natural Language Processing, NLP), не замечают, когда слова в предложении перемешиваются, а его значение меняется. Это показывает, что ИИ на самом деле не понимают язык, и создает проблемы в обучении систем NLP.

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Просмотры 3.1K
Комментарии 19

Авторы проекта GPT-Neo пытаются создать аналог GPT-3 с открытым исходным кодом

Open source *Машинное обучение *Искусственный интеллект

В июне OpenAI презентовала модель машинного обучения GPT-3, обученную на 175 млрд параметров. Эта модель является одной из самых сложных. В отличие от предшественников GPT-2 и GPT-1 ее исходный код или обучающий набор данных решили не открывать. Теперь создатели проекта GPT-Neo от EleutherAI решили воссоздать аналог GPT-3.

Коммерческая лицензия на GPT-3 доступна только для Microsoft, которая инвестировала $1 млрд в OpenAI и построила суперкомпьютер на базе Azure, предназначенный для дальнейших исследований компании.

Было предпринято уже несколько попыток воссоздать GPT-3 с открытым исходным кодом. Однако нынешнюю можно назвать самой серьезной. Создатели GPT-Neo Коннор Лихи, Лео Гао и Сид Блэк собирают рядовых исследователей в области машинного обучения с открытым исходным кодом, чтобы начать проект не позднее августа.

GPT-Neo это кодовое название серии языковых моделей, основанных на преобразователях в стиле архитектуры GPT с открытым исходным кодом. У проекта есть кодовая база, построенная на Tensorflow-mesh (для обучения на TPU) и на Deepspeed (для обучения на GPU). Обе могут масштабироваться до размеров GPT-3, но проекту пока не хватает TPU для полного обучения модели со 175 млрд параметров.

Большую часть модели уже построили и обучили модели размера GPT-2, а также реализовали несколько экспериментальных архитектур. В настоящее время ведется работа над завершением репликации модели размера GPT-2.

Как отметили исследователи, самая большая модель, которую им приходилось тренировать для одного шага, включала 200 млрд параметров.

В октябре команда ученых из Мюнхенского университета Людвига-Максимилиана разработала методику глубокого обучения для моделей обработки естественного языка. Она обучила модель Transformer NLP с 223 млн параметров, которая превзошла GPT-3 более чем на 3% в тесте SuperGLUE.

А на днях в Google представили метод, который, по утверждению компании, позволил обучить языковую модель, содержащую более триллиона параметров. Исследователи заявили, что новая модель с 1,6 трлн параметров, по-видимому, является крупнейшей в своем классе на сегодняшний день.

Читать далее
Всего голосов 8: ↑8 и ↓0 +8
Просмотры 4K
Комментарии 4

OpenAI: более 300 сторонних приложений работают на GPT-3

Разработка мобильных приложений *Машинное обучение *Искусственный интеллект Natural Language Processing *

OpenAI сообщила, что спустя девять месяцев после выпуска NLP-алгоритма GPT-3 его используют более 300 приложений. Модель генерирует, в среднем, 4,5 млрд слов в день.

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры 2.1K
Комментарии 0

Разработчик натренировал модели OpenAI на интерпретацию человеческого языка в команды терминала

Python *Разработка под Linux *Искусственный интеллект Natural Language Processing *Визуальное программирование *

Разработчик представил базовую оболочку на Python, которая позволяет языковой модели OpenAI интерпретировать команды оболочки Linux bash и запускать задачи. Однако проверять запуск команд перед запуском нужно вручную.

Читать далее
Всего голосов 12: ↑12 и ↓0 +12
Просмотры 1.7K
Комментарии 1

OpenAI и Microsoft организовали фонд на $ 100 млн для инвестиций в стартапы ИИ

Венчурные инвестиции Развитие стартапа Финансы в IT

OpenAI запускает стартап-фонд Startup Fund на $ 100 млн, через который компания и ее партнеры будут инвестировать в разработку технологий на ИИ, решающих основные проблемы и способствующие повышению производительности. Первым партнером и инвестором фонда стала Microsoft.

Читать далее
Всего голосов 12: ↑12 и ↓0 +12
Просмотры 862
Комментарии 5

В Китае представили нейросеть Wu Dao с 1,75 трлн параметров

Машинное обучение *Искусственный интеллект

Исследователи из Пекинской академии искусственного интеллекта объявили о выпуске собственной генеративной модели глубокого обучения, Wu Dao, которая способна конкурировать и даже превзойти GPT-3 от OpenAI.

Читать далее
Всего голосов 23: ↑23 и ↓0 +23
Просмотры 7.8K
Комментарии 0

Музыканты хотят извлечь музыку из мозга

Чулан
Факт воздействия музыки на мозг хорошо известно и давно изучается. Сами музыканты, пожалуй, лучше других знают о необычайной силе такого воздействия. Под влиянием музыкальных ритмов человек может успокоиться или возбудиться, получить вдохновение или впасть в подавленное состояние. Из-за музыки сильно меняется характер мозговых волн, которые улавливает специальная аппаратура.
Читать дальше →
Всего голосов 15: ↑13 и ↓2 +11
Просмотры 477
Комментарии 3

Рефрейминг как методика изменения убеждений

Чулан
Формирование отношения с помощью фреймов

В НЛП есть такое понятие, как фрейм (англ. рамка). С его помощью мы можем формировать нужное нам отношение к любой информации. Незаменимый прием в PRе, рекламе, продажах, да и ввообще в любом убеждении людей.

Фрейм, это рамка (или фон), в которой воспринимается информация. Фреймом является дополнительная информация, дающаяся параллельно или перед основной информацией, и задающая логические или эмоциональные рамки ее восприятия для формирования определенного отношения.

Самый простой — визуальный фрейм. Представьте себе фотографию неизвестного вам лица. А теперь давайте поместим ее в розовую рамочку в форме сердечка. Даже если мы впервые видим эту фото, что мы можем подумать об этом человеке? А теперь представьте эту же фотографию на доске почета… в рубрике «Их разыскивает милиция»… :) Или в большой картинной раме, метр на метр, висящей посреди стены в зале для торжеств… Как мы начинаем воспринимать этого человека теперь?

В зависимости от того, что мы делаем с рамкой, мы заставляем воспринимать эту фотографию в том или ином ключе, и относиться к ней соответствующе. Это были нарочито буквальные примеры, имеющие больше цель иллюстрирующую фреймы. В жизни, кончено, все более завуалированно. Примерно так…

Предвыборная компания. Штаб. Политтехнологи, раскручивающие своего кандидата в народолюбцы. Готовятся к размещению в СМИ фотографии этого кандидата: одна, где кандидат общается с радостными студентами с улыбающимися лицами, другая, где он рядом с хорошо одетыми стариками выражающими почтение в глазах, третья — на фоне шикарного города с чистыми улицами, красивыми женщинами и дорогими машинами под голубым солнечным небом… Пять-десять разных фотографий с одним и тем же человеком, у которых есть что-то общее… что-то неуловимое сознанию, но приятное глазу и милое сердцу :)

Так создаются визуальные фреймы, формирующие нужное нам отношение к субьекту на бессознательном уровне. Но самое интересное начинается, когда мы подходим к вербальным (речевым) фреймам…

Представьте себе рекламную статью, которая начинается так: «Самые теплые куртки делает фирма Х! Такая морозоустойчивость обеспечивается...(далее сама статья)». Насколько вам интересна эта статья, если вы живете в среденей полосе? Скажем, «ну так...». А теперь давайте добавим в начало статьи одно предложение: «В этом году синоптики обещают особенно холодную зиму. Самые теплые куртки делает фирма Х! Такая морозоустойчивость обеспечивается...». Как на этот раз? Тема стала актуальной, а все что мы для этого сделали, это добавили фрейм контекста — «особенно холодную зиму», который на секундочку перенс читателя в те условия, где это важно.

Помимо контекстуальных фреймов, еще бывают эмоциональные фреймы. Самый забавный пример использования эмоционалного фрейма мне вчера прислали по почте. Спасибо большое Сергею, пример такой, что не могу не поделиться! Публикую прямо в исходном виде.


Взято отсюда.
Всего голосов 22: ↑8 и ↓14 -6
Просмотры 1.7K
Комментарии 17

Как давать обратную связь сотруднику?

Чулан
К видео есть небольшая статья про ОСВК (обратную связь высокого качества). Прочтите её у меня в блоге Высшей школы отношений NTRS, когда захотите.
Всего голосов 13: ↑8 и ↓5 +3
Просмотры 459
Комментарии 15

Глазные ключи доступа (eye accessing cues)

Чулан
Каждый из вас хотя бы изредка обращает внимание что собеседник в ходе разговора отводит глаза в сторону. Направление взгляда меняется в зависимости от темы разговора, отношению к вам, состояния, да и самой личности собеседника.

В терминах НЛП это называется глазные ключи доступа (eye accessing cues)

Дабы не ждать ближайшего разговора с человеком чтобы обратить своё внимание на направления взгляда собеседника воспользуемся конкурсной работой Michael Simon Toon «Thought Moments» для BritishFilms. Не могу представить примера, более наглядного, чем этот



Автор ролика использует следующие ключи:
IMAGINATION — воображение MEMORY — память
EXPRESSION — выражение LANGUAGE — язык
EMOTION — эмоции LOGIC — логика
Читать дальше →
Всего голосов 32: ↑22 и ↓10 +12
Просмотры 1.6K
Комментарии 20

Как правильно говорить с «трудным» клиентом

GTD *
Многим из нас время от времени попадаются «привередливые», «неадекватные» и «трудные» заказчики, партнёры, начальники, подчинённые и т.д. В этом посте я расскажу:
  • Как добиться своего в конфликтных ситуациях
  • Как вести разговор, не вызывая негативной реакции собеседника
  • Как держать конфликтную ситуацию под контролем
  • Как не допустить развития конфликта и как его устранить
Читать дальше →
Всего голосов 96: ↑87 и ↓9 +78
Просмотры 38K
Комментарии 81

Гибридная реализация русской морфологии

Чулан
При создание поисковых решение одним из первых с чем приходиться сталкивать разработчику это предварительная обработка текста. Разбивка на термины, фильтрация стоп слов. Важной операцией влияющей на качество поиска на данном этапе является приведение слов к нормальной форме. Ниже приведены основные подходы к этой проблеме.
Читать дальше →
Всего голосов 17: ↑15 и ↓2 +13
Просмотры 732
Комментарии 4

Заметки об NLP (часть 1)

Искусственный интеллект Natural Language Processing *
В преддверии Нового года решил начать небольшой цикл статей, посвящённых наиболее интересующему меня лично направлению в обработке текстов на естественном языке. (То есть NLP в заголовке означает natural language processing — ваш К.О.) Синтаксический анализ, семантика, машинный перевод, поиск смысла слова в контексте — в общем, вся радость компьютерного лингвиста :)

Наверно, сразу имеет смысл определиться с уровнем изложения. Я сам пытаюсь заниматься компьютерной лингвистикой (с переменными успехами). Постараюсь рассказать о том, что конкретно волнует, чего уже можно, чего пока нельзя, и над чем как раз сейчас надо работать. Быть может, эти статьи помогут мне самому отструктурировать информацию в голове и опираться на уже готовую структуру в новом году. А если у читателей появятся свои идеи или мысли о сотрудничестве — ещё лучше.
Интересующихся прошу под кат
Всего голосов 67: ↑57 и ↓10 +47
Просмотры 8.4K
Комментарии 54

Заметки об NLP (часть 2)

Искусственный интеллект Natural Language Processing *
Хотя в первой части я и говорил, что не собираюсь останавливаться на морфологии, видимо, совсем без неё не получится. Всё-таки обработка предложений сильно завязана на предшествующий морфологический анализ.
Читать дальше →
Всего голосов 58: ↑47 и ↓11 +36
Просмотры 3K
Комментарии 43

Заметки об NLP (часть 3)

Искусственный интеллект Natural Language Processing *
(Начало: 1, 2) Что ж, подходим к самому интересному — разбору предложений. Тема эта многогранна и многоуровнева, так что подступиться к ней не очень просто. Но ведь трудности лишь закаляют :) Да и выходные, текст пишется легко…

Начнём с такого понятия, как синтаксический анализ предложений (по-английски parsing). Суть этого процесса состоит в построении графа, «каким-либо образом» отражающего структуру предложения.
Читать дальше →
Всего голосов 54: ↑47 и ↓7 +40
Просмотры 4.5K
Комментарии 53

Заметки об NLP (часть 4)

Искусственный интеллект Natural Language Processing *
(Начало: 1, 2, 3) На сей раз хочу немного отвлечься и порассуждать (а точнее, похоливарить) на тему статистических алгоритмов и вообще «обходных путей» компьютерной лингвистики.
В первых частях нашего разговора речь шла о «классическом пути» анализа текста — от слов к предложениям, от предложений к связному тексту. Но в наше безумное время появились и соблазны решить проблему «одним махом», найдя, если угодно, баг в системе или «царскую дорогу».
Читать дальше →
Всего голосов 47: ↑39 и ↓8 +31
Просмотры 2.4K
Комментарии 52

Заметки об NLP (часть 5)

Искусственный интеллект Natural Language Processing *
Что ж, продолжим. (Первые части: 1 2 3 4). Долго выбирал, что будет лучше для следующей темы — пофилософствовать о прагматике языка или поговорить конкретно об алгоритмах разбора. Учитывая, что предыдущая часть была неформальной, решил всё-таки переключиться на конкретику, а там посмотрим.

Итак, синтаксический анализ предложения. Давайте сразу определимся, что речь пойдёт о разборе в рамках концепции dependency parsing, причём определяющей методологией разбора будет точный анализ (не статистический). Начнём с небольшого обзора происходящего вокруг.
Читать дальше →
Всего голосов 55: ↑41 и ↓14 +27
Просмотры 3.6K
Комментарии 41