Определение части речи слова на PHP одной функцией

Прочитав пост http://toster.ru/2410/, я написал функцию, которая определяет из строки слов их части речи. Определение, конечно не 100%, но можно легко дорабатывать.

Функция возвращает массив значений групп:
  • 1. прилагательное
  • 2. причастие
  • 3. глагол
  • 4. существительное
  • 5. наречие
  • 6. числительное
  • 7. союз
  • 8. предлог


Пример вызова функции:
print_r(chastrechiRUS('В небе летит красивый сверкающий самолёт'));


Результат работы функции (массив):
Array ( [0] => 8 [1] => 4 [2] => 3 [3] => 1 [4] => 2 [5] => 4 )



Код функции:
function chastrechiRUS($string){

 /*
 Группы окончаний:
 1. прилагательные
 2. причастие
 3. глагол
 4. существительное
 5. наречие
 6. числительное
 7. союз
 8. предлог
*/

 $groups = array(
 1 => array ('ее','ие','ые','ое','ими','ыми','ей','ий','ый','ой','ем','им','ым','ом',
'его','ого','ему','ому','их','ых','ую','юю','ая','яя','ою','ею'),
 2 => array ('ивш','ывш','ующ','ем','нн','вш','ющ','ущи','ющи','ящий','щих','щие','ляя'),
 3 => array ('ила','ыла','ена','ейте','уйте','ите','или','ыли','ей','уй','ил','ыл','им','ым','ен',
'ило','ыло','ено','ят','ует','уют','ит','ыт','ены','ить','ыть','ишь','ую','ю','ла','на','ете','йте',
'ли','й','л','ем','н','ло','ет','ют','ны','ть','ешь','нно'),
 4 => array ('а','ев','ов','ье','иями','ями','ами','еи','ии','и','ией','ей','ой','ий','й','иям','ям','ием','ем',
'ам','ом','о','у','ах','иях','ях','ы','ь','ию','ью','ю','ия','ья','я','ок', 'мва', 'яна', 'ровать','ег','ги','га','сть','сти'),
 5 => array ('чно', 'еко', 'соко', 'боко', 'роко', 'имо', 'мно', 'жно', 'жко','ело','тно','льно','здо','зко','шо','хо','но'),
 6 => array ('чуть','много','мало','еро','вое','рое','еро','сти','одной','двух','рех','еми','яти','ьми','ати',
'дного','сто','ста','тысяча','тысячи','две','три','одна','умя','тью','мя','тью','мью','тью','одним'),
 7 => array ('более','менее','очень','крайне','скоре','некотор','кажд','други','котор','когд','однак',
'если','чтоб','хот','смотря','как','также','так','зато','что','или','потом','эт','тог','тоже','словно',
'ежели','кабы','коли','ничем','чем'),
 8 => array ('в','на','по','из')
);

$res=array();
$string=mb_strtolower($string);
$words=explode(' ',$string);
//print_r($words);
foreach ($words as $wk=>$w){
    $len_w=mb_strlen($w);
 foreach ($groups as $gk=>$g){
  foreach ($g as $part){
    $len_part=mb_strlen($part);
   if (
        mb_substr($w,-$len_part)==$part && $res[$wk][$gk]<$len_part //любая часть речи, окончания
        || mb_strpos($w,$part)>=(round(2*$len_w)/5) && $gk==2 //причастие, от 40% и правее от длины слова
        || mb_substr($w,0,$len_part)==$part && $res[$wk][$gk]<$len_part && $gk==7 //союз, сначала слОва
        || $w==$part //полное совпадение
      ) {
         //echo $w.':'.$part."(".$gk.")<br>";
         if ($w!=$part) $res[$wk][$gk]=mb_strlen($part); else $res[$wk][$gk]=99;
        }

  }
 }
if (!isset($res[$wk][$gk])) $res[$wk][$gk]=0;
//echo "<hr>";
}


$result=array();
foreach($res as $r) {
 arsort($r);
 array_push($result,key($r));
}
return $result;
}


UPDATED: 27.09.2012 — Обновлен код функции. Переход на мультибайтовые строки (mb_*). Добавлены новые части речи. Добавлена значительная часть слов в массив.

UPDATED: 29.09.2012 — Полезная информация по русскому языку для тех, кто сам пишет подобное: здесь

Пишите свои замечания — будем дорабатывать вместе.
AdBlock похитил этот баннер, но баннеры не зубы — отрастут

Подробнее
Реклама

Комментарии 89

    +4
    А где это вообще можно применить?
      +4
      ключевые словосочетания на основе частей речи, формирование БД сущностей (существ.) и связей (глаголы) (с доработкой соотв.) для анализа ядра текстов и их дальнейшей автоматической сортировки по заданным критериям, чат-триггеры и т.п.
        0
        очень примитивная реализация.
        Вам стоит взглянуть сюда и сюда
          –1
          Для анализа текста эта функция подойдет в 100% случаев. Т.к. при этом не происходит четкого сравнения, а лишь подсчет количества (частей речи, слов, букв и т.д.) и получение отношения одного количественного параметра к другому (веса).
          Функция не рассчитана на 100% разбор предложения по частям речи, т.к. это решается только со словарями.
          Предсказание порядка следований частей речи в предложении скоро выложу.
      +6
      Незнаю насколько это правдивая история, но тем не менее:
      В какойто программе делали определение пола по имени и фамилии
      Но программа время от времени выдавала неправильный результат, после долгих мучений добавили еще допонительное поле «отчество»
      Если отчество заканчивалось на «ич» то мужского пола если на «на» то женского.

      Я к чему — ваш код всеравно будет выдавать ошибки и от этого никак не избавится. Работать будет только если есть однозначный критерий правильности.
        0
        Однозначного — пока нет. Нужно стремиться к этому. Планирую по словосочетаниям в дальнейшем снижать вероятность ошибок (отталкиваясь от фразопостроения в рус. яз.).
          +4
          Видимо, поле «пол» им религия не позволила добавить.
            0
            История умалчивает.
            0
            Для пишущих на перле есть модуль Lingua::RU::Inflect — он позволяет, помимо основной своей функции — склонения, ещё и определять пол по имени.

            Пол определяется следующим образом:

            1. Если есть отчество, пол однозначно определяется по нему.

            2. Проверяем имя:

                 2.1. Некоторые мужские имена оканчиваются на -а, а женские  — нет (Никита, Илья, Любовь) — проверяем имя на попадание в такой список исключений. Если имя есть среди исключений — пол определён.

                 2.2. Есть имена (Женя, Саша, Валя), по которым пол нельзя определить — смотрим, не является ли имя именно таким. Если не является — проверяем окончание: женские имена заканчиваются на -а, -я, мужские — на согласную.

            3. Переходим к проверке по фамилии: фамилии, кончающиеся на -ева, -ина, -ына, -ёва, -ова, -ая, -яя — женские, на -ев, -ин, -ын, -ёв, -ов, -ий, -ый — мужские.

            4. Если попали сюда, значит, пол нельзя определить — подобный алгоритм не может справиться с такими именами как Саша Петренко или Женя Кац.
              +6
              4. С этими именами никто не справится, не то что алгоритм
              0
              Ваш текст содержит слишком много ошибок, а вы беретесь судить попытку человека сделать полезную функцию для обработки русского языка.
                0
                Никто никого не судит.
                0
                Одна из моих школьных олимпиадных задачек. :) эх
                +4
                Слово «Маршировать» — это разве не глагол?
                Не пробовали делать массовое тестирование на большой базе слов с известными частями речи?
                  0
                  А, да, еще со знаками препинания в коде проблема. Если помним, то в русском языке запятые, и т.п. ставятся сразу после слова, что выведет из строя логику сравнения.
                  Зато вы подкинули мне любопытную идею: сервис типа гитхаба, но с редактированием в реалтайме — может получиться забавно.
                    0
                    Апдейт выложу позже. Доработать надо код.
                    Массово — не пробовал. Прорабатываю алгоритм.
                    Скорее всего будет дерево весов частей слова, далее — соседних словосочетаний (по частям речи на пред. уровне) и т.д.
                      +2
                      Я переживаю, что вам могут слить топик и энтузиазм за компанию за то время, что вы будете дорабатывать код из этого состояния в что-то более-менее соответствующее.
                        0
                        Я постараюсь побыстрее. А «слить энтузиазм за компанию» — это вряд ли.
                      0
                      Ну, это не только в русском, да и не все знаки препинания (например, тире отбиваются пробелами с обеих сторон). И, кстати, если уж говорить о знаках препинания, то пришла в голову мысль: такая система должна уметь обрабатывать не только правильно написанные тексты, но и тексты людей, которые зачем-то ставят знаки препинания нетрадиционным способом, например, вот так, или даже так.
                        +2
                        Хм, а парсер молодец — мои примеры ужасной расстановки пробелов вокруг запятых пофиксил. :D
                      +2
                      Да что там говорить. Всем известное слово из трех букв, оказывается, глагол. Наверное, повелительное наклонение от «ховать» (прятать). :)
                        –4
                        <irony>А каким образом здесь замешано панковское приветствие?</irony>
                      0
                      Я бы еще знаки препинания вырезал бы. С ними начинается неадекват.
                        +2
                        print_r(chastrechiRUS('Существительное'));

                        Array
                        (
                        [0] => 1
                        )
                          +4
                          Существительное-пресуществительное существительное
                            0
                            Подразумевается, что текст — нормальный: обработанный на предмет повторов (similarity) и содержащий не менее двух слов для дальнейшего анализа соседних частей речи.
                            0
                            Здесь: либо 2 и более слова, либо словарь исключений. По-другому — не знаю пока как…
                            +38
                            «Косил косой косой косой» — удачи в распознавании ;)
                              0
                              самый убойный комментарий для приведенного кода
                                +1
                                Спасибо! Допишу на след. этапе (когда деревья будут):
                                /*
                                Группы окончаний:
                                1. прилагательное
                                2. причастие
                                3. глагол
                                4. существительное
                                */

                                Замены порядков частей речи:
                                3111=>3414 (3441) — «Косил косой косой косой»
                                1311=>4314 (4341) — «косой Косил косой косой»
                                1131=>1434 (4134) — «косой косой Косил косой»
                                1113=>1443 (4143) — «косой косой косой Косил»

                                В скобках — вероятность такого порядка следования частей речи меньше.
                                  0
                                  А кто вам сказал, что «косой» — это существительное (в именительном падеже)?
                                    0
                                    Косой — это сущ. в творительном падеже (или именительном) или прилагательное ед. числа муж.рода. Функция падеж не определяет.
                                    Я что-то упустил?
                                      0
                                      Косой — это не существительное в именительном падеже, а прилагательное. В том числе и в данном предложении. Поэтому все ваши варианты трактовки с двумя существительными ошибочны.
                                        0
                                        Если брать предложение, то НЕТ. Если просто набор слов — ДА.
                                          0
                                          Вы, простите, роль слова в предложении (подлежащее) с его, собственно, частью речи (прилагательное) не путаете?
                                            +1
                                            Нет.
                                            «данные на носителе» — «данные» — сущ.
                                            «данные строки» — «данные» — прил.
                                              0
                                              Слово «данные» и слово «косой» — это два разных слова. То, что верно для одного, не обязательно верно для другого.
                                                0
                                                Ок. Какие будут предложения по правильной идентификации частей речи?
                                                  0
                                                  Я же говорю: в этом предложении два прилагательных, глагол и одно существительное. А вот как вы их будете распознавать (учитывая, что даже человек этого не может) — я не знаю.
                                                    +1
                                                    Т.к. это редкий случай, когда два одинаковых прилагательных в одном предложении, и прилагательное имеет меньший вес (чем сущ. или глагол), можно опираться на замены, указанные выше.
                                                    Как иначе — я пока тоже не знаю.
                                                      0
                                                      Прилагательное имеет меньший вес -> получили три существительных.
                                  +3
                                  запер замок на замок
                                  чтобы замок не замок
                                    +1
                                    Это пять!
                                    Думаю как детектить…
                                  0
                                  На данном примере, лучше использовать другую структуру массива окончаний. Если я не ошибаюсь, оптимальней будет вот-так:
                                  (… заранее, простите за выравнивание текста, хабра не дает проставить отступы =) вот с отступами: pastebin.ubuntu.com/1229060/ )

                                  function chastrechiRUS($string) {
                                  $endings = ['ыми' => 1, 'ей'=> 1, 'ий' => 1,… ,'ивш' => 2, 'ывш' => 2, 'ующ'=>2,… ];
                                  $endings_length = [2,3];
                                  $ret_data = array();
                                  $words = explode(' ',$string);
                                  foreach ($words as $wk => $w) {
                                  $ret_data[$wk] = 0;
                                  foreach ($endings_length as $length) {
                                  $tmp_ending = substr($w,-$length);
                                  if (isset($endings[$tmp_ending])) {
                                  $ret_data[$wk] = $endings[$tmp_ending];
                                  break;
                                  }
                                  }


                                  }
                                  return array_reverse($ret_data);
                                  }
                                    0
                                    source не удаляет отступы
                                      0
                                      function chastrechiRUS($string) {
                                          	    $endings = ['ыми' => 1, 'ей'=> 1, 'ий' => 1, ... ,'ивш' => 2, 'ывш' => 2, 'ующ'=>2, ... ];
                                      	$endings_length = [2,3];
                                      	$ret_data = array();
                                      	$words = explode(' ',$string);
                                      	foreach ($words as $wk => $w) {
                                      		$ret_data[$wk] = 0;
                                      		foreach ($endings_length as $length) {
                                      			$tmp_ending = substr($w,-$length);
                                      			if (isset($endings[$tmp_ending])) {
                                      				$ret_data[$wk] = $endings[$tmp_ending];
                                      				break;
                                      			}
                                      		}
                                      	
                                      
                                      	}
                                      	return array_reverse($ret_data);
                                      }
                                      
                                        0
                                        Сейчас мне source не поможет… Все дело из-за отрицательной кармы =(
                                        0
                                        Вполне возможно. Я делал прям «влоб» из http://habrahabr.ru/qa/2410/
                                        +5
                                        Фраза «Определение, конечно не 100%, но можно легко дорабатывать» вряд ли может вызвать что то кроме улыбки, для тех кому действительно интересна эта тема.
                                        Хочу предложить Вам сравнить роботу своего скрипта с phpMorphy
                                          –1
                                          Как я понял: у Вас идет работа со словарями. Это совсем другой путь реализации этой задачи.
                                          Т.е. если слова в словаре нет, то оно уже не будет распознано? Или я ошибаюсь?
                                            0
                                            Ну это не мой проект
                                            Но насколько я понял, там смесь дерева выбора и алгоритмов предсказания
                                            Вы не думали что самый лучший вариант решения задачи будет использовать какой то алгоритм с обучением (например нейронную сеть), это позволит например снимать морфологическую омонимии на основе близлежащих слов
                                            Если интересна тема, можете причитать дисертацию «Морфологическая и синтаксическая обработка текста (модели и программы)»
                                              0
                                              95% точности… это не 100% (стр.80)
                                                0
                                                А Вы решили сделать 100%?
                                                Ну как сделаете, следующим логическим шагом будет сделать поисковик/переводчик с 100% правильной работой
                                                Не забивайте себе голову глупостями, ложитесь спать, завтра рано в школу
                                                  –2
                                                  Для начала — хотя бы выше 95%
                                                    0
                                                    а нет ощущения, что это — принципиально не правильный подход к проблеме? Пытаться найти универсальные закономерности в системе, в которой изменения происходят бесконтрольно, хаотично. Бесконечное множество исключений из правил. А пытаться учесть исключения, значит получить тот же словарь, только в виде костылей
                                                      0
                                                      По-логике — исключений должно быть меньше. (ИМХО)
                                                        –1
                                                        Множество исключений вполне конечно, и закономерности там есть.

                                                        Но подход в статье и правда принципиально неправильный: выдумывать эти закономерности от балды — вместо того, чтобы выявить их из словаря + возможно, какой-то частотной статистики. Тут, в принципе, код анализатора даже имел бы право на жизнь, если б данные не от балды были, а какие-то осмысленные.
                                                          –3
                                                          Это — да. Код писался для 90-95% случаев. Остальные — это уже «допиливание» до идеала.
                                                          (Функцию обновил только что)
                                                            +4
                                                            … цифры 90-95% — это ведь тоже от балды)

                                                            Тут пока нечего допиливать. Вот добавили новое правило, как проверить, лучше стало разбирать или хуже (precision, recall)? А никак сейчас. Что-то, возможно, лучше стало разбирать, а что-то хуже. Добавили «тью» для числительных, солист Muse стал числительным.

                                                            Допиливание в текущем виде не приближает к идеалу (и imho является напрасной тратой времени), т.к. критериев для добавления/изменения/удаления правил нет.

                                                            Чтоб были критерии какие-то, нужна какая-то оценка качества разбора. Код нужно поэтому писать для оценки качества разбора (анализатор написали уже), а на основе этих оценок уже выбирать правила (если уж собрались их вручную собирать).

                                                            Самое простое — это прогнать словарь русского языка через функцию и посмотреть количество правильных — неправильных — лишних вариантов разбора (вот и выяснится, кого там больше, числительных или существительных с тью, и какое правило правильней добавить будет).

                                                            … и мы опять пришли к словарю — не проще-продуктивнее ли тогда написать программу, которая сама правила подберет, чтоб оценка разбора была максимальной, вместо того, чтоб пробовать правила самим?
                                                              –1
                                                              Да. Вы правы. Я протестирую параллельно двумя методами:
                                                              1. Метод bugfix'a (или видимые ошибки)
                                                              2. Анализ по словарю, построение правил и т.д.
                                                              А потом — сравню, какой лучше будет работать и сделаю выводы для улучшения.
                                                +1
                                                Вы сейчас строите предсказатель на основе набора окончаний, а правила подбираете вручную на основании своих предположений и наблюдений.

                                                Со словарем этот же набор правил (окончание => часть речи) можно построить автоматически, более полно и правильно (что и делается в phpmorphy и большинстве других морф. анализаторов для русского языка). Благо словари для русского языка доступные и хорошие: см., например, opencorpora.org/dict.php.

                                                Кроме того, раз уж есть словарь, то необязательно полагаться только на предсказатель — если слово есть в словаре, то можно и точный разбор вернуть (ну с учетом неустранимой на уровне отдельных слов неоднозначности разбора).
                                              +7
                                              Т.е. если заканчивается на «уй», то это глагол?
                                                0
                                                Пока да…
                                                Можно исправлять заменой (буду делать в след. версии функции), если нет запятых между словами:
                                                3-3 => 3-4
                                                0
                                                Интересная функция. Самое главное очень простая.

                                                Вам надо добавить логику в алгоритм, реализующую как-бы ответ на вопрос. В частности это относится к определению глагола, важнейшей семантической составляющей означающей действие.

                                                Поправьте пожалуйста код-функции: неудобно читать содержимое массива глаголов: хотел посмотреть наличие -ать, ять (вообще рекомендую использовать правила оформления кода PEAR, pear.php.net/package/PHP_CodeSniffer в помощь)

                                                Далее придется использовать словари. Рекомендую DICT
                                                  0
                                                  «реализующую как-бы ответ на вопрос» — пока планирую фильтр:
                                                  1. Веса по частям слов.
                                                  2. Порядок следования частей речи
                                                  3. Словари.
                                                  4. Тоновые соединения: цепочки частей речи и корни.
                                                    0
                                                    отформатированный вариант Вашей функции:

                                                    function chastrechiRUS($string)
                                                    {
                                                        /*
                                                          Группы окончаний:
                                                          1. прилагательное
                                                          2. причастие
                                                          3. глагол
                                                          4. существительное
                                                        */
                                                    
                                                        $groups 
                                                            = array(
                                                                1 => array('ее', 'ие', 'ые', 'ое', 'ими', 'ыми', 'ей', 
                                                                      'ий', 'ый', 'ой', 'ем', 'им','ым','ом','его',
                                                                      'ого','ему','ому','их','ых','ую','юю','ая',
                                                                      'яя','ою','ею'),
                                                                2 => array('ивш','ывш','ующ','ем','нн','вш','ющ',
                                                                           'щ','ущи','ющи', 'ящий','щих','щие'),
                                                                3 => array('ила','ыла','ена','ейте','уйте','ите',
                                                                           'или','ыли','ей', 'уй','ил','ыл',
                                                                           'им','ым','ен','ило','ыло','ено',
                                                                           'ят','ует','уют','ит','ыт','ены','ить',
                                                                           'ыть','ишь','ую','ю','ла','на','ете',
                                                                           'йте','ли','й','л','ем','н','ло','но',
                                                                           'ет','ют','ны','ть','ешь','нно'),
                                                                4 => array ('а','ев','ов','ие','ье','е','иями',
                                                                            'ями','ами','еи','ии','и','ией',
                                                                            'ей','ой','ий','й','иям','ям','ием',
                                                                            'ем','ам','ом','о','у','ах','иях',
                                                                            'ях','ы','ь','ию','ью','ю','ия',
                                                                            'ья','я','ок', 'мва', 'яна', 'ровать'),
                                                            );
                                                    
                                                        $res=array();
                                                    
                                                        $words = explode(' ', $string);
                                                        //print_r($words);
                                                        foreach ($words as $wk=>$w) {
                                                            foreach ($groups as $gk=>$g) {
                                                                foreach ($g as $part) {
                                                                    if (substr($w, -strlen($part)) == $part 
                                                                        && $res[$wk][$gk] < strlen($part) // любая часть речи, окончания
                                                                        || stripos($w, $part)!==false 
                                                                        && $gk == 2 //причастие, в любом месте слова
                                                                    ) {
                                                                        $res[$wk][$gk] = strlen($part);
                                                                    }
                                                    
                                                                }
                                                            }
                                                            if (!isset($res[$wk][$gk])) {
                                                                $res[$wk][$gk] = 0;
                                                            }
                                                        }
                                                    
                                                    
                                                        $result = array();
                                                        foreach ($res as $r) {
                                                            arsort($r);
                                                            array_push($result, key($r));
                                                        }
                                                        return $result;
                                                    }
                                                    
                                                      0
                                                      Да… Многое поменялось…
                                                        0
                                                        Вы успели уже накодить много или код стал по другому восприниматься?
                                                          0
                                                          Разница не особо велика и (ИМХО) мне удобнее, когда все && на одной строке, а || сначала строк в условиях.
                                                            0
                                                            Когда используются переносы, легче воспринимается логика кода, проще восприятие, легко отлаживается, можно отключать блоки, переносить и копировать в другие части. Не забывайте, что другие будут изучать Ваш код. Идеальным считается код, когда другой человек может разобраться и внести правки без автора и автору будет понятно и остальным тоже.

                                                            Считается правилом хорошего тона правая граница 60-75-80 символов (у меня 75)
                                                            Если код не умещается, значит что-то не-так. Хорошая функция умещается на одной странице экрана редактора.
                                                              0
                                                              Ок. Учту на будущее. Буду переносить и комментировать.
                                                                0
                                                                Вот так правильно. Самому будет легче. Первые 10 лет тяжело потом привыкаешь :)

                                                                Если код не отформатирован валидно, то это может говорить о следующем: спешка, нет нормального редактора, новичок, недостатки самовоспитания, поверхностное отношение, отсутствие стандартов, одиночка.

                                                                На настоящий момент наиболее популярны следующие редакторы, которые пробовал для php: emacs, eclipse (pdt), netbeans, editplus, dev-util/kdevelop-php

                                                                  0
                                                                  Но я пишу код в Far 2.0 с плагином FarColorer (см.тут) и мне вполне удобно.
                                                                    0
                                                                    Да, неплохой редактор. К нему тоже можно прикрутить много чего. Так сказать облагородить.
                                                                    0
                                                                    Добавлю еще PhpStorm. Отлично форматирует прямо «из коробки». Можно, конечно, и свои стандарты кодирования настроить — все достаточно гибко.
                                                                      0
                                                                      наслышан про него
                                                                        0
                                                                        Ничего так. Жаль, что закрытый и java. У меня как java стартует, сразу образуется неубираемый своп, который еще и растет со временем, независимо от того использую еще джава-приложение или давно уже вышел. Это одна из причин моего перехода на emacs с долгого использование eclipse. Стоит до сих пор, жалко сносить, иногда пользую.
                                                                          +1
                                                                          Рекомендую почитать комментарии к этому топику.
                                                                          Emacs — текстовый редактор.
                                                                          PhpStorm — IDE.
                                                                          Каждый решает сам, где работать, но IDE дает больше возможностей. Вот хотя бы несколько из них:
                                                                          • Рефакторинг
                                                                          • Быстрые переходы
                                                                          • Удобная интеграция с VCS
                                                                            0
                                                                            «в емаксе есть всё… кроме текстовго редактора»
                                                      0
                                                      Когда я прорабатывал эту тему для английского языка, то на основе достаточно большого размеченного корпуса составил статистическую базу триграмм последовательностей частей речи. Вышла она (давно было, не помню) килобайт 10. Эта база повышала вероятность определения частей речи омонимов в спорных ситуациях определения части речи. Это по сути цепи Маркова.
                                                      Я про то, что этот подход тут очень даже применим. В гугле это — «trigram tagger».
                                                        0
                                                        Да. Спасибо!
                                                        Уже прочитал по совету KAndy (пост)
                                                        Это однозначно буду делать.
                                                        –2
                                                        Вы ведь знаете про github и pull-requests? Очень странно видеть на хабре топик «а давайте покодим вместе в комментариях», когда для этого есть специализированные инструменты.
                                                          0
                                                          То, что вы делаете называется POS tagger.

                                                          Вы предлагаете фактически правиловый подход к идентификации части речи. Логичным следующим шагом будет тот же правиловый подход для разрешения неоднозначности вроде «Мама мыла раму», где «мыла» — что глагол? существительное?

                                                          Лучше посмотреть на современные исследования в этой области.
                                                            0
                                                            А нет ли скриптика для склонения словосочетаний на PHP? Яндекс-склонятор нормально склоняет только отдельные слова, да и плохо подходит из-за онлайновости.
                                                              0
                                                              Пример из одной книжки:

                                                              Эти типы стали есть на складе
                                                                +2
                                                                Определение, конечно не 100%, но можно легко дорабатывать.

                                                                Тяжело дорабатывать. Вплоть до того, что у вас будет протегированый весь словарь. Это ж сколько правил.
                                                                И даже это не даст хороших результатов.
                                                                Часть речи обычно очень сильно зависит от контекста, который у вас, как я понимаю, никак не учитывается. Как по мне, лучше сочетать rule-based подход со статистическим.
                                                                  0
                                                                  «Часть речи обычно очень сильно зависит от контекста, который у вас, как я понимаю, никак не учитывается»
                                                                  Да. Сделаю в обновлении.

                                                                  «лучше сочетать rule-based подход со статистическим»
                                                                  и взвешивать результат между тем и тем.
                                                                  ДА. Все верно.
                                                                  0
                                                                  Не принимайте близко к сердцу, но… У вас совершенно неадекватные представления о сложности морфологии русского языка… То, что вы делаете сейчас абсолютно так же, но насколько это возможно лучше делает PHPMorphy. Насколько я знаю, у него тоже много правил окончаний + списки исключений. Поверьте, сделать существенно лучше чем у них морфологию не получится. Это мы говорим про чистую морфологию — узнать часть речи и форму по одному слову.
                                                                  Далее: «Косил косой косой косой», тут уже функцией с правилами на PHP не обойдешься. Тут, как правильно вы заметили, нужно строить деревья синтаксического разбора, выбирать более подходящие из них, на основании этого уточнять морфологические приметы слов, потом выбирать то дерево, которое нам больше нравится и т.д. Работы много. Очень много. Посмотрите на aot.ru — ребята этим занимаются на C++ в свободное время: кода много, словарей много, правил много — а результат не то чтобы сильно крутой был. Ну т.е. простые предложения оно распознает, а вот со сложными начинаются проблемы.
                                                                  Повторюсь еще раз: у вас абсолютно неадекватное представление о сложности подобных библиотек и завышенные представления о своих возможностях. Не принимайте близко к сердцу. Покрутите PHPMorphy, если вам его возможностей будет мало — идите на aot.ru, покрутите их либы. Более крутого из опенсорсного, насколько я знаю (уже несколько лет не интересовался этой темой) вы не найдете. И конечно же не напишете, если только у вас нету штата лингвистов, программистов и денег им на хлеб с маслом на несколько лет.
                                                                    0
                                                                    Весы: скорость и точность…
                                                                    Пока Вы будете строить себе лифт, я поднимусь уже по лестнице.
                                                                    А вообще — все по-делу написано.

                                                                  Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                                                                  Самое читаемое