Модели, основанные на теории формальных языков

К этому классу относятся модели, использующие развитый аппарат теории формальных языков для представления лингвистической информации. При этом подходе естественный язык описывается при помощи систем правил. Примерами таких моделей могут служить сетевые грамматики Вудса и грамматики зависимостей.

Обычно правила для таких языковых моделей строятся «вручную» исследователем, что сопряжено со значительными трудностями. Однако точность такой модели оказывается существенно выше, чем точность простых грамматик, типа n -грамм. Так, например, построенная таким образом грамматика для английской «деловой прозы» позволяет построить правильное дерево разбора для большей части тестового корпуса, составленного из газетных публикаций. При этом обеспечивается достаточно высокая скорость грамматического разбора: анализ предложения проводится за время порядка n ³, где n – длина предложения.

К сожалению, эти языковые модели также обладают рядом недостатков. Так, например, эти модели оказываются излишне «жесткими», то есть не пропускают предложения, не укладывающиеся в них. Для преодоления этих ограничений были разработаны вероятностные обобщения этих моделей. Они сочетают в себе преимущества обеих моделей, позволяя использовать как более глубокие связи, существующие в естественном языке, так и обычный n -граммный подход, обеспечивающий «универсальность» построенной языковой модели.