Система контент-анализа естественно-языковых текстов

Дипломная работа - Компьютеры, программирование

Другие дипломы по предмету Компьютеры, программирование

Скачать Бесплатно!
Для того чтобы скачать эту работу.
1. Пожалуйста введите слова с картинки:

2. И нажмите на эту кнопку.
закрыть



льтате все введенные данные сохраняются и система готова к дальнейшей работе.

2.2.9 Верификация прецедентов на полноту и непротиворечивость

Проведя анализ требований пользователя и описания вариантов использования делаем вывод, что в модель включены все необходимые элементы, т.е. выполняется требование полноты; между описаниями прецедентов и требованиями пользователя противоречий не обнаружено, т.е. выполняется требование непротиворечивости.

В таблице 4 представлено соответствие между требованиями пользователя и выделенными вариантами использования.

 

Таблица 4 - Соответствие требования пользователя и вариантов использования

Требования пользователяОткрыть стоп-словарьРедактировать стоп-словарьДополнить морфословарьВыходАнализСохранение результатов анализаПоиск словоформСтоп-словарь++Морфословарь+Анализ текста+Редактирование и дополнение стоп словаря++Дополнение морфословаря+Возможность поиска группы морфологически родственных слов для заданного слова.+Статистика++Форматы вывода - txt+

 

 

2.3 Описание метода поиска ключевых слов

 

Метод поиска ключевых слов (слов кандидатов) будем рассматривать как функцию F.

 

 

где - искомое множество ключевых слов,

- множество информационных элементов текстового фрагмента. Схематично данная функция представлена на рисунке 3.

 

 

Рисунок 3 - Функция поиска ключевых слов

 

Элементами множества могут являться либо отдельные слова, либо предложения текстового фрагмента. Задача анализатора из входного потока подсчитать количество слов встречающихся наибольшее число раз, т.е. имеющих наибольший вес

Входной поток Т представляет собой некоторый массив строк, имеющий конечную длину. Задача выделения слов из входного потока сводится к разбору строк, последовательно поступающих на вход метода разбора. Алгоритм получения очередного слова достаточно прост - на каждом шаге анализируется очередной символ текущей строки, если он не является разделителем, то добавляется к текущей лексеме, в противном случае текущая лексема добавляется в таблицу лексем, после чего ей присваивается пустое значение. Необходимо заметить, что на данном этапе происходит проверка наличия очередного полученного таким способом слова в стоп-словаре. Если проверка проходит успешно, данная лексема не добавляется в таблицу, а отбрасывается, так как не является необходимой с рассматриваемой точки зрения.

Таким образом, обрабатываются все строки входного массива. В результате формируется таблица лексем, содержащая все слова из входного потока (за исключением стоп-слов). С точки зрения структур данных таблица лексем представляет собой хеш-таблицу. Хеширование производится с помощью хеш-функции (функции расстановки). Получая в качестве аргумента некоторое слово, функция выдает в результате некоторое целое число - индекс в таблице лексем, под которым следует хранить это слово. Реализуется это при помощи функции, выдающей по заданной букве ее номер в русском алфавите, и функции, суммирующей коды букв слова[6].

Для разрешения коллизий используется линейный список. Структура элемента данного списка приводится на рисунке 4.

 

Рисунок 4 - Структура элемента списка таблицы лексем

 

Следующий этап выделения возможных терминов заключается в поиске морфологически родственных слов в полученной таблице и замена их так называемым главным словом. Для этого необходимы дополнительный проход по хеш-таблице, а также дополнительная структура данных - морфологический словарь. Морфословарь представляет собой древовидную сильноветвящуюся структуру, каждая вершина которой представляет собой массив, содержащий элементы, имеющие три поля: поле флагов, уникальный номер и указатель на вершину следующего уровня (рисунок 5). Каждый элемент пронумерован и ему соответствует буква русского алфавита. Следует заметить, что данный подход позволяет не хранить букву непосредственно в памяти. Таким образом, слово представляет собой путь в дереве, от корня, до вершины, имеющий признак конца слова.

 

Рисунок 5 - Структура вершины словаря

 

Поле флагов содержит в себе несколько признаков: признак окончания слова, признак основы, признак главного слова в группе родственных слов. Подробно структура поля приведена на рисунке 6.

 

Рисунок 6 - Структура поля флагов

 

Таким образом, поиск морфологически родственных слов заключается в рекурсивном спуске по дереву и нахождению элемента вершины, имеющего признак основы. После этого осуществляется левосторонний обход дерева, корнем которого является найденная вершина, и все найденные слова добавляются в список родственных слов, с пометкой слова, являющегося главным. Во избежание ошибок, в случаях вложения основ друг в друга, для каждого элемента вершины введено дополнительное целочисленное поле (uin), которое разделяет группы родственных слов, у которых одна основа включается в другую. Поиск морфологически родственных слов схематично изображен на рисунке 7.

 

Рисунок 7 - Поиск родственных слов

 

Как уже упоминалось, после разбора текста необходим дополнительный проход по таблице лексем, для поиска и замены групп родственных слов соответствующим главным словом, складывая частоту их появления в тексте.

Алгоритм данного склеивания представлен на рисунке 8.

После завершения данного этапа таблица

s