Главная Случайная страница


Полезное:

Как сделать разговор полезным и приятным Как сделать объемную звезду своими руками Как сделать то, что делать не хочется? Как сделать погремушку Как сделать так чтобы женщины сами знакомились с вами Как сделать идею коммерческой Как сделать хорошую растяжку ног? Как сделать наш разум здоровым? Как сделать, чтобы люди обманывали меньше Вопрос 4. Как сделать так, чтобы вас уважали и ценили? Как сделать лучше себе и другим людям Как сделать свидание интересным?


Категории:

АрхитектураАстрономияБиологияГеографияГеологияИнформатикаИскусствоИсторияКулинарияКультураМаркетингМатематикаМедицинаМенеджментОхрана трудаПравоПроизводствоПсихологияРелигияСоциологияСпортТехникаФизикаФилософияХимияЭкологияЭкономикаЭлектроника






Преобразование дерева решений в набор правил





В ряде случаев полученное дерево решений может оказаться слишком сложным для восприятия. Например, при решении задач высокой размерности для неоднородных данных дерево нередко получается кустистое и довольно запутанное. Вместо того, чтобы «ползать» по каждой полученной ветке, в системе See5 предусмотрена возможность преобразования дерева решений в набор правил IF... THEN. Для этого требуется вызвать окно диалога для заданий опций конструируемого алгоритма (рис. 9.2) и поставить флажок в поле Rulesets (набор правил). После проведения такой операции система добавляет в окно отчета список правил, соответствующих рассчитанному дереву решений. Применительно к рассматриваемым данным по ультразвуковой диагностике это будет следующий список (табл. 9.2).

Таблица 9. 2. Список выделенных правил

Rule 1: (cover 11) Age <= 43 Index <= 0.69 -> class 1 [0.846] Rule 2: (cover 10) Speed > 19 Index <= 0.69 Accel > 310 -> class 1 [0.750] Rule 3: (cover 14) LR = R Speed > 19 Index <= 0.69 -> class 1 [0.625]   Rule 4: (cover 5) Age <= 63 Speed <= 18 Index > 0.69 -> class 1 [0.429] Rule 5: (cover 15) Age > 43 LR = L Index <= 0.69 Accel <= 310 -> class 2 [0.941] Rule 6: (cover 15) Age > 43 Speed <= 19 Index <= 0.69 -> class 2 [0.941]   Rule 7: (cover 8) Age > 63 Speed <= 18 -> class 2 [0.800] Rule 8: (cover 17) Age > 43 Length <= 108 Index <= 0.69 -> class 2 [0.789] Rule 9: (cover 12) Speed > 18 Index > 0.69 -> class 3 [0.929]  

 

Каждое правило состоит из следующих фрагментов:

· Номер правила

· Количество объектов обучающей выборки, попадающих под действие правила (cover “n”)

· Одно или несколько элементарных логических событий, входящих в состав правила (сложного логического высказывания)

· Номер класса, которому соответствует данное правило

· Величина, принимающая значение от 0 до 1, которая выражает степень доверия к правилу (характеристика точности правила)

Для более детального рассмотрения множества правил, подобно тому как это делалось с деревом решений, можно обратиться к окну перекрестных ссылок (Cross-Reference).

Рис. 9. 5. Детальный разбор полученных правил в окне перекрестных ссылок

В целом, как уже говорилось, результаты в виде набора правил являются более простыми и понятными, чем в виде деревьев решений. Каждое правило ясным образом описывает связь между набором значений признаков и идентификатором класса. Более того, количество правил, сгенерированных из дерева решений, нередко оказывается несколько меньшим, чем число веток на дереве, а результат может оказаться более точным (в нашем случае этого, правда, не произошло). Вместе с тем, для больших баз данных генерация множества правил требует ощутимых временных затрат.

Усиление решения (Boosting)

Идея усиления решения заключается в конструировании не одного, как в рассмотренном выше случае, а сразу нескольких деревьев решений. При этом главное требование к таким деревьям решений заключается в том, чтобы они как можно меньше дублировали друг друга. В системе See5 данная идея реализуется следующим образом.

На первом шаге конструируется начальное дерево решений (такое дерево применительно к данным по ультразвуковой диагностике почек было рассмотрено выше). Как следует из представленных результатов, классификатор, построенный на основе начального дерева, дает ошибки на некоторых объектах. Так, в нашем случае наблюдается 5 ошибок на 74 объектах обучающей выборки (рис. 9.6).

На втором шаге при конструировании следующего дерева делается попытка избежать ранее сделанных ошибок. Следствием такой попытки считается существенное отличие второго дерева от начального. Полученное дерево также будет приводить к ошибочным решениям, но уже на других объектах. На следующем шаге работы алгоритма очередное дерево строится с учетом ошибок всех предыдущих деревьев решений.

Для запуска процесса усиления решения требуется установить флажок Boost в диалоговом окне для задания опций работы алгоритма (рис. 9.2). Кроме того, в этом же окне нужно задать общее число строящихся деревьев решений. Это число проставляется в поле trials.

Понятно, что построение множества деревьев решений требует дополнительного времени. Но временные издержки способны вполне окупиться – точность классификации, как правило, значительно повышается.

Разработчики See5 утверждают, что при использовании 10 деревьев решений ошибки классификации снижаются в среднем на 25 %. Посмотрим, как это будет выглядеть на наших числовых данных. Установим флажок Boost и в поле trials запишем цифру 3 (попробуем построить 3 дерева решений). Нажимаем OK и получаем окно отчета с информацией о результатах решения (рис. 9.6).

Рис. 9. 6. Окно отчета о результатах построения трех деревьев решений

Как следует из отчета, второе дерево решений классифицирует данные с ошибкой 23 %, а для третьего дерева эта ошибка составляет 29,7 % (вообще говоря, нумерация деревьев начинается с цифры 0). Но все три дерева решений вместе класифицируют данные без ошибок (запись в строке “boost”). Для достижения такого безошибочного результаты, как видно из отчета, потребовалось использование 9 + 6 + 9 = 24 правил.

Date: 2015-07-22; view: 623; Нарушение авторских прав; Помощь в написании работы --> СЮДА...



mydocx.ru - 2015-2024 year. (0.008 sec.) Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав - Пожаловаться на публикацию