Celem laboratorium jest zapoznanie studentów z podstawowymi metodami indukcji drzew decyzyjnych.
Decision Stump
. Obejrzyj uzyskany model. Sprawdź, w jaki sposób zmiana kryterium podziału zbioru wpływa na kształt modelu. Zamień operator Decision Stump
na operator Decision Tree
i ponownie zbuduj oraz przeanalizuj model. Następnie wyłącz pre- i post-processing i sprawdź, jaki wpływ miało to na kształt modeluDiscretize
, podział na 3 przedziały), oraz zmień operator Decision Tree
na kolejno: CHAID
, ID3
, oraz Decision Tree (weight-based)
. W ostatnim przypadku jako operator wewnętrzny do ważenia atrybutów wykorzystaj operator Weight by Correlation
.Read ARFF
(wczytaj plik mushroom.arff), Set Role
(wskaż atrybut class
jako typu label
), Replace Missing Values
(pozostaw domyślne parametry), oraz uruchom proces walidacji krzyżowej wykorzystując operator Cross-Validate
. Jako operatory wewnętrzne walidacji zastosuj najpierw Decision Tree
, a potem Random Forest
. Zaobserwuj zmiany w generowanych modelach, zwróć uwagę, jaki wpływ na model losowy ma zwiększenie puli dostępnych atrybutów.gini_index
. Obejrzyj uzyskany model i macierz pomyłek. Czy model dobrze radzi sobie z rozpoznawaniem nietypowych próbek?Decision Tree
wewnątrz operatora Meta Cost
i zbuduj macierz kosztów, w którym błąd false positive będzie dwukrotnie droższy niż błąd false negative. Obejrzyj uzyskaną macierz pomyłek.Decision Tree
na Random Tree
i skonfiguruj operator w taki sposób, aby w każdej iteracji dysponował połową atrybutów do wyboru. Ponownie postaraj się tak skonfigurować macierz kosztów, aby uzyskać czułośc klasy “O” powyżej 50% przy jak najwyższej ogólnej dokładności modelu.Meta Cost
na operator Tree to Rules
pozostawiając wewnątrz indukcję drzewa decyzyjnego przy użyciu miary gini_index
. Obejrzyj uzyskany model regułowy.
Select Attributes
do wskazania, który atrybut jest zmienną celu.Edit Domain
aby wartościom zmiennej celu nadać czytelne nazwyTest Learners
i skonfiguruj operator w taki sposób, aby ocena modeli odbywała się na podstawie walidacji krzyżowej.ROC
i obejrzyj uzyskane krzywe.