ID3 mit unbekannten Attributwerten

rtfm
Windoof-User
Windoof-User
Beiträge: 39
Registriert: 16. Jul 2005 14:47

ID3 mit unbekannten Attributwerten

Beitrag von rtfm »

Hallo!

Wie gehen die Trainingsbeispiele mit fehlenden Werten in die Entropieberechnung für die ganze Menge ein? (Müsste Ü7, Aufgabe1 sein)

Wie wird Gain hier berechnet? Dafür braucht man ja den Entropie Wert der ganzen Menge.

Im Voraus vielen Dank!
rtfm

axelf.
Erstie
Erstie
Beiträge: 20
Registriert: 14. Jun 2005 00:30

Beitrag von axelf. »

Die Moderatoren sind zwar wieder da, aber ich versuch trotzdem mal mein Glück :wink::

Bei der Entropie der ganzen Menge werden die Attributwerte ja nicht betrachtet. Es wird jediglich zwischen positiven und negativen Beispielen unterschieden.

Sollte ein Beispiel auftauchen, dass kein Klassenlabel besitzt, so kann man es vernachlässigen, da es für das Lernen des Konzepts ja keine Informationen enthält.

Erst bei der Unterteilung in Teilmengen (die ja anhand der Attributwerte gebildet werden) spielen fehlende Attributwerte eine Rolle. Die Entropie der Gesamtmenge berechnet sich in diesem Fall aus 9 positiven Beispielen und 6 negativen zu 0,971.

Sulzmann
Mausschubser
Mausschubser
Beiträge: 45
Registriert: 13. Nov 2006 16:02

Beitrag von Sulzmann »

Beispiele mit fehlendem:

1. Klassenattribut werden entweder komplett ignoriert oder in Teilen entsprechend der vorliegenden Klassenverteilung den Klassen zugeteilt (dann gehen diese Beispiele als Brüche in die Berechnung ein).

2. Attributwert werden bei den Berechnungen, die sich auf dieses Attribut beziehen, ignoriert.

rtfm
Windoof-User
Windoof-User
Beiträge: 39
Registriert: 16. Jul 2005 14:47

Beitrag von rtfm »

Danke für deine Antwort,

damit kann ich die Rechnung nachvollziehen.

Viele Grüße
rtfm

Antworten

Zurück zu „Archiv“