Entropie mit Decision Tree's - Künstliche Intelligenz, neuronales Netzwerk

Dies ist eine Frage in einem früheren PrüfungsdokumentIch wurde gebeten, darauf zu schauen; die Rutsche, die wir gelernt haben, ergibt keinen Sinn. Ich verstehe, wie man eine Tabelle benutzt, um die Entropie zu erhalten, aber nicht, wie man die dafür vorgesehene Gleichung benutzt

Trainieren Sie einen Entscheidungsbaum für die Daten, die durch die unten beschriebenen Attribute A1, A2, A3 und Ergebnis C dargestellt werden:

A1 A2 A3 C
1  0  1  0
0  1  1  1
0  0  1  0

Für Protokoll₂(1/3) = 1,6 und log₂(2/3) = 0.6, beantworte die folgenden Fragen:

a) Was ist der Wert von Entropie H für die gegebene Menge von Trainingsbeispielen?

b) Wie groß ist der Anteil der positiven Proben, der nach dem Attribut A2 aufgeteilt ist?

c) Welchen Wert hat der Informationsgewinn G (A2) des Attributs A2?

d) Was ist eine FINDEN-Regel für den Entscheidungsbaum?

Antworten:

Ich nehme an, dass Teil b 3 ist. Als ob Sie 1 zu A2 in Zeile 1 oder 3 hinzugefügt hätten, würde C 1 werden.

Wenn Sie in Zeile 2 1 von A2 entfernt haben, wird C zu 0.