Generative vs. Discriminative Models

Moderator: Algorithms of Language Technology

Benutzeravatar
John
Endlosschleifenbastler
Endlosschleifenbastler
Beiträge: 167
Registriert: 12. Dez 2008 17:41
Wohnort: E-Pool

Generative vs. Discriminative Models

Beitrag von John »

Hallo,

Auf Folie 21, Foliensatz 5 (Sequence Tagging), werden Generative Models und Discriminative Models unterschieden. So wie ich das verstanden habe, werden HMMs generell als generativ modelliert (so wie die POS-HMMs aus der Vorlesung). Wenn ich mir das aber so anschaue, sehen die HMMs, die wir in Foliensatz 4 gelernt haben (z.B. Folie 17, Foliensatz 4) aus wie discriminative models, da die Kanten mit den "Wörtern" markiert sind und zu den Zuständen führen. (Und nicht die Zustände zu den Wörtern mit einer entsprechenden Emissionswahrscheinlichkeit).

Seh ich das also richtig, dass die HMMs aus Foliensatz 4 discriminative models sind und die POS-HMMs aus Foliensatz 5 generative models? Oder handelt es sich nur um zwei einfach ineinander überführbare HMM-Formen?

Danke!
DON'T PANIC

riedl
Moderator
Moderator
Beiträge: 26
Registriert: 3. Apr 2013 12:25

Re: Generative vs. Discriminative Models

Beitrag von riedl »

Also der Unterschied ist der folgende:
Also L ist das Label das wir wissen wollen.

Discriminative versucht folgende Wahrscheinlichkeit zu berechnen: P(L|W)
bei generative processes wird das ganze umgedreht und wir berechnen:P(W|L)*P(L) um P(L|W) zu erhalten.

Benutzeravatar
John
Endlosschleifenbastler
Endlosschleifenbastler
Beiträge: 167
Registriert: 12. Dez 2008 17:41
Wohnort: E-Pool

Re: Generative vs. Discriminative Models

Beitrag von John »

Ok, danke für die Antwort.
DON'T PANIC

Antworten

Zurück zu „Algorithms of Language Technology“