Kategoriskā krustentropija ir zudumu funkcija, ko izmanto vairāku klašu klasifikācijas uzdevumos. Tie ir uzdevumi, kuros piemērs var piederēt tikai vienai no daudzajām iespējamām kategorijām, un modelim ir jāizlemj, kura. Formāli tas ir izveidots, lai kvantitatīvi noteiktu atšķirību starp diviem varbūtības sadalījumiem.
Kāpēc izmantot krustentropiju, nevis MSE?
Pirmkārt, krustentropija (vai softmax zudums, bet krustentropija darbojas labāk) ir labāks klasifikācijas mērs nekā MSE, jo lēmuma robeža klasifikācijas uzdevumā ir liela(salīdzinājumā ar regresiju). … Regresijas problēmām jūs gandrīz vienmēr izmantotu MSE.
Kāda ir atšķirība starp reto šķērsenisko entropiju un kategorisko krustenisko entropiju?
Vienīgā atšķirība starp reto kategorisko krustenisko entropiju un kategorisko krustenisko entropiju ir īsto etiķešu formāts. Ja mums ir vienas etiķetes, vairāku klašu klasifikācijas problēma, etiķetes ir savstarpēji izslēdzošas katram datiem, kas nozīmē, ka katrs datu ieraksts var piederēt tikai vienai klasei.
Kā jūs interpretējat kategorisko krusteniskās entropijas zudumu?
Krusta entropija palielinās, jo prognozētā parauga varbūtība atšķiras no faktiskās vērtības. Tāpēc, paredzot varbūtību 0,05, kad faktiskā apzīmējuma vērtība ir 1, tiek palielināts šķērsta entropijas zudums. apzīmē paredzamo varbūtību starp 0 un 1 šim paraugam.
Kāpēc krustentropija ir laba?
Kopumā, kā redzam, krustentropija ir vienkārši veids, kā izmērīt modeļa iespējamību. Krusteniskā entropija ir noderīga, jo tā var aprakstīt modeļa iespējamību un katra datu punkta kļūdas funkciju. To var izmantot arī, lai aprakstītu paredzamo iznākumu salīdzinājumā ar patieso iznākumu.
