Kad izmantot l1 un l2 regularizāciju?

Satura rādītājs:

Kad izmantot l1 un l2 regularizāciju?
Kad izmantot l1 un l2 regularizāciju?
Anonim

Raugoties no praktiskā viedokļa, L1 ir tendence samazināt koeficientus līdz nullei, savukārt L2 ir tendence samazināt koeficientus vienmērīgi. Tāpēc L1 ir noderīgs līdzekļa atlasei, jo mēs varam atmest visus mainīgos, kas saistīti ar koeficientiem, kas nonāk līdz nullei. No otras puses, L2 ir noderīga, ja jums ir kolineāras/līdzatkarīgas funkcijas.

Kāda ir regularizācijas izmantošana Kas ir L1 un L2 regularizācija?

L1 regularizācija nodrošina modeļa pazīmju bināro svaru no 0 līdz 1un tiek pieņemta, lai samazinātu līdzekļu skaitu milzīgā dimensiju datu kopā. L2 regulācija izkliedē kļūdu vārdus visos svaros, kas nodrošina precīzākus pielāgotus galīgos modeļus.

Kādas ir atšķirības starp L1 un L2 regularizāciju?

Galvenā intuitīvā atšķirība starp L1 un L2 regularizāciju ir tāda, ka L1 regularizācija mēģina novērtēt datu mediānu, savukārt L2 regularizācija mēģina novērtēt datu vidējo vērtību, lai izvairītos no pārmērības. … Šī vērtība būs arī datu sadalījuma mediāna matemātiski.

Kas ir L1 un L2 legalizācija dziļajā apmācībā?

L2 regulācija ir pazīstama arī kā svara samazināšanās, jo tā liek svariem samazināties līdz nullei (bet ne gluži nullei). L1 mums ir: Šajā mēs sodām svaru absolūto vērtību. Atšķirībā no L2, šeit svarus var samazināt līdz nullei. Tāpēc tas ir ļoti noderīgi, kad mēs cenšamies saspiestmūsu modelis.

Kā darbojas L1 un L2 regularizācija?

Regresijas modeli, kas izmanto L1 regularizācijas paņēmienu, sauc par Laso regresiju, un modeli, kas izmanto L2, sauc par Ridža regresiju. Galvenā atšķirība starp šiem diviem ir soda termiņš. Ridge regresija pievieno koeficienta “lielumu kvadrātā” kā soda termiņu zaudējumu funkcijai.

Ieteicams: