Regularizatori ļauj piemērot sodus par slāņa parametriem vai slāņa darbību optimizācijas laikā. Šīs soda summas tiek summētas tīkla optimizētā zaudējuma funkcijā. Regularizācijas sodi tiek piemēroti katram slānim.
Kas ir aktivitāšu regulators?
Aktivitātes regulators darbojas kā tīkla izvades funkcija un galvenokārt tiek izmantots slēpto vienību regulēšanai, savukārt weight_regularizer, kā saka nosaukums, darbojas uz svariem. (piemēram, liekot tiem sabojāt).
Kad man vajadzētu izmantot aktivitāšu regulatoru?
Ja vēlaties, lai izvades funkcija izietu cauri (vai tai būtu tuvāk nogrieznis), varat izmantot novirzes regulatoru. Ja vēlaties, lai izvade būtu mazāka (vai tuvāk 0), varat izmantot aktivitāšu regulatoru.
Kā lietot Keras regulatoru?
Lai slānim pievienotu regulatoru, jums vienkārši jāievada vēlamā regularizācijas tehnika slāņa atslēgvārda argumentam 'kernel_regularizer'. Keras regularizācijas ieviešanas metodes var nodrošināt parametru, kas attēlo regularizācijas hiperparametra vērtību.
Kas ir kodols un novirze?
Blīvā klase
Dense īsteno darbību: izvade=aktivizēšana(punkts(ievade, kodols) + novirze), kur aktivizēšana ir aktivizācijas funkcija, kas tiek nodota kā aktivizācijas arguments, kodols ir svaru matrica, ko izveido slānis unnobīde ir novirzes vektors, ko izveido slānis (piemērojams tikai tad, ja use_bias ir True).
