Regularizers sallii rangaistusten soveltamisen tasoparametreihin tai tasotoimintoihin optimoinnin aikana. Nämä sakot summataan verkon optimoimaan tappiofunktioon. Tasoitusrangaistuksia sovelletaan kerroskohtaisesti.
Mikä on toiminnan säädin?
Aktiiviteettisääntelytoiminto toimii verkon lähdön funktiona, ja sitä käytetään enimmäkseen piilotettujen yksiköiden tasoittamiseen, kun taas weight_regularizer, kuten nimi sanoo, toimii painojen kanssa. (esim. saattamalla ne rappeutumaan).
Milloin minun pitäisi käyttää aktiivisuuden säätämistä?
Jos haluat lähtöfunktion kulkevan (tai leikkauspisteen lähempänä) origon kautta, voit käyttää bias-reguloijaa. Jos haluat tulosta pienemmäksi (tai lähemmäksi nollaa), voit käyttää toimintojen säädintä.
Kuinka käytän Keras-regulaattoria?
Jos haluat lisätä tasoon regularisaattorin, sinun on yksinkertaisesti välitettävä ensisijainen säätötekniikka kerroksen avainsana-argumentille 'kernel_regularizer'. Keras-reguloinnin toteutusmenetelmät voivat tarjota parametrin, joka edustaa regularisoinnin hyperparametrin arvoa.
Mikä on ydin ja bias?
Tiheä luokka
Tiheä toteuttaa toiminnon: lähtö=aktivointi(piste(syöttö, ydin) + bias) jossa aktivointi on elementtikohtainen aktivointifunktio, joka välitetään aktivointiargumenttina, ydin on kerroksen luoma painotusmatriisi, jabias on tason luoma bias-vektori (käytettävissä vain, jos use_bias on True).
