Milloin käytetään l1- ja l2-regulointia?

Sisällysluettelo:

Milloin käytetään l1- ja l2-regulointia?
Milloin käytetään l1- ja l2-regulointia?
Anonim

Käytännön näkökulmasta L1 pyrkii kutistamaan kertoimia nollaan, kun taas L2 pyrkii kutistamaan kertoimia tasaisesti. L1 on siksi hyödyllinen piirteiden valinnassa, koska voimme hylätä kaikki muuttujat, jotka liittyvät kertoimiin, jotka menevät nollaan. L2 puolestaan on hyödyllinen, kun sinulla on kollineaarisia/riippuvaisia ominaisuuksia.

Mitä laillistamisesta on hyötyä Mitä ovat L1- ja L2-regulaatiot?

L1-regulointi antaa tulosteen binääripainoissa 0-1 mallin ominaisuuksille ja sitä käytetään vähentämään ominaisuuksien määrää v altavassa mittatietojoukossa. L2-regulointi hajottaa virhetermit kaikissa painoissa, mikä johtaa tarkempiin räätälöityihin lopullisiin malleihin.

Mitä eroja L1- ja L2-regulaatioiden välillä on?

Tärkein intuitiivinen ero L1- ja L2-regulaation välillä on se, että L1-regulointi yrittää estimoida datan mediaanin, kun taas L2-regulointi yrittää estimoida datan keskiarvon välttääkseen liiallisen sovituksen. … Tämä arvo on myös datan jakauman mediaani matemaattisesti.

Mitä on L1- ja L2-regulaatio syväoppimisessa?

L2-regulointi tunnetaan myös painon vaimenemisena, koska se pakottaa painot vaimenemaan kohti nollaa (mutta ei täsmälleen nollaa). L1:ssä meillä on: Tässä rankaamme painojen itseisarvosta. Toisin kuin L2, painot voidaan tässä vähentää nollaan. Siksi se on erittäin hyödyllinen, kun yritämme pakatamallimme.

Kuinka L1- ja L2-regulointi toimii?

Regressiomallia, joka käyttää L1-regulointitekniikkaa, kutsutaan Lasso-regressioksi ja mallia, joka käyttää L2:ta, kutsutaan Ridge-regressioksi. Tärkein ero näiden kahden välillä on rangaistusehto. Ridge-regressio lisää kertoimen "neliösuuruuden" sakkotermiksi tappiofunktioon.

Suositeltava: