Kategorinen ristientropia on häviöfunktio, jota käytetään moniluokkaisissa luokittelutehtävissä. Nämä ovat tehtäviä, joissa esimerkki voi kuulua vain yhteen monista mahdollisista luokista, ja mallin on päätettävä, mikä niistä. Muodollisesti se on suunniteltu kvantifioimaan ero kahden todennäköisyysjakauman välillä.
Miksi käyttää ristientropiaa MSE:n sijaan?
Ensinnäkin ristientropia (tai softmax-häviö, mutta ristientropia toimii paremmin) on parempi mitta kuin MSE luokittelussa, koska päätösraja luokittelutehtävässä on suuri(verrattuna regressioon). … Regressioongelmiin käyttäisit melkein aina MSE:tä.
Mitä eroa on harvalla ristientropialla ja kategorisella ristientropialla?
Ainoa ero harvan kategorisen ristientropian ja kategorisen ristientropian välillä on todellisten etikettien muoto. Kun meillä on yhden etiketin, usean luokan luokitteluongelma, tunnisteet ovat toisensa poissulkevia jokaiselle tiedolle, mikä tarkoittaa, että jokainen tieto voi kuulua vain yhteen luokkaan.
Miten tulkitset kategorisen ristientropiahäviön?
Ristientropia kasvaa, kun näytteen ennustettu todennäköisyys poikkeaa todellisesta arvosta. Siksi 0,05:n todennäköisyyden ennustaminen, kun varsinaisen leiman arvo on 1, lisää ristikentropiahäviötä. tarkoittaa ennustettua todennäköisyyttä väliltä 0 ja 1 kyseiselle otokselle.
Miksi ristientropia on hyvä?
Yleensä, kuten voimme nähdä, ristientropia on yksinkertaisesti tapa mitata mallin todennäköisyys. Ristientropia on hyödyllinen, koska se voi kuvailla mallin todennäköisyyttä ja kunkin datapisteen virhefunktiota. Sitä voidaan käyttää myös kuvaamaan ennustettua lopputulosta verrattuna todelliseen lopputulokseen.
