Կատեգորիայի խաչմերուկը կորստի ֆունկցիա է, որն օգտագործվում է բազմակարգ դասակարգման առաջադրանքներում: Սրանք առաջադրանքներ են, որտեղ օրինակը կարող է պատկանել բազմաթիվ հնարավոր կատեգորիաներից միայն մեկին, և մոդելը պետք է որոշի, թե որն է: Ֆորմալ կերպով, այն նախատեսված է երկու հավանականության բաշխումների տարբերությունը քանակականացնելու համար:
Ինչու՞ օգտագործել խաչաձև էնտրոպիան MSE-ի փոխարեն:
Նախ, խաչաձև էնտրոպիան (կամ softmax կորուստը, բայց խաչաձև էնտրոպիան ավելի լավ է աշխատում) դասակարգման համար ավելի լավ չափում է, քան MSE, քանի որ դասակարգման առաջադրանքում որոշման սահմանը մեծ է(համեմատած ռեգրեսիայի հետ): … Ռեգրեսիայի խնդիրների դեպքում դուք գրեթե միշտ կօգտագործեք MSE-ը:
Ի՞նչ տարբերություն կա նոսր խաչային էնտրոպիայի և դասակարգային խաչի էնտրոպիայի միջև:
Սակատեգորիկ խաչաձև էնտրոպիայի և կատեգորիկ խաչաձև էնտրոպիայի միջև միակ տարբերությունը ճշմարիտ պիտակների ձևաչափն է: Երբ մենք ունենք մեկ պիտակի, բազմակարգ դասակարգման խնդիր, պիտակները փոխադարձաբար բացառվում են յուրաքանչյուր տվյալների համար, ինչը նշանակում է, որ տվյալների յուրաքանչյուր մուտք կարող է պատկանել միայն մեկ դասի:
Ինչպե՞ս եք մեկնաբանում խաչաձև էնտրոպիայի կատեգորիկ կորուստը:
Խաչ էնտրոպիան մեծանում է, քանի որ նմուշի կանխատեսված հավանականությունը շեղվում է իրական արժեքից: Հետևաբար, 0,05 հավանականության կանխատեսումը, երբ փաստացի պիտակը ունի 1 արժեք, մեծացնում է խաչային էնտրոպիայի կորուստը: նշանակում է կանխատեսված հավանականությունը 0-ի և 1-ի միջև այդ նմուշի համար:
Ինչու է խաչաձեւ էնտրոպիան լավ:
Ընդհանուր առմամբ, ինչպես տեսնում ենք, խաչաձև էնտրոպիան պարզապես մոդելի հավանականությունը չափելու միջոց է: Խաչաձև էնտրոպիան օգտակար է, քանի որ այն կարող է նկարագրել, թե որքան հավանական է մոդելը և յուրաքանչյուր տվյալների կետի սխալ ֆունկցիան: Այն կարող է օգտագործվել նաև կանխատեսված արդյունքը նկարագրելու համար՝ համեմատած իրական արդյունքի հետ:
