La fonction de coût
dans Statistiques
Bonjour
Dans le cadre d'une régression logistique binaire, j'ai trouvé qu'on peut écrire la probabilité de $y$ sachant $x$ en fonction de la fonction de coût
$$\log(P(y/x)) = \log(\hat{y}^y(1-\hat{y})^{(1-y)})=y\log(\hat{y}) + (1-y)\log(1-\hat{y}) = -L(y,\hat{y}),
$$ tel que la loi de $y$ sachant $x$ est binomiale.
Ça veut dire que pour minimiser la fonction de coût, il faut maximiser la probabilité. Dans notre cas, l'algorithme va maximiser $P(y=1/x)$, ce qui va surestimer nos probabilités.
Je crois qu'un détail m'échappe. J'attends vos retours pour m'éclaircir ce point
Bien cordialement.
Dans le cadre d'une régression logistique binaire, j'ai trouvé qu'on peut écrire la probabilité de $y$ sachant $x$ en fonction de la fonction de coût
$$\log(P(y/x)) = \log(\hat{y}^y(1-\hat{y})^{(1-y)})=y\log(\hat{y}) + (1-y)\log(1-\hat{y}) = -L(y,\hat{y}),
$$ tel que la loi de $y$ sachant $x$ est binomiale.
Ça veut dire que pour minimiser la fonction de coût, il faut maximiser la probabilité. Dans notre cas, l'algorithme va maximiser $P(y=1/x)$, ce qui va surestimer nos probabilités.
Je crois qu'un détail m'échappe. J'attends vos retours pour m'éclaircir ce point
Bien cordialement.
Connectez-vous ou Inscrivez-vous pour répondre.
Réponses