Metriche di errore e significato della media

Statistiche di errore

Prendiamo per esempio un modello il cui output è semplicemente 1 o −1.

Durante la validazione possiamo classificare l’output del modello per un certo input rispetto all’etichetta che aveva quell’input:

	valore output	etichetta
true positive	1	1
true negative	−1	−1
false positive	1	−1
false negative	−1	1

Le prime due categorie di risultati sono corrette, le altre rappresentano gli errori.

Non tutti i tipi di errore sono uguali: per esempio, un sistema che sbaglia classificando un fungo come commestibile rischia di far stare male una persona (grave), mentre uno che lo classifica erroneamente come velenoso farà soltanto perdere qualche fungo in più (meno grave).

In genere si possono usare tre metriche per valutare gli errori generati da un sistema:

• accuracy: misura il numero di risposte corrette su quelle totali.

  $$\frac{\text{true positive}+\text{true negative}}{\text{total}}$$

• precision: misura il numero di risposte positive corrette su tutte quelle positive.

  $$\frac{\text{true positive}}{\text{true positive}+\text{false positive}}$$

• recall: misura il numero di risposte positive corrette sul totale delle risposte che avrebbero dovuto essere positive.

  $$\frac{\text{true positive}}{\text{true positive}+\text{false negative}}$$

Note

Nell’esempio sui funghi descritto sopra è più importante avere un alto valore di precision piuttosto che quello di recall.

Significato matematico del valor medio

Dato un insieme di valori $\left\{{𝑥}_1,\dots ,{𝑥}_{𝑛}\right\}$, la media è il valore per cui la somma degli errori quadratici si minimizza:

$$𝑚|\frac{d}{d𝑚}\sum _{𝑖=1}^{𝑛}{\left({𝑥}_{𝑖}-𝑚\right)}^2=0$$

Quindi risolvendo l’equazione:

$$𝑚=\frac{{\sum }_{𝑖=1}^{𝑛}{𝑥}_{𝑖}}{𝑛}$$