Lezione (2025-09-29)

Statistiche di errore

Prendo per esempio un modello che da un output che è semplicemente 1 o -1.

Durante la validazione posso classificare l’output del modello per un certo input rispetto all’etichetta che aveva quell’input:

	valore output	etichetta
true positive	1	1
true negative	-1	-1
false positive	1	-1
false negative	-1	1

Le prime 2 categorie di risultati sono corrette, le altre rappresentano gli errori.

Non tutti i tipi di errori sono uguali, per esempio un sistema che erra sul dire che un fungo è commestibile avrà un alto rischio di far star male una persona (grave), mentre uno che erra sul dire che un fungo è velenoso farà soltanto perdere qualche fungo in più (meno grave).

In genere si possono dare 3 giudizi sugli errori generati da un sistema:

• accuracy: misura il numero di risposte corrette su quelle totali.

  $$\frac{\text{true positive} + \text{true negative}}{\text{total}}$$

• precision: misura il numero di risposte positive corrette su tutte quelle positive.

  $$\frac{\text{true positive}}{\text{true positive + false positive}}$$

• recall: misura il numero di risposte positive corrette sul totale delle risposte che avrebbero dovuto essere positive.

  $$\frac{\text{true positive}}{\text{true positive} + \text{false negative}}$$

Note

Nell’esempio sui funghi sopra è più importante avere un alto valore di precision piuttosto che quello di recall.

Significato matematico del valor medio

Dato un insieme di valori $\Set{x_1, \ldots, x_n}$, la media è il valore per cui la somma dei errori quadratici si minimizza:

$$m \mid \frac{d}{dm} \sum_{i=1}^n (x_i - m)^2 = 0$$

Quindi risolvendo l’equazione:

$$m = \frac{\sum_{i = 1}^n x_i}{n}$$