Regressione binaria

In statistica, e specificamente nell'analisi della regressione, la regressione binaria stima una relazione fra una o più variabili esplicative e una singola variabile binaria di output. Generalmente viene modellata la probabilità delle due alternative, invece che la semplice restituzione di un singolo valore, come nella regressione lineare.

La regressione binaria è tipicamente trattata come caso speciale di regressione binomiale, con un unico risultato ( $n=1$ ) e una delle due alternative considerata come caso di "successo" e codificata con il valore 1: il valore è il conteggio dei successi in una singola prova, 0 o 1. I più comuni modelli di regressione binaria sono il modello logit (regressione logistica) e il modello probit (regressione probit).

Applicazioni

La regressione binaria viene applicata soprattutto alla predizione (classificazione binaria) o alla stima dell'associazione fra variabili esplicative e output. In economia, la regressione binaria viene usata per modellare scelte binarie.

Interpretazioni

I modelli di regressione binaria possono essere interpretati come modelli con variabili latenti, unitamente a un modello di misurazione, ovvero come modelli probabilistici, che modellano direttamente la probabilità.

Modello con variabili latenti

L'interpretazione con variabili latenti è stata tradizionalmente utilizzata nei test biologici, dando origine al modello probit, in cui si assumono una varianza normale e un valore di soglia. L'interpretazione con variabili latenti trova applicazione anche in psicometria (item response theory).

Formalmente, l'interpretazione con variabili latenti postula che il risultato $y$ sia correlato a un vettore di variabili esplicative $x$ tramite

y=1[y^{*}>0]

dove $y^{*}=x\beta +\varepsilon$ con $\varepsilon \mid x\sim G$ , $\beta$ vettore di parametri e $G$ distribuzione di probabilità.

Tale modello può essere applicato in molti contesti economici. Ad esempio, il risultato può essere la decisione di un manager sull'investire o meno in un programma, $y^{*}$ è il flusso di cassa attualizzato netto atteso e $x$ è un vettore di variabili che possono avere un impatto sul flusso di cassa del programma. Allora il manager investirà solo quando si aspetta un flusso di cassa attualizzato netto positivo.^[1]

Spesso, si assume che il termine d'errore $\varepsilon$ abbia una distribuzione normale condizionata sulle variabili esplicative $x$ . Ciò porta al modello probit standard.^[2]

Modello probabilistico

Il più semplice modello probabilistico diretto è il modello logit, che modella i log-odd come funzione lineare delle variabili esplicative. Il modello logit è il "più semplice" nel senso dei modelli lineari generalizzati (o GLIM): i log-odd sono il parametro naturale per la famiglia esponenziale della bernoulliana, per cui è il più semplice da usare nei calcoli.

Un altro modello probabilistico diretto è il modello lineare di probabilità che modella la stessa probabilità come funzione lineare delle variabili esplicative. Uno svantaggio di tale modello è che, per alcuni valori delle variabili esplicative, esso può predire probabilità minori di zero o più grandi di uno.

Voci correlate

Modello lineare generalizzato (dati binari)
Modello frazionale

Note

↑ Per un esempio dettagliato, si veda: Tetsuo Yai, Seiji Iwakura, Shigeru Morichi, Multinomial probit with structured covariance for route choice behavior, Transportation Research Part B: Methodological, Volume 31, Issue 3, June 1997, p.p. 195–207, ISSN 0191-2615
↑ Bliss, C.I. (1934). "The Method of Probits". Science 79 (2037): 38–39.

Bibliografia

J. Scott Long e Jeremy Freese, 4. Models for binary outcomes: 4.1 The statistical model, in Regression Models for Categorical Dependent Variables Using Stata, Second Edition, Stata Press, 2006, pp. 131–136, ISBN 978-1-59718011-5.
Alan Agresti, 3.2 Generalized Linear Models for Binary Data, in Categorical Data Analysis, 2ª ed., 2007, pp. 68–73.

[1] Per un esempio dettagliato, si veda: Tetsuo Yai, Seiji Iwakura, Shigeru Morichi, Multinomial probit with structured covariance for route choice behavior, Transportation Research Part B: Methodological, Volume 31, Issue 3, June 1997, p.p. 195–207, ISSN 0191-2615

[2] Bliss, C.I. (1934). "The Method of Probits". Science 79 (2037): 38–39.

[1]

[2]