Il Markin ROI Report per Enterprise Growth TeamsLeggi ora
MARKIN
Note di campo
Manuali10 min di lettura

Machine learning churn prediction: labels, leakage e il test sbagliato

La maggior parte dei modelli di churn in produzione fallisce sulla definizione dell'etichetta, sulla feature leakage o su una valutazione che premia l'AUC invece delle decisioni. I tre rimedi, in ordine.

Romà Llambés
  • #Churn
  • #Data science
  • #Manuali
Machine learning churn prediction: labels, leakage and the wrong test

Domande frequenti

Domande che i lettori si pongono su questo.

Quale algoritmo è il migliore per la churn prediction?
I gradient-boosted trees sono la scelta predefinita pratica per i dati di abbonamento tabulari e raramente costituiscono il collo di bottiglia. La definizione delle etichette, il controllo delle leakage e la valutazione guidano gran parte delle prestazioni implementate, molto più della scelta dell'algoritmo.
Quali funzionalità predicono meglio il churn?
Quattro famiglie svolgono la maggior parte del lavoro: il decadimento dell'engagement misurato rispetto alla linea di base del cliente, eventi di fatturazione come pagamenti falliti e scadenze di sconti, attrito nel supporto irrisolto negli ultimi 14 giorni e se il cliente ha mai raggiunto il comportamento di valore principale.
Che cos'è la data leakage in un modello di churn?
Leakage è qualsiasi caratteristica non conoscibile al momento della previsione per un cliente che non aveva ancora mostrato intent, come i contatti del save-desk, le visualizzazioni di pagine di cancellazione o le finestre di engagement che si sovrappongono alla finestra di previsione. Gonfia le metriche offline e crolla al momento del deployment.
Perché l'AUC è una metrica inadeguata per i modelli di churn?
L'AUC misura la qualità della classificazione sull'intera base, ma l'intervento raggiunge solo le percentuali più alte dei clienti. Un modello può mostrare un AUC elevato e comunque classificare male nella fetta contattabile. Riporta precision e lift nel punto operativo e misura l'uplift rispetto a un holdout.
Cos'è l'uplift modelling per il churn?
I modelli di uplift classificano i clienti in base a quanto un intervento cambia il loro risultato, piuttosto che in base a quanto siano propensi al churn. Questo è importante perché i clienti certi di andarsene superano ogni elenco di propensione e assorbono budget che dovrebbe andare alla fascia intermedia persuadibile.

Visualizzalo nel prodotto

Questo funziona oggi in Markin.

Gli stessi cicli descritti in questa nota vengono eseguiti 24 ore su 24, 7 giorni su 7, sulla tua base clienti. Osserva lo spazio di lavoro decidere, sperimentare ed eseguire 1:1.