Modello next best action: propensione, uplift e ranking
Come viene costruito un modello Next Best Action: propensione, meta-learner di uplift e una funzione di ranking che assegna un punteggio al margine incrementale atteso per azione.
Marc Sanchez·
#Next Best Action
#Decisioning
#Guide
A modello Next Best Action è la funzione di punteggio che decide, per un cliente in un dato momento, quale azione candidata idonea offre il più alto valore incrementale atteso. Non è un singolo algoritmo. È uno stack: un livello di propensione che stima ciò che è probabile, un livello di uplift che stima cosa cambia un'azione, e un livello di ranking che converte entrambi in denaro e sceglie un vincitore.
La maggior parte dei team costruisce il primo livello, salta il secondo e lascia che il terzo diventi un foglio di calcolo di regole aziendali. Ecco perché così tanti programmi riportano un AUC impressionante e ricavi piatti. Questa guida copre le famiglie di modelli che funzionano in produzione, la funzione obiettivo che dovrebbe sovrastarli e come sapere se il modello è giusto piuttosto che meramente accurato.
Cosa deve produrre il modello
L'output non è un punteggio per cliente. È una matrice: per ogni cliente, un valore atteso per ogni azione idonea, inclusa l'azione nulla di non fare nulla. La decisione è l'argmax di quella riga, soggetta a vincoli.
Scrivere l'obiettivo in questo modo rende evidenti tre cose che un modello di propensione nasconde: il set di azioni candidata deve essere enumerato, ogni azione necessita di un margine e non fare nulla deve poter vincere. In un programma maturo l'azione nulla vince una gran parte delle decisioni, e questa quota è una funzionalità, non un difetto.
I tre livelli del modello
1. Propensione: gradient-boosted trees
Sui dati tabellari dei clienti, gli alberi potenziati a gradiente (XGBoost, LightGBM, CatBoost) rimangono lo standard di produzione. Gestiscono tipi misti e valori mancanti, si addestrano in pochi minuti e raggiungono la maggior parte del loro massimo qualitativo con poca messa a punto. I modelli di sequenza giustificano il loro costo solo dove l'ordine degli eventi porta più segnale del conteggio degli eventi, tipicamente tracce comportamentali lunghe nello streaming e nel gaming.
2. Uplift: meta-learners
La propensità risponde a chi è probabile che converta, faccia churn o effettui un upsell. Non risponde se l'azione cambia qualcosa. Questa è una domanda causale e i valori predefiniti pratici sono i meta-learner: T-learner (modelli separati per trattato e controllo), X-learner (più stabile in caso di squilibrio del trattamento) e R-learner (Neyman-orthogonal, più robusto agli errori di disturbo). Ciascuno racchiude la stessa logica di boosted-tree in un framework causale, quindi il costo di engineering per aggiungere uplift su una pipeline di propensione esistente è modesto.
La modalità di fallimento da tenere d'occhio è la propensione ri-etichettata come uplift. Se la parte superiore dell'elenco classificato è dominata da clienti che avrebbero comunque convertito, il programma sta pagando per un comportamento che già aveva.
3. Ranking sotto vincoli
Il livello di ranking applica idoneità, consenso, limiti di frequenza, ore silenziose, budget e regole di cannibalizzazione, quindi prende l'argmax. I vincoli appartengono qui piuttosto che all'interno del modello: cambiano settimanalmente, sono verificabili e non dovrebbero mai essere 'lavati' in pesi appresi.
Bandit contestuali e quando sono utili
I bandit contestuali allocano il traffico tra le azioni mentre apprendono, il che è utile quando il set di candidate cambia costantemente e le ricompense arrivano rapidamente. Sono meno efficaci quando l'orizzonte di ricompensa è lungo, come nel caso del margine di abbonamento, e quando è necessaria una lettura causale chiara per la finanza. Un compromesso comune in produzione: bandit per varianti creative e di offerta all'interno di un'azione, modelli di uplift per quale azione scegliere, e un holdout preservato al di sopra di entrambi.
Validazione del modello
1Offline: Qini and uplift curves. L'AUC convalida la propensione, non il decisioning. Utilizza il coefficiente di Qini e le curve uplift-at-k su un campione randomizzato held-out per verificare che i decili superiori portino davvero l'effetto del trattamento.
2Feature freezing. Calcola ogni feature al momento della decision. Qualsiasi leakage da dopo la decision gonfia le metriche offline con un ampio margine e produce un modello che fallisce silenziosamente in produzione.
3Online: a preserved holdout. Trattieni casualmente dal 5 al 15 percento dei clienti idonei per ogni decisione e leggi il margine incrementale (trattato meno holdout). Questo è l'unico numero che sopravvive a una revisione del CFO.
4Decay monitoring. L'uplift decade più velocemente della propensione, perché la base si adatta al trattamento. Riesegui il training con una cadenza fissa e mantieni una porzione randomizzata permanente per rimettere in relazione gli effetti.
Una sequenza di costruzione realistica
Settimane da 1 a 4: enumera il set di azioni candidata e assegna un margine a ciascuna, quindi rilascia una baseline di propensione con un holdout. Settimane da 5 a 10: aggiungi un T-learner o X-learner sulle due o tre azioni con il volume più elevato e passa il ranking dalla propensione al margine incrementale atteso. Dalla settimana 11 in poi: estendi il set di azioni candidata, aggiungi vincoli e lascia che l'azione nulla competa. La maggior parte del lift arriva nella seconda fase, quando l'obiettivo cambia, anziché quando cambia l'algoritmo.
Per come i modelli si inseriscono nel più ampio ciclo operativo, vedi la guida su Next Best Action, e per la versione specifica per la retention dello stesso stack, vedi previsione del churn del cliente.
Markin costruisce e riaddestra i livelli di propensione, uplift e ranking rispetto alla tua base, e legge ogni decisione rispetto a un holdout preservato. Esplora Next Best Action per vederlo dal vivo.
Domande frequenti
Domande che i lettori si pongono su questo.
Cos'è un modello next best action?
Un modello next best action è lo scoring stack che stima, per un cliente in un dato momento, il valore incrementale atteso di ogni azione eleggibile, incluso il non fare nulla, e le classifica. Combina un livello di propensione, un livello di uplift e un livello di ranking vincolato.
Quali algoritmi vengono usati per next best action?
Alberi con gradient-boosting (XGBoost, LightGBM, CatBoost) per la propensione su dati tabulari; meta-learner di uplift come il T-learner, X-learner e R-learner per l'effetto causale; e un livello di ranking argmax vincolato per la decisione finale. I contestual bandit sono utili per l'allocazione a livello di variante all'interno di un'azione.
Qual è la differenza tra un modello di propensione e un uplift model?
La propensità stima quanto è probabile un risultato per un cliente. L'uplift stima quanto un'azione specifica cambi quel risultato. Classificare per propensità spende il budget su clienti che avrebbero comunque convertito; classificare per uplift lo spende dove l'azione fa la differenza.
Come si convalida un modello Next Best Action?
Offline, con coefficienti Qini e curve uplift-at-k su un campione randomizzato e tenuto a parte, con tutte le feature bloccate al momento della decisione. Online, con un holdout preservato dal 5 al 15 percento dei clienti idonei, leggendo il margine incrementale (trattato meno holdout) per ogni decisione.
Con quale frequenza dovrebbero essere riaddestrati i modelli di uplift?
Più spesso dei modelli di propensione. Gli effetti del trattamento decadono man mano che la base si adatta al trattamento, quindi mantieni una porzione randomizzata permanente per ricalibrare gli effetti e riaddestrare con una cadenza fissa piuttosto che solo quando l'accuratezza diminuisce.
Gli stessi cicli descritti in questa nota vengono eseguiti 24 ore su 24, 7 giorni su 7, sulla tua base clienti. Osserva lo spazio di lavoro decidere, sperimentare ed eseguire 1:1.