O Relatório de ROI da Markin para Equipas de Enterprise GrowthLer agora
MARKIN

COMPARE/Comparação de categorias

Experimentação vs. Tomada de Decisão Contínua

+17–35% ARPU em relação ao holdoutIntervalo observado em implementações Markin, medido em coortes tratadas.

Uma plataforma de experimentação executa testes A/B/n controlados em variações predefinidas e reporta qual vence numa métrica escolhida com estatísticas válidas. O decisioning contínuo decide a ação correta por cliente, a cada ciclo, com um holdout por padrão, em toda a base, incluindo clientes que nenhum experimento alcança. Experimentos provam o que funciona; o decisioning decide quem o recebe, quem é mantido em holdout e qual é o seu valor.

Em resumo

  • Experimentation platform: Which variation performs better on this metric, and how confidently? Output: A statistical read per variation: lift, confidence interval, significance.
  • Continuous decisioning: Which action should this customer receive now, and is it worth it? Output: One action or hold per customer, ongoing, with expected value attached.
  • Um experimento apenas abrange os clientes que atingem a superfície sinalizada; o resto da base não recebe nenhuma decisão.
  • The intelligence layer sizes the revenue opportunity, the action layer chooses the treatment for every customer, and a control group is attached by default, so learning and acting share one record and the loop improves on proven numbers.

Última atualização: . As afirmações sobre outros fornecedores remetem para a fonte de onde provêm.

O que está em jogo

Uma camada de decisioning não é um item de linha de ferramenta. Ela movimenta o ARPU na base total, todos os meses.

Base instalada

3.0M

customers at $20 ARPU / month

Receita endereçável

$360.0M

por ano, base alcançável

Aumento de ARPU verificado

+17% a +35% ARPU

em coortes tratadas, contra holdout

O que isso vale

$61.2M – $126.0M

receita incremental por ano

Medido em coortes tratadas contra um holdout aleatório, lido durante uma janela de medição completa em vez das primeiras semanas. Intervalo anonimizado em implementações Markin em grandes bases B2C; o seu próprio holdout é o número que decide. As figuras acima aplicam essa faixa à parcela alcançável da base, com base nas premissas desta página; elas são aritméticas, não uma previsão para o seu negócio.

Execute-o com os seus próprios números

What each one actually does.

01

Plataforma de Experimentação

Uma plataforma que executa testes A/B/n controlados e *bandits* em variações predefinidas, numa métrica de sucesso definida, e reporta o *lift* com significância e intervalos de confiança.

02

Tomada de decisão contínua

Uma camada que decide a ação certa por cliente, a cada ciclo, em toda a base, selecionando tratamentos, dimensionando a receita e atribuindo um grupo de controlo por predefinição.

Lado a lado

As diferenças que mudam os resultados.

DimensãoPlataforma de ExperimentaçãoTomada de decisão contínua
Questão que respondeQue variação tem melhor desempenho nesta métrica, e com que confiança?Que ação deve este cliente receber agora e vale a pena?
Entrada primáriaVariações, uma métrica de sucesso, alocação de tráfego, segmentação de público.Oportunidades, tratamentos, modelos de uplift, margens, custos, resultados de experimentos anteriores.
Saída primáriaUma leitura estatística por variação: lift, intervalo de confiança, significância.Uma ação ou hold por cliente, contínua, com valor esperado associado.
Proprietário habitualProduto, engenharia, experimentação.Crescimento, ciência de dados, liderança de receita.
Como é medidoLift na métrica escolhida com significância e intervalo de confiança.ARPU Incremental e receita em relação a um holdout.

Job to be done

O mesmo trabalho, com um rendimento diferente.

Nada do que se segue precisa de uma ferramenta que não existe. Precisa que o trabalho aconteça continuamente em vez de uma vez por trimestre, e que seja comprovado contra um holdout em vez de ser discutido.

Job to be done, comparado entre With experimentation platform alone and Com Markin
Job to be doneWith experimentation platform aloneCom Markin
Observe que a receita por cliente está a desviar num segmentoAlguém percebe isso numa revisão de dashboard, semanas depois de ter começado.Detetado como um sinal no dia em que o drift elimina o ruído, com o segmento já dimensionado.
Explicar porque está a acontecerUm analista é retirado do roadmap para uma investigação de duas semanas.Uma investigação é executada automaticamente e retorna os *drivers* com as suas evidências.
Crie hipóteses que valham a pena testarUm workshop produz o punhado de ideias que a sala teve por acaso.As hipóteses são escritas continuamente em marketing, produto, precificação e saúde técnica.
Decidir quais hipóteses merecem orçamentoPriorizado por senioridade e intuição, sem tamanho anexado.Cada um é dimensionado em receita e classificado antes que algo seja construído.
Escolha o Next Best Action para um clienteAs regras do Segment e os calendários de campanhas decidem, atualizados quando alguém tem tempo.Escolhido por cliente, por momento, contra tudo o resto que compete por esse cliente.
Lançar de factoUm ticket para a equipa de ciclo de vida e, em seguida, um lugar no calendário do próximo mês.Executado dentro dos sistemas que já utiliza, sem um novo canal para adotar.
Comprovar que causou a receitaReportado contra não-qualificados ou um holdout global, se tanto.Cada decision tem um control group aleatório; o uplift é lido em relação a ele.
Mata o que não funcionaOs programas sobrevivem porque ninguém se encarrega de os descontinuar.Falhar em superar o controlo desativa o programa automaticamente.
Fazer tudo de novo na próxima semanaCom capacidade limitada: de quatro a oito testes por trimestre.Centenas de hipóteses em andamento em paralelo, continuamente.

A parte não resolvida

Porque é que um programa forte de experimento ainda não é um sistema de decisioning

Experimentation testa algumas hipóteses ao ritmo que uma equipe consegue lançar, nas surfaces que carregam uma flag. Prova o que funciona; não decide quem deve recebê-lo, atua sobre clientes que uma flag nunca alcança, ou se mantém quando nada tem valor positivo.

  • Um experimento apenas abrange os clientes que atingem a superfície sinalizada; o resto da base não recebe nenhuma decisão.
  • Cada experimento relata uma métrica; nada resume o efeito de tudo o que um cliente viu num único número de receita.
  • Um holdout é uma divisão de tráfego dentro de um experimento, não um grupo de controlo anexado a cada decisão comercial em toda a propriedade.
  • O backlog de hipóteses chega à velocidade que a equipa consegue escrever especificações, não à velocidade com que os dados mudam.

A diferença real

Markin não é mais um motor de decisão.

Markin não é um motor de decisão. Um motor de decisão classifica ações que um humano já definiu. Markin funciona como uma equipa de data science e growth: formula as suas próprias hipóteses sobre o porquê de o ARPU estar estagnado – marketing, produto, precificação ou técnico –, dimensiona-as, executa-as nos sistemas que já utiliza, e lê cada uma contra um holdout.

 Um motor de decisioningMarkin
De onde vem a hipóteseUm humano o cria. O motor escolhe entre opções que alguém já aprovou.A Markin cria-a. Lê a base, encontra onde a receita está a vazar ou não é reclamada, e escreve a hipótese em si.
O que está autorizado a questionarMensagem, oferta, canal, momento, dentro da superfície da campanha que lhe foi dada.Tudo o que move o ARPU: atrito no onboarding, preços e embalagens, uma funcionalidade que ninguém adota, um pico de falha de pagamento, um deeplink quebrado.
Quem faz a análiseOs seus analistas, antes e depois. O motor otimiza; não investiga.A Markin faz a análise. A quantificação, definição de segmento, design e leitura de experimento são automatizados de ponta a ponta.
Onde paraNa recomendação. Alguém ainda tem de o construir e lançar.É lançado. A Markin executa dentro das suas plataformas e superfícies de produto existentes, e depois fecha o ciclo no resultado.
ThroughputTantas hipóteses quanto o seu roteiro permitir, tipicamente algumas por trimestre.Centenas em paralelo, cada uma com um grupo de controlo.
O que acontece quando está erradoO programa continua a correr até que alguém o revise.É automaticamente desativado. Não conseguir superar o controlo é um resultado normal e de baixo custo.

Um motor de decisioning seleciona a melhor ação de uma lista que você escreveu. A Markin escreve a lista e executa-a na sua pilha.

Espaço de hipóteses

Tudo o que um cientista de crescimento humano analisaria.

A maioria dos problemas de crescimento não são problemas de mensagem. Markin não está restrito à superfície da campanha: se algo está a impedir o ARPU de crescer, está dentro do âmbito e é testado da mesma forma.

Marketing

A superfície clássica, mas escolhida por cliente em vez de por segmento, e sempre contra um holdout.

  • Que oferta este cliente específico vale a pena fazer
  • Channel e tempo escolhidos por pessoa, não por campanha
  • Pressão de contacto e fadiga arbitradas em todos os programas
  • Economia de recuperação: quem merece um desconto e quem não

Produto

Onde o cliente realmente experimenta o valor, e onde a maior parte da perda de receita silenciosa acontece.

  • Etapas de onboarding que perdem clientes antes do primeiro valor
  • Uma funcionalidade com alta correlação de retenção que metade da base nunca descobre.
  • Posicionamento do Paywall e do prompt de upgrade
  • Interfaces no produto usadas como grupo de tratamento, não apenas e-mail e push

Comercial

Preços, embalagem e a forma da própria oferta, testados em vez de discutidos.

  • Estrutura do plano e do pacote por coorte
  • Profundidade de desconto em relação à margem, não apenas à conversão
  • Estruturação anual versus mensal por cliente
  • Sequências de recuperação de cobrança e churn involuntário

Saúde técnica

Anomalias que ninguém pediu para procurar. Esta é a categoria que nenhum motor de decisão cobre.

  • Uma taxa de erro de checkout que aumentou num dispositivo e numa região.
  • Falhas de pagamento concentradas num único emissor ou método
  • Um deeplink quebrado a matar silenciosamente uma jornada de alto valor
  • Latência ou degradação da entrega a consumir a conversão antes de qualquer mensagem

Pense na Markin como uma equipa de data science e growth que nunca dorme: investiga, forma hipóteses, implementa-as no seu próprio stack e prova cada uma contra um grupo de controlo, num volume que nenhuma equipa humana pode alcançar.

O loop

A execução é um passo no ciclo, não uma entrega.

  1. 01

    Observar

    A Markin lê o sinal comportamental, transacional e de produto que você já recolhe, continuamente.

  2. 02

    Hipótese

    Escreve a hipótese em si, marketing, produto, comercial ou técnica, e declara a direção esperada.

  3. 03

    Dimensionar

    Cada oportunidade é classificada por valor esperado, então a fila é ordenada por dinheiro em vez de por opinião.

  4. 04

    Design

    Segmento, tratamento, guardrails e um holdout aleatório são definidos antes de qualquer envio.

  5. 05

    Executar

    É lançado dentro dos sistemas que já utiliza, a sua plataforma de envolvimento, as suas superfícies de produto, as suas APIs. Nada espera numa fila de desenvolvimento.

  6. 06

    Ler

    Os resultados são medidos contra o holdout durante uma janela completa, para que a novidade não seja confundida com o efeito.

  7. 07

    Escalar ou reformar

    O que supera o controlo é escalado na base. O que não supera é automaticamente desativado.

Onde a Markin se encaixa

Não é um substituto. Uma equipa de growth-science no topo.

Markin trata os resultados do experimento como um dos inputs para a decisão. A camada de inteligência dimensiona a oportunidade de receita, a camada de ação escolhe o tratamento para cada cliente e um grupo de controlo é anexado por predefinição, para que a aprendizagem e a atuação partilhem um único registo e o loop melhore com base em números comprovados.

Os resultados do experimento alimentam a decisão, não um backlog

O que um teste provou torna-se um input para o próximo ciclo de decisões, de modo que o programa se compõe em vez de produzir aprendizagens isoladas.

Cada cliente recebe uma decisão, a cada ciclo

Clientes que uma flag nunca alcança ainda recebem uma ação, uma gravação, um anexo, uma retenção, medida contra o controlo nos canais que utilizam.

Um holdout em cada decisão, não em cada experimento

O grupo de controlo está anexado a cada ação comercial, pelo que o número reportado é a receita incremental por decisão, não um lift ao nível do programa.

Porque a Markin ganha

Mais poderoso do que qualquer coisa nesta página.

Cada ferramenta com a qual a Markin é comparada foi construída para uma tarefa que termina antes que a receita se mova: entregar a mensagem, unificar os dados, pontuar o lead. A Markin foi construída para um único resultado, aumentar o ARPU, e possui o ciclo completo que leva a isso: investigar, hipotetizar, lançar, medir e escalar, em marketing, produto, preços e saúde técnica.

Aprendizagem ultrarrápida, por design

A Markin Growth Science executa o ciclo completo de observar, criar uma hipótese, fazer um experimento e ler em dias, com centenas de experimentos com holdout em paralelo. O sistema acumula aprendizagem a um ritmo que nenhuma equipa humana, e nenhuma ferramenta de campanha, consegue igualar.

growth operations, eficientes

A quantificação, o design do segmento, a construção, o lançamento e a medição costumavam ser quatro equipas e um sprint. Na Markin, são um único sistema, para que a mesma growth operation envie mais ações de receita com uma fração do custo de coordenação.

Um resultado: ARPU

Cada hipótese é dimensionada em receita esperada por cliente, cada ação é julgada contra um holdout aleatório, e tudo o que supera o controlo escala automaticamente pela base. Nada mais nesta página é medido dessa forma.

Se o objetivo é aumentar o ARPU através de um aprendizado ultrarrápido e executar growth operations de forma mais eficiente, a escolha é a Markin.

Modelo operacional

A restrição não são as ideias. É quantas pode testar.

 Today, with experimentation platformCom Markin por cima
Hipóteses de receita testadas por trimestre4 a 8, o que o roadmap permitisseCentenas, geradas e executadas em paralelo
Sobre o que pode ser criada uma hipóteseMensagens, ofertas e públicos-alvo, a superfície da campanhaMarketing, produto, preços e saúde técnica, todos igualmente
Da decisão à entrada em vigor no canalUm ticket, uma fila de construção, uma janela de lançamentoMarkin lança-o nas suas plataformas existentes autonomamente.
Tempo da ideia a um resultado em que confia6 a 10 semanas de análise, construção e apresentação de resultadosDias, porque o dimensionamento e o design são automatizados
Proporção de decisões com um grupo de controloOs programas emblemáticos, quando há tempoCada decisão, por defeito
Cobertura da baseSegmentos principais e os clientes que uma regra apanhouUma decisão por cliente, em toda a base
Custo de testar a 500ª hipóteseOutro analista, outro trimestreEfetivamente zero
No que a equipa gasta o seu tempoPuxando dados, criando listas, reconciliando relatóriosJulgamento: restrições, economia, o que escalar

Markin não substitui a sua equipa de ciência de dados. Remove o teto sobre quanto da base essa equipa pode atuar e a rapidez com que descobre se funcionou.

Padrão de evidência

A maior parte desta categoria reporta o seu próprio lift.

Nenhum dos principais fornecedores de engajamento, CDP ou personalização publica um valor de uplift verificado independentemente para o seu produto de decisão. Onde existem números, estes provêm de estudos encomendados por fornecedores ou estudos de caso de um único cliente sem metodologia de holdout divulgada. A pesquisa pública mais rigorosa na categoria não é lisonjeira para ninguém, incluindo nós, e é exatamente por isso que construímos contra ela.

Como a Markin se compromete

  • Cada decision que o Markin toma tem um control group. O uplift é reportado em relação a esse holdout, não em relação aos clientes que não se qualificaram.
  • Os resultados são lidos durante uma janela de medição completa, em vez de nas primeiras semanas, para que a novidade não seja confundida com o efeito.
  • Os programas que não conseguem superar o controlo são descontinuados automaticamente. Terminar decisões que não compensam faz parte do ciclo, não de uma revisão anual.
  • O único número que citamos sobre nós é uma gama, não uma média: +17% a +35% ARPU em coortes tratadas contra um holdout aleatório, em implementações Markin em grandes bases B2C. Não publicamos nenhum benchmark da indústria, porque não conseguimos encontrar um que estivéssemos dispostos a defender. O seu holdout é o número que importa.

Dimensiona-o tu mesmo

O valor do seu programa de experimentação quando ele decide continuamente

Pré-carregado para um negócio de consumo que executa um programa de experimentação em escala: os testes são executados em superfícies sinalizadas e reportam significância nas métricas escolhidas. A figura abaixo representa a margem incremental disponível ao atuar sobre cada cliente em cada ciclo, não apenas onde uma sinalização é implementada, com um grupo de controlo por predefinição, em vez de uma leitura de significância por experimento.

A sua base

3.0M

Contas que geraram receita nos últimos 30 dias. Não utilizadores registados.

$20

Receita recorrente mais não recorrente dividida por clientes ativos.

60%

Margem na próxima unidade vendida, não margem combinada da empresa.

O seu programa hoje

50%

Com consentimento, não fatigado, contactável em pelo menos um canal.

2.8%

Receita perdida para cancelamentos a cada mês, como uma parte da base.

A aposta

$1.0M

Licenças, dados, incentivos e as pessoas que os gerem.

3%

Antes de qualquer corte de incrementalidade. 2–4% é uma suposição de planeamento defensável.

Impacto anual verificado

$3.5M

Margem bruta incremental líquida no caso central, após o custo do programa e após a quota de programas de decisioning que a pesquisa independente conclui não entregarem qualquer lift real.

Uplift reportado

$10.8M

What a before/after dashboard would claim, with no control group.

Aumento verificado

$7.6M

What survives a holdout in the central case.

Retorno sobre o custo do programa

4.5×

Retorno

3 mo

Se 20–40% disso não fizer nada

Melhor cenário · 20% sem lift$4.2M
Caso central · 30% sem lift$3.5M
Pior cenário · 40% sem lift$2.9M

O que é preciso para provar isso

Para detetar um(a) 3% de lift na receita por cliente, necessita de aproximadamente 40K clientes no braço de controlo, cerca de 2.7% da sua base endereçável, lido em pelo menos 8 weeks, para que a novidade não seja confundida com efeito.

Base endereçável

1.5M

Receita em risco de churn

$207.9M

Annualised, at the current monthly rate.

Abra a calculadora completa, com o método por trás dela

Time to value

90 dias para um número que sobreviveu a um holdout.

Nenhum replatform, nenhuma migração de dados, nenhuma reconstrução dos canais que já opera. Se as primeiras cohorts não superarem o controlo, nada escala e perdeu um trimestre, não um roadmap.

  1. Semanas 0–2

    Leia o contexto que já possui

    A Markin conecta-se aos dados e aos canais que você utiliza atualmente, incluindo o experimentation platform. Sem migração, sem replatform, sem nova fonte de verdade.

  2. Semanas 3–6

    Primeiras oportunidades dimensionadas em teste

    As Oportunidades são classificadas por valor esperado, os tratamentos são escolhidos por cliente, e as primeiras coortes são lançadas com um holdout randomizado anexado.

  3. Semanas 7–12

    Primeira receita incremental verificada

    Os resultados são lidos durante uma janela de medição completa. O que supera o controlo é escalado; o que não supera é retirado. Nada é escalado com base num número que não sobreviveu a um holdout.

Quando não precisa de Markin.

  • Você executa alguns experimentos por trimestre e a equipa ainda consegue raciocinar sobre quem deve receber o vencedor.
  • Cada decisão do cliente já flui através de uma superfície sinalizada, portanto não há base não abordada para agir.
  • A sua métrica de sucesso não pode ser ligada à receita, então nem os experimentos nem as decisões podem ser valorizados.

Ver no produto

Veja-o decidir, experimentar e executar, antes de falar com alguém.

Um tour guiado pelo workspace Markin num cliente demo, sem call de vendas, sem configuração.

Perguntas que os compradores fazem.

A tomada de decisões contínua é apenas executar testes A/B o tempo todo?

Não. A execução contínua de testes ainda testa algumas hipóteses a uma cadência humana em superfícies sinalizadas. O decisioning contínuo atua sobre cada cliente, a cada ciclo, com um grupo de controlo por predefinição, incluindo clientes que nenhum experimento alcança. Os experimentos provam o que funciona; o decisioning decide quem recebe e quem fica de fora.

A experimentação e a decisão entram em conflito?

Não. Eles são complementares. A experimentação prova quais tratamentos funcionam; o decisioning usa esses resultados como um input, escolhe quem recebe o tratamento comprovado e mantém o resto contra um grupo de controlo. A aprendizagem e a atuação partilham um único registo.

E os multi-armed bandits, eles não decidem?

Bandits alocam tráfego entre variações dentro de um experimento para maximizar a recompensa durante o teste. Eles otimizam o teste que você já escreveu; eles não decidem qual oportunidade vale a pena testar, não agem sobre clientes fora da superfície sinalizada, ou não se mantêm quando nenhuma ação tem valor positivo.

Em que é que a Markin é diferente do decisioning ou da AI já existentes no experimentation platform?

Um motor de decisioning classifica as ações que um humano já definiu, dentro da superfície de campanha que lhe foi dada. A Markin forma as hipóteses por si mesma, marketing, produto, preço ou uma anomalia técnica que esteja a atrasar o growth, dimensiona-as, executa-as dentro do experimentation platform e das suas superfícies de produto, e lê cada uma contra um holdout aleatório. Comporta-se como uma equipa de data science e growth, e não como um otimizador.

O Markin testa apenas mensagens e ofertas?

Não. Tudo o que um growth scientist humano investigaria está dentro do âmbito: fricção no onboarding, adoção de funcionalidades, precificação e empacotamento, cobrança e problemas de saúde técnica, como uma taxa de erro no checkout ou um deeplink quebrado que silenciosamente está a matar a conversão. Marketing é um dos quatro domínios de hipóteses, não o limite.

O que é the business case for adding Markin on top of experimentation platform?

On the assumptions preloaded above, 3.0M customers at 20 a month, um pequeno movimento no ARPU representa um grande número em termos absolutos, porque se aplica a toda a base instalada todos os meses, e não a uma campanha. Nos deployments da Markin, o intervalo verificado em coortes tratadas é de +17% a +35% ARPU contra um holdout aleatório. O objetivo não é ter mais mensagens: é encontrar a ação de maior valor por cliente, lançá-la e comprová-la contra o controlo antes de dimensionar.

Quanto tempo até se pagar?

As primeiras oportunidades dimensionadas estão em teste dentro de seis semanas e o primeiro resultado holdout-verified chega dentro de 90 dias. O payback depende da sua base, margem e custo do programa, a calculadora nesta página calcula-o a partir dos seus próprios números, após aplicar o haircut de 20% a 40% que a BCG encontra quando os programas de next-best-action são incrementality-tested.