Saltar al contenido principal

Nodo de experimento

El nodo de experimento divide a las personas entre varias rutas y, de forma opcional, elige una ganadora cuando hay suficientes datos. Úsalo siempre que quieras probar dos o más variantes de un flujo posterior: asuntos, horarios de envío, contenido de mensajes o incluso lógica de ramificación.

Cómo funciona, de un vistazo

Cada persona que llega al nodo de experimento se dirige a exactamente una ruta. La ruta determina lo que ocurre después en el Canvas: cada una tiene su propia conexión de salida, que enlazas con el nodo que deba ejecutarse para esa variante.

El nodo de experimento gestiona tres conceptos:

  1. Tipo de ruta: la estrategia de enrutamiento - Estándar / Elegir ganadora / Personalizada - .
  2. Distribución de rutas: cómo se reparte el tráfico entre las rutas.
  3. Tipos de ruta especiales: rutas normales, grupos de control - sin tratamiento - y grupos de espera - se retienen hasta elegir ganadora - .

Tipos de ruta

Abre la configuración del nodo de experimento y elige uno de los tres modos en la parte superior de la pestaña Experimento.

Estándar

Una división A/B/n simple. Las personas se distribuyen entre las rutas según los porcentajes que definas, indefinidamente. Nunca se elige ganadora: las variantes se ejecutan siempre. Úsalo cuando quieras mantener varias variantes activas en paralelo o compararás tú los resultados.

Elegir ganadora

La misma distribución inicial que Estándar, pero el sistema declara automáticamente una ganadora cuando tiene evidencia suficiente o se alcanza el límite de tiempo de la prueba. Después, el 100 % de las nuevas personas se dirige a la ruta ganadora. Úsalo para pruebas de contenido en las que quieres que el sistema decida y consolide el resultado.

Al elegir la ganadora, el sistema usa P(mejor) bayesiana: la probabilidad de que una ruta sea realmente la mejor, calculada con los datos disponibles. Está calibrada para supervisión continua: el programador comprueba cada 5 minutos sin distorsionar el cálculo. Cuando una ruta supera el umbral de confianza - 95 % de forma predeterminada - , gana.

Personalizada

Cada persona se dirige mediante un modelo de ML que predice la ruta que mejor encaja según sus atributos e historial de eventos. No se declara una única ganadora: distintas personas reciben distintas rutas de forma continua. Úsalo cuando «la mejor ruta» depende de quién sea la persona.

Una pequeña retención - 20 % de forma predeterminada - sigue recibiendo la división A/B aleatoria para que el sistema pueda medir cuánto incremento aporta realmente el modelo de ML.

El modelo de ML se reentrena cada día a las 03:30 UTC en todos los espacios de trabajo activos. Hasta que exista un modelo para tu espacio de trabajo, las personas usan una división aleatoria como alternativa: las predicciones fallan silenciosamente y el trabajador utiliza asignación por hash.

Distribución de rutas

Es el bloque grande de tarjetas del centro del modal. Cada tarjeta corresponde a una ruta:

  • Escribe un nombre; haz clic en el lápiz para cambiarlo en línea.
  • Define su porcentaje. La barra superior muestra el total; debe ser 100 antes de guardar.
  • Haz clic en la papelera para eliminarla. Deben quedar al menos 2 tratamientos; control y espera siempre se pueden eliminar.

Distribuir uniformemente reparte el tráfico restante solo entre las rutas de tratamiento; control y espera conservan sus porcentajes reservados.

Grupo de control

Un control es una ruta que sale inmediatamente del experimento sin tratamiento. Las personas dirigidas aquí continúan por el Canvas como si el experimento no existiera. Sirve para medir el incremento: «¿los tratamientos han producido realmente un cambio frente a no hacer nada?»

  • Añádelo con + Añadir control.
  • Solo puede haber un control por experimento.
  • Se excluye de la elección de ganadora: el control es la base de comparación, no algo que optimizar.

Grupo de espera

Está disponible en los modos Elegir ganadora y Personalizada. Las personas dirigidas aquí quedan en espera hasta que se declare la ganadora o se entrene el modelo, y después avanzan.

  • Añádelo con + Añadir espera; es opcional y solo se requiere si quieres proteger las entradas tardías.
  • En Elegir ganadora, las personas en espera se dirigen a la ruta ganadora cuando se declara.
  • En Personalizada, se dirigen según el modelo de ML cuando termina la ventana de prueba.
  • Si el experimento termina sin declarar ganadora - la alternativa de significación estadística está en «mezcla» - , las personas en espera se liberan como completadas y salen del Canvas.

¿Qué tamaño debe tener la espera? Es una compensación:

  • Baja - 0 a 10 % - : la mayoría recibe tratamientos de inmediato y el aprendizaje es más rápido.
  • Alta - 20 a 50 % - : más personas esperan de forma segura a la ganadora.
  • Sugerencia predeterminada: 0 % - no usar espera - , salvo que tengas un motivo concreto para retener personas.

Configuración de Elegir ganadora

Visible cuando el tipo de ruta es Elegir ganadora; también aparece en Personalizada para ajustar las condiciones de parada del modelo.

ConfiguraciónFunción
La ganadora se decide porLa métrica que optimiza el sistema: tasa de apertura, tasa de clic, evento de conversión o evento personalizado.
Ventana de pruebaTiempo máximo de ejecución antes de declarar; cuenta desde la entrada de la primera persona tratada.
Evento personalizadoObligatorio si la métrica ganadora es «Evento personalizado». Elige entre los eventos registrados del espacio de trabajo.
Puntuar porPara eventos personalizados: número de eventos - predeterminado - o suma de una propiedad numérica, como los ingresos.
Alternativa de significación estadísticaAl llegar al límite temporal, si los resultados no son significativos: Enviar la ruta con mejor rendimiento - declara la mejor hasta ese momento - o Continuar mezcla - sigue dividiendo, sin ganadora - .
Modo de experimentoEstándar - fija la ganadora al declararla - o Bandido - reequilibra continuamente hacia la líder - .

Modo bandido

Una implementación de «bandido real» mediante muestreo de Thompson con una ventana móvil.

  • Cada persona aporta una muestra nueva; no existe un estado de ganadora declarada. La distribución se desplaza continuamente hacia la ruta que gana en ese momento.
  • Una ventana de aprendizaje - 7 días de forma predeterminada - descarta datos antiguos para que el bandido se adapte a los cambios. Una «ganadora de invierno» deja de dominar en verano cuando esos datos quedan fuera de la ventana.
  • Ajusta la ventana con Ventana de aprendizaje de bandido (días) en Configuración adicional.

Usa Bandido cuando:

  • El rendimiento pueda variar con el tiempo - contenido estacional u ofertas sensibles a la hora del día - .
  • Quieras una optimización continua en vez de una ganadora fija.

Pestaña Configuración adicional

ConfiguraciónPredeterminadoNotas
Nivel de confianza95 %El umbral que debe superar P(mejor) para declarar una ganadora. Cuanto mayor, más riguroso y más lento.
Muestra mínima por ruta100No declares ganadora hasta que cada tratamiento tenga al menos este número de personas. Evita victorias prematuras con muestras pequeñas.
Ventana de conversión (horas)72Para las métricas «Evento de conversión» y «Evento personalizado»: cuánto tiempo después de entrar se cuentan las conversiones.
Ventana de aprendizaje de bandido (días)7Solo para modo Bandido. Solo cuentan para el muestreo de Thompson los eventos de los últimos N días.

Pestaña Resultados

Cuando el nodo de experimento se guarda dentro de un recorrido en ejecución, su configuración incorpora una pestaña Resultados. Los resultados aparecen solo después de que los contactos empiecen a pasar por el nodo.

  • Estadísticas por ruta: para cada ruta, contactos que entraron y tasas de apertura, clic y conversión.
  • Insignia de líder o ganadora: destaca la ruta que lidera actualmente y la ganadora declarada cuando exista.
  • Lectura de significación estadística: muestra el valor p para saber si la diferencia entre rutas ya es real.
  • Declarar ganadora: acción por ruta para fijar manualmente esa ruta como ganadora.
  • Restablecer experimento: borra los resultados acumulados y empieza de nuevo la prueba.

Volver a aleatorizar al reingresar

Una casilla independiente visible solo en modo Estándar. De forma predeterminada, la misma persona recibe la misma ruta cada vez que vuelve a entrar en el Canvas - hash determinista - . Actívala para volver a sortear la ruta en cada entrada. Rara vez es necesaria, pero resulta útil en pruebas donde ver variantes diferentes forma parte del recorrido.

Analítica

Haz clic en el nodo de experimento de un Canvas activo para abrir el panel de analítica. Muestra:

  • Insignia de estado: «Optimizando continuamente» para bandido, «Personalizando por persona» para personalizada y «Ganadora declarada» / «Recopilando datos» / «Detenido» para estándar.
  • Barra de distribución: vista proporcional de la asignación actual entre rutas.
  • Tabla de estadísticas: por ruta, entradas, entregas, aperturas, clics, tasa actual y una columna P(mejor) con la probabilidad bayesiana en vivo de que sea la mejor ruta.
  • Banner de ganadora: cuando se declara, indica qué ruta, cuándo y cómo - significación estadística o límite temporal - .
  • Banner de personas en espera: indicador operativo de cuántas personas están retenidas.
  • Banner de liberación reciente: aparece hasta 24 horas después de liberar a personas en espera hacia la ganadora.

Panel entre experimentos

En Analítica → Paneles, la nueva fuente de datos «Experimento» añade un widget de cuadrícula que muestra de un vistazo todos los experimentos del espacio de trabajo: estado, líder, P(mejor), ganadora y cola de espera. Filtra por estado, tipo de ruta o Canvas y busca por nombre. Se actualiza cada 30 segundos.

Patrones habituales

Prueba A/B de asuntos (Estándar). Dos rutas, división 50/50 y ambas conectadas a nodos de envío de email con asuntos diferentes. No se elige ganadora: evaluarás los resultados manualmente después de una semana.

Elegir ganadora en un flujo de onboarding. Tres rutas con secuencias de onboarding distintas, modo Elegir ganadora, métrica ganadora = evento personalizado «onboarding completado» y ventana de prueba de 7 días. Añade un grupo de espera del 20 % para dirigir de forma segura a las entradas tardías hacia la ganadora. Usa «mejor» como alternativa de significación estadística para obtener siempre una decisión.

Bandido de hora de envío. Dos rutas con esperas distintas antes del email. Modo Bandido, métrica ganadora = tasa de apertura y ventana de aprendizaje de 7 días. La distribución se desplaza continuamente hacia la hora que mejor está funcionando últimamente.

Recomendaciones personalizadas. Tres rutas con recomendaciones de categorías de productos diferentes. Modo Personalizada y retención del 20 %. Con el tiempo, el modelo de ML aprende las preferencias de cada persona.

Solución de problemas

Nunca se declara una ganadora. Comprueba que cada tratamiento haya alcanzado la muestra mínima - 100 de forma predeterminada - . Revisa que el nivel de confianza no sea demasiado alto: 99 % tarda mucho más que 95 %. Para pruebas con efectos pequeños, puede que realmente necesites más tráfico.

Mi experimento personalizado solo hace divisiones aleatorias. Puede que el modelo de ML aún no se haya entrenado. Se reentrena diariamente a las 03:30 UTC en los espacios de trabajo activos. Si es necesario, también puedes iniciar un entrenamiento manual desde el servicio de ML. Comprueba que el espacio de trabajo tenga suficientes datos históricos de eventos: las características necesitan una señal real de la que aprender.

Bandido se queda en una ruta que empeora. La ventana de aprendizaje predeterminada es de 7 días y el rendimiento anterior domina. Prueba a reducir la ventana, por ejemplo a 3 días, para que el bandido se adapte más rápido.

El grupo de espera tiene personas que nunca se liberan. Confirma que se pueda declarar una ganadora: muestra mínima alcanzada, ventana de prueba aún vigente y alternativa de significación estadística configurada como «mejor», no «mezcla». Si se selecciona «mezcla» y la prueba termina sin significación, las personas en espera salen como completadas.

El total no es 100 %. El botón Listo permanece desactivado hasta que lo corrijas. Usa «Distribuir uniformemente» para restablecerlo rápido.