Bandit-algoritmes versus klassieke A/B-testen: wanneer gebruik je welke?

Bijgewerkt op 15 oktober 2026

12,75%. Dat is het percentage valse winnaars dat we verkregen door een standaard statistische test toe te passen aan het einde van tests die werden uitgevoerd met een bandit-algoritme, op 2000 simulaties waarbij de twee versies strikt identiek waren. Met een vaste 50/50-verdeling blijft dit percentage 4,65%, wat overeenkomt met de verwachte drempel van 5%. Het bandit-algoritme is geen slecht hulpmiddel. Het beantwoordt alleen een andere vraag dan A/B-testen, en het interpreteren ervan als een A/B-test leidt tot fouten.

Deze handleiding vergelijkt de twee benaderingen vanuit een statistisch oogpunt (exploratie, Thompson-sampling, spijt, power), en vervolgens aan de hand van een praktijkvoorbeeld, met ondersteunende simulatiecijfers.

Multi-armed bandit of A/B-testen: het korte antwoord

Een traditionele A/B-test verdeelt het verkeer op een vaste manier om het verschil tussen twee versies nauwkeurig te meten; een multi-armed bandit-test verschuift het verkeer naar de versie die lijkt te winnen om zo min mogelijk conversies te verliezen tijdens de test. Kies voor A/B-testen wanneer u een beslissing voor de lange termijn moet nemen en de impact ervan wilt kwantificeren, en voor de multi-armed bandit-test wanneer de tijdshorizon kort is en alleen het cumulatieve resultaat telt.

De twee methoden optimaliseren twee verschillende grootheden:

• A/B-testen minimaliseren schattingsfouten. Het vertelt je of B beter presteert dan A, met hoeveel verschil, en met welk betrouwbaarheidsinterval. Je betaalt voor deze zekerheid door tot het einde de helft van het verkeer naar de mindere versie te sturen.
• De bandit bagatelliseert zijn spijt., Dat wil zeggen, de conversies die verloren gaan in vergelijking met een scenario waarin je vanaf dag één de winnaar zou kennen. Je betaalt voor deze winst aan nauwkeurigheid: de verliezende versie ontvangt te weinig bezoekers om goed te kunnen worden gemeten.

Geen van beide methoden is op beide punten succesvol.

Verkenning versus exploitatie: het dilemma van de eenarmige bandiet

De naam komt van gokautomaten, de "eenarmige bandieten": je wordt geconfronteerd met verschillende machines waarvan je de uitbetalingen niet kent, dus je moet er meerdere uitproberen (verkennen) en zo vaak mogelijk op de machine met de hoogste uitbetaling spelen (uitbuiten).

Bij CRO is elke variant een "arm", elke bezoeker een onderdeel en conversie de winst. Een klassieke A/B-test omvat 100% exploratie tijdens het testen en vervolgens 100% exploitatie zodra de winnende variant is geïmplementeerd. Een bandit-test combineert deze twee continu.

Het probleem is niet nieuw: William R. Thompson publiceerde de methode die zijn naam draagt ​​al in 1933 voor medische proeven.

Als de termen "arm", "spijt" of "toelage" nieuw voor u zijn, dan woordenlijst met termen uit A/B-testen en CRO's definieert ze elk op één regel.

Epsilon-greedy, UCB, Thompson sampling: drie manieren om te bemiddelen

De drie families van bandit-algoritmen verschillen in de manier waarop ze exploratie meten: door toeval (epsilon-greedy), door berekend optimisme (UCB) of door probabilistische steekproeven (Thompson-sampling), en het is de laatste die tegenwoordig dominant is in testtools.

Epsilon-hebzuchtig: eenvoudig, maar verspillend

Het algoritme verdeelt een vast deel van het verkeer, bijvoorbeeld 10%, willekeurig over alle varianten, en de rest naar de variant die op dat moment het beste presteert. Zo simpel is het: het blijft een duidelijk slechte variant bevoorraden tot het einde. Toewijzingen zoals "80% op basis van prestaties, 20% willekeurig" vloeien voort uit deze logica.

UCB: Optimisme in tijden van onzekerheid

Upper Confidence Bound berekent een bovengrens voor het potentiële rendement van elke variant en selecteert de hoogste waarde. Een slecht geteste variant heeft een brede bovengrens en wordt daarom verder getest. Een goed geteste, maar middelmatige variant wordt niet meer getest. Het proces is deterministisch en daardoor minder geschikt voor batchgewijze updates.

Thompson sampling: wedden op basis van de waarschijnlijkheid om de beste te zijn.

Voor elke variant houdt het algoritme een waarschijnlijkheidsverdeling bij van de conversieratio. Voor elke bezoeker selecteert het een waarde uit elke verdeling en toont de variant met de hoogste waarde. Als gevolg hiervan ontvangt een variant met een waarschijnlijkheid van 70% om de beste te zijn ongeveer 70% van het verkeer. De referentiehandleiding van Russo et al. over Thompson-sampling verklaart waarom deze regel de theoretische minimale spijt benadert zonder speciale aanpassingen.

Dit is de methode die door de meeste platforms wordt gebruikt. De documentatie van de dynamische toewijzing van AB Tasty geeft aan dat het afhankelijk is van Thompson, dat het alleen nieuwe bezoekers beïnvloedt (een bezoeker die al eerder aan de app is blootgesteld, behoudt zijn variant) en dat er minimaal één conversie per variant op de gekozen indicator moet zijn voltooid voordat de app van start gaat. De vergelijking tussen BlastOptimize en AB Tasty bespreekt de verschillen in instellingen tussen de twee tools.

Het nadeel: de kosten van A/B-testen in termen van conversies.

Spijt is het aantal conversies dat verloren gaat tijdens een test in vergelijking met het ideale scenario waarin het hele publiek vanaf het begin de beste versie te zien zou hebben gekregen; bij een 50/50-verdeling neemt de spijt toe in verhouding tot het verkeer, bij een 'bandit'-verdeling neemt de spijt af gedurende de test.

Laten we het geval bekijken dat al in onze beschrijving is beschreven. handleiding voor de automatische piloot BlastOptimize Met 40.000 bezoekers behaalt A een conversiepercentage van 3% en B een van 3,6%. Bij een gelijke verdeling (50/50) ontvangt A 20.000 bezoekers en B 20.000, wat resulteert in 600 + 720 = 1.320 conversies. Als iedereen B had gezien, zou het conversiepercentage 1.440 zijn geweest. De spijt die gepaard gaat met de A/B-test bedraagt ​​120 conversies, oftewel 8,3% van de potentiële conversies.

Het werk van Elea Feit (Drexel) en Ron Berman (Wharton), getiteld "Test & Roll", Dit wordt duidelijk aangetoond. Voor een website met 100.000 bezoekers vereist de test die de totale winst maximaliseert slechts 2.284 bezoekers per groep, vergeleken met 18.468 voor een klassieke hypothesetest die is ontworpen om een ​​stijging van 2% te detecteren. De grote, "zuivere" test kost 476 conversies meer. De auteurs laten ook zien dat de spijt die gepaard gaat met een hypothesetest toeneemt met de omvang van het publiek, terwijl de spijt die gepaard gaat met Thompson-sampling slechts toeneemt met de wortel daarvan.

Onthoud dit: bij een campagne van twee weken bevindt bijna al het verkeer zich in de testomgeving en is de spijt achteraf aanzienlijk. Voor een homepage die twee jaar lang online blijft, vertegenwoordigt de testomgeving slechts een fractie van dat verkeer.

Onze simulatie: bandit versus 50/50, gebaseerd op 2000 tests.

We hebben elk scenario 2000 keer herhaald en daarbij een vaste verdeling vergeleken met een Thompson-steekproef die in batches van 500 bezoekers werd bijgewerkt: de bandit herstelt driekwart van de spijt wanneer het verschil reëel is, maar detecteert de winnaar minder vaak en verdrievoudigt bijna het aantal valse positieven wanneer er geen verschil is.

Methode: a priori Beta(1,1), batch-update, 5% tweezijdige z-toets berekend aan het einde, zoals een team zou doen bij het lezen van de resultaten.

Vier geleerde lessen:

• De winst is er wel degelijk. Thompson verliest slechts 29 conversies van de 120, wat overeenkomt met de berekening van de autopilot (ongeveer 1408 conversies).
• De situatie verslechtert. De verliezende variant ontvangt gemiddeld slechts 4.370 bezoekers. Daardoor is de test slechts in 66% van de gevallen significant, vergeleken met 92% in het 50/50-scenario.
• Zonder enige werkelijke afwijking creëert de bandit zekerheden. Het zet de willekeurigheid van de eerste batches voort, verstoort de verdeling, en een klassieke test trekt vervolgens in bijna één op de acht gevallen een verkeerde conclusie.
• Bij kleinschalige drugshandel spaart de bandit niets. Bij 4000 bezoekers identificeerden beide methoden in 15 tot 17% van de gevallen de verkeerde variant, en het verschil in spijt was beperkt tot 4 conversies.

De prijs van de bandit: macht, vooringenomenheid en valse positieven.

Een oneerlijke methode offert drie dingen op die A/B-testen juist beschermen: statistische power, de afwezigheid van vertekening in het gemeten verschil en de validiteit van klassieke significantietesten.

Minder vermogen

De power, oftewel de kans om een ​​werkelijke afwijking te detecteren, hangt voornamelijk af van de kleinste groep. Een bandit laat deze groep opzettelijk in de steek: goed voor je conversies, slecht voor je metingen.

Een slecht ingeschatte kloof

Een aandeel dat in de beginfase pech heeft, trekt al snel minder verkeer aan: de waardering blijft vaststaan ​​op basis van de slechte start, terwijl de favoriet zichzelf corrigeert. Het weergegeven verschil is daardoor vertekend en vaak overschat. Voordat u een stijging van een probleemgeval aan uw management presenteert, is het raadzaam een ​​bevestigingstest uit te voeren.

P-waarden die niet langer dezelfde betekenis hebben.

Significantieformules gaan uit van een vooraf bepaalde verdeling. Wanneer het algoritme de verdeling bepaalt op basis van de resultaten, klopt deze aanname niet meer. Dit hangt samen met het "kijkprobleem", waarbij de resultaten continu worden geobserveerd en gestopt zodra ze gunstig lijken. Ons artikel hierover gaat hier dieper op in. vals-positieve resultaten bij A/B-testen legt uit waarom deze praktijk de foutenmarge enorm doet stijgen, en de lijst van veelvoorkomende fouten bij A/B-testen die tot de meest voorkomende behoren.

Operationele blinde vlekken

Het experimentele team van DoorDash, dat een eigen platform voor illegale datalekken bouwde op basis van Thompson-sampling, vermeldt in zijn feedback gepubliceerd in december 2025 er bestaan ​​diverse concrete beperkingen: de moeilijkheid om indicatoren te analyseren die geen deel uitmaken van de geoptimaliseerde beloning, de inconsistente ervaring van een gebruiker die van variant wisselt tussen verschillende bezoeken, en de vertraging tussen actie en resultaat. Om vertekening te beperken wanneer het klantgedrag in de loop van de tijd verandert, heeft het team ervoor gekozen om het verschil met de controlevariant te modelleren in plaats van het ruwe percentage van elke variant.

Wanneer kies je voor een bandit-algoritme?

Kies voor een bandit wanneer de kosten van het tonen van de verkeerde versie tijdens de test hoger zijn dan de waarde van het precies weten waarom de andere versie wint. Dit is vooral het geval bij korte testperiodes en beslissingen zonder toekomstperspectief.

• Tijdelijke acties Verkoop, Black Friday-promotie, productlancering. Bij een promotie met 20.000 bezoekers en vier headlines levert onze simulatie 82 conversies op van de 136, oftewel 60% van de testkosten, en er zal daarna geen "implementatie" plaatsvinden.
• Sterk roterende elementen Titels, e-mailonderwerpen, banners en reclamemateriaal worden maandelijks vervangen.
• Veel variaties, weinig vooropgezette ideeën. Zes mogelijke oplossingen worden door het team voorgesteld of door AI gegenereerd. De bandit elimineert snel de zwakste oplossingen. Een test met een vaste verdeling zou voor elke oplossing een hoge prijs betalen.
• Continue optimalisatie : een codeblok dat oneindig lang blijft draaien, soms met een extra variatie.

Algemene voorwaarde: de geoptimaliseerde indicator moet snel gemeten kunnen worden (klikken, toevoegen aan winkelwagen, formulier verzenden) en de waarde nauwkeurig weergeven. Op een e-commerce website is onze pagina op de CRO voor e-commerce dit document beschrijft de pagina's waarop aan deze voorwaarden is voldaan.

Wanneer moet je een klassieke A/B-test behouden?

Gebruik een vaste A/B-test voor langetermijnbeslissingen die kostbaar zijn om terug te draaien of die met ondersteunende gegevens moeten worden onderbouwd, en voor tests waarbij conversie pas laat plaatsvindt.

• Herontwerp, prijsstelling, betalingsproces Een paar weken spijt wegen weinig op tegen het risico om jarenlang met een valse winnaar te blijven werken.
• De behoefte aan een impactcijfer Omzetprognoses, budgettaire afspraken en rapportage aan het management. Alleen een vaste toewijzing levert een onbevooroordeelde variantie met een betrouwbaar betrouwbaarheidsinterval op.
• Uitgestelde conversies In B2B of leadgeneratie verlopen formulierinzendingen snel, maar de werkelijke waarde (gekwalificeerde lead, afspraak, contractondertekening) komt pas dagen later. Een oplichter die het inzendingproces optimaliseert, zou de voorkeur kunnen geven aan de variant die de minst gekwalificeerde leads aantrekt. Voordat je van start gaat, definieer het doel en de tracking. die deze waarde werkelijk weerspiegelen.
• Verschillende indicatoren om te monitoren Een bandit optimaliseert één enkele beloning en schat de rest verkeerd in, inclusief de gemiddelde mand.
• Verschillende effecten afhankelijk van de segmenten Een variant die op desktop wint, maar op mobiel verliest. De 'bandit' convergeert naar het gemiddelde en stopt met het doorverwijzen van het getroffen segment naar de versie die het beste bij hen paste.
• Weinig verkeer Zoals de simulatie met 4000 bezoekers laat zien, voegt de bandit vrijwel niets toe wanneer het signaal te zwak is. Een eenvoudige test bij een significante verandering is beter.

Dezelfde logica geldt voor het tegelijk testen van meerdere elementen: onze vergelijking tussen A/B-testen en multivariate testen dit toont aan dat elke toegevoegde combinatie extra verkeer vereist.

De twee combineren: drie hybride strategieën

De twee methoden vullen elkaar goed aan: eerst een snelle verkenning, daarna een nauwkeurige meting, afhankelijk van wat er op het spel staat.

1. Sorteer op bandit, bevestig in A/B

Test vijf of zes varianten van de bandit gedurende één tot twee weken om de zwakste te elimineren. Vergelijk vervolgens de twee beste varianten in een vooraf bepaalde A/B-test.

2. Test kort, en implementeer vervolgens ("testen en uitrollen").

Dit is de aanbeveling van Feit en Berman: de omvang van de test bepalen op basis van de verwachte winst in plaats van een significantiedrempel. De test is korter, de verdeling blijft vast en onbevooroordeeld, en de spijt blijft vergelijkbaar met die van een bandit.

3. Valideer met behulp van A/B-testen en exploiteer vervolgens bandit-testen.

Voor een permanente campagne (banners, aanbevelingen) bevestigt een initiële A/B-test dat de campagne voordelen oplevert. Vervolgens beheert een bandit de contentrotatie binnen deze campagne. Houd een kleine, permanente controlegroep aan, bijvoorbeeld 5% van het verkeer, om te controleren of het algehele voordeel op de lange termijn behouden blijft.

Wat de strategie ook is, de snelle weergave van varianten let op: een kortstondige onderbreking van de originele pagina maakt beide methoden op dezelfde manier ongeldig. Om het daadwerkelijke verschil tussen de varianten, inclusief de intervallen, te lezen, analysedashboard BlastOptimize toont de resultaten zonder jargon.

Checklist: De juiste methode kiezen in 7 vragen

Beantwoord deze zeven vragen vóór elke test: minstens vier van de eerste zes antwoorden wijzen op automatische toewijzing; anders blijft de toewijzing vast. De zevende vraag controleert of de test een kans van slagen heeft.

1. Levensduur van de beslissing minder dan een maand (bandit) of meerdere maanden of langer (A/B)?
2. De behoefte aan een impactcijfer presenteren of hergebruiken: nee (bandit), ja (A/B)?
3. Omrekeningstijd Is dit meetbaar binnen de sessie (bandit) of enkele dagen later (A/B-test)?
4. Aantal varianten : vier of meer zonder duidelijke favoriet (bandit), twee of drie (A/B)?
5. Secundaire indicatoren te monitoren factoren (gemiddelde winkelwagenwaarde, retourpercentage, leadkwaliteit): geen (bandit), minstens één (A/B)?
6. Segmenten waarschijnlijk zullen ze anders reageren: nee (bandit), ja (A/B-test of contextuele bandit met een controlegroep)?
7. Verkeer Verwacht worden er in de loop der tijd minstens een paar honderd conversies per variant (beide zijn mogelijk) of minder (geen van beide zal de doorslag geven: test een meer uitgesproken verandering)?

Minder dan tien tests per jaar? Voorkom dat u betaalt voor een optie die u zelden gebruikt: vergelijk deze met de prijzen BlastOptimize.

Belangrijkste conclusies

Bandit-testen en A/B-testen beantwoorden twee verschillende vragen.

• A/B-testen minimaliseren meetfouten; de multi-armed bandit minimaliseert spijt, oftewel verloren conversies tijdens de test.
• Thompson-sampling is het referentiealgoritme: elke variant krijgt een deel van het verkeer dat evenredig is aan de waarschijnlijkheid dat deze de beste is.
• In onze simulatie herstelt de bandit ongeveer 75% van de spijt bij een 50/50-kans, maar de detectie van de winnaar daalt van 92% naar 66% en het aantal valse winnaars van 4,65% naar 12,75%, zonder dat er een wezenlijk verschil is.
• Bandit voor korte campagnes, snel wisselende content en talloze variaties; A/B-testen voor duurzame beslissingen, uitgestelde conversies en prijstesten.
• Bij lage verkeersvolumes levert geen van beide methoden wonderen op.

Veelgestelde vragen

Is een bandittest sneller dan een A/B-test?

Het is sneller om de data te analyseren, maar niet om conclusies te trekken. Omdat de verliezende variant weinig bezoekers trekt, is er vaak meer verkeer nodig om het verschil aan te tonen. Voor een statistische conclusie blijft een A/B-test met een vaste verdeling de kortste weg.

Kunnen we de significantie berekenen met een bandit-test?

Niet met traditionele formules, die uitgaan van een vooraf bepaalde verdeling. In onze simulatie levert de toepassing ervan op een bandit 12,75% valse winnaars op in plaats van 5%. Gebruik in plaats daarvan de waarschijnlijkheid dat de variant de beste is, zoals die door het algoritme wordt aangegeven, of bevestig het resultaat met een korte A/B-test.

Hoeveel drugshandel is er nodig om een ​​bandit in te zetten?

De bandit heeft niet minder verkeer nodig dan een A/B-test om te leren. Hij heeft conversies op elke variant nodig om te beginnen, minstens één volgens de documentatie.AB Tasty, En in de praktijk zijn een paar dozijn voldoende om de drukte van de eerste groepen te overbruggen. Met in totaal enkele duizenden bezoekers schieten beide methoden vaak tekort.

Thompson-sampling of epsilon-greedy: welke moet je kiezen?

Thompson-sampling is in de meeste gevallen de voorkeursmethode: het past de zoektocht aan de onzekerheid aan en verspilt geen dataverkeer aan een variant die al vaak is getest. Epsilon-greedy sampling is alleen gerechtvaardigd als je een vast en gemakkelijk te verklaren aandeel van de zoektocht wilt.

Is een bandit-aanpak geschikt voor leadgeneratie in de B2B-sector?

Voor tactische elementen (kop van de landingspagina, advertentieafbeelding, knoplabel): ja, als de geoptimaliseerde meetwaarde formulierinzending is. Voor strategische beslissingen: nee: de leadkwaliteit wordt te laat gemeten om het algoritme te sturen, waardoor het risico bestaat dat formulieren die ongeschikte contacten aantrekken, worden bevoordeeld.

Wat is een contextuele bandit?

Het is een variant die wordt gekozen op basis van het profiel van de bezoeker: apparaat, verkeersbron, paginaweergaven. Het is bedoeld om te personaliseren in plaats van één winnaar aan te wijzen, vereist veel meer verkeer en heeft een controlegroep nodig om de impact te meten.