Блог

Krivulja zrelosti A/B testiranja u agenciji: od sprinta do sistema učenja

Praktičan model zrelosti za A/B testiranje u agenciji: počnite lako, standardizujte uz pomoć test-brifa, raspoređujte prema vrednosti odluke i izgradite biblioteku učenja.

Rezime

Većina saveta o A/B testiranju pretpostavlja univerzalni proces, ali prava količina eksperimentalne strogosti menja se kako vaša agencija raste. U ranoj fazi potrebni su vam lagani testovi koji grade poverenje klijenata bez da vas utope u proces. Kada imate više naloga, jednostavan jednostrani test-brif stvara zajednički rečnik i sprečava rasprave o tome šta znači „bolje“. Kako se portfolio širi, oskudan resurs postaje pažnja, pa morate raspoređivati testove prema vrednosti odluke i biti spremni da ubijete eksperimente koji ne mogu promeniti odluku. U punoj zrelosti, prava imovina je biblioteka učenja sa potvrđenim obrascima iz različitih klijenata. Ovaj članak vas vodi kroz svaku fazu sa praktičnim primerima i poređenjem po fazama.

Većina saveta o A/B testiranju za klijente pretpostavlja da bi vaš proces trebalo da izgleda identično bez obzira na to da li šaljete svoj prvi eksperiment ili stoti. Ta pretpostavka tiho ubija više agencijskih CRO programa nego bilo koja statistička greška. Istina je da zrela praksa eksperimentisanja jedva podseća na ad-hoc test sprint — ne zato što se osnove menjaju, već zato što se ograničenja oko njih dramatično pomeraju. U srcu svega toga je konverzioni cilj koji Wordstream opisuje: povećanje procenta posetilaca koji preduzmu željenu akciju. Ono što se menja jeste koliko procesa, prioritizacije i institucionalnog pamćenja možete sebi priuštiti. Ispod je krivulja zrelosti za agencijsko testiranje: četiri faze koje pokazuju šta treba naglasiti kada je vaš posao da ovo funkcioniše iznova i iznova, a ne samo jednom.

Faza prva: jedan klijent, jedan test, mnogo lekcija

Kada imate jednog klijenta i nema zaostatka prošlih eksperimenata, najgora stvar koju možete uraditi jeste da izgradite proces. Radni tok sa puno šablona u ovoj fazi košta vas više nego što vam vraća. Vaš jedini pravi posao je da proizvedete jednu vidljivu pobedu i zapišete zašto se dogodila. Lekcija koja vam treba nije „naš proces funkcioniše“; već „ovaj specifičan obrazac izgleda da utiče na ovo specifično ponašanje.“

Konkretan primer: zamislite da je vaš prvi klijent izvođač radova za dom. Njihov sajt ima jedan formular za potencijalne klijente, zakopan na dnu stranice „O nama“ koju jedva ko posećuje. Dodate alat za snimanje sesija i vidite da posetioci stižu, skroluju pored hero slike i odlaze. Formirate jednostavnu hipotezu: pomeranje formulara na vrh početne stranice, sa jednom rečenicom opisa onoga što rade, povećaće broj popunjenih formulara. Napravite dve varijante i pustite ih dve nedelje kako bi svaki dan u nedelji bio zastupljen u obe verzije. Varijanta sa vidljivim formularom pobeđuje. Napišete jedan pasus o tome zašto mislite da je uspelo — položaj, ne dizajn — i arhivirate ga. Kada ste u ovoj fazi, disciplina koja je važna jeste lični trijaž: znati šta uopšte testirati, umesto praćenja rituala. Ako pokušavate ovo da uradite sami sa ograničenim vremenom, lista za trijažu solo marketara je korisna polazna tačka.

Faza druga: dva klijenta, jedan zajednički rečnik

Dodajte drugog klijenta i prećutno znanje počinje da otkazuje. Sada pokrećete testove na sajtu izvođača i na stranici proizvoda e-trgovine. Bez zajedničkog načina da opišete eksperimente, svaku odluku ćete ponovo izvoditi iz nule, a neizgovorene pretpostavke će se ušunjati u vašu analizu. Rešenje nije 14-stranični dokument o upravljanju; to je jednostrani test-brif koji vas i klijenta primorava da se dogovorite oko toga šta znači „bolje“ pre nego što potrošite i malo saobraćaja.

Evo kako je taj brif funkcionisao za klijenta iz e-trgovine koji prodaje proizvode male serije. Stranica proizvoda imala je više slika proizvoda i dugačak opis pre dugmeta „Dodaj u korpu“. Vaš brif ima šest polja. Trenutno ponašanje: posetioci prestaju da skroluju oko tri slike nadole; malo njih stigne do dugmeta. Hipoteza: prikaz jedne hero slike i jedne slike pakovanja uklanja trenje izbora i dovodi više posetilaca do dugmeta. Primarna metrika: stopa dodavanja u korpu. Zaštitna ograda: prihod po sesiji ne opada. Minimalno vreme trajanja: četrnaest dana. Pravilo odluke: objaviti ako se dodavanje u korpu poveća i prihod ostane isti. Popunjavanje toga traje petnaest minuta i štedi vam nedelju dana rasprave o tome da li je test „uspeo“. Primetite šta ne radite: još ne raspravljate o veličini uzorka ili pragovima značajnosti. Za klijenta sa malo saobraćaja, pun statistički okvir je često preteran — priručnik za male posete pokazuje kada je dovoljno usmerenih dokaza.

Fokus se menja kako rastete

Faza zrelostiVaš glavni posaoTežina procesaNajveći rizik
Jednokratni sprintoviIzgradnja poverenja klijenata kroz brze pobedeŠto je moguće lakšePrekomerno inženjerstvo pre nego što imate podatke
Standardizovano testiranjeStvaranje zajedničkog rečnikaJednostrani brif po testuBirokratija bez učenja
Upravljanje portfoliomRaspoređivanje prema vrednosti odlukeNedeljni trijažPokretanje testova koji nisu važni
Sistem učenjaPonovno korišćenje nalaza kroz nalogeDokumentovane kartice obrazacaPonovno izmišljanje točka za svakog klijenta

Faza treća: red testova je poslovna odluka

Najčešći savet u ovoj niši je da testirate jednu promenljivu odjednom i pustite da svaki test prođe svoj tok. Na nivou portfolia, to nije samo sporo; to je aktivno rasipanje. Vaš posao više nije da pokrenete što više eksperimenata. To je da osigurate da svaki eksperiment koji pokrenete može promeniti odluku. Test čiji biste rezultat ignorisali u svakom slučaju treba ubiti pre nego što potroši nedelju dana saobraćaja. To je kontraran zaokret koji razdvaja agencije koje samo proizvode izveštaje od agencija koje generišu učenje.

Recimo da sada imate pet klijenata. Jedan želi promenu naslova na stranici s cenama; drugi želi kraći formular u procesu onbordinga; treći želi da pomeri bedž poverenja na stranici proizvoda. Ako pokrenete sva tri, provešćete svaki petak buljeći u dashboarde i zakazujući sastanke. Umesto toga, ocenjujete svaku ideju prema dosegu (koliko posetilaca vidi promenu), poverenju (koliko je jak vaš prethodni stav da će pobediti) i naporu (koliko dugo traje implementacija i testiranje). Izaberete bedž poverenja: srednji doseg, visoko poverenje, dva minuta posla. Test se pokreće, metrika konverzije kreće u pravom smeru, i objavljujete ga. Promena naslova je i dalje u vašem backlogu — upravo ste shvatili da je njena očekivana vrednost odluke niža od bedževe ove nedelje. Takođe povlačite test koji bi trebalo osam nedelja da dostigne značajnost na stranici sa malo saobraćaja; znate iz ranijeg testa izvođača da položaj menja ponašanje, pa objavljujete promenu i umesto toga je pratite. To nije propust u strogosti; to je kako znati kada prekinuti test.

Faza četvrta: vaša biblioteka učenja postaje proizvod

Do trenutka kada upravljate sa desetak ili više eksperimenata kroz naloge, imovina koja se akumulira nisu sami testovi — već uzročno znanje koje prikupljate o tome koje intervencije deluju, gde i pod kojim uslovima. Ako to znanje aktivno ne dokumentujete i ne strukturišete, nastavićete da plaćate istu cenu učenja za svakog novog klijenta. Ovo je takođe mesto gde eksperimentisanje uz pomoć veštačke inteligencije postaje zaista zanimljivo, ne zato što obećava da će vam pronaći pobednike, već zato što vam može pomoći da skicirate hipoteze i uočite obrasce u rezultatima — sve dok vi obezbedite prosudbu.

Primer: vaša interna biblioteka sada sadrži karticu koja kaže „Smanjenje broja polja u formularu povećava stopu završetka kada je formular ispod folda; nema primetnog efekta kada je formular već iznad folda“. Granični uslovi na kartici kažu da je testirano na servisnim sajtovima i SaaS onbording procesu, ali ne i na višekoračnom procesu naplate. Kada novi klijent sa kontakt formularom od osam polja traži mišljenje, krećete od te kartice umesto od nule. Postavljate hipotezu: smanjiti na četiri polja i pomeriti formular iznad folda. Ne trudite se da ponovo pokrenete test položaja — taj obrazac je već u vašoj biblioteci. Pokrećete samo smanjenje broja polja i u mogućnosti ste da klijentu tačno kažete na koje se ranije dokaze ovaj eksperiment oslanja. Napomena: obrasci se prenose, ali konkretan tekst i dizajn retko. Naslov koji je pobedio za izvođača može delovati neprikladno na sajtu e-trgovine. Ono što se prenosi jeste mehanizam: smanjenje trenja na mestu akcije. Zadržite mehanizam u svojoj kartici, a ne tačne reči.

Ovo je vrhunac cele prakse. Kada ste ovde, prioritizacija testova koji konvertuju postaje prirodna, a vaša biblioteka čini svaki novi nalog jeftinijim za uvođenje.


Ako želite da ponesete jednu ideju, neka to bude ovo: dozvolite svom procesu da raste istom brzinom kao i vaš portfolio. Počnite sa prosudbom i jednom vidljivom pobedom. Dodajte jednostrani brif kada se pojavi drugi klijent. Tretirajte red testova kao portfolio odluku kada ne možete sve da pokrenete. I investirajte u biblioteku učenja pre nego što vas zaboli da je izgubite. Agencije koje pobeđuju u CRO-u retko su one sa najsofisticiranijim statističkim mašinama; one su sa najjasnijim odgovorima na „šta smo naučili?“ A/B test nije isporuka koju šaljete i zaboravljate. To je pitanje koje postavljate, jednom, pod uslovima kojima stvarno možete upravljati — a zatim ga postavljate ponovo, bolje, sa sledećim klijentom.

Sources (5)