Emuārs

Aģentūru A/B testēšanas brieduma līkne: No sprintiem līdz mācību sistēmai

Praktisks brieduma modelis aģentūru A/B testēšanai: sāc viegli, standartizē ar testa aprakstu, secīgi vērtē pēc lēmuma vērtības un veido mācību bibliotēku.

Kopsavilkums

Lielākā daļa padomu par A/B testēšanu pieņem, ka process ir universāls, bet pareizais eksperimentu stingrības līmenis mainās, tavam aģentūras biznesam augot. Sākumā tev ir nepieciešami viegli testi, kas rada klientu uzticību, nepārslogojot tevi ar procesiem. Kad tev ir vairāki konti, vienkāršs vienas lapas testa apraksts rada kopīgu vārdu krājumu un novērš strīdus par to, ko nozīmē “labāk”. Portfelim paplašinoties, ierobežotais resurss kļūst uzmanība, tāpēc testi jākārto pēc lēmuma vērtības un jābūt gatavam pārtraukt eksperimentus, kas nevar mainīt lēmumu. Pilnā brieduma posmā īstais aktīvs ir starpklientu mācību bibliotēka ar validētiem modeļiem. Šis raksts izskaidro katru posmu ar praktiskiem piemēriem un salīdzinājumu starp posmiem.

Lielākā daļa padomu par A/B testu veikšanu klientiem pieņem, ka procesam ir jābūt identiskam neatkarīgi no tā, vai tu veic pirmo vai simto eksperimentu. Šis pieņēmums klusi nogalina vairāk aģentūru CRO programmu nekā jebkura statistikas kļūda. Patiesība ir tāda, ka nobriedusi eksperimentu prakse tik tikko atgādina ad-hoc testa sprintu — ne tāpēc, ka pamati mainās, bet tāpēc, ka ierobežojumi ap tiem krasi mainās. Visam pamatā ir konversijas mērķis, ko apraksta Wordstream: palielināt apmeklētāju procentuālo daļu, kuri veic vēlamo darbību. Mainās tas, cik daudz procesa, prioritizācijas un institucionālās atmiņas vari atļauties nest. Zemāk ir aģentūru testēšanas brieduma līkne: četri posmi, kas parāda, uz ko koncentrēties, ja tavs uzdevums ir panākt, lai tas strādātu atkārtoti, nevis tikai vienreiz.

Pirmais posms: viens klients, viens tests, daudz mācību

Kad tev ir tikai viens klients un nav uzkrātas pagātnes eksperimentu pieredzes, sliktākais, ko vari darīt, ir veidot procesu. Šajā posmā veidņu pārpilns darba process tev prasa vairāk, nekā dod. Tavs vienīgais īstais uzdevums ir nodrošināt vienu redzamu panākumu un pierakstīt, kāpēc tas notika. Tev vajadzīgā mācība nav “mūsu process strādā”; tā ir “šis konkrētais modelis, šķiet, ietekmē šo konkrēto uzvedību.”

Konkrēts piemērs: iedomājies, ka tavs pirmais klients ir mājas pakalpojumu uzņēmējs. Viņu vietnē ir viena potenciālo klientu veidlapa, kas paslēpta lapas apakšā, kuru gandrīz neviens neapmeklē. Tu pievieno sesijas ierakstīšanas rīku un redzi, ka apmeklētāji ienāk, ritina garām varoņu attēlam un aiziet. Tu izveido vienkāršu hipotēzi: veidlapas pārvietošana uz mājaslapas augšpusi ar viena teikuma aprakstu par to, ko viņi dara, palielinās pabeigto potenciālo klientu skaitu. Tu izveido divas versijas un testē tās divas nedēļas, lai abās versijās būtu pārstāvētas visas nedēļas dienas. Versija ar redzamo veidlapu uzvar. Tu uzraksti vienu rindkopu par to, kāpēc, tavuprāt, tas nostrādāja — izvietojums, nevis dizains — un to noglabā. Kad esi šajā posmā, svarīgākā disciplīna ir personīgā triāža: zināt, ko vispār testēt, nevis ievērot rituālu. Ja mēģini to darīt viens ar ierobežotu laiku, solo mārketinga speciālista triāžas saraksts ir noderīgs sākumpunkts.

Otrais posms: divi klienti, viena kopīga vārdu krājums

Pievieno otru klientu, un klusējošās zināšanas sāk pievilt. Tagad tu veic testus uz uzņēmēja mājaslapas un e-komercijas produkta lapas. Bez kopīga veida, kā aprakstīt eksperimentus, tu no nulles izdomāsi katru lēmumu, un neizteiktie pieņēmumi iezagsies tavā analīzē. Risinājums nav 14 lappušu pārvaldības dokuments; tas ir vienas lapas testa apraksts, kas liek tev un klientam vienoties par to, ko nozīmē “labāk”, pirms tu iztērē jebkuru datplūsmu.

Lūk, kā šis apraksts nostrādāja e-komercijas klientam, kurš pārdod mazo partiju preces. Produkta lapā bija vairāki produkta attēli un garš apraksts pirms “pievienot grozam” pogas. Tavs apraksts ietver sešus laukus. Pašreizējā uzvedība: apmeklētāji pārstāj ritināt apmēram pēc trim attēliem; daži sasniedz pogu. Hipotēze: viena varoņa attēla un viena iepakojuma attēla rādīšana noņem izvēles berzi un liek vairāk apmeklētāju sasniegt pogu. Primārais mērījums: pievienošanas grozam līmenis. Aizsargmērķis: ieņēmumi par sesiju nesamazinās. Minimālais darbības laiks: četrpadsmit dienas. Lēmuma noteikums: izlaist, ja pievienošana grozam palielinās un ieņēmumi saglabājas. Aizpildīšana prasa piecpadsmit minūtes un ietaupa tev nedēļu strīdu par to, vai tests “nostrādāja”. Ievēro, ko tu nedari: tu vēl nediskutē par izlases lielumu vai nozīmīguma sliekšņiem. Klientam ar nelielu datplūsmu pilns statistikas satvars bieži ir pārspīlēts — rokasgrāmata mazai datplūsmai parāda, kad pietiek ar virziena pierādījumiem.

Brieduma posmsTavs galvenais uzdevumsProcesa svarsLielākais risks
Vienreizēji sprintiIegūt klientu uzticību ar ātriem panākumiemCik vien iespējams viegliPārmērīga inženierija, pirms ir dati
Standartizēta testēšanaIzveidot kopīgu vārdu krājumuVienas lapas apraksts katram testamBurekrātija bez mācīšanās
Portfeļa pārvaldībaSakārtot pēc lēmuma vērtībasIknedēļas triāžaTesti, kuriem nav nozīmes
Mācību sistēmaAtkārtoti izmantot atziņas starp kontiemDokumentētas modeļu kartītesKatram klientam no jauna izgudrot riteni

Trešais posms: testa rinda ir biznesa lēmums

Visizplatītākais padoms šajā jomā ir testēt vienu mainīgo vienlaikus un ļaut katram testam noslēgties. Portfeļa mērogā tas ir ne tikai lēns; tas ir aktīvi izšķērdīgs. Tavs uzdevums vairs nav veikt pēc iespējas vairāk eksperimentu. Tas ir nodrošināt, lai katrs eksperiments, ko veic, spētu mainīt lēmumu. Tests, kura rezultātu tu ignorētu jebkurā gadījumā, ir jāpārtrauc, pirms tas patērē nedēļu datplūsmas. Tas ir pretrunīgais pavērsiens, kas nošķir aģentūras, kuras tikai veido atskaites, no aģentūrām, kuras rada mācīšanos.

Pieņemsim, ka tev tagad ir pieci klienti. Viens vēlas mainīt virsrakstu cenu lapā; cits vēlas īsāku veidlapu ievadīšanas plūsmā; trešais vēlas pārvietot uzticības zīmogu produkta lapā. Ja tu veiktu visus trīs, katru piektdienu pavadītu, skatoties uz informācijas paneļiem un plānojot sapulces. Tā vietā tu novērtē katru ideju pēc sasniedzamības (cik daudz apmeklētāju redz izmaiņas), pārliecības (cik spēcīgs ir tavs pieņēmums, ka tā uzvarēs) un pūļu (cik ilgi to būvēt un testēt). Tu izvēlies uzticības zīmogu: vidēja sasniedzamība, augsta pārliecība, divu minūšu darbs. Tests norisinās, konversijas mērījums virzās pareizajā virzienā, un tu to izlaiž. Virsraksta maiņa joprojām ir tavā darbu sarakstā — tu tikko saprati, ka tās gaidāmā lēmuma vērtība šonedēļ ir zemāka nekā zīmoga. Tu arī pārtrauc testu, kuram, lai sasniegtu nozīmīgumu mazas datplūsmas lapā, būtu nepieciešamas astoņas nedēļas; no uzņēmēja iepriekšējā testa tu zini, ka izvietojums maina uzvedību, tāpēc tu izlaiž izmaiņas un tā vietā tās uzraugi. Tas nav stingrības trūkums; tas ir kad pārtraukt testu.

Ceturtais posms: tava mācību bibliotēka kļūst par produktu

Kad tu pārvaldi desmit vai vairāk eksperimentu starp kontiem, aktīvs, kas uzkrājas, nav paši testi — tā ir cēloņsakarību zināšana, ko uzkrāj par to, kuras intervences darbojas, kur un kādos apstākļos. Ja tu aktīvi nedokumentē un nestrukturē šo zināšanu, tu turpināsi maksāt tādas pašas mācību izmaksas par katru jaunu klientu. Šeit arī AI atbalstīta eksperimentēšana kļūst patiesi interesanta, ne tāpēc, ka tā sola atrast uzvarētājus tavā vietā, bet tāpēc, ka tā var palīdzēt tev izstrādāt hipotēzes un pamanīt modeļus starp rezultātiem — ja vien tu nodrošini spriedumu.

Piemērs: tava iekšējā bibliotēka tagad satur kartīti, kurā rakstīts: “Veidlapas lauku samazināšana palielina aizpildīšanu, ja veidlapa atrodas zem locījuma; nav manāmas ietekmes, ja veidlapa jau atrodas virs locījuma.” Kartītes robežnosacījumi saka, ka tā tika testēta uz pakalpojumu vietnēm un SaaS ievadīšanas plūsmā, bet ne uz daudzpakāpju norēķinu. Kad jauns klients ar astoņu lauku kontaktformu jautā padomu, tu sāc no šīs kartītes, nevis no nulles. Tu izvirzi hipotēzi: samazini līdz četriem laukiem un pārvieto veidlapu virs locījuma. Tu neuztraucies atkārtoti veikt izvietojuma testu — šis modelis jau ir tavā bibliotēkā. Tu veic tikai lauku samazināšanu, un vari pateikt klientam precīzi, uz kādiem iepriekšējiem pierādījumiem šis eksperiments balstās. Brīdinājums: modeļi ir pārnesami, bet konkrēti teksti un dizains reti. Virsraksts, kas uzvarēja uzņēmējam, var šķist nevietā e-komercijas vietnē. Pārnesas mehānisms: berzes samazināšana darbības punktā. Glabā mehānismu savā kartītē, nevis precīzus vārdus.

Tas ir visas prakses vainagojums. Kad esi šeit, konvertējošu testu prioritizēšana kļūst par otru dabu, un tava bibliotēka padara katru jaunu kontu lētāku uzsākšanai.


Ja tev no šī raksta paliek viena ideja, lai tā būtu šī: ļauj savam procesam augt tikpat strauji kā tavam portfelim. Sāc ar spriedumu un vienu redzamu panākumu. Pievieno vienas lapas aprakstu, kad parādās otrais klients. Uztver testa rindu kā portfeļa lēmumu, kad nevari visu izpildīt. Un ieguldi mācību bibliotēkā, pirms sāp to zaudēt. Aģentūras, kas uzvar CRO, reti ir tās ar vissarežģītāko statistikas aparātu; tās ir tās, kurām ir visskaidrākās atbildes uz jautājumu “ko mēs uzzinājām?”. A/B tests nav piegādājamais rezultāts, ko izlaist un aizmirst. Tas ir jautājums, ko tu uzdod, vienreiz, apstākļos, ko patiešām vari pārvaldīt — un pēc tam uzdod vēlreiz, labāk, ar nākamo klientu.

Sources (5)