בלוג
עקומת הבשלות של בדיקות A/B בסוכנות: מספרינטים למערכת למידה
מודל בשלות מעשי לבדיקות A/B בסוכנות: התחילו בקלילות, תקנו עם בריף בדיקה, תעדפו לפי ערך החלטה, ובנו ספריית למידה.
סיכום
רוב העצות על בדיקות A/B מניחות תהליך אחיד לכולם, אבל רמת הקפדנות הנכונה בניסויים משתנה ככל שהסוכנות שלכם גדלה. בשלב המוקדם, אתם צריכים בדיקות קלות שמחזקות את ביטחון הלקוח בלי להטביע אתכם בתהליך. ברגע שיש לכם כמה חשבונות, בריף בדיקה פשוט של עמוד אחד יוצר שפה משותפת ומונע ויכוחים על מה זה 'טוב יותר'. ככל שהפורטפוליו מתרחב, המשאב הנדיר הוא תשומת לב, ולכן עליכם לתעדף בדיקות לפי ערך החלטה ולהיות מוכנים להרוג ניסויים שלא יכולים לשנות החלטה. בבשלות מלאה, הנכס האמיתי הוא ספריית למידה חוצת לקוחות של דפוסים מאומתים. מאמר זה עובר על כל שלב עם דוגמאות מעשיות והשוואה שלב אחר שלב.
רוב העצות בנוגע להרצת בדיקות A/B ללקוחות מניחות שהתהליך שלכם צריך להיראות זהה בין אם אתם מריצים את הניסוי הראשון ובין אם המאה. הנחה זו הורגת בשקט יותר תוכניות CRO של סוכנויות מכל טעות סטטיסטית. האמת היא שפרקטיקת ניסויים בוגרת בקושי דומה לספרינט בדיקות אד-הוק — לא בגלל שהיסודות משתנים, אלא בגלל שהאילוצים סביבם משתנים דרמטית. בלב כל זה נמצאת מטרת ההמרה ש-Wordstream מתארת: הגדלת אחוז המבקרים שנוקטים בפעולה רצויה. מה שמשתנה הוא כמה תהליך, תעדוף וזיכרון ארגוני אתם יכולים להרשות לעצמכם לסחוב. בהמשך מוצגת עקומת בשלות לבדיקות בסוכנות: ארבעה שלבים שמראים על מה להתמקד כשהתפקיד שלכם הוא לגרום לזה לעבוד שוב ושוב, לא רק פעם אחת.
שלב ראשון: לקוח אחד, בדיקה אחת, לקחים רבים
כשיש לכם לקוח אחד ואין מאגר של ניסויים קודמים, הדבר הגרוע ביותר שאתם יכולים לעשות הוא לבנות תהליך. זרימת עבודה כבדה בתבניות בשלב הזה גובה מכם יותר ממה שהיא מחזירה. התפקיד האמיתי היחיד שלכם הוא לייצר ניצחון אחד גלוי ולרשום למה הוא קרה. הלקח שאתם צריכים הוא לא "התהליך שלנו עובד", אלא "הדפוס הספציפי הזה נראה כמשפיע על ההתנהגות הספציפית הזו".
דוגמה קונקרטית: נניח שהלקוח הראשון שלכם הוא קבלן שירותי בית. באתר יש טופס ליד אחד, קבור בתחתית עמוד אודות שכמעט אף אחד לא מבקר בו. אתם מוסיפים כלי להקלטת סשנים ורואים מבקרים נוחתים, גוללים מעבר לתמונה הראשית ועוזבים. אתם יוצרים השערה פשוטה: הזזת הטופס לראש עמוד הבית, עם תיאור של משפט אחד על מה שהם עושים, תגדיל את הלידים שהושלמו. אתם בונים שני וריאנטים ומריצים אותם למשך שבועיים כדי שכל יום בשבוע מיוצג בשתי הגרסאות. הווריאנט עם הטופס הנראה זוכה. אתם כותבים פסקה אחת על למה אתם חושבים שזה עבד — מיקום, לא עיצוב — ושומרים אותה. כשאתם בשלב הזה, המשמעת שחשובה היא טריאז' אישי: לדעת מה לבדוק בכלל, במקום ללכת לפי טקס. אם אתם מנסים לעשות את זה לבד עם זמן מוגבל, רשימת הטריאז' למשווק סולו היא נקודת התחלה שימושית.
שלב שני: שני לקוחות, שפה משותפת אחת
הוסיפו לקוח שני והידע המובלע מתחיל להיכשל. אתם עכשיו מריצים בדיקות על דף הבית של קבלן ועל דף מוצר של מסחר אלקטרוני. בלי דרך משותפת לתאר ניסויים, תגזרו כל החלטה מההתחלה והנחות לא מדוברות יחדרו לניתוח. הפתרון הוא לא מסמך ניהול בן 14 עמודים; זה בריף בדיקה של עמוד אחד שמכריח אתכם ואת הלקוח להסכים על מה זה 'טוב יותר' לפני שאתם מבזבזים תנועה.
הנה איך הבריף הזה עבד עבור לקוח מסחר אלקטרוני שמוכר מוצרים בכמויות קטנות. דף המוצר הכיל מספר תמונות מוצר ותיאור ארוך לפני כפתור "הוסף לעגלה". בבריף שלכם יש שישה שדות. התנהגות נוכחית: מבקרים מפסיקים לגלול בערך שלוש תמונות למטה; מעטים מגיעים לכפתור. השערה: הצגת תמונה ראשית אחת ותמונת חבילה אחת מסירה את חיכוך הבחירה ומביאה יותר מבקרים לכפתור. מדד עיקרי: שיעור הוספה לעגלה. גדר ביטחון: ההכנסה לכל סשן לא יורדת. זמן ריצה מינימלי: ארבעה עשר ימים. כלל החלטה: שחררו אם ההוספה לעגלה עולה וההכנסה נותרת. מילוי זה לוקח חמש עשרה דקות וחוסך לכם שבוע של ויכוחים על האם בדיקה "עבדה". שימו לב מה אתם לא עושים: אתם לא מתווכחים על גודל מדגם או ספי מובהקות עדיין. ללקוח עם תנועה דלילה, מסגרת סטטיסטית מלאה היא פעמים רבות מוגזמת — ספר המשחק לתנועה נמוכה מראה מתי עדויות כיווניות מספיקות.
המוקד משתנה ככל שאתם גדלים
| שלב בשלות | התפקיד העיקרי שלכם | משקל התהליך | הסיכון הגדול ביותר |
|---|---|---|---|
| ספרינטים חד-פעמיים | בניית אמון הלקוח עם ניצחונות מהירים | קל ככל האפשר | הנדסת יתר לפני שיש לכם נתונים |
| בדיקות סטנדרטיות | יצירת שפה משותפת | בריף של עמוד אחד לכל בדיקה | ביורוקרטיה ללא למידה |
| ניהול פורטפוליו | תעדוף לפי ערך החלטה | טריאז' שבועי | הרצת בדיקות שלא חשובות |
| מערכת למידה | שימוש חוזר בממצאים בין חשבונות | כרטיסי דפוס מתועדים | המצאת הגלגל מחדש לכל לקוח |
שלב שלישי: תור הבדיקות הוא החלטה עסקית
העצה הנפוצה ביותר בנישה הזו היא לבדוק משתנה אחד בכל פעם ולתת לכל בדיקה לרוץ עד הסוף. בקנה מידה של פורטפוליו, זה לא רק איטי; זה בזבזני ממש. התפקיד שלכם כבר לא להריץ כמה שיותר ניסויים. זה לוודא שכל ניסוי שאתם מריצים מסוגל לשנות החלטה. בדיקה שהתוצאה שלה תתעלמו בכל מקרה צריכה להיהרג לפני שהיא צורכת שבוע של תנועה. זו הפנייה המנוגדת שמפרידה בין סוכנויות שרק מייצרות דוחות לבין סוכנויות שמייצרות למידה.
נניח שיש לכם עכשיו חמישה לקוחות. אחד רוצה להחליף כותרת בעמוד מחירים; אחר רוצה טופס קצר יותר בתהליך הקליטה; שלישי רוצה להזיז תג אמון בעמוד מוצר. אם תריצו את כל השלושה, תבזבזו כל יום שישי בהסתכלות על דשבורדים ובתזמון פגישות. במקום זאת, אתם מדרגים כל רעיון לפי היקף (כמה מבקרים רואים את השינוי), ביטחון (כמה חזקה ההנחה המוקדמת שלכם שהוא ינצח), ומאמץ (כמה זמן לוקח לבנות ולבדוק). אתם בוחרים בתג האמון: היקף בינוני, ביטחון גבוה, שתי דקות עבודה. הבדיקה רצה, מדד ההמרה זז בכיוון הנכון, ואתם משחררים את השינוי. החלפת הכותרת עדיין בתור שלכם — אתם רק הבנתם שערך ההחלטה הצפוי שלה נמוך משל התג השבוע. אתם גם פורשים בדיקה שתצטרך שמונה שבועות כדי להגיע למובהקות בעמוד עם תנועה נמוכה; אתם יודעים מהבדיקה הקודמת של הקבלן שמיקום משנה התנהגות, אז אתם משחררים את השינוי ומנטרים אותו במקום. זו לא ירידה בקפדנות; זה לדעת מתי להפסיק בדיקה.
שלב רביעי: ספריית הלמידה שלכם הופכת למוצר
עד שתנהלו תריסר ניסויים או יותר בין חשבונות, הנכס שצומח הוא לא הבדיקות עצמן — אלא הידע הסיבתי שאתם צוברים על אילו התערבויות עובדות, איפה, ובאילו תנאים. אם אתם לא מתעדים ומבנים את הידע הזה באופן פעיל, תמשיכו לשלם את אותו מחיר למידה עבור כל לקוח חדש. כאן גם ניסויים בעזרת בינה מלאכותית הופכים למעניינים באמת, לא בגלל שהם מבטיחים למצוא עבורכם מנצחים, אלא בגלל שהם יכולים לעזור לכם לנסח השערות ולזהות דפוסים בין תוצאות — כל עוד אתם מספקים את השיפוט.
דוגמה: בספרייה הפנימית שלכם יש כרטיס שבו כתוב "הקטנת שדות בטופס מעלה את שיעור ההשלמה כשהטופס נמצא מתחת לקפל; לא זוהתה השפעה כשהטופס כבר מעל לקפל." תנאי הגבול של הכרטיס אומרים שהוא נבדק באתרי שירות ובתהליך קליטת SaaS, אבל לא בתשלום רב-שלבי. כשהלקוח חדש עם טופס יצירת קשר בעל שמונה שדות מבקש חוות דעת, אתם מתחילים מהכרטיס הזה ולא מאפס. אתם משערים: צמצמו לארבעה שדות והזיזו את הטופס מעל לקפל. אתם לא טורחים להריץ שוב את בדיקת המיקום — הדפוס הזה כבר בספרייה שלכם. אתם מריצים רק את הפחתת השדות, ואתם יכולים לומר ללקוח בדיוק על איזו ראיה קודמת הניסוי הזה מתבסס. הסתייגות: דפוסים ניתנים להעברה, אבל טקסט ועיצוב ספציפיים רק לעתים רחוקות. הכותרת שזכתה עבור הקבלן עשויה להרגיש לא מתאימה באתר מסחר אלקטרוני. מה שמועבר הוא המנגנון: הפחתת חיכוך בנקודת הפעולה. שמרו את המנגנון בכרטיס, לא את המילים המדויקות.
זוהי אבן הפינה של כל הפרקטיקה. ברגע שאתם כאן, תיעדוף בדיקות שממירות הופך לטבע שני, והספרייה שלכם הופכת כל חשבון חדש לזול יותר לקליטה.
אם יש רעיון אחד שתקחו אתכם, שיהיה זה: תנו לתהליך שלכם לגדול באותו קצב של הפורטפוליו שלכם. התחילו עם שיקול דעת וזכייה אחת גלויה. הוסיפו בריף של עמוד אחד כשהלקוח השני מופיע. התייחסו לתור הבדיקות כאל החלטת פורטפוליו כשאתם לא יכולים להריץ הכל. והשקיעו בספריית למידה לפני שיכאב לאבד אחת. סוכנויות שזוכות ב-CRO רק לעתים רחוקות הן אלה עם המכונות הסטטיסטיות המשוכללות ביותר; הן אלה שיש להן את התשובות הבהירות ביותר לשאלה "מה למדנו?" בדיקת A/B היא לא תוצר שצריך לשחרר ולשכוח. זו שאלה שאתם שואלים, פעם אחת, בתנאים שאתם באמת יכולים לנהל — ואז שואלים שוב, טוב יותר, עם הלקוח הבא.
