Какой метод такое A/B проверка а также почему этот метод необходимо
A/B эксперимент составляет из себя способ сопоставления нескольких а также разных вариантов страницы, экрана, текста, элемента действия, анкеты, письма, маркетингового креатива либо другого веб блока. Его цель состоит в том том, для того чтобы выяснить, который вариант результативнее работает в реальном использовании. Без опоры на догадок а также личных суждений используется проверка на реальной аудитории, где одна часть видит версию A, тогда как другая — формат B.
Такой принцип позволяет принимать действия с опорой на результатах информации, вместо этого без опоры на личных предпочтений а также единичных выводов. В рамках обзорных материалах, в том числе 1win, часто подчеркивается, что A/B проверка наиболее эффективно там, где небольшие корректировки могут воздействовать на действия аудитории: переходы, оформления профилей, заполнение форм, глубину просмотра, возвращаемость, транзакции, оформления подписок или прочие заданные действия. Метод помогает увидеть, на самом деле ли корректировка усиливает 1win показатель.
Как функционирует A/B проверка
Механизм A/B проверки относительно понятен. Сначала определяется блок, который необходимо проверить. Это может быть headline, цвет элемента действия, порядок элементов, текст уведомления, логика поля ввода, изображение, стоимость, тип оффера либо место целевого элемента. Далее готовятся не менее двух версии: исходный и измененный. Затем этим поток пользователей разделяется среди вариантами по заранее определенным параметрам.
Одна группа пользователей сохраняет возможность получать старую вариацию, а тестовая видит обновленную. Платформа накапливает показатели о действиях любой части а также сопоставляет метрики. В случае если решение B демонстрирует лучший результат на фоне значительном количестве сведений, его получается запускать. Когда отличия не наблюдается или новая версия работает хуже, правка отклоняется. Именно в таком подходе как раз заключается прикладная польза проверки: такой метод позволяет оценивать идеи до момента окончательного 1вин запуска.
Почему необходимо A/B эксперимент
А/Б проверка необходимо для сокращения неопределенности. Внутри веб сервисах даже малая особенность имеет шанс воздействовать по части оценку интерфейса. Конкретный headline способен быть доступнее другого, сжатая анкета способна отправляться активнее длинной, а намного более видимая кнопка действия может повысить количество переходов. Если не использовать тестирования эти выводы обычно выглядят гипотезами.
Метод помогает улучшать продукт постепенно. Взамен полной переделки полного проекта а также приложения можно тестировать отдельные элементы а также записывать реальный эффект. Это уменьшает вероятность ошибочных решений, экономит время и средства плюс дает возможность собирать понимание про реакциях посетителей. Со накоплением тестов специалисты 1 win формирует не случайный набор суждений, вместо этого модель проверенных подходов.
Какие элементы получается тестировать
Проверять получается почти любой объект, что сказывается на реакции аудитории. Как правило всего оценивают заголовки, разделы, обращения к действию, надписи элементов действия, анкеты регистрации, место элементов, картинки, страницы позиций, очередность действий, инструменты отбора, меню, промоблоки, подсказки, email-сообщения плюс рекламные материалы. Существенно, дабы указанный элемент оставался соотнесен с определенной точной метрикой.
Когда ориентир заключается в процессе увеличении отправленных обращений, правильно тестировать заявку, формулировку рядом с нее, количество элементов ввода а также заметность элемента действия. В случае если важно усилить глубину просмотра, имеет смысл оценивать переходы, модули предложений, внутрисайтовые переходы а также логику раздела. Чем яснее зависимость 1win в паре корректировкой и метрикой, тем самым полезнее результат эксперимента.
Гипотеза в роли основа эксперимента
Любой корректный сплит проверка начинается на основе проверяемой идеи. Гипотеза объясняет, какого типа правка планируется, из-за чего это изменение может сказаться в отношении эффект а также какой именно показатель может сдвинуться. К примеру, допустимо сформулировать, если упрощение заявки создания профиля уменьшит число отказов, потому что именно посетителю будет необходимо меньше минут с целью завершения шага.
Хорошая гипотеза не следует быть чрезмерно широкой. Формулировка типа «улучшить интерфейс качественнее» не дает возможность измерить результат. Намного более ценный вариант: «если обновить длинный формулировку элемента действия на краткий плюс понятный, объем переходов вырастет, потому ведь ожидаемый результат окажется понятнее». Такая идея сразу же 1вин указывает элемент проверки, причину плюс критерий.
Базовая а также измененная аудитории
На уровне A/B тестировании базовая часть получает исходный вариант, а экспериментальная — измененный. Такое деление важно с целью объективного сопоставления. Если только поменять раздел а также сопоставить показатели перед а также после, эффект имеет шанс стать неточным по причине сезонных факторов, рекламной нагрузки, изменения источников посещений, событий, системных проблем либо других окружающих причин.
Синхронный вывод отличающихся решений уменьшает воздействие случайных факторов. Контрольная и тестовая выборки находятся на уровне схожей ситуации: один плюс самый одинаковый отрезок, схожие самые источники трафика, близкие устройства плюс единый контекст. Следовательно различие внутри результатах с большей 1 win значительной вероятностью соотносится как раз с корректировкой, и не не только с посторонними внешними обстоятельствами.
Какого типа показатели задействуются в A/B проверках
Метрика — является показатель, согласно чему проверяется итог теста. Выбор критерия зависит с учетом цели проверки. Для лендинга с активной заявкой важны отправки обращений, в случае интернет-магазина — сохранения в покупку плюс покупки, в случае контентного проекта — глубина чтения и длительность просмотра, для приложения — регистрации, активации, retention а также следующие 1win события.
Важно разграничивать главную а также дополнительные показатели. Основная отражает, для чего проводится проверка. Вторичные дают возможность понять побочные последствия. В частности, изменение CTA способно увеличить клики, но снизить результативность следующих шагов. Следовательно важно смотреть не исключительно по первый этап, но также в сторону последующее поведение: выполнение заявки, повторные визиты, выходы, ошибки и общую ценность события.
Математическая значимость
Математическая значимость отражает, насколько вероятно, будто наблюдаемая расхождение в паре решениями не оказывается статистическим шумом. Когда конкретный решение немного превосходит альтернативный по итогам ряда малого числа посещений, подобный итог еще не доказывает выигрыш. При небольшом количестве наблюдений итог имеет шанс быстро поменяться, когда 1вин выборка окажется объемнее.
Ради надежного итога требуется достаточное число данных. Чем ниже ожидаемая дельта среди вариантами, тем больше сведений нужно собрать. Когда изменение должна повысить показатель только примерно на несколько %, проверке потребуется значительно больше времени и посещений. Расчетная значимость позволяет избегать выносить поспешные действия с опорой на результатах случайных скачков.
Размер наблюдений и продолжительность проверки
Объем выборки воздействует на достоверность итога. В случае если тест охватывает слишком ограниченный объем пользователей, результаты имеют шанс стать сомнительными. К примеру, несколько новых переходов в конкретной выборке могут показываться как увеличение, однако при крупном количестве будут обычной случайностью. Из-за этого до момента старта полезно рассчитывать, какое количество людей 1 win или конверсий необходимо с целью оценки гипотезы.
Длительность теста также сохраняет роль. Слишком сжатый период проверки имеет шанс не учитывать показывать отличия среди будними плюс праздничными днями, дневной по времени а также послерабочей активностью, несколькими каналами пользователей. Обычно тест должен охватывать целый цикл активности аудитории. Вместе с этом условии слишком затянутый эксперимент также неоптимален, когда сторонние обстоятельства успевают заметно измениться.
Зачем нельзя менять тест во время запуска
Распространенная среди распространенных проблем — делать правки в проверку вслед за начала. Если по ходу середине теста поменять формулировку, группу, дизайн, условия показа либо цель, показатели станут неоднородными. Тогда будет непросто понять, какое изменение именно повлияло в отношении итог. Тест потеряет прозрачность, а выводы станут сомнительными 1win.
До запуском необходимо установить предположение, версии, показатели, деление пользователей и условия остановки. С момента начала лучше не корректировать тест без наличия критичной причины. Если обнаружена ошибка на уровне запуске а также технический проблема, правильнее прервать эксперимент, исправить ошибку затем создать новый тест, чем пытаться объяснять смешанные наблюдения.
Параллельное тестирование нескольких правок
В отдельных случаях формируется желание протестировать одновременно группу изменений: другой headline, альтернативную кнопку, упрощенную форму плюс измененный порядок блоков. Такой вариант может дать суммарный показатель, но не сможет покажет, какой именно конкретно элемент повлиял на результат. В случае если новая версия выиграла, останется неясно, какой элемент повлияло эффективнее остального.
Для корректной оценки обычно корректируют единственный существенный объект в 1вин один этап. Если требуется проверить несколько вариаций, задействуется мультивариантное эксперимент. Оно сложнее, нуждается повышенного числа пользователей а также аккуратной оценки. Ради многих задач сплит проверка на основе единственной точной идеей обеспечивает намного более корректный и практичный эффект.
Сценарии сплит экспериментов на уровне дизайне
Внутри дизайнах А/Б проверка регулярно используется с целью оптимизации ясности сценариев. В частности, получается проверить несколько форматы заявки: расширенную с большим количеством строк а также короткую с небольшим минимальным комплектом полей. Когда упрощенная форма усиливает число успешных созданий аккаунтов без одновременного потери результативности форм, этот вариант можно признавать гораздо более результативной.
Другой сценарий — проверка надписи кнопки. Нейтральная надпись имеет шанс быть гораздо менее ясной, по сравнению с конкретное название шага. Также тестируют позицию элементов действия, порядок смысловых разделов, оформление 1 win подсказок, использование шкалы выполнения, метод вывода предупреждений плюс количество этапов на протяжении пути. Каждый этот фактор сказывается по части то самое, как легко окончить заданное действие.
сплит эксперимент внутри контенте
На уровне материалах эксперимент позволяет выяснить, какого типа заголовки, анонсы, структуры и форматы лучше удерживают интерес. Допустимо сравнивать отличающиеся первые абзацы, длину текста, логику объяснений, добавление перечней, дизайн карточек, подачу преимуществ либо формат подачи сложной темы. При этом необходимо анализировать не только исключительно переходы, но еще последующее поведение.
Headline может увеличить объем кликов, но когда содержание не сможет соответствует интересам, увеличится процент уходов. Следовательно контентные эксперименты должны учитывать глубину контакта: длительность изучения, глубину страницы, переходы на уровне платформы, возвраты плюс совершение заданных результатов. Хороший эффект — представляет собой не просто исключительно захват внимания, но совпадение запроса плюс материала.
А/Б проверка внутри почтовых рассылках
В email-рассылках часто тестируют темы писем, название автора, начальные фразы, время доставки, объем сообщения, место элементов действия а также тексты офферов. Одна часть аудитории получает одну формат email, часть — тестовую. После этого сравниваются open rate, нажатия, отказы от подписки, негативные сигналы и следующие реакции на сайте.
Необходимо не стоит сводить анализ показателем просмотров письма. Тема рассылки может оказаться выразительной плюс получать интерес, однако когда она не будет совпадает содержанию, клики и лояльность могут уменьшиться. Поэтому качественный почтовый эксперимент оценивает всю воронку: open-событие, переход, поведение сразу после клика плюс отклик подписчиков на сообщение.