Эксперименты в Яндекс Директе: запускаем первый А/Б-тест

Артем Артемов
31.07.2019 Артем Артемов Количество просмотров: 447

Не бывает одного правильного способа настроить объявление. Делать ставку на единственный вариант настроек, текст, аудиторию — провальная стратегия. Для успеха рекламной кампании необходимо экспериментировать. В незапамятные времена (в прошлом году) мы все тестировали различные сеты настроек вручную, теперь же в Яндекс Директе появился инструмент, который позволяет автоматизировать процесс A/Б-тестирования. Называется этот волшебный инструмент «Эксперименты». Мы расскажем, как им пользоваться на примере нашего проекта.

8 мин.

Когда вы запускаете тест, система случайным образом разделяет аудиторию на сегменты. Количество и размер сегментов вы определяете самостоятельно. При этом выборки могут быть разными — можно установить размер каждой группы от 1% до 99%, чтобы в сумме получилось 100%. Сейчас «Эксперименты» доступны по запросу, и подключают их за пару дней.

Экспериментировать на старте новой кампании обязательно. Мы же запустили этот инструмент на старом проекте с небольшим бюджетом — чтобы попробовать и дальше использовать его на других проектах. Рассказываем, что из этого вышло.

Клиент: «Займ Гарант» — компания выдает микрозаймы физическим лицам.

Регион: Республика Хакасия.

Бюджет: 15 000 рублей (на рекламу в месяц).

Проблема: мы крутим рекламу с 06:00 до 24:00, но в этом промежутке есть временные периоды, которые не приносят конверсии, расходуя бюджет без отдачи. До запуска «Экспериментов» нам приходилось ковыряться в Метрике и разбираться, есть ли эффект от ночных показов. Вручную мы выявили, что крутить рекламу по ночам неэффективно, а теперь задача состоит в том, чтобы определить в диапазоне с 6 до 24 часов периоды, когда реклама не дает желаемых результатов, и перераспределить бюджет.

Решение: подключили «Эксперименты», чтобы провести A/Б-тестирование на день и вечер. Новый новый инструмент Директа упрощает анализ.

Мы сотрудничаем с компанией «Займ-Гарант» c 2015 года. За годы работы мы провели всевозможные виды оптимизации. Проект рекламируется по 150 фразам и получает около 300 переходов из рекламы в месяц при средней цене клика 52,47 рубля. Семантическое ядро не требует большого бюджета, потому что трафик по ключевым словам в регионе не такой большой.

Подключение инструмента «Эксперименты» в аккаунте

Инструмент сравнительно новый, поэтому в нашем аккаунте он подключен не был. Чтобы получить к нему доступ, нужно связаться с менеджером Яндекса или оставить заявку на подключение инструмента через форму в разделе «Контекстная реклама». Сейчас сплит-тестирование подключается в экспериментальном режиме для каждого клиента отдельно, на агентском аккаунте подключить инструмент пока нельзя.

В заявке надо обязательно указать логин, домен клиента и примерный план эксперимента (это такая формальность, что можно особенно ничего не расписывать — мы просто написали, что хотим протестировать новый инструмент). Такая заявка попадет к менеджеру, и он откроет доступ к новому инструменту. Но не сразу. Пару дней придется подождать. После подключения в Яндекс.Аудиториях появится вкладка «Эксперименты». С ней мы и будем работать.

Вкладка Эксперименты в Яндекс Директе

1. Настройка экспериментов

Прежде чем приступить к настройке, продумайте гипотезу, которую будете проверять с помощью сплит-тестов. Кто-то скажет, что гипотезы ограничиваются лишь вашей фантазией, но лучше все-таки отталкиваться от реальной проблемы. Например, наша гипотеза была в том, что в конкретное время суток одно и то же объявление будет приносить больше конверсий, чем в другое. Чтобы ее проверить и выяснить, когда все-таки лучше крутить рекламу микрофинансовой организации, мы решили сравнить эффективность объявлений в разные временные периоды:

  • с 06:00 до 15:00
  • с 15:00 до 24:00

Чтобы отключить период с 00:00 до 06:00, нам пришлось потратить время на анализ данных в Метрике. Теперь же, после завершения эксперимента, всю информацию можно будет увидеть в одном отчете.

Первым делом необходимо создать новый эксперимент: придумываем ему название, выбираем счетчик и делим на сегменты (на два и больше).

Важно! Сегменты Экспериментов и сегменты Метрики — это не одно и то же. Это разные сегменты, не связанные между собой.

Нажимаем «Создать эксперимент». Доступ настраивать не нужно, потому что мы все делаем не в агентстком аккаунте. Инструмент пока не подключают в аккаунтах агентств.

Создание нового эксперимента в Яндекс Директе

Эксперимент для A/Б-тестирования готов и выглядит так:

Готовый эксперимент в Яндекс Директе

Если нажать на кнопку «Результаты», откроется Яндекс.Метрика с новым отчетом, в котором подсчет сегментов будет по всем кампаниям. Мы же будем проводить тестирование в рамках одной поисковой кампании, а смотреть результат будет удобнее в Мастере отчетов Яндекс.Директа.

2. Подготовка кампании для эксперимента и запуск

Для эксперимента взяли рекламную кампанию на поиске. Перед подключением настроенных сегментов необходимо сделать две копии исходной кампании (по количеству тестовых сегментов).

Копии кампаний

На скриншоте видны исходная кампания и две ее копии с пометками — в нашем случае добавлены названия сегментов.

Дальше нужно установить все необходимые настройки для кампаний исходя из определенных нами условий для сегментов. То есть мы настраиваем в каждой кампании нужный временной таргетинг: для сегмента A выставляем время с 06:00 до 15:00.

Важно! Временной таргетинг не может охватывать меньше 40 часов в рабочие дни.

Временной таргетинг при настройке РК в Яндекс Директе

Когда таргетинги установлены, листаем настройки вниз, пока не увидим раздел «Эксперименты». В нем выбираем нужный эксперимент и сегмент:

Выбор эксперимента и сегмента

Остальные настройки оставляем прежними. Не забудьте сохранить.

Для другой кампании повторяем ту же последовательность действий, но уже используем сегмент B с другим временным таргетингом.

Перед запуском новых кампаний нужно установить в настройках исходной РК дату завершения — день, в который планируется запустить две новые кампании. Ну а в новых кампаниях необходимо установить дату запуска. Для чистоты эксперимента важно, чтобы новые кампании были запущены в один день. На скриншоте выше видно, что исходная кампания завершилась 24 июня 2019 года, и в этот же день запущены две ее копии с экспериментальными сегментами.

3. Анализ результатов в Мастере отчетов

Мы покрутили объявления три недели, после чего решили посмотреть результаты. За это время должна накопиться статистика, достаточная, чтобы делать выводы об эффективности рекламной кампании.

Чтобы посмотреть результаты, выбираем кампании, в которых проводили A/Б-тестирование и смотрим. Нужно построить отчет во вкладке «Мастер отчетов». Для этого указываем следующие значения:

  1. Группировка: за выбранный период.
  2. Данные по цели: отправка любой формы заказа. Здесь выбираем главные цели, по которым будем делать выводы. В нашем случае указана универсальная цель, которая собирает данные об отправке всех форм на сайте.
  3. Атрибуция: первый переход. Для рекламы лучше использовать эту атрибуцию: тут считается первый переход пользователя на сайт за последние 180 дней. Так вы сможете отследить источник рекламы, который привел клиента и повлиял на все последующие взаимодействия с сайтом.
  4. Период отчета: какой угодно. Мы выбрали трехнедельный период — с момента запуска кампании.

Отчет за три недели

Затем отмечаем параметры, которые будем сравнивать.

Параметры для сравнения кампаний

Ниже отмечаем условие фильтрации «Эксперименты» и выбираем нужный эксперимент (если у вас их несколько).

Выбор эксперимента

Нажимаем «Показать».

Выбор эксперимента

Кампания с сегментом A (время показа — с 06:00 до 15:00) ушла в серьезный отрыв:

  • количество конверсий значительно больше — 28,57% в сравнении с 13,04% в период показа с 15:00 до 00:00;
  • средняя цена клика ниже почти на 20 рублей;
  • средняя позиция выше — 2,01 против 2,48;
  • отказов меньше в четыре раза — всего 5,26%, тогда как в период с 15:00 до 00:00 отказов было 21,43%;
  • цена достижения цели ниже примерно в 1,5 раза.

При всем этом ставки в обеих кампаниях одинаковые и запущены они были в одно и то же время.

Неограниченные возможности для Экспериментов

Эксперименты от Яндекса — простой в освоении инструмент, позволяющий формировать удобные для анализа отчеты. Раньше при проведении сплит-тестов, чтобы узнать результаты, приходилось перелопачивать всю Метрику, а теперь можно сформировать один отчет, и в нем будут отражены все важные данные по нужным кампаниям.

Удобно, что Эксперименты универсальны. Можно построить любую гипотезу и проверить ее на A/Б-тестах. Здесь удобно сравнивать медийные кампании, разные медиапланы, кампании в РСЯ и на поиске, автоматические стратегии и ручные (если нужно протестировать три стратегии, то потребуется настроить три сегмента) и прочее.

Мы работали с кампаниями на поиске и проверяли эффективность в зависимости от разных временных таргетингов. За три с лишним недели мы накопили достаточно статистики, чтобы понять, в каком сегменте показатели интереснее, и перенаправить бюджеты на более эффективную кампанию. Сейчас, протестировав «Эксперименты» на небольшом проекте, мы запускаем инструмент на крупных клиентах с бюджетом от 100 000 рублей.

 

Хотите заказать разработку сайта, продвижение или контекстную рекламу? Позвоните нам по телефону: 8-800-200-94-60, доб. 321, или отправьте запрос на электронную почту rop@web-canape.com.