Калькулятор A/B-тестирования

Рассчитайте размер выборки и срок A/B-теста или сравните конверсии двух вариантов. С пояснением результата и ограничений метода.

Все бесплатные инструменты

Исходные данные

Бесплатно, без регистрации. Расчёт и обработка происходят в вашем браузере. Поля со звёздочкой обязательны.

Учебный пример: в полях стоят условные числа. Замените их своими данными перед расчётом.

20% от конверсии 3% — это 3,6%, а не 23%.

Результат

Заполните данные и нажмите «Рассчитать». Здесь появится результат с пояснениями.

Как работает инструмент

Два независимых варианта, бинарная метрика: один участник либо совершил целевое действие, либо нет. Число заказов или просмотров одного человека вместо числа сконвертировавшихся участников не подходит. Распределение случайное, участники не пересекаются.

Планирование: двусторонний тест, уровень значимости 5%, мощность 80%, равные группы 50/50. Размер выборки — нормальное приближение для двух долей, округляется вверх. Срок — оценка набора участников, не обещание длительности: дождитесь полного цикла продаж.

Результат: двусторонний z-тест двух долей с объединённой оценкой при нулевой гипотезе. Для каждой конверсии показываем 95%-й интервал Уилсона. Если в любой группе меньше пяти успехов или неуспехов, не делаем вывод по z-тесту.

p-value — не вероятность того, что вариант B лучше, и не вероятность истинности гипотезы. Значимый результат не подтверждает качество рандомизации. Не останавливайте эксперимент при первом p<0,05; для последовательного анализа нужен другой метод. Незначимый результат не доказывает равенство вариантов.

Что делать дальше

Выбрать другой инструмент