QA — специалист по пожарной безопасности вашего проекта

d9ctsp21dckziyyyjwbtvxolo38.jpeg

На конференциях и в неформальных беседах на работе нет-нет да и возникает разговор о важности работы QA-инженера и его роли в проекте. Это может быть и робкий вопрос коллеги-программиста «А, может, выпустим без QA?», и объёмный доклад.

Проблема, как мне кажется, связана с тем, что эффективность труда сотрудников отдела QA обратно пропорциональна количеству «срочных, внезапно возникающих» сложных задач. Назовём это «парадоксом немецкого сантехника», который получает зарплату, когда у него нет вызовов: чем меньше протечек и аварий на его участке, тем качественнее и эффективнее его работа. Но чем меньше у него вызовов, тем больше кажется со стороны, что он ничего не делает.

uqgeawqcoprb0fcniobhcezeygy.jpeg
Типичный мем о важности QA

Поводом к написанию этой статьи стало общение с моим коллегой из другой компании, который недавно получил в работу целый проект по внедрению платежей и оказался в нём единственным QA-инженером. Он задался вопросом: как расставить приоритеты так, чтобы, с одной стороны, быть полезным команде, а с другой — иметь возможность обосновать собственную значимость для общего дела?  

Ответить на этот вопрос мне помогли:  


  • десятилетний опыт работы QA-инженером в связанных с финансами проектах разной степени тестовой оснащённости и разным видением роли QA-специалиста;
  • работа в Badoo, где организация процесса тестирования тщательно продумана и проверена многолетним опытом. О том, как организационно и технически устроен этот процесс, мы рассказывали в статье «Тестирование в Badoo «с высоты птичьего полёта».

Итак, если вы, как и мой коллега, получили в работу целый проект по тестированию и не знаете, с чего начать, или просто задумываетесь о том, как организовать свою работу так, чтобы она была полезна команде (и чтобы пользу осознавали и вы, и команда), приятного чтения!  

Отрасль тестирования программного обеспечения сравнительно молода, поэтому для лучшего понимания процессов в ней имеет смысл провести аналогию с известными и хорошо развитыми отраслями. Я бы сравнил создание программного продукта со строительством современных модульных зданий, а деятельность QA-инженера — c работой специалиста по технической безопасности. 

В зависимости от того, в каких условиях эксплуатируется здание, специалист по технической безопасности может заниматься разными вопросами: пожарной безопасностью, сейсмической устойчивостью конструкции, гидробезопасностью. Не уходя в дебри, остановимся на одном понятном всем направлении — пожарной безопасности.

В обязанности специалиста по пожарной безопасности не входит тушение пожаров. Он делает другое:  


  • сообщает о пожаре,
  • помогает локализовать возгорание,
  • исследует его причину,
  • предупреждает возникновение пожара, выявляя места возможного возгорания,
  • запрещает использование легковоспламеняющихся материалов,
  • пишет инструкцию по безопасности и следит за её соблюдением.

Так же и специалист по тестированию. 


QA-инженер не исправит баг в приложении, но может своевременно сообщить о его наличии, локализовать места появления багов в коде, уменьшить вероятность их появления, поделиться своими знаниями, чтобы коллеги, столкнувшись с похожей проблемой, легко могли решить её. 

По сути, QA-инженеры при работе с кодом проекта решают те же задачи, что и специалисты по пожарной безопасности при строительстве здания:


  1. Организуют сигнализацию, сообщающую о пожаре, отвечая на вопрос «Как я узнаю, что в компоненте/интеграции есть ошибка?». 
  2. Совершенствуют меры предупреждения пожара: «Как я буду в процессе изменений определять, что данный компонент не затронут и продолжает работать корректно? Можно ли откатиться назад, если в процессе изменений что-то пойдёт не так? Как минимизировать вероятность появления ошибки в коде?». 
  3. Дают возможность определить причину пожара: «Если произойдёт ошибка в этом компоненте, как я смогу быстро понять, что она произошла именно здесь?». 
  4. Разрабатывают инструкции по пожарной безопасности и следят за их соблюдением: «Что может быть непонятно другим участникам процесса при использовании этого компонента? Что может повлечь за собой неправильное использование и проблемы?».

Прежде чем мы последовательно разберём все задачи QA-инженеров, я расскажу о нескольких заблуждениях, связанных с восприятием QA в команде. С ними я столкнулся на своём профессиональном пути и считаю, что они мешают расставлять приоритеты задач так, чтобы QA-специалист был максимально эффективен.  

В большинстве компаний единственной обязанностью QA-инженера является организация превентивных мер. По крайней мере, в первую очередь вспоминают всегда о ней: эта часть работы сильно переоценена, что порождает множество стереотипов. 

Мы в Badoo рассматриваем их как заблуждения.

Заблуждение 1: QA-инженер должен протестировать всё, что можно. Он не даёт ход тикету, пока не исправлены все обнаруженные в нём баги. 

Распространяют этот миф либо начинающие тестировщики, либо «эффективные менеджеры», которые рассматривают организацию превентивных мер как единственную обязанность QA-специалиста. 

Это заблуждение приводит к двум проблемам. Во-первых, выход новой функциональности задерживается из-за несущественных недостатков, а задержка может быть критична для бизнеса. Во-вторых, сильно страдает атмосфера в коллективе.

Заблуждение 2. Тестировщик — это кривору… низкоквалифицированный сотрудник, которому не удалось стать программистом. Поэтому в первую очередь он должен всё ломать. 

Распространителями этого мифа являются либо сами QA-инженеры c заниженной самооценкой, либо разработчики с завышенной самооценкой. У них рождается мысль, что если тестировщик что-то не сломал, то он плохой специалист. 

В результате QA-инженер сосредотачивается не на задачах бизнеса, а на поиске багов (в большинстве случаев это разные задачи, если не диаметрально противоположные). В итоге он ищет заковыристые кейсы, с которыми столкнётся только малая доля пользователей, лишь бы найти баг и почувствовать свою значимость.   

Заблуждение 3. Ответственность за выпуск релиза с багами лежит на тестировщике. 

К счастью, в Badoo это заблуждение было преодолено ещё до того, как я присоединился к команде. Тем не менее я часто сталкивался с ним в других проектах. 

От этого заблуждения страдает скорость решения проблем. Возникает дисбаланс ответственности между участниками команды: первый человек, к которому приходят за ответом на вопрос «Где фича?», — это последний человек в конвейере, доставляющем фичу. 

Заблуждение 4. Проверка положительного кейса является единственной задачей QA-инженера. 

Распространяют это заблуждение, как правило, люди, плохо знающие, что такое классы эквивалентности и граничные кейсы (теоретическая база для работы в QA). В результате тикеты приходят на тестирование без необходимой информации. «Зачем я буду тратить время на описание, если есть человек, который должен это воспроизвести? Пусть он и разбирается», — думает разработчик. 

Помимо нездоровой атмосферы в команде, это заблуждение порождает следующую проблему: вместо полного покрытия тестами QA-специалист занимается в прямом смысле детективным расследованием, чтобы выяснить, что же сделал разработчик и как это протестировать.

Наиболее полную инструкцию по борьбе с первым, вторым и третьим заблуждениями я подсмотрел на конференции TestBash в Мюнхене (для просмотра доклада нужно зарегистрироваться на сайте ministryoftestingorg.com, но там есть бесплатный пакет). 

Вкратце идея следующая:  


QA-инженер — это человек, который должен максимально быстро предоставить максимально объективную информацию о состоянии фичи/проекта, которая позволит принять решение о релизе с учётом интересов бизнеса. 

Тестировщик должен помнить, что иногда скорость доставки фичи критична для бизнеса, и бизнес готов мириться с некритичными проблемами, но не готов мириться с задержкой. Поэтому полезен не тот, кто нашёл как можно больше мелких недочётов, продемонстрировав внимание к деталям и прочие качества, которые можно встретить в описании вакансии тестировщика, а тот, кто максимально быстро предоставил объективную информацию о текущем состоянии продукта, которая позволит менеджерам принять решение о релизе и обозначить приоритеты по ближайшим исправлениям.

QA-инженер может получить эту информацию, используя определённую последовательность действий. Важно, что применение этой последовательности должно иметь фрактальный принцип. Именно с пояснения фрактального принципа мы начнём рассматривать четыре основные задачи QA-специалиста, обозначенных выше.

Вернёмся к аналогии с пожарной безопасностью. Представьте процесс строительства здания: если бы мы строили не «фрактально», то сперва возвели бы одну стену, оштукатурили её, покрасили, установили сигнализацию и только после этого переходили бы к другой стене. Фрактальный принцип означает, что на каждом этапе работы над проектом (архитектура, отдельная интеграция, работа над конкретным тикетом в Jira) должна закладываться тестируемость фичи (чтобы к окончанию строительства не оказалось, что провода для сигнализации вам надо провести в шахте, которую не предусмотрели в архитектуре здания). Для того чтобы реализовать это на любом уровне развития проекта (идея, реализация, обслуживание, рефакторинг, переход к новой версии), QA-инженер должен отвечать на вопросы в следующем порядке:


  1. Как я узнаю, что в этой функциональности появились новые ошибки?
  2. Как я смогу предупредить появление ошибок и уменьшить вероятность их появления?
  3. Как я быстро пойму, с чем связана ошибка?
  4. Будет ли мой опыт решения проблемы полезен в будущем мне или кому-то ещё?

hrs4vp-7vgqwgzh1mul_wr5deki.png

Давайте рассмотрим подробнее, как организовать решение каждого из этих вопросов на разных этапах развития проекта и на разных уровнях абстракции.


1. Ставим сигнализацию

Этот этап посвящён ответу на вопрос: «Как я узнаю, что в компоненте/интеграции на продакшене есть ошибка?». Ключевым моментом здесь является информация с продакшена. 

В больших развитых проектах анализом информации с продакшена занимаются отделы сбора статистики и мониторинга. Рассмотрим, как эта часть работы затрагивает QA-инженера, на примере команды биллинга Badoo. 

Мы тестируем более 70 разных платёжных интеграций в 250 странах мира, и часто статистика и логи оказываются единственными способами удостовериться в том, что в интеграциях в разных странах всё в порядке. 

Например, в последнее время многие провайдеры (особенно СМС) для проведения платежей предоставляют SDK, внутри которого они сами получают информацию с сим-карты пользователя (MNC/MCC-код, IMSI, MSISDN). В этом случае проверить интеграцию невозможно без реальной сим-карты той страны, где необходимо проверить платёж. 

Поэтому мы стараемся покрыть тестами максимально возможное количество интеграций, используя моки, фикстуры, стабы и прочие инструменты. Об этом можно почитать, например, в этой статье. Но иногда ошибка возникает именно в той части, где находится мок или фикстура, и даже если проблема не на нашей стороне, нашим пользователям от этого не легче. Мы должны принять все возможные меры по мониторингу ошибок и предотвращению последствий. 

Кроме того, статистика и логи являются хорошей компенсацией последствий срабатывания пресловутого человеческого фактора — например, если при тестировании вы упустили особенности платёжных систем, связанные с законодательством той или иной страны (если вы принимаете платежи за рубежом) или работой мобильных операторов. Анализ статистики и логов станет некой страховкой (пусть и с запозданием).


1.1. Роль QA-инженера в установке сигнализации 

На начальных этапах реализации проекта QA-инженер задает «неудобные» вопросы менеджерам и разработчикам:  


  • планируется ли отслеживание статистики, что она показывает, почему мы должны доверять этим метрикам;
  • вопросы об архитектуре: предполагается ли увеличение количества метрик;
  • как устроено логирование ошибок, что показывают ошибки, являются ли они информативными и полезными для QA-специалиста, для разработчиков, для других членов команды, которые будут участвовать в разборе ошибок.

Также QA-инженер даёт рекомендации по набору полезных метрик, которые позволят удостовериться, что в той или иной части кода всё работает корректно. 

Например, вы внедряете интеграцию с новым платёжным провайдером. Вы можете предложить следующие метрики: сколько открытий формы провайдера было выполнено, сколько было закрыто без проведения платежа, сколько было завершённых платежей.

Также нужно выяснить следующее: после реализации функциональности в лог будут падать миллион сообщений «Unexpected data format», которые никому ни о чём не говорят, или же будет появляться детальное описание ошибки с указанием места падения и данных, с которыми эта ошибка произошла?   

Как уже было сказано ранее, в развитых проектах этим занимаются отделы мониторинга и аналитики или внутри проекта выделены люди, занимающиеся мониторингом и аналитикой (причем это могут быть и менеджеры и разработчики). Однако если у вас на начальном этапе нет таких ролей, вполне естественно, что этим может заняться QA c последующей передачей этой обязанности другим участникам процесса.

В развитых проектах после определения рисков можно выявить, какая статистика, какие логи помогут понять, что компонент/интеграция не работает, промониторить статистику сразу же после выкладки изменений кода.


1.2. Какие реализации сигнализации возможны

Реализаций триггеров ошибок может быть множество. О технической реализации сбора метрик можно прочитать в нашей статье о мониторинге. А в этом разделе я расскажу о способах представления метрик, которые мы используем в Badoo, и тех, которые мне кажутся перспективными по опыту других проектов.


Графики для метрик: платежи, запросы сервиса, открытия окон

Мы фиксируем либо количество платежей (запросов сервиса, открытий окна), либо сумму платежа (или другую количественную характеристику), строим график по временным отрезкам, агрегируем данные в зависимости от критичности компонента в разных временных интервалах (минута, час, день). 

Если что-то идёт не так (не завершается платёж, не открывается окно или, наоборот, дублируется окно и т. д.), график показывает это внезапными падениями или всплесками. 

Чтобы сгладить графики, можно использовать алгоритмы из технического анализа:


  • сглаживание (moving average): может быть простым, экспоненциальным, взвешенным; основное предназначение — превратить график из «лесенки» в сглаженную кривую, что позволит увидеть аномалии, исключив моменты активности пользователей;  
  • индикатор канала (CCI): в трейдинге этот инструмент показывает отклонение цены от скользящей средней (moving average), в мониторинге он может сигнализировать о какой-то аномалии, например, с метриками, которые должны оставаться в диапазоне значений;
  • различные производные для определения скорости изменений и динамики скорости.  


Чек-суммы

Под чек-суммами я подразумеваю сбор одних и тех же данных из разных источников и их последующую сверку. Такой способ идеально подходит, например, для проверки рефакторинга или модификации структур баз данных с целью рефакторинга, когда у нас есть старый работающий код/база и новый код/база. Принцип работы простой: собираем агрегированную информацию, которая должна остаться неизменной, из обоих источников, делаем сверку.

Например, у нас в базе данных есть таблица, хранящая записи о нотификациях от платёжного провайдера, в которой мы фиксируем все нотификации, с информацией о пользователе и платеже, и таблица, в которой фиксируется, сколько денег мы получили от конкретного пользователя. 

lgdvlqrdhouzbczjkkcdqszr7qs.png
   
В качестве чек-суммы можно использовать следующий запрос:

select balance.user, balance.amount, notification.amount, IF (balance.amount<>notification.amount, 'Fail', 'OK') as alert  from

(select user, amount from Balance) as balance

left join

(select a.user, IFNULL(b.total,0) as amount from 
(select user from Notifications where type = 'initial' group by user  order by user) as a left join 
(select user, sum(amount) as total from Notifications where type = 'success' group by user order by user) as b on
a.user = b.user) as notification 
on balance.user = notification.user;

В результате запроса мы должны получить следующую таблицу:  



Организация логов приложения

Очень подробно о том, как может быть организован сбор логов для одного из компонентов системы, мы рассказывали в статье «Сбор и анализ логов демонов в Badoo». 


Прогнозирование поведения метрик

Имея метрики, на следующем этапе можно начинать разрабатывать системы прогнозирования их поведения. Здесь математический инструментарий просто неисчерпаем: от стохастических осцилляторов из трейдинга, которые показывают отклонения графика от среднестатистических исторических показателей, до машинного обучения. В Badoo мы делаем прогнозы на основе машинного обучения.  


Выводы

Несмотря на то, что сбором и анализом метрик и логов ошибок в больших проектах могут заниматься специалисты по мониторингу и аналитике, вы должны озаботиться получением доступа к этим данным на проде хотя бы в режиме read only. В большинстве случаев это оказывается единственным способом проверить функциональность (например, платёжные интеграции в других странах) или понять, что что-то идёт не так. 

Если всё уже реализовано, попросите доступ к этим компонентам у аналитиков и разработчиков, чтобы удостовериться в том, что в проекте в данный момент нет пожаров, и просматривайте их после каждого релиза. Если же не реализовано, то будет логично, если именно вы станете инициатором сбора такой информации на начальных этапах развития проекта.

Это позволит быстро реагировать на критические ситуации и подстраховаться на тот случай, если не всё удастся протестировать и что-то пойдёт не так в не покрытом тестами коде. 


2. Организуем превентивные меры при внесении изменений

На этом этапе QA-инженер должен работать в двух направлениях:  


  1. Исследовать, в каком состоянии находится продукт после внесения изменений. Если есть проблемы, можно ли их минимизировать?
  2. Следить за тем, есть ли план действий на случай возникновения пропущенных ошибок.


2.1. Исследование состояния продукта после внесения изменений

Как только тикет переходит от разработчика к QA-специалисту, кто-то обязательно начинает интересоваться: «Как там задача?» Если QA-инженер ответит, что только получил её в работу, этот же человек появится через пять минут с вопросом «А сейчас?». 

sfx5_dmzqgjkm7f0uw1ugngm3zm.png

Коллеги делают это не потому, что хотят досадить вам.


Скорость доставки фичи, особенно если это что-то новое для рынка, критична для бизнеса. Компании часто готовы выпустить фичу даже с ошибками (если они не являются блокирующими для заявленной функциональности), но сделать это раньше конкурентов. 

Поэтому, чтобы в любой момент времени иметь возможность рассказать историю о продукте, которая будет полезна бизнесу, я предлагаю использовать следующую последовательность при проверке:


  1. Проверить положительный кейс.
  2. Проанализировать и проверить отрицательные и эдж-кейсы, критичные для бизнеса (!).
  3. Провести регрессию.
  4. Проверить прочие отрицательные кейсы (не вошедшие в п. 2).
  5. Проверить прочие эдж-кейсы (не вошедшие в п. 2).

3qn-analmse0yojwawtm9qibcsu.png


Положительный кейс

При проверке положительного кейса мы должны удостовериться, что то, что заявлено как основная фича, работает.


Отрицательные и эдж-кейсы, критичные для бизнеса

Кейсы, которые мы проверяем во вторую очередь, должны быть критичны для бизнеса. То есть ещё до проведения тестирования мы должны проанализировать, в каких отрицательных и эдж-кейсах баги могут сильно испортить нам жизнь. Это требует от QA-инженера либо знания бизнес-процессов, либо совместной работы с заказчиком фичи. 

Приведу пример, когда негативный или эдж-кейс становится критичным для бизнеса. 

Ситуация: ваше приложение предлагает промоакцию — скидку на первую покупку. При повторной покупке скидки быть не должно. Технически система реализована таким образом, что промопредложение и оказание услуги являются асинхронными, то есть пользователь получает предложение в одной части кода, а скидка предоставляется в другой. В обоих случаях выполняется проверка возможности сделать скидку. При оказании услуги, если эта проверка провалена, приложение просто предоставляет сервис по обычной цене.

Очевидно, может возникнуть ситуация, когда пользователь вошёл в сервис одновременно с двух устройств и на каждом увидел сообщение о скидке. Если после этого он совершит покупку с одного девайса, при покупке со второго скидка не будет применена, несмотря на то, что он видел промопредложение. Это эдж-кейс — не каждый человек использует одновременно два устройства. Но поскольку речь идёт о промопредложении и оказании услуги за отличную от стандартной цену, это может закончиться для компании в лучшем случае чарджбэком, в худшем — претензиями со стороны пользователей. Таким образом, любые кейсы, которые касаются изменения цены за услугу, даже если они лежат в плоскости эдж-кейсов, должны входить в п. 2 — отрицательные и эдж-кейсы, критичные для бизнеса. 


Регрессия

Писать и спорить о регрессии можно очень долго. Я могу лишь выделить ряд положений, которые мы применяем в Badoo в отделе биллинга, и следование которым позволяет мне считать себя полезным участником команды.

Юнит-тесты, написанные программистами, нужно проверять самому. Создание юнит-тестов — это обязанность программистов. Если ваши программисты не пишут юнит-тесты (что равносильно стрельбе себе в ногу), нужно сделать так, чтобы они это делали. Если же пишут, то проверка юнит-тестов должна быть не только задачей программистов. 

Получите команды для запуска юнит-тестов в разных окружениях и делайте проверку после каждого изменения. В Badoo мы можем проверять юнит-тесты на мастере (стабильной ветке в Git, содержащей код, который в данный момент работает на проде), на dev-ветке (ветке с изменениями), на коде, который готовится к выкладке на прод. И даже с такими возможностями 30% задач при моей проверке переоткрываются из-за падающих юнит-тестов, написанных разработчиками. Это человеческий фактор, и в силах QA-инженера уменьшить его влияние.  
 
Автоматизация регрессии — это очень хорошо, но всегда нужно помнить, что у автоматизации есть своя цена. И эта цена гораздо выше, чем кажется на первый взгляд. Подробнее об этом вы можете почитать в статье моего коллеги Виктора Короневича. 

Формула оценки эффективности автоматизации проста: автоматизация имеет смысл, если время регрессии превышает время, которое в среднем даётся на тестирование изменений. Также при организации автоматизации важно выделять отдельную единицу в команде для поддержки инфраструктуры автотестов (об этом тоже всегда следует помнить, оценивая стоимость автоматизации).

Во время регрессии исключительно важно понимать, какие изменения были внесены в код. QA-инженер должен разбираться в коде по двум причинам:


  • понимание кода позволяет определить необходимое и достаточное покрытие тестами для регрессии и тем самым сократить время регрессии;
  • чтение кода позволяет выйти на новый уровень тестирования.

В Badoo Jira объединена с Git и позволяет получить код, который менял программист в рамках отдельного тикета. Зная, в какие классы вносились изменения, QA-инженер может значительно сократить регрессию: если изменения касались небазовых классов, то проверять лишь небольшую часть кода, если базовых — расширить покрытие.  Подробнее об интеграции Jira и Git можно прочитать здесь.

Кроме того, чтение кода позволяет QA-специалисту перейти на новый уровень тестирования. Подробнее читайте в книге «Рефакторинг. Улучшение существующего кода» Мартина Фаулера.  


Прочие отрицательные и эдж-кейсы

Это те кейсы, которые у QA-инженера, считающего, что он непременно должен что-то сломать, заменяют кейсы, критичные для бизнеса, и не дают провести полноценную регрессию. Как правило, ошибки из этой категории, как шутят программисты, впоследствии из багов переходят в фичи. Самое важное здесь — определить, не относится ли, случайно, кейс к категории критичных для бизнеса, и если нет, то поступиться своим профессиональным эго и забыть, что вы потратили не один час рабочего времени, чтобы его найти. Для команды и продукта это будет гораздо ценнее, чем продолжать настаивать на починке такого кейса.


Реализация «муравьиного алгоритма» в отделе QA

Отдельно хотелось бы остановиться на проверке положительного кейса. В моей практике на удивление часто оказывалось, что, чтобы воспроизвести этот самый положительный кейс, необходимо было провести настоящее детективное расследование. Потому что то, что написано в тикете, — это по разным причинам не всегда то, что сделал программист. 

Для проверки положительного кейса, чтобы QA-инженер не превращался в персонажа романа Агаты Кристи, у нас в отделе принято писать сообщение для QA-специалиста. Оно содержит информацию о том, что было сделано в тикете и какие особенности существуют при воспроизведении положительного кейса. Я называю это «стратегией муравья» (автором идеи «муравьиных алгоритмов» является Марко Дориго из Брюссельского свободного университета).

Сообщение для QA решает множество задач:  


  • ускоряет процесс воспроизведения положительного кейса, способствует быстрому исправлению багов, пока все участники процесса находятся в контексте решаемой задачи, и позволяет провести более тщательное исследование за пределами положительного кейса;
  • добавляет осознанности в процесс: очень часто, когда разработчик начинает писать сообщение, он переосмысливает текущую реализацию и в ряде случаев сам переоткрывает тикет.  

В основе сообщения для QA лежит принцип функционирования колонии муравьёв. Сами муравьи являются довольно примитивными существами, но социальность делает их очень эффективными в решении задач. В частности, при поиске еды муравьи используют феромоны. Каждый муравей оставляет дорожку из феромонов, по которой он может возвратиться назад и повторить свой путь. По ней могут пройти и другие муравьи. Чем сильнее ощущаются феромоны на дорожке, тем больше вероятность того, что колония муравьёв пройдёт именно по ней.

Аналогичный принцип имеет смысл использовать при работе над задачей. Завершили этап — описали, что было сделано. В этом случае, когда задача дойдёт до последнего этапа и попадёт к QA-инженеру, ему не нужно будет выяснять детали воспроизведения положительного кейса и он сможет сосредоточиться на своей работе.

В сообщении для QA имеет смысл указывать:


  • что именно было сделано в тикете: как показывает практика, названия и описания задачи недостаточно, потому что в процессе работы возникает большое количество изменений, допусков и исключений, которые ни программист, ни заказчик часто не считают нужным вносить в тикет;
  • как воспроизвести положительный кейс;
  • особые условия для воспроизведения кейса (A/B-тест, патчи, скрипты и прочее).


2.2. Наличие плана Б

Существенным вопросом, которым в идеале также должна заниматься вся команда, является план Б — возможность быстро откатить изменения при обнаружении пожара сразу после деплоя. Так же, как и в случае с метриками, реализация плана Б впоследствии переходит от QA-отдела к другой команде. Если речь идёт об откате изменений — к команде релиз-инженеров, но, если этот процесс не организован, логично, что этим вопросом будет заниматься QA-специалист. 

Здесь так же, как и в случае с сигнализацией, роль QA-инженера варьируется в зависимости от уровня организации проекта. В Badoo эта задача решена на уровне релиз-менеджмента: все изменения, которые должны оказаться на проде, проверяются в специальном окружении — на предпроде. Релиз какое-то время не закрывается, если на проде после него обнаруживаются критические ошибки: его можно откатить назад. Подробнее об организации релизов мы уже рассказывали. 

Но даже в этом случае может возникнуть необходимость отката отдельного тикета. Например, изменение производится в уже работающей части приложения и предполагает изменение структуры базы данных. Выкладка предполагается по следующему сценарию:


  • проверить, как работает старый код с новой базой;
  • выложить новый код, который будет работать со старой базой данных;
  • сделать изменение в базе данных и заполнить её в соответствии с новыми правилами;
  • осуществить мгновенное переключение на использование новой структуры базы данных.

QA-инженер в этом случае должен пройтись по всем этапам и убедиться, что есть возможность откатиться к состоянию «старый код — новая база», потому что откат изменений в базе данных более трудоёмкий, чем откат кода.  


Выводы

При организации превентивных мер нужно помнить следующее: чтобы быть полезным команде, вы должны не ломать продукт, а быть готовым рассказать о его текущем состоянии, учитывая требования бизнеса. Организуйте работу команды так, чтобы на последнем этапе вам были известны все данные, которые менялись в процессе. И убедитесь, что, если что-то пойдёт не так, у команды в распоряжении будет работающий план Б.
 
Эти шаги позволят уменьшить объём работы по организации превентивных мер и освободить ресурсы для других активностей, о которых многие забывают.


3. Упрощаем доступ к тушению в труднодоступных местах и совершенствуем систему локализации пожара

Это моя любимая часть.

При тестировании мы не всегда можем использовать «честные» методы. Иногда программисты пишут патчи, которые нужно применить, чтобы проверить что-то. Или сам QA-инженер создаёт тестовые данные, которые призваны обмануть систему, но проверить кейс.  


Вы не раз будете обращаться к патчам, генераторам данных и прочим «нечестным» методам, поэтому имеет смысл сразу оформить их в документ, а лучше — в программный код.

Наличие системы, которая сохраняет все «нечестные» методы работы (моки, стабы, генераторы данных), решает сразу несколько задач:


  • оптимизирует вашу дальнейшую работу за счёт автоматизации рутинных операций;
  • держит вас в тонусе как IT-специалиста, потому что вы работаете с кодом;
  • мотивирует, потому что вы занимаетесь тем, что вам интересно;
  • способствует лучшему пониманию процессов и кода, потому что вы выступаете в роли менеджера и разработчика микропроекта.

Парадоксально, но иногда это вызывает максимальное сопротивление со стороны менеджеров и разработчиков. Однажды (на одном из предыдущих мест работы) у меня состоялся примерно такой диалог с менеджером проекта:

— Мне нужен плагин, который будет генерить тестовые данные для нашей системы.
— Ставь тикет на разработчиков.
— Но мне он нужен сейчас, и я могу написать его сам!
— Понимаешь, тебе платят деньги не за то, чтобы ты писал код. Если ты будешь писать код, то потратишь больше времени, чем программисты, а значит, компании твой код обойдётся дороже.
— Но у вас же всё равно нет ресурсов сейчас, чтобы сделать этот тикет.
— Значит, ты будешь проверять всё, генерируя данные вручную.

К сожалению, во многих компаниях считается, что написание кода QA-специалистом — это неэффективно. И как было приятно узнать, что в Badoo именно эта часть работы со стороны QA-инженера не просто востребована, но и является одним из условий для профессионального и карьерного роста! У меня существует договорённость с руководителем, что до 20% времени я могу тратить на свой проект (а это один день в неделю). 

Результат такого подхода можно увидеть на многих конференциях с участием моих коллег. От себя добавлю классификацию инструментов, которые могут быть полезны в работе QA-инженера.


3.1. Наглядное представление информации

Сюда относятся различные бьютифаеры для представления запросов в читабельном виде, конструкторы запросов, отчётов, форматтеры логов и прочие инструменты.

Профит от внедрения таких инструментов основан на свойстве человеческой памяти, которая способна удерживать не более семи целостных объектов в один момент времени. Всякий раз, когда вам нужно выполнить процедуру извлечения информации, вы занимаете часть своей кратковременной памяти (это при условии, что процедура извлечения у вас доведена до автоматизма). Форматирование информации способствует тому, что вы не удерживаете её в кратковременной памяти, а извлекаете, когда она вам необходима, а значит, можете замечать более сложные закономерности в данных и принимать качественно другие решения. 


3.2. Предоставление информации о состоянии системы

К этой группе можно отнести команды, скрипты и приложения, которые позволяют быстро выявить состояние элементов сис

© Habrahabr.ru