Группировка ключевых слов в контекстной рекламе

Группировка ключевых слов Работа специалиста по контекстной рекламе тесно связана с обработкой солидных объемов данных. Дело не только в аналитике и обслуживании рекламных кампаний. Чтобы подготовить коммерческое предложение, прикинуть бюджет или стартовать кампанию для среднего клиента — необходимо «перелопатить» 1000–5000 ключевых слов.Одним из самых трудозатратных элементов работы является группировка данных.

Например, на входе у нас может быть такой набор ключевых:

отдых в турции отдых в болгарии отдых в греции отдых в египте отдых в черногории отдых на кипре туры в болгарию туры в испанию туры в таиланд отдых на мальдивах отдых в хорватии виза в китай отдых в оаэ отдых на кубе отдых в италии туры на кубу туры в хорватию и еще несколько сотен/тысяч строк… Нам нужно сгруппировать их и превратить в что-то подобное этому: Ключевые слова Группа Подгруппа туры в тунис тур тунис тунис туры тур тунис тур в тунис тур тунис туры черногория тур черногория черногория туры цены тур черногория черногория тур тур черногория тур в черногорию тур черногория туры в черногорию тур черногория туры в черногорию цены тур черногория черногория туры тур черногория тур черногория тур черногория туры в черногория тур черногория тур испания тур испания тур по испании тур испания туры в испанию тур испания испания тур тур испания туры в испанию цены тур испания испания туры тур испания тур в испанию цены тур испания тур в испанию тур испания туры испания тур испания туры по испании тур испания туры греция тур греция туры в грецию тур греция туры греция цены тур греция тур в грецию тур греция греция туры цены тур греция греция туры тур греция греция тур тур греция туры в грецию цены тур греция стоимость тура в грецию тур греция тур греция тур греция туры в хорватию тур хорватия хорватия туры цены тур хорватия хорватия тур тур хорватия туры в хорватию цены тур хорватия тур в хорватию тур хорватия туры хорватия тур хорватия хорватия туры тур хорватия тур хорватия тур хорватия тур в хорватию цены тур хорватия италия туры цены тур италия италия туры тур италия италия тур тур италия тур в италию тур италия тур по италии тур италия туры по италии тур италия индивидуальные туры в италию тур италия туры в италию цены тур италия туры италия тур италия тур италия тур италия туры в италию тур италия тунис отдых отдых тунис отдых тунис отдых тунис отдых в тунисе отдых тунис отдых в испании на море отдых испания испания отдых отдых испания отдых в испании отдых испания отдых в испании цены отдых испания испания отдых на море отдых испания испания отдых цены отдых испания отдых черногория цены отдых черногория отдых в черногории цены отдых черногория черногория отдых цены отдых черногория отдых в черногории отдых черногория отдых черногория отдых черногория отдых на море италия отдых италия цены на отдых в италии отдых италия отдых италия отдых италия отдых в италии на море отдых италия отдых в италии отдых италия отдых в италии цены отдых италия отдых на море в италии отдых италия италия отдых на море отдых италия италия отдых отдых италия отдых хорватия цены отдых хорватия хорватия отдых отдых хорватия отдых в хорватии цены отдых хорватия отдых в хорватии отдых хорватия отдых хорватия отдых хорватия хорватия отдых цены отдых хорватия греция отдых отдых греция отдых в греции отдых греция греция отдых на море отдых греция цены на отдых в греции отдых греция отдых в греции цены отдых греция греция отдых цены отдых греция отдых греция цены отдых греция отдых греция отдых греция отели хорватии отель хорватия отели в хорватии отель хорватия хорватия отели отель хорватия лучшие отели хорватии отель хорватия отели хорватия отель хорватия отели черногория отель черногория лучшие отели черногории отель черногория отели черногории отель черногория отели черногории цены отель черногория черногория отели отель черногория отели греция отель греция новые отели греции отель греция отель греция отель греция отели в греции отель греция отели греции отель греция отель в греции отель греция греция отели отель греция туроператор испания туроператор испания испания туроператор туроператор испания туроператоры по испании туроператор испания туроператор по испании туроператор испания Группировка нужна для того чтобы клиент решил какие группы он будет продвигать, распределить бюджет и выбрать стратегию работы по ставкам и еще много для чего.Если ключевых слов несколько десятков — группировку можно сделать вручную. Если сотни — поможет Excel. Конечно, можно использовать группировку в Adwords, но там ключевые группируются не вполне адекватно. Впрочем, дело не только в адекватности группировки, но и в объемах. Если у вас уже есть несколько тысяч ключевых слов, то группировка в Adwords вам не поможет.

В общем, хорошим выходом является наработка собственных инструментов автоматизации работы. Сказано-сделано. Подготовил обстоятельное ТЗ и через несколько дней, благодаря нашему PHP-программисту, скрипты были готовы.

Как работает группировщик. У нас есть некий набор ключевых слов: египет в мае отели в турции кемер туроператор турция карта отелей египта туроператор черногория лучшие отели кемера цены в турции отели кемера 5 турправда египет отель праги самые лучшие отели турции турция кемер отели туризм в турции отели египта 5 звезд отели кипр отели турции кемер 5 экскурсии египет горячие путевки в египет египет шарм эль шейх отели египет путевки события в египте отель прага египет хургада отели отели в хургаде шарм эль шейх египет поездка в турцию туроператор болгария онлайн бронирование отелей турция отели цены отели алании стоимость путевок в египет фото отелей египта отели египта хургада лучшие отели турция путевки египет туроператор по болгарии … и т.п. Скрипт группировки, использует Mystem Яндекса. Здесь нужно отметить, что использование Mystem вообще-то необязательно, кеи можно группировать и так, но с Mystem получается все-таки лучше, несмотря на некоторые «приколы» связанные с излишней или даже — некорректной нормализацией.Далее — группировщик считает частоты (сколько раз отдельное слово встречается в документе) для всех слов коллекции и выставляет рейтинг. Частоты считаются для каждого отдельного слова. Т.е. если у нас есть «отдых турция» — то группировщик считает частоты и для «отдых» и для «турция».

Изначально, при настройке группировщика нужно задать пороговое значение частот для групп и подгрупп. Иными словами — если частота слова ниже чем задано изначально, такое слово не может создать «свою» группу или подгруппу.

Рейтинг выстраивается от наиболее частотных слов к менее частотным. По сути, этот рейтинг наиболее встречающихся слов и есть — названия групп. Т.е. если слово «турция» встречается чаще слова отдых — «отдых турция» будет отнесено к группе «турция». Мы будем группировать ключевые слова по группам и подгруппам — первый подсчет рейтинга по частоте встречаемости отдельных слов помогает сформировать группы и распределить ключевые слова среди них.

В нашем случае мы получили следующую группировку: Ключевые слова Группа лучшие отели кипра отель отели на кипре отель кипр отели отель отзывы о отелях турции отель отзывы отели турции отель отели турции отзывы отель отзывы отели турция отель хорошие отели турции отель лучший отель турции отель лучшие отели в турции отель лучшие отели турция отель турция отели кемер отель отели турция кемер отель отели в турции кемер отель отели кемера 5 отель отели в кемере турция отель турция кемер отели отель египет фото отелей египет фото египет египет египет шарм эль шейх отели египет отели в египте шарм эль шейх египет египет шарм эль шейх египет шарм эль шейх египет египет египет отели шарм эль шейх египет египет хургада отели египет египет хургада египет хургада египет египет отды в египте египет турпоездки в египет египет хочу в египет египет турция туризм турция туризм в турции турция туризм турция турция поездки в турцию турция поездка в турцию турция поездка в турцию цены турция туроператоры турция турция туроператор турция турция туроператор по турции турция туроператоры по турции турция цены на путевки в турцию турция цены в турции турция турция цены турция цена путевки в турцию турция путевки в турцию цены турция туроператоры по болгарии болгария туроператор болгария болгария туроператор по болгарии болгария болгария туроператор болгария черногория туроператор черногория туроператоры по черногории черногория туроператор черногория черногория туроператор по черногории черногория Получились группы, содержащие довольно много слов и на следующем этапе нам необходима более детальная группировка. Нужно понимать, что все эти действия происходят на уровне скрипта. Для пользователя же все просто: добавил файл со списком слов → получил файл со сгруппированными данными.

Важное дополнение. Скрипт не просто группирует некий список слов вида «одно ключевое слово на каждой строке». Исходный файл может быть представлен в виде tsv с любым набором параметров (обычно это частоты поискового спроса для конкретного региона и средние ставки — т.е. все те данные что можно получить в подсказке ключевых слов Adwords. Т.е. мы можем группировать слова сразу со всеми необходимыми данными, чтобы потом не возится с ВПР.

Для создания подгрупп точно так же строится рейтинг по частоте слов, но с некоторыми оговорками. Во-первых, в подсчете рейтинга не принимает участие основное слово группы. Т.е. если подсчет частот идет для группы «отдых» то в группе рассчитывается рейтинг для всех слов кроме слова «отдых».

Во-вторых, при выстраивании рейтинга внутри группы скрипт принимает во внимание изначально заданное минимальное значение частоты слова. Т.е. если в настройках скрипта мы сообщили что не хотим чтобы слово встречающееся в группе меньше трех раз создавало свою подгруппу, то такое ключевое слово будет вынесено в отдельную подгруппу «Прочее». В дальнейшем я поясню почему такая тактика дает наилучший результат.В-третьих — рейтинг внутри группы выстраивается по обратной частотности. Т.е сперва создаются подгруппы для слов обладающих наименьшей частотностью. Мы помним, что в настройках задали минимальное пороговое значение частот для групп и подгрупп.

Почему так? Такой подход отлично работает когда исходный список содержит много кеев состоящих из трех и даже четырех слов. Если группировать по частотности, вы получите очень мало подгрупп содержащих слишком много слов. Если же начать построение подгрупп с наименьших частот — на выходе получаем более детальную группировку.

В результате получаем список с разделением на группы и подгруппы:

Ключевые слова Группа Подгруппа анталия отели отель анталий отели анталии отель анталий отели турции анталия отель анталий бронирование отелей онлайн отель бронирование бронирование отелей отель бронирование онлайн бронирование отелей отель бронирование турция алания отели отель алания отели алании отель алания алания отели отель алания отели турции алания отель алания отели алании турция отель алания отели кипра отель кипр отели кипр отель кипр отели кипра цены отель кипр лучшие отели кипра отель кипр отели на кипре отель кипр кипр отели отель кипр отзывы о отелях турции отель отзыв отзывы отели турции отель отзыв отели турции отзывы отель отзыв отзывы отели турция отель отзыв отели турции цены отель цена цены на отели турции отель цена турция отели цены отель цена цены на отели в турции отель цена отели в турции цены отель цена хургада отели отель хургада отели хургады отель хургада отели хургады 5 отель хургада хургада отели 5 звезд отель хургада отели хургады 5 звезд отель хургада отели в хургаде отель хургада отели хургада отель хургада лучшие отели турции отель хороший турция лучшие отели отель хороший самые лучшие отели турции отель хороший хорошие отели турции отель хороший лучший отель турции отель хороший лучшие отели в турции отель хороший лучшие отели турция отель хороший турция отели кемер отель кемер отели турция кемер отель кемер отели в турции кемер отель кемер отели кемера 5 отель кемер отели в кемере турция отель кемер турция кемер отели отель кемер отели турции кемер 5 отель кемер лучшие отели кемера отель кемер отели турции кемер отель кемер отели кемера турция отель кемер отели кемера отель кемер прага отели в центре отель прага отель в праге отель прага отель праги отель прага отели в праге отель прага отели праги в центре отель прага отель прага отель прага отели прага цены отель прага отели праги отель прага отели прага отель прага отели в праге цены отель прага прага отели отель прага прага отель отель прага египет карта курортов египет курорт египет курорты египет курорт курорты египта египет курорт экскурсии египет египет экскурсия экскурсии в египте египет экскурсия египет экскурсии египет экскурсия новый год в египте египет новый новые отели египта египет новый новый год египет египет новый карта египта египет карта карта отелей египта египет карта египет карта египет карта отели египта фото египет фото египет фото египет фото фото отелей египта египет фото египет фото отелей египет фото фото египет египет фото египет шарм эль шейх отели египет шейх отели в египте шарм эль шейх египет шейх египет шарм эль шейх египет шейх шарм эль шейх египет египет шейх египет отели шарм эль шейх египет шейх отели египта отзывы египет отзыв отзывы отели египет египет отзыв отзывы о отелях египта египет отзыв египет отзывы египет отзыв отзывы отели египта египет отзыв отзывы об отелях египта египет отзыв лучшие отели египта отзывы египет отзыв египет путевки египет путевка сколько стоит путевка в египет египет путевка путевка египет египет путевка путевка в египет египет путевка горячие путевки египет египет путевка горячие путевки в египет египет путевка путевки в египет египет путевка дешевые путевки в египет египет путевка путевки египет египет путевка купить путевку в египет египет путевка турция туризм турция туризм туризм в турции турция туризм туризм турция турция туризм поездки в турцию турция поездка поездка в турцию турция поездка поездка в турцию цены турция поездка туроператоры турция турция туроператор туроператор турция турция туроператор туроператор по турции турция туроператор туроператоры по турции турция туроператор цены на путевки в турцию турция цена цены в турции турция цена турция цены турция цена цена путевки в турцию турция цена путевки в турцию цены турция цена туроператоры по болгарии болгария туроператор туроператор болгария болгария туроператор туроператор по болгарии болгария туроператор болгария туроператор болгария туроператор черногория туроператор черногория туроператор туроператоры по черногории черногория туроператор туроператор черногория черногория туроператор туроператор по черногории черногория туроператор В общем-то, на этом можно было бы поставить точку, но внимательный читатель должен задать вопрос: «А что случилось с теми словами, частоты которых оказались ниже порогового значения и которые не смогли создать свою подгруппу»? Все эти слова попали в подгруппу «Прочее». Например: Ключевые слова Группа Подгруппа мид египет египет прочее египет дешево египет прочее события в египте египет прочее поездки в египет египет прочее египет в мае египет прочее отдих в египте египет прочее отпуск в египте египет прочее поехать в египет египет прочее египте египет прочее тури в египет египет прочее туроператоры по египту египет прочее обстановка в египте египет прочее дахаб египет египет прочее египет шарм египет прочее египет достопримечательности египет прочее отды в египте египет прочее турпоездки в египет египет прочее путешествие в египет египет прочее египет марса алам египет прочее топхотелс египет египет прочее египет революция египет прочее турправда египет египет прочее турпутевки в египет египет прочее поездка в египет египет прочее отпуск египет египет прочее гостиницы египта египет прочее хочу в египет египет прочее Эти слова можно и нужно использовать в работе. Но их сложно группировать автоматически. В эту подгруппу попадают слова с ошибками, состоящие из редких терминов и подобное.Ключевые слова из «Прочее» нужно перебрать вручную и подобрать им подходящие подгруппы. Здесь, к сожалению, не обойтись без ручной работы. Все равно — группировщик экономит уйму времени, а перебрать с два-три десятка ключевых слов попавших в «Прочее» — совсем несложно.

P.S. Группировщик помогает сгруппировать слова, но делает это немного «грубо». Что и не удивительно так как в расчет принимается лишь частотность слов. Полученные группы можно будет свести вручную. Однако благодаря группировщику — нужно всего лишь обработать и свести группы с похожими по смыслу словами, а не пытаться разобраться в сотнях/тысячах строк разнородных ключевых слов.

© Habrahabr.ru