Как найти и удалить дубли страниц на сайте

SEO с гарантией вывода в ТОП
только до 31 декабря
скидка 50% на
1й месяц продвижения в поисковиках

Отправить заявку
Как найти и удалить дубли страниц на сайте
Дата публикации: пт, 01/26/2018 - 19:23

Дубли страниц на сайте становятся причиной значительных проблем:

  • Пессимизация результатов выдачи в поисковых системах, потеря рейтинга.
  • Резкие скачки позиций ресурса в результатах поисковой выдачи.
  • Попадание под фильтры.

Если в других случаях попадание под фильтры означает откровенно некачественную структуру и контент, то в нашем случае речь идёт об обыкновенной невнимательности и отсутствии некоторых простейших знаний. Поэтому разберёмся с тем, как найти дубли страниц на сайте и как их удалить, чтобы ситуация нормализовалась.

Если существуют очень похожие разделы, поисковику нужно решить, какая из них больше подходит под заданный пользователем запрос. Задача некорректная, потому что они ничем не отличаются. Удаление лишних «копий» позволит избавить Яндекс и Гугл от необходимости решать подобные задачи и предотвратит опасность «распыления» рейтинга на несколько одинаковых копий, из-за чего рейтинг каждого из них становится меньше.

Разновидности дублей

Существует несколько их разновидностей.

Разновидности дублей страниц

Зеркала

Например, www.abc.ru и abc.ru. Для пользователя это одно и то же, но для поисковиков – нет. А ещё есть варианты с https и http.

Как исправить: одно из зеркал нужно сделать основным, тогда поисковые системы не увидят никакого конфликта.

Технические дубли

Практически то же самое: дубль главной страницы index.php может иметь ещё вариант суффикса index.php/. Разницы для пользователя нет, но поисковики видят эти варианты как разные страницы.

Дубли из-за сбитой иерархии

Полезно проверить структуру ресурса. Например, нет ли на нём наличия сразу двух одинаковых вариантов:

  • абв.рф/мебель/кресла
  • абв.рф/кресла

Очевидно, что оба варианта – это один и тот же раздел магазина, но он находится дважды по разным адресам.

Частичные дубли

Они возникают в том случае, если в разных разделах присутствуют одинаковые элементы текста. Иногда владельцу сайта кажется хорошей идеей написать приветствие или общее описание преимуществ магазина, а затем разместить его в каждом разделе. Но фактически это уменьшает уникальность разделов, что ведёт к снижению позиций в выдаче.

Чтобы такого избежать, достаточно воспользоваться антиплагиатом и проверить весь контент на сайте.

Как найти дубли

Казалось бы, что определить дубли несложно: достаточно пройтись по сайту и проверить каждый раздел. Но всё усложняется тем, что:

  • На больших ресурсах поиск дублей страниц сайта может занять очень много времени.
  • Не на все копии вы найдёте ссылки из меню или из других разделов. Некоторые (технические) существуют по адресам, которые вы вряд ли обнаружите.

Поэтому рекомендуются следующие способы для проверки сайта на дубли страниц.

Проверка оператором Site:

Берём адрес нашего сайта, затем вписываем его в поисковик в таком виде: site:абв.рф.

Получив такой запрос, Яндекс или Гугл проведёт анализ сайта и выдаст в виде списка все разделы, которые на нём присутствуют. Это хороший способ для небольших по размеру ресурсов. Таким методом можно проверить дубль главной страницы и увидеть, имеются ли по каким-либо адресам её зеркала. Но как узнать, где находятся копии страниц на больших сайтах?

Проверка с помощью специальных сервисов

Существуют программы и онлайн-сервисы, которые делают то же самое, но в более удобной форме: они выстраивают список разделов ресурса и сами находят копии. Например:

  • Xenu.
  • Netpeak Spider.

Такие программы значительно ускоряют процесс поиска и помогают обратить внимание, в первую очередь, на наиболее очевидные копии.

Поиск с помощью Гугл Вебмастера

Открыв панель Google для вебмастеров, требуется найти панель «оптимизация» и выбрать там пункт «оптимизация html». Этим методом удобно искать полные совпадения, а также одинаковые заголовки и описания страниц.

Поиск дублей страниц с помощью Google Webmaster

Как удалить дубли

Узнав, как проверить сайт на наличие дублей страниц, придётся разобраться с тем, как их удалить.

Здесь тоже несколько способов.

Поиск дублей страниц через программу Xenu

Выбор единственного главного зеркала

Чтобы убрать дубли главной страницы, достаточно решить, какое из зеркал будет главным. Это может быть только один вариант адреса. Все остальные будут считаться копиями. Настройка осуществляется с помощью файла robots.txt, яндекс.вебмастера и настройки 301 редиректа.

Настройка 301-редиректа

Редирект позволяет сделать одни разделы ресурса зеркалами других, и поскольку будет происходить автоматическая переадресация, проблему удастся решить.

Закрытие от индексации

Если закрыть дубли страниц от индексации, они не будут влиять на поисковую оптимизацию. Это делается с помощью тега <noindex> - закрыть часть контента на странице или в robots.txt – закрыть всю страницу.

Закрытие страниц от индексации в Wordpress

Физическое удаление с сайта

Ручное удаление дублей помогает «очистить» сайт или блог от лишних разделов, которые на нём могли возникнуть из-за сбоев иерархии и других причин, связанных с работой владельца либо оптимизатора.

Чтобы поддерживать ресурс в хорошем состоянии, полезно регулярно проверять внутренние копии. Это поможет максимизировать эффект от SEO и избежать неприятностей.

Чтобы уменьшить время на работу с одинаковыми разделами и получить лучший эффект, можно обратиться за помощью к специалистам, которые имеют опыт удаления дублей и настройки редиректа на всех уровнях.










Как сделать оформление группы ВКонтакте
Каждому, кто собирается вести своё сообщество, стоит с самого начала задуматься, как сделать...
Что такое рекомендованные запросы в Яндекс.Вебмастер
Существует немало сервисов, которые предоставляют услуги по анализу сайтов, однако на них только...
Как сменить SEO-подрядчика
Как понять, что пришло время для смены подрядчика, который занимается продвижением сайта? Прежде...