Запрет индексации сайта

Проверка в методике рейтинга: как мы её проводим и почему найденное — проблема

Услуги автора рейтинга

Влад Ухов — разработчик с фокусом на AI-поддержке и развитии существующих сайтов

Помогаю партнёрам-франчайзи 1С внедрять современные технологии, ускоряю реализацию новых возможностей по привлечению клиентов из интернета и автоматизирую работу с заявками на внедрение и сопровождение. Закажите комплексный интернет-маркетинг для франчайзи 1С, личные кабинеты и заявки на сайте, поддержку и развитие сайтов ИТ-компаний:vlad.v@ukhov.su@ukhov+7 905 134-51-91Партнёрская программа

Как проверяем и почему это важно

Проверяем, не закрыт ли сайт от поиска: Disallow: / в robots.txt для Яндекса и Google или для ИИ-краулеров (GPTBot, ClaudeBot, PerplexityBot), тег meta robots noindex на главной, заголовок X-Robots-Tag.

Такой запрет почти всегда попадает на рабочий сайт по недосмотру: уезжает robots.txt тестового сервера или сайт закрывали на время доработок и забыли открыть. Проблема незаметная и дорогая — сайт открывается, реклама идёт, а Яндекс и Google тем временем выбрасывают страницы из выдачи: органический трафик и заявки падают до нуля, позиции потом восстанавливаются месяцами.

Снимаем запрет и отправляем сайт на переобход в Яндекс.Вебмастере, Bing Webmaster и Google Search Console.

Вес в штрафном балле

Если проверка находит проблему, к штрафному баллу компании прибавляется её вес.

Запрет индексации 2

В рейтинге сейчас

Проблема найдена у 47 участников рейтинга. Смотреть рейтинг по этой проверке →