User-agent: * # общие правила дл¤ роботов, кроме яндекса и Google, # т.к. дл¤ них правила ниже Disallow: /cgi-bin # папка на хостинге # Disallow: /? # все параметры запроса на главной Disallow: /wp- # все файлы WP: /wp-json/, /wp-includes, /wp-content/plugins Disallow: /wp/ # если есть подкаталог /wp/, где установлена CMS (если нет, # правило можно удалить) Disallow: *?s= # поиск Disallow: *&s= # поиск Disallow: /search/ # поиск Disallow: /author/ # архив автора Disallow: /users/ # архив авторов Disallow: */trackback # трекбеки, уведомлени¤ в комментари¤х о по¤влении открытой Disallow: */testimonial # ссылки на отзывы Disallow: */feed # все фиды Disallow: */rss # rss фид Disallow: */embed # все встраивани¤ Disallow: */wlwmanifest.xml # xml-файл манифеста Windows Live Writer (если не используете, # правило можно удалить) Disallow: /xmlrpc.php # файл WordPress API # Disallow: *utm*= # ссылки с utm-метками Disallow: *openstat= # ссылки с метками openstat Allow: */uploads # открываем папку с файлами uploads # Disallow: *?swoof= # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были # Disallow: *?attribute # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были User-agent: GoogleBot # правила дл¤ Google (комментарии не дублирую) Disallow: /cgi-bin # Disallow: /? Disallow: /wp- Disallow: /wp/ Disallow: *?s= Disallow: *&s= Disallow: /search/ Disallow: /author/ Disallow: /users/ Disallow: */trackback Disallow: */feed Disallow: */rss Disallow: */embed Disallow: */wlwmanifest.xml Disallow: /xmlrpc.php # Disallow: *utm*= Disallow: *openstat= Disallow: */testimonial Allow: */uploads Allow: /*/*.js # открываем js-скрипты внутри /wp- (/*/ - дл¤ приоритета) Allow: /*/*.css # открываем css-файлы внутри /wp- (/*/ - дл¤ приоритета) Allow: /wp-*.png # картинки в плагинах, cache папке и т.д. Allow: /wp-*.jpg # картинки в плагинах, cache папке и т.д. Allow: /wp-*.jpeg # картинки в плагинах, cache папке и т.д. Allow: /wp-*.gif # картинки в плагинах, cache папке и т.д. Allow: /wp-admin/admin-ajax.php # используетс¤ плагинами, чтобы не блокировать JS и CSS # Disallow: *?swoof= # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были # Disallow: *?attribute # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были User-agent: Yandex # правила для яндекса (комментарии не дублирую) Disallow: /cgi-bin # Disallow: /? Disallow: /wp- Disallow: /wp/ Disallow: *?s= Disallow: *&s= Disallow: /search/ Disallow: /author/ Disallow: /users/ Disallow: */trackback Disallow: */feed Disallow: */rss Disallow: */embed Disallow: */wlwmanifest.xml Disallow: /xmlrpc.php Disallow: */testimonial Allow: */uploads Allow: /*/*.js Allow: /*/*.css Allow: /wp-*.png Allow: /wp-*.jpg Allow: /wp-*.jpeg Allow: /wp-*.gif Allow: /wp-admin/admin-ajax.php Disallow: *?swoof= # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были Disallow: *?attribute # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были Disallow: *?attachment # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были Disallow: *?clid # !!! Изменил после ошибок в вебмастере что страницы слишком долго интексируются в мастере только страницы с этими параметрами были 16022022 Clean-Param: utm_source&utm_medium&utm_campaign # яндекс рекомендует не закрывать # от индексировани¤, а удал¤ть параметры меток, # Google такие правила не поддерживает Clean-Param: openstat # аналогично # ”кажите один или несколько файлов Sitemap (дублировать дл¤ каждого User-agent # не нужно). Google XML Sitemap создает 2 карты сайта, как в примере ниже. Sitemap: https://emildoors.ru/sitemap_index.xml # ”кажите главное зеркало сайта, как в примере ниже (с WWW / без WWW, если HTTPS # то пишем протокол, если нужно указать порт, указываем).  оманда стала необ¤зательной. –анее Host понимал # яндекс и Mail.RU. “еперь все основные поисковые системы команду Host не учитывают. Crawl-delay: 10 Host: https://emildoors.ru