Админ психанул robots.txt
Да именно так. Создал сайт и только закинув его в Гугл вебмастер не ожидал такой быстрой индексации livestreet. B тут полезли в поиске /talk/, /my, /error/ и ещё много чего. Вот и решил кардинально по закрывать лишнее. Так же закрыл
Disallow:/discussed/
Disallow: /question/
Disallow: /link/
Disallow: /top/
Так же думаю не закрыть ли мне /blog. Так как кратное описание статей блогов это по сути дубли контента
Я прав или мне нужно попить успокоительное ))
Disallow:/discussed/
Disallow: /question/
Disallow: /link/
Disallow: /top/
Так же думаю не закрыть ли мне /blog. Так как кратное описание статей блогов это по сути дубли контента
Я прав или мне нужно попить успокоительное ))
User-agent: * Disallow: /rss Disallow: /search/topics/$ Disallow: /search/opensearch/$ Disallow: /cgi-bin Disallow: /classes Disallow: /config Disallow: /registration/ Disallow: /login/ Disallow: /engine Disallow: /include Disallow: /logs Disallow: /plugins Disallow: /templates Disallow: /feed/ Disallow: /admin Disallow: /webstat Disallow: /mainpreview/ Disallow: /stream Disallow: /my/$ Disallow: /tag/$ Disallow: /page/$ Disallow: /topic/$ Disallow: /profile/$ Disallow: /people Disallow: /subscribe/$ Disallow: /blogs Disallow: /talk/ Disallow: /error/ Disallow: /subscribe/ Disallow: /settings/$ Disallow: /photoset/$ Disallow: /question/$ Disallow: /discussed/ Disallow: /message/$ Disallow: /question/ Disallow: /link/ Disallow: /top/ User-agent: Yandex Disallow: /rss Disallow: /search/topics/$ Disallow: /search/opensearch/$ Disallow: /cgi-bin Disallow: /classes Disallow: /config Disallow: /registration/ Disallow: /login/ Disallow: /engine Disallow: /include Disallow: /logs Disallow: /plugins Disallow: /templates Disallow: /feed/ Disallow: /admin Disallow: /webstat Disallow: /mainpreview/ Disallow: /stream Disallow: /my/$ Disallow: /tag/$ Disallow: /page/$ Disallow: /topic/$ Disallow: /profile/$ Disallow: /people Disallow: /subscribe/$ Disallow: /blogs Disallow: /talk/ Disallow: /error/ Disallow: /subscribe/ Disallow: /settings/$ Disallow: /photoset/$ Disallow: /question/$ Disallow: /discussed/ Disallow: /message/$ Disallow: /question/ Disallow: /link/ Disallow: /top/ Sitemap: http:site.org/sitemap.xml Host: site.org