Eu terminei o meu site e o iniciei, acho que tinha um problema com o meu robots.txt
- então mudei para ficar assim:
03/08/2012
# Allows all bots
Sitemap: http://www.mysite.co.za/sitemap.xml
User-agent: *
Disallow: /dashboard/
Quando pesquiso no google domain.co.za
- recebo de volta:
A description for this result is not available because of this site's robots.txt – learn more.
You've visited this page 3 times. Last visit: 2012/08/15
Agora desde que eu reparei isso e acrescentou um redirecionamento 301 para redirecionar mysite.co.za
para www.mysite.co.za
eu adoraria se google bot viria fazer uma visita.
Há algo que eu possa fazer para corrigir isso?
Respostas:
Dave está certo no dinheiro (+1 virtual, pois minha pontuação ainda é muito baixa)
Faça o seguinte
Isso irá acelerar as coisas, mas não espere resultados instantâneos.
fonte
Agora você pode usar a ferramenta 'Buscar como Googlebot' nas Ferramentas do Google para webmasters como uma maneira de convencer o Google a rastrear novamente (ou rastrear pela primeira vez) uma página - http://googlewebmastercentral.blogspot.co.uk/2011/ 08 / submit-urls-to-google-with-fetch-as.html
fonte
Você deve comentar (prefixar com
#
) a primeira linha também.O Google deve buscar seu arquivo robots.txt rapidamente (em alguns dias, dependendo dos cabeçalhos de cache do site), mas pode demorar um pouco mais para que o site seja reindexado. Infelizmente, você provavelmente terá que ser paciente.
fonte
Gostaria de acrescentar que não é necessário adicionar um arquivo robots.txt no seu site para que ele seja rastreado. Encontrei muitas pessoas com conceitos errados sobre o arquivo robots.txt. Os robôs dos mecanismos de pesquisa rastrearão seu site, mesmo que não tenham o arquivo robots.txt.
Se você não deseja mostrar algum conteúdo para o mecanismo de pesquisa, no entanto, o robots.txt é necessário.
No seu caso, as etapas a seguir resultarão no rastreamento rápido do seu site:
fonte