site-ul de indexare
-
File - setarea corectă pentru a indexa un site în Yandex și Google
În acest articol descrie cum se configurează în mod corespunzător fișierul robots.txt pentru indexarea în motoarele de căutare. Detalii luate în considerare toate directivele robots.txt: User-agent, Disallow, permite, Harta site-ului, Host, crawl de întârziere, Clean-param