Как создать robots. Создание файла robots.txt для сайта ucoz.
| Как создать robots.txt знает не каждый начинающий web-мастер. Об этом наша статья. Файл robots.txt создается на основе простого текстового файла, например в Блокноте. Для того, чтобы создать robots.txt нужно открыть программу Блокнот и сохранить файл с названием, состоящим из маленьких букв: robots.txt. Далее этот файл следует закачать при помощи ftp-менеджера на сайт. Что должно быть внутри файла robots.txt? Для чего служит этот файл? Файл robots.txt разрешает или запрещает поисковому роботу индексировать те или иные страницы или разделы сайта, иногда весь сайт целиком. Вновь созданные сайты ucoz, для которых создается файл robots.txt находятся примерно 1 месяц на так называемом карантине, поэтому что бы вы ни прописали в файле robots.txt для такого сайта. там будет независимо прописываться: User-agent: * Disallow: / Что означает: всем поисковым машинам запрещено индексировать все страницы сайта. То есть disallow - запретить к индексации. Когда пройдет месяц, файл robots.txt можно будет отредактировать. Обычно я прописываю robots.txt так: User-agent: * Allow: / Allow: /index Allow: /news Disallow: /stuff Disallow: /admin Host: polza.my1.ru Sitemap: http://polza.my1.ru/sitemap.xml Вы можете разрешить или запретить другие разделы. Обычно запрещают к индексации разделы с неуникальной информацией, например, онлайн-игры или тесты для ucoz. Также запрещают к индексации страницу регистрации, входа в админ-панель... Источник: http://polza.my1.ru | |
| Просмотров: 472 | Теги: | Рейтинг: 5.0/1 |