User-agent: *
Crawl-delay: 30 #задержка в секундах перед индексированием очередной страницы