User-agent: * Allow: / Crawl-delay: 10 User-agent: Yandex Crawl-delay: 10 # задает таймаут в 10 секунд