情况如下:

User-agent: *
Disallow: /

User-agent: Googlebot
Disallow: /test

在这种情况下,googlebot能完成它的工作吗?
我想可能是因为这个文件只指定了不允许googlebot使用/test,所以googlebot可以在除了/test之外的其他目录上执行任务吗?

最佳答案

问:在这种情况下,googlebot能完成它的工作吗?
答:不是这个案子

User-agent: *
Disallow: /

问:我想可能是因为这个文件只指定不允许googlebot/test,所以googlebot可以在除了/test之外的其他目录上执行任务吗?
回答:没错

关于search - 在robots.txt中开头禁止所有机器人后,指定指令是否会创建一个异常(exception)?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/53381967/

10-12 05:36