Google 抓取工具和抓取器（用户代理）概览
Google 使用抓取工具和抓取器针对其产品执行自动或用户请求的操作。
“抓取工具”（有时也称为“漫游器”或“蜘蛛”程序）是一个通用术语，泛指通过跟踪从一个网页指向另一个网页的链接自动发现并扫描网站的任何程序。Google 的主要抓取工具名叫 Googlebot。
与浏览器一样，抓取器是在用户提示时请求单个网址的工具。
下表显示了各种产品和服务使用的 Google 抓取工具和抓取器、在引荐来源网址日志中看到的信息以及如何在 robots.txt 中指定抓取器。
-
当您为网站编写抓取规则时，应在 robots.txt 文件中的
User-agent:行内使用用户代理令牌，以便与相应类型的抓取工具匹配。如表中所示，某些抓取工具有多个令牌；但您只需使用与相应抓取工具匹配的 1 个令牌，即可应用规则。此列表并不完整，但涵盖了您在网站上可能会看到的大多数抓取工具。 - 完整的用户代理字符串是对抓取工具的完整描述，会出现在 HTTP 请求和网站日志中。
常见抓取工具
Google 的常见抓取工具用于构建 Google 的搜索索引、执行其他产品特定的抓取以及分析。它们始终遵循 robots.txt 规则，并且通常会从 googlebot.json 对象中发布的 IP 范围进行抓取。
| 常见抓取工具 | |||||
|---|---|---|---|---|---|
Googlebot（智能手机版） |
|
||||
Googlebot（桌面版） |
|
||||
Googlebot Image |
用于抓取图片（适用于 Google 图片和依赖于图片的产品）。
|
||||
Googlebot News |
Googlebot News 使用 Googlebot 抓取新闻报道，但会遵循其历史用户代理令牌
|
||||
Googlebot Video |
用于抓取视频，适用于 Google 视频和依赖于视频的产品。
|
||||
Google Favicon |
|
||||
Google StoreBot |
Google StoreBot 会抓取某些类型的网页，包括但不限于商品详情页、购物车页和结账页。
|
||||
|
|
||||
|
可供各种产品团队用于从网站中抓取可公开访问的内容的通用抓取工具。例如，它可能会用于一次性抓取，供内部研究和开发。
|
||||
特殊情况下的抓取工具
如果在被抓取的网站与产品之间就抓取过程达成协议，特定产品就会使用特殊情况下的抓取工具。例如，AdsBot 会在广告发布商许可的情况下忽略全局 robots.txt 用户代理 (*)。特殊情况下的抓取工具可能会忽略 robots.txt 规则，因此使用的 IP 范围不同于常见抓取工具。这些 IP 范围发布在 special-crawlers.json 对象中。
| 特殊情况下的抓取工具 | |||||
|---|---|---|---|---|---|
APIs-Google |
供 Google API 传递推送通知消息。忽略 robots.txt 中的全局用户代理 (
|
||||
AdsBot Mobile Web Android |
检查 Android 网页广告质量。忽略 robots.txt 中的全局用户代理 (
|
||||
AdsBot Mobile Web |
检查 iPhone 网页广告质量。忽略 robots.txt 中的全局用户代理 (
|
||||
AdsBot |
检查桌面版网页广告质量。忽略 robots.txt 中的全局用户代理 (
|
||||
AdSense |
AdSense 抓取工具通过访问您的网站确定网站内容，以便提供相关的广告。忽略 robots.txt 中的全局用户代理 (
|
||||
Mobile AdSense |
Mobile AdSense 抓取工具通过访问您的网站确定网站内容，以便提供相关的广告。忽略 robots.txt 中的全局用户代理 (
|
||||
用户触发的抓取器
用户触发的抓取器由用户触发，以执行特定于产品的功能。例如，Google 网站验证工具会响应用户请求。由于是用户请求的抓取，因此这些抓取器通常会忽略 robots.txt 规则。用户触发的抓取器使用的 IP 范围发布在 user-triggered-fetchers.json 对象中。
| 用户触发的抓取器 | |||||
|---|---|---|---|---|---|
Feedfetcher |
Feedfetcher 用于为 Google 播客、Google 新闻和 PubSubHubbub 抓取 RSS 或 Atom Feed。
|
||||
Google 发布商中心 |
抓取并处理发布商通过 Google 发布商中心明确提供的 Feed，以便在 Google 新闻着陆页中使用。
|
||||
Google Read Aloud |
根据用户请求，Google Read Aloud 会使用文字转语音 (TTS) 技术来抓取并朗读网页内容。
|
||||
Google 网站验证工具 |
Google 网站验证工具会在用户请求 Search Console 验证令牌时进行抓取。
|
||||
关于用户代理中的 Chrome/W.X.Y.Z 的说明
表中的用户代理字符串中有时候会出现 Chrome/W.X.Y.Z 字符串，W.X.Y.Z 实际上是代表该用户代理使用的 Chrome 浏览器版本的占位符：例如，41.0.2272.96。随着时间的推移，此版本号会增大，以便与 Googlebot 使用的最新 Chromium 发布版本相匹配。
如果您要搜索日志或过滤服务器以查找使用此格式的用户代理，请用通配符表示版本号，而不是指定确切的版本号。
robots.txt 中的用户代理
如果 Google 在 robots.txt 文件中识别出多个用户代理，将会跟踪最具体的用户代理。如果您希望 Google 的所有抓取工具都能够抓取您的网页，根本不需要使用 robots.txt 文件。如果您希望禁止或允许 Google 的所有抓取工具访问您的某些内容，只需将 Googlebot 指定为用户代理即可。例如，如果您希望您的所有网页都出现在 Google 搜索中，并且您的网页能够显示 AdSense 广告，便无需使用 robots.txt 文件。同理，如果您希望 Google 的所有抓取工具都不能访问您的某些网页，可以禁止用户代理 Googlebot，这样会一并禁止 Google 的所有其他用户代理。
不过，如果您希望更加精确地控制抓取范围，可以采取更具体的设置。例如，您可能希望您的所有网页都出现在 Google 搜索中，但不希望 Google 抓取您个人目录中的图片。在这种情况下，您可以使用 robots.txt 禁止用户代理 Googlebot-Image 抓取您个人目录中的文件（同时允许 Googlebot 抓取所有文件），具体如下：
User-agent: Googlebot Disallow: User-agent: Googlebot-Image Disallow: /personal
再举个例子，假设您希望自己的所有网页上都显示广告，但不希望这些网页出现在 Google 搜索中。这时，您可以禁止 Googlebot，但允许 Mediapartners-Google 用户代理，具体如下：
User-agent: Googlebot Disallow: / User-agent: Mediapartners-Google Disallow:
控制抓取速度
每个 Google 抓取工具都会出于特定目的以不同的速度访问网站。Google 使用算法确定每个网站的最佳抓取速度。如果 Google 抓取工具过于频繁地抓取您的网站，您可以降低抓取速度。
弃用的 Google 抓取工具
以下 Google 抓取工具已不再使用，此处仅作历史参考。
| 弃用的 Google 抓取工具 | |||||
|---|---|---|---|---|---|
网页上的 Duplex |
支持“网页上的 Duplex”服务。
|
||||
Web Light |
每当用户在相应条件下在搜索结果中点击您的网页时，系统就会检查是否存在
|
||||
Mobile Apps Android |
检查 Android 应用页面广告质量。遵守
|
||||