Kanorio

AI 爬虫访问记录

约 8 分钟

概述

AI 爬虫是由 AI 服务或搜索服务派出的自动程序。它们会读取公开网站内容,可能用于训练模型、回答用户问题、构建 AI 搜索结果或通用搜索索引。

“数据分析”中的“AI 爬虫”页面可让您查看哪些已知的 AI 爬虫访问过您的公开网站,以及它们是否被允许或阻止。本文档仅说明如何读取记录;如果您想更改允许哪些爬虫读取您的网站,请阅读“管理 AI 爬虫访问您的网站”。

在哪里查看

  1. 打开“数据分析”
  2. 点击“AI 爬虫”
  3. 选择日期范围,查看趋势、排名和页面详情。

普通人类访客不会出现在此页面。AI 爬虫不会执行常规网站的前端 JavaScript 跟踪,因此它们会独立统计为服务器端记录。

理解三种爬虫目的

  • 训练型:可能用于帮助 AI 模型学习公开内容。
  • 检索型:可能在用户提问时查找并引用公开内容。
  • 搜索型:通用搜索引擎使用的爬虫,例如 Googlebot。

目的分类是根据已知爬虫的公开信息整理的,并不代表每次访问都能精确了解其最终用途。

理解验证状态

已验证

系统通过比对来源 IP 和运营方公布的网络范围,确认此次请求可信地来自该官方爬虫。

疑似冒充

请求的名称看起来像已知的 AI 爬虫,但来源 IP 无法匹配官方范围。这可能是第三方假冒的名称,请勿直接将其视为官方 AI 服务的真实访问。

无法验证

部分服务没有可供比对的公开 IP 信息,或本次请求无法完成验证。无法验证不等于恶意,仅表示系统无法确认其真伪。

已允许和已阻止

记录中的“已允许”表示请求可以继续读取公开网站;“已阻止”表示它符合您在“营销科技 → AI 爬虫”中设置的阻止规则,公开网站将响应拒绝访问。

阻止记录仍然很有价值。它可以让您确认规则是否正在生效,以及哪些爬虫持续尝试访问。

页面详情的用途

页面详情会列出爬虫访问过的网址。如果某个重要页面一直没有被已知爬虫读取,不代表它一定不会出现在搜索结果中;抓取频率由各服务自行决定,网站刚发布或内容较少时尤其需要时间。

常见问题

不一定。访问仅表示爬虫读取了公开网站。是否用于训练、收录、引用或在回答中呈现,仍由各服务自行决定。

不一定。网站刚发布、流量较少、爬虫尚未安排访问,或爬虫不在当前的识别列表中,都可能导致报告暂时没有数据。

首先确认该请求是否造成异常流量。如果只是少量记录,通常无需立即处理;如果您发现持续异常,请保留日期、截图和网址后联系客服。