Sitemap 与搜索引擎索引
概述
Sitemap 是一份供搜索引擎阅读的网站清单,并非供一般访客浏览的导航页。它列出所有公开且可被索引的页面,协助 Google 等搜索引擎更有效地发现您的内容。
“索引”是指搜索引擎将网页加入其数据库的过程。网页必须先被索引,才有机会在搜索结果中显示;然而,被索引并不保证排名靠前。
Kanorio 自动生成的 Sitemap
Kanorio 会为已发布的网站自动创建 Sitemap。它会包含:
- 已发布且对外显示的一般页面。
- 未设置为 noindex 的页面。
- 已发布的博客相关公开页面。
您通常可以在以下网址找到它:
yourdomain.com/sitemap.xml
请将 yourdomain.com 替换为您的公开网站网址。每次发布新内容后,系统都会更新 Sitemap;您无需手动逐一添加页面。
什么是 Robots.txt
Robots.txt 是一个位于网站根目录的文本文件,包含规则,用以指示遵守规则的网络爬虫哪些内容可以读取。它就像门口的指示牌,而非密码锁:
- 它可以协助正常的网络爬虫理解网站的规则。
- 它不能保护已公开的机密数据。
- 请勿仅依赖 robots.txt 来隐藏私人数据;公开网站的内容本来就不应包含敏感信息。
Kanorio 默认会为公开网站生成一个适用的 Robots.txt,并附上 Sitemap 的位置。
索引需要时间
发布内容后,请按以下顺序检查:
- 使用无痕窗口确认公开网址可正常打开。
- 在“页面 → SEO”检查该页面是否设置为 noindex。
- 在“SEO 与搜索引擎”连接 Google Search Console。
- 通过 GSC 提交或确认 Sitemap。
- 等待 Google 爬取及索引。
新的网站或新页面通常需要数天至数周时间。如果一直未被收录,请先检查页面内容是否过少、重复、被设置为 noindex,或公开网站本身无法访问。
自定义 Sitemap 和 Robots.txt
“营销科技 → SEO 与搜索引擎”提供进阶的自定义 Sitemap 和 Robots.txt 功能。请仅在您完全清楚要覆盖的内容时才使用:
- 自定义 Sitemap 将取代 Kanorio 自动生成的版本;您必须自行维护所有应列出的网址。
- 自定义 Robots.txt 将取代自动规则;AI 爬虫防火墙的 Edge 封锁功能仍会运作,但 Robots.txt 中的自动封锁段落将不会自动附加。
大多数网站应维持“自动”设置,以避免因格式错误或遗漏页面而导致搜索引擎无法理解您的网站。
结构化数据
结构化数据是添加到网站中的标记,让搜索引擎能更精确地理解内容类型。Kanorio 会根据您的网站和模块自动生成多种 Schema.org 数据,例如:
- 全站的 Organization、WebSite 以及适用的 LocalBusiness。
- FAQ 模块的 FAQPage。
- YouTube 模块的 VideoObject。
- 商店的 Product 和 Offer。
- 博客的 BlogPosting、Blog 以及分类或标签页。
- 导航的 BreadcrumbList。
您也可以在“SEO 与搜索引擎”的进阶设置中加入自定义 JSON-LD。此功能适用于熟悉结构化数据格式的进阶用户;若不熟悉,请保留自动设置,以免加入错误或重复的标记。
常见问题
搜索引擎自行决定何时重新爬取和索引您的网页。请先确认页面已发布、可正常打开、未设置为 noindex,并已通过 GSC 提交 Sitemap。
大多数情况下不需要。自动生成的 Sitemap 会随已发布且可见的页面自动更新;自定义版本反而需要您长期手动维护。
不能。它仅仅是给爬虫的指示,并非访问控制机制。请勿将任何敏感数据放置于任何公开页面。