标签：爬虫

解析 ayusite 31 个 access 日志共 207,846 行、跨 38 天：爬虫 116,955 次占 56.3%，其中 SEO 工具最多（SemrushBot 31,823、MJ12bot 27,017）。4 个 34/35 段地址轮换 11 到 18 种 AI 爬虫 UA，敏感路径占比最高 70%。2,005 次探测里 404 有 1,993 次，200 零次。真 ClaudeBot 17,896 次只碰 14 次，但 81% 请求是 302。

10 天 30,128 次访问日志逐行拆开：AI 公司爬虫只占 6.1%，卖外链的 SEO 工具占 32.8%，404 占 43.1%。中间我想用「有没有加载 css」判断真人，结果发现这个判据被自己的 nginx 配置关进了日志盲区。

Anthropic 的 ClaudeBot 来了 472 次，其中 57% 在读 robots.txt 和 sitemap.xml，落到文章页的只有 8%。OpenAI 的 OAI-SearchBot 更极端：29 次请求里 28 次在读 robots.txt。Common Crawl 的 CCBot 有 86% 在抓一个早就下线的老路径。

三步查清谁在爬你的站：数总量、按 UA 分组、查 IP 归属，再结合访问行为判断是不是真人。附实际跑通的 PowerShell 命令、我踩过的静态资源日志盲区，以及 robots.txt 怎么写才真的有用。