尖叫青蛙 Screaming Frog SEO Spider
一句话定义
安装在本地电脑上的行业标准级网站爬虫软件,能像 Googlebot 一样把你的网站抓个底朝天。
打个比方 Analogy
医院里的全自动核磁共振仪。把网站网址输进去扫一遍,哪根血管堵了(404 死链)、哪个器官重复长了(重复 Title/H1)、哪条神经接错了(重定向链),全部列成表格。
岗位实战怎么做 In Practice
技术 SEO 吃饭的家伙(免费版可抓 500 个 URL,付费版无限制)。核心高级玩法:1) 在 Configuration > Spider > Rendering 开启 JavaScript 渲染模式抓 SPA 网站;2) 用 Custom Extraction(XPath/正则)批量抓取全站文章的发布日期或作者名;3) 接入 GSC/GA4/PageSpeed API 把流量与速度数据合并到抓取表里。
案例与避坑 Pitfalls
抓取十万级以上大站时,务必在设置里把内存分配调大并开启数据库存储模式(Database Storage Mode),同时把抓取速度(Limit Crawl Speed)调低到每秒 2–5 个请求,否则会把自家服务器抓宕机!