您现在的位置是: 首页 > HTML/CSS HTML/CSS
Linux服务器中输入如下命令抓取网站HTML页面
冬寂
2020-08-05 22:47:00
【HTML/CSS】
6524人已围观
在Linux服务器中输入如下命令抓取网站HTML页面:
wget -r -p -np -k -E http://www.xxx.com 抓取整站
wget -l 1 -p -np -k http://www.xxx.com 抓取第一级
-r 递归抓取
-k 抓取之后修正链接,适合本地浏览.
wget -m -e robots=off -k -E “http://www.xxx.com/“
可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。
解释:
-m //镜像,就是整站抓取
-e robots=off //忽略robots协议,强制、流氓抓取
-k //将绝对URL链接转换为本地相对URL
-E //将所有text/html文档以.html扩展名保存
随机图文
-
apache的ab命令压测
ab是apache自带的压力测试工具。ab非常实用,它不仅可以对apache服务器进行网站访问压力测试,也可以对或其它类型的服务器进行压力测试。比如nginx、tomcat、IIS等 -
windows+PHP+shell_exec()无法执行的原因
windows+PHP+shell_exec()无法执行的原因 -
写了个“张雪峰”提示词,让 AI 免费做志愿规划
辅助填写志愿的提示词,主要作用是引导学生发掘出个人特点、家庭背景、优/劣势学科、行业前景等因素,然后给学生推荐适合的行业/职业,目前使用市面上主流的 AI 测试了一波,Google Gemini 、通义千问跟 ChatGPT 表现还不错 -
为什么有的人先富了,在上层,他们是怎么上去的?
地图全开丨为什么有的人先富了,在上层,他们是怎么上去的?