您现在的位置是: 首页 > HTML/CSS HTML/CSS
Linux服务器中输入如下命令抓取网站HTML页面
冬寂 2020-08-05 22:47:00 【HTML/CSS】 5624人已围观
在Linux服务器中输入如下命令抓取网站HTML页面:
wget -r -p -np -k -E http://www.xxx.com 抓取整站
wget -l 1 -p -np -k http://www.xxx.com 抓取第一级
-r 递归抓取
-k 抓取之后修正链接,适合本地浏览.
wget -m -e robots=off -k -E “http://www.xxx.com/“
可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。
解释:
-m //镜像,就是整站抓取
-e robots=off //忽略robots协议,强制、流氓抓取
-k //将绝对URL链接转换为本地相对URL
-E //将所有text/html文档以.html扩展名保存
随机图文
-
小王子(二)
在附近的宇宙中,还有 325、326、327、328、329、330等几颗小行星。他就开始访问这几颗星球,想在那里找点事干,并且学习学习。第一颗星球上住着一个国王。国王穿着用紫红色和白底黑花的毛皮做成的大礼服,坐在一个很简单却又十分威严的宝座上。 -
小王子(三)
在沙漠、岩石、雪地上行走了很长的时间以后,小王子终于发现了一条大路。 所有的大路都是通往人住的地方的 -
apache的ab命令压测
ab是apache自带的压力测试工具。ab非常实用,它不仅可以对apache服务器进行网站访问压力测试,也可以对或其它类型的服务器进行压力测试。比如nginx、tomcat、IIS等 -
《我爸是个爱做菜的人》
我爸是个爱做菜的人