您现在的位置是: 首页 > HTML/CSS HTML/CSS
Linux服务器中输入如下命令抓取网站HTML页面
冬寂
2020-08-05 22:47:00
【HTML/CSS】
7187人已围观
在Linux服务器中输入如下命令抓取网站HTML页面:
wget -r -p -np -k -E http://www.xxx.com 抓取整站
wget -l 1 -p -np -k http://www.xxx.com 抓取第一级
-r 递归抓取
-k 抓取之后修正链接,适合本地浏览.
wget -m -e robots=off -k -E “http://www.xxx.com/“
可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。
解释:
-m //镜像,就是整站抓取
-e robots=off //忽略robots协议,强制、流氓抓取
-k //将绝对URL链接转换为本地相对URL
-E //将所有text/html文档以.html扩展名保存
随机图文
-
写了个“张雪峰”提示词,让 AI 免费做志愿规划
辅助填写志愿的提示词,主要作用是引导学生发掘出个人特点、家庭背景、优/劣势学科、行业前景等因素,然后给学生推荐适合的行业/职业,目前使用市面上主流的 AI 测试了一波,Google Gemini 、通义千问跟 ChatGPT 表现还不错 -
想买黄金饰品,市场上不同品牌价格差别大,怎么选择更加保值的金饰?
黄金饰品既有装饰功能,又能即时变现。但大部分的黄金饰品在回收变现时价格都会有波动,想选择更加保值的产品,并不容易。 -
基于workerman即时通讯客服系统源码(thinkPHP)
基于workerman即时通讯客服系统源码,含操作 -
抗生素:如何解决超级细菌?
“超级细菌”这个词想必你肯定听说过,就是指当前大部分抗生素或者所有抗生素都杀不死的那些细菌。
