您现在的位置是: 首页 > HTML/CSS HTML/CSS
Linux服务器中输入如下命令抓取网站HTML页面
冬寂
2020-08-05 22:47:00
【HTML/CSS】
6758人已围观
在Linux服务器中输入如下命令抓取网站HTML页面:
wget -r -p -np -k -E http://www.xxx.com 抓取整站
wget -l 1 -p -np -k http://www.xxx.com 抓取第一级
-r 递归抓取
-k 抓取之后修正链接,适合本地浏览.
wget -m -e robots=off -k -E “http://www.xxx.com/“
可以将全站下载以本地的当前工作目录,生成可访问、完整的镜像。
解释:
-m //镜像,就是整站抓取
-e robots=off //忽略robots协议,强制、流氓抓取
-k //将绝对URL链接转换为本地相对URL
-E //将所有text/html文档以.html扩展名保存
随机图文
-
编程中的“道”
当你想起“编程”的时候你会想起什么呢?这是一项能获得高薪的谋生技能?是一个有益身心的智力活动?是一门高价课程?是一个穿着格子衬衫、盯着工资和股票、整天 996 的职业吗? -
生命游戏
在游戏的进行中,杂乱无序的细胞会逐渐演化出各种精致、有形的结构;这些结构往往有很好的对称性,而且每一代都在变化形状。一些形状已经锁定,不会逐代变化。有时,一些已经成形的结构会因为一些无序细胞的“入侵”而被破坏。但是形状和秩序经常能从杂乱中产生出来。 -
飞机为什么能飞起来?直到今天,科学家仍然没有答案
飞机为什么能飞起来?直到今天,科学家仍然没有答案 -
格物致知:如何找到那把“是非善恶”的尺子?
要平天下,必须先治国,治国必须先齐家,齐家必须先修身,修身必须先正心,正心必须先诚意,诚意必须先致知,而致知就要靠格物
