centos安装wget(很简单)
代码语言:javascript复制
yum – y install wget
yum – y install setup
yum – y install perl
Searching for GCC… The path “” is not valid path to the gcc binary. Would you like to change it? [yes] 如果出现这个就表明gcc没有安装 yum install gcc make 将gcc和make一起装好 安装gcc可参照 Linux——CentOS7 6安装gcc编译器详解
CentOS wget 使用技巧
$ CentOS wget -r -np -nd http://example.com/packages/ 这条命令可以下载 http://example.com 网站上 packages 目录中的所有文件。其中,-np 的作用是不遍历父目录,-nd 表示不在本机重新创建目录结构。
$ CentOS wget-r -np -nd –accept=iso http://example.com/centos-5/i386/ 与上一条命令相似,但多加了一个 –accept=iso 选项,这指示CentOS wget仅下载 i386 目录中所有扩展名为 iso 的文件。你也可以指定多个扩展名,只需用逗号分隔即可。
$ CentOS wget -i filename.txt 此命令常用于批量下载的情形,把所有需要下载文件的地址放到 filename.txt 中,然后 CentOS wget 就会自动为你下载所有文件了。
$ CentOS wget -c http://example.com/really-big-file.iso 这里所指定的 -c 选项的作用为断点续传。
$ CentOS wget -m -k (-H) http://www.example.com/ 该命令可用来镜像一个网站,CentOS wget将对链接进行转换。如果网站中的图像是放在另外的站点,那么可以使用 -H 选项。
CentOS wget 使用指南
CentOS wget是一个从网络上自动下载文件的自由工具。它支持HTTP,HTTPS和FTP协议,可以使用HTTP代理. 所谓的自动下载是指,CentOS wget可以在用户退出系统的之后在后台执行。这意味这你可以登录系统,启动一个CentOS wget下载任务,然后退出系统,CentOS wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去了极大的麻烦。
wget可以跟踪HTML页面上的链接依次下载来创建远程服务器的本地版本,完全重建原始站点的目录结构。这又常被称作”递归下载”。在递归下载的时候,wget遵循Robot Exclusion标准(/robots.txt). wget可以在下载的同时,将链接转换成指向本地文件,以方便离线浏览。
wget非常稳定,它在带宽很窄的情况下和不稳定网络中有很强的适应性.如果是由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完毕。如果是服务器打断下载过程,它会再次联到服务器上从停止的地方继续下载。这对从那些限定了链接时间的服务器上下载大文件非常有用。
wget的常见用法wget的使用格式
代码语言:javascript复制
Usage : wget [ OPTION ]… [ URL ]…
用 wget 做站点镜像: wget – r – p – np – k http : //dsec.pku.edu.cn/~usr_name/# 或者wget -m http://www.tldp.org/LDP/abs/html/在不稳定的网络上下载一个部分下载的文件,以及在空闲时段下载
wget – t 0 – w 31 – c http : //dsec.pku.edu.cn/BBC.avi -o down.log &# 或者从filelist读入要下载的文件列表
wget – t 0 – w 31 – c – B ftp : //dsec.pku.edu.cn/linuxsoft -i filelist.txt -o down.log &
上面的代码还可以用来在网络比较空闲的时段进行下载。我的用法是:在 mozilla 中将不方便当时下载的 URL 链接拷贝到内存中然后粘贴到文件 filelist . txt 中,在晚上要出去系统前执行上面代码的第二条。
使用代理下载 wget – Y on – p – k https : //sourceforge.net/projects/wvware/代理可以在环境变量或wgetrc文件中设定 # 在环境变量中设定代理export PROXY=http://211.90.168.94:8080/# 在~/.wgetrc中设定代理
http_proxy = http : //proxy.yoyodyne.com:18023/
ftp_proxy = http : //proxy.yoyodyne.com:18023/
wget各种选项分类列表启动
代码语言:javascript复制
– V , — version 显示 wget 的版本后退出
– h , — help 打印语法帮助
– b , — background 启动后转入后台执行
– e , — execute = COMMAND 执行 `.wgetrc’格式的命令,wgetrc格式参见/etc/wgetrc或~/.wgetrc
记录和输入文件
代码语言:javascript复制
– o , — output – file = FILE 把记录写到 FILE 文件中
– a , — append – output = FILE 把记录追加到 FILE 文件中
– d , — debug 打印调试输出
– q , — quiet 安静模式(没有输出)
– v , — verbose 冗长模式(这是缺省设置)
– nv , — non – verbose 关掉冗长模式,但不是安静模式
– i , — input – file = FILE 下载在 FILE 文件中出现的 URLs
– F , — force – html 把输入文件当作 HTML 格式文件对待
– B , — base = URL 将 URL 作为在- F – i 参数指定的文件中出现的相对链接的前缀
— sslcertfile = FILE 可选客户端证书
— sslcertkey = KEYFILE 可选客户端证书的 KEYFILE
— egd – file = FILE 指定 EGD socket 的文件名
下载
代码语言:javascript复制
— bind – address = ADDRESS 指定本地使用地址(主机名或 IP ,当本地有多个 IP 或名字时使用)
– t , — tries = NUMBER 设定最大尝试链接次数( 0 表示无限制).
– O — output – document = FILE 把文档写到 FILE 文件中
– nc , — no – clobber 不要覆盖存在的文件或使用. #前缀
– c , — continue 接着下载没下载完的文件
— progress = TYPE 设定进程条标记
– N , — timestamping 不要重新下载文件除非比本地文件新
– S , — server – response 打印服务器的回应
— spider 不下载任何东西
– T , — timeout = SECONDS 设定响应超时的秒数
– w , — wait = SECONDS 两次尝试之间间隔 SECONDS 秒
— waitretry = SECONDS 在重新链接之间等待 1. .. SECONDS 秒
— random – wait 在下载之间等待 0. .. 2 * WAIT 秒
– Y , — proxy = on / off 打开或关闭代理
– Q , — quota = NUMBER 设置下载的容量限制
— limit – rate = RATE 限定下载输率
目录
代码语言:javascript复制
– nd — no – directories 不创建目录
– x , — force – directories 强制创建目录
– nH , — no – host – directories 不创建主机目录
– P , — directory – prefix = PREFIX 将文件保存到目录 PREFIX /…
— cut – dirs = NUMBER 忽略 NUMBER 层远程目录
HTTP 选项
代码语言:javascript复制
— http – user = USER 设定 HTTP 用户名为 USER .
— http – passwd = PASS 设定 http 密码为 PASS .
– C , — cache = on / off 允许/不允许服务器端的数据缓存 (一般情况下允许).
– E , — html – extension 将所有 text / html 文档以. html 扩展名保存
— ignore – length 忽略 `Content-Length’头域
–header=STRING 在headers中插入字符串 STRING
–proxy-user=USER 设定代理的用户名为 USER
–referer=URL 在HTTP请求中包含 ` Referer : URL ‘头
–proxy-passwd=PASS 设定代理的密码为 PASS
-s, –save-headers 保存HTTP头到文件
-U, –user-agent=AGENT 设定代理的名称为 AGENT而不是 Wget/VERSION.
–no-http-keep-alive 关闭 HTTP活动链接 (永远链接).
–load-cookies=FILE 在开始会话前从文件 FILE中加载cookie
–cookies=off 不使用 cookies.
–save-cookies=FILE 在会话结束后将 cookies保存到 FILE文件中
FTP 选项
代码语言:javascript复制
– nr , — dont – remove – listing 不移走 `.listing’文件
-g, –glob=on/off 打开或关闭文件名的 globbing机制
–passive-ftp 使用被动传输模式 (缺省值).
–retr-symlinks 在递归的时候,将链接指向文件(而不是目录)
–active-ftp 使用主动传输模式
递归下载
代码语言:javascript复制
– r , — recursive 递归下载--慎用!
– l , — level = NUMBER 最大递归深度 ( inf 或 0 代表无穷).
— delete – after 在现在完毕后局部删除文件
– k , — convert – links 转换非相对链接为相对链接
– K , — backup – converted 在转换文件 X 之前,将之备份为 X . orig
– m , — mirror 等价于 – r – N – l inf – nr .
– p , — page – requisites 下载显示 HTML 文件的所有图片
递归下载中的包含和不包含(accept/reject)
代码语言:javascript复制
– A , — accept = LIST 分号分隔的被接受扩展名的列表
– R , — reject = LIST 分号分隔的不被接受的扩展名的列表
– D , — domains = LIST 分号分隔的被接受域的列表
— exclude – domains = LIST 分号分隔的不被接受的域的列表
— follow – ftp 跟踪 HTML 文档中的 FTP 链接
— follow – tags = LIST 分号分隔的被跟踪的 HTML 标签的列表
– G , — ignore – tags = LIST 分号分隔的被忽略的 HTML 标签的列表
– H , — span – hosts 当递归时转到外部主机
– L , — relative 仅仅跟踪相对链接
– I , — include – directories = LIST 允许目录的列表
– X , — exclude – directories = LIST 不被包含目录的列表
– np , — no – parent 不要追溯到父目录
备注:若要停止下载,Ctrl C。 总结:CentOS wget是一个从网络上自动下载文件的自由工具。它支持HTTP,HTTPS和FTP协议,可以使用HTTP代理. 所谓的自动下载是指,CentOS wget可以在用户退出系统的之后在后台执行。这意味这你可以登录系统,启动一个CentOS wget下载任务,然后退出系统,CentOS wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去了极大的麻烦。
作者: 宋鎏鑫
链接:https://www.imooc.com/article/17781?block_id=tuijian_wz
来源:慕课
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/181101.html原文链接:https://javaforall.cn