AK Footprints

always be together

Archive for the ‘Kevin’ Category

[转]ftp命令用法

FTP是用来在Internet上上传或者下载软件的软件。以下是对命令行方式FTP软件的介绍。
FTP命令是Internet用户使用最频繁的命令之一,不论是在DOS还是UNIX操作系统下使用FTP,都会遇到大量的FTP内部命令。 熟悉并灵活应用FTP的内部命令,可以大大方便使用者,并收到事半功倍之效。

FTP的命令行格式为: ftp -v -d -i -n -g [主机名] ,其中
-v 显示远程服务器的所有响应信息;
-n 限制ftp的自动登录,即不使用;
-n etrc文件;
-d 使用调试方式;
-g 取消全局文件名。

ftp使用的内部命令如下(中括号表示可选项):
1.![cmd[args]]:在本地机中执行交互shell,exit回到ftp环境,如: !ls*.zip.
2.$ macro-ame[args]:执行宏定义macro-name.
3.account[password]:提供登录远程系统成功后访问系统资源所需的补 充口令。
4.append local-file[remote-file]:将本地文件追加到远程系统主机, 若未指定远程系统文件名,则使用本地文件名。
5.ascii:使用ascii类型传输方式。
6.bell:每个命令执行完毕后计算机响铃一次。
7.bin:使用二进制文件传输方式。
8.bye:退出ftp会话过程。
9.case:在使用mget时,将远程主机文件名中的大写转为小写字母。
10.cd remote-dir:进入远程主机目录。
11.cdup:进入远程主机目录的父目录。
12.chmod mode file-name:将远程主机文件file-name的存取方式设置为 mode,如: chmod 777 a.out 。
13.close:中断与远程服务器的ftp会话(与open对应)。
14.cr:使用asscii方式传输文件时,将回车换行转换为回行。
15.delete remote-file:删除远程主机文件。
16.debug[debug-value]:设置调试方式, 显示发送至远程主机的每条命令,如: deb up 3,若设为0,表示取消debug。
17.dir[remote-dir][local-file]:显示远程主机目录,并将结果存入本地文件local-file。
18.disconnection:同close。
19.form format:将文件传输方式设置为format,缺省为file方式。
20.get remote-file[local-file]: 将远程主机的文件remote-file传至本地硬盘的local-file。
21.glob:设置mdelete,mget,mput的文件名扩展,缺省时不扩展文件名, 同命令行的-g参数。
22.hash:每传输1024字节,显示一个hash符号(#)。
23.help[cmd]:显示ftp内部命令cmd的帮助信息,如:help get。
24.idle[seconds]:将远程服务器的休眠计时器设为[seconds]秒。
25.image:设置二进制传输方式(同binary)。
26.lcd[dir]:将本地工作目录切换至dir。
27.ls[remote-dir][local-file]:显示远程目录remote-dir, 并存入本地文件local-file。
28.macdef macro-name:定义一个宏,遇到macdef下的空行时,宏定义结束。
29.mdelete[remote-file]:删除远程主机文件。
30.mdir remote-files local-file:与dir类似,但可指定多个远程文件, 如:mdir *.o.*.zipoutfile 。
31.mget remote-files:传输多个远程文件。
32.mkdir dir-name:在远程主机中建一目录。
33.mls remote-file local-file:同nlist,但可指定多个文件名。
34.mode[modename]:将文件传输方式设置为modename, 缺省为stream方式。
35.modtime file-name:显示远程主机文件的最后修改时间。
36.mput local-file:将多个文件传输至远程主机。
37.newer file-name: 如果远程机中file-name的修改时间比本地硬盘同名文件的时间更近,则重传该文件。
38.nlist[remote-dir][local-file]:显示远程主机目录的文件清单,并存入本地硬盘的local-file。
39.nmap[inpattern outpattern]:设置文件名映射机制, 使得文件传输时,文件中的某些字符相互转换,
如:nmap $1.$2.$3[$1,$2].[$2,$3],则 传输文件a1.a2.a3时,文件名变为a1,a2。该命令特别适用于远程主机为非UNIX 机的情况。
40.ntrans[inchars[outchars]]:设置文件名字符的翻译机制,如ntrans 1R,则文件名LLL将变为RRR。
41.open host[port]:建立指定ftp服务器连接,可指定连接端口。
42.passive:进入被动传输方式。
43.prompt:设置多个文件传输时的交互提示。
44.proxy ftp-cmd:在次要控制连接中,执行一条ftp命令, 该命令允许连接两个ftp服务器,以在两个服务器间传输文件。第一条ftp命令必须为open, 以首先建立两个服务器间的连接。
45.put local-file[remote-file]:将本地文件local-file传送至远程主机。
46.pwd:显示远程主机的当前工作目录。
47.quit:同bye,退出ftp会话。
48.quote arg1,arg2…:将参数逐字发至远程ftp服务器,如:quote syst.
49.recv remote-file[local-file]:同get。
50.reget remote-file[local-file]:类似于get,但若local-file存在, 则从上次传输中断处续传。
51.rhelp[cmd-name]:请求获得远程主机的帮助。
52.rstatus[file-name]:若未指定文件名,则显示远程主机的状态,否则显示文件状态。
53.rename[from][to]:更改远程主机文件名。
54.reset:清除回答队列。
55.restart marker:从指定的标志marker处,重新开始get或put,如: restart 130。
56.rmdir dir-name:删除远程主机目录。
57.runique:设置文件名唯一性存储,若文件存在,则在原文件后加后缀 …1,.2等。
58.send local-file[remote-file]:同put。
59.sendport:设置PORT命令的使用。
60.site arg1,arg2…:将参数作为SITE命令逐字发送至远程ftp主机。
61.size file-name:显示远程主机文件大小,如:site idle 7200。
62.status:显示当前ftp状态。
63.struct[struct-name]:将文件传输结构设置为struct-name, 缺省时使用stream结构。
64.sunique:将远程主机文件名存储设置为唯一(与runique对应)。
65.system:显示远程主机的操作系统类型。
66.tenex:将文件传输类型设置为TENEX机的所需的类型。
67.tick:设置传输时的字节计数器。
68.trace:设置包跟踪。
69.type[type-name]:设置文件传输类型为type-name,缺省为ascii,如: type binary,设置二进制传输方式。
70.umask[newmask]:将远程服务器的缺省umask设置为newmask,如: umask 3。
71.user user-name[password][account]:向远程主机表明自己的身份, 需要口令时,必须输入口令,如:user anonymous my@email。
72.verbose:同命令行的-v参数,即设置详尽报告方式,ftp服务器的所有响应都将显示给用户,缺省为on.
73.?[cmd]:同help.

From: http://blog.csdn.net/cbacba/archive/2001/07/26/12287.aspx

  • 0 Comments
  • Filed under: Kevin
  • 今天发现一个很牛的网页http://www.centricle.com/ref/css/filters/,里面列出了所有浏览器对于CSS功能的支持情况,分项对比极为详细,赞一个,有空研究一下.

    http://www.centricle.com/ref/css/filters/

  • 0 Comments
  • Filed under: Kevin
  • 区别IE6与FF:
    background:orange;*background:blue;

    区别IE6与IE7:
    background:green !important;background:blue;

    区别IE7与FF:
    background:orange; *background:green;

    区别FF,IE7,IE6:
    background:orange;*background:green !important;*background:blue;

    注:IE都能识别*;标准浏览器(如FF)不能识别*;
    IE6能识别*,但不能识别 !important,
    IE7能识别*,也能识别!important;
    FF不能识别*,但能识别!important;

    IE6     IE7     FF
    *     √     √     ×
    !important     ×     √     √

    另外再补充一个,下划线”_”,
    IE6支持下划线,IE7和firefox均不支持下划线。(推荐)

    于是大家还可以这样来区分IE6,IE7,firefox
    : background:orange;*background:green;_background:blue;

    注:不管是什么方法,书写的顺序都是firefox的写在前面,IE7的写在中间,IE6的写在最后面。

    From: http://www.pjhome.net/article.asp?id=807

  • 0 Comments
  • Filed under: Kevin
  • 在Windows 98时代,微软用来取代FAT(FAT16)分割表的,就是FAT32。
    FAT32有一个主要优势,就是其有较大的分割区容量,可以解决硬盘单一切割区2GB的限制。
    按照分割丛集(Cluster)的不同,FAT32最大的分割区容量限制是2TB;而单一档案大小最大为4GB。

    后来微软因为安全性考虑,又推出了新的分割表NTFS。
    NTFS有效的加强了档案的安全性,并将分割区的最大容量限制推向16EB。

    微软为了推广NTFS的使用,所以在Windows XP上做了限制;
    使得XP只能将32GB以下的分割区格式化为FAT32。
    超过32GB?
    一律只能格式化为NTFS…

    那有没有办法在XP中,格式化大于32GB的分割区为FAT32呢?

    基本上在Windows XP中,要格式化大于32GB的分割区为FAT32有一定的难度。
    不过,我们倒是可以透过一些好用的软件来完成~
    例如 fat32format。

    fat32format必需在“命令提示字符”下(就是类似古老的DOS)运作。
    只要在命令提示字符输入

    fat32format X:

    就可以将现有分割区X,格式化为FAT32。
    当然X是您的磁盘分割区代号,请依照实际的磁盘代号来修改。

    除此之外,也可以在fat32format中指定丛集的大小。
    我们只要在命令提示字符中输入fat32format,不加任何参数,就会有简单的操作指令说明~

    什么时候会需要大于32GB的FAT32分割区呢?

    如果你有Windows以外的操作系统需要跟Windows沟通,如Mac。
    或许你的移动硬盘就会这么分割了~

    From: http://www.shunze.info/forum/thread.php?boardid=3&threadid=1375&sid=c418a60072e50218edc32dff1e2d553c&sid=c418a60072e50218edc32dff1e2d553c

  • 0 Comments
  • Filed under: Kevin
  • [转]wget 使用大全

    Linux开源频道资讯:
    Wget 的使用
    1)支持断点下传功能(2)同时支持FTP和HTTP下载方式(3)支持代理服务器(4)设置方便简单;5)程序小,完全免费;

    命令格式:
    wget [参数列表] [目标软件、网页的网址]

    1、启动类参数
    这一类参数主要提供软件的一些基本信息;
    -V,–version 显示软件版本号然后退出;
    -h,–help显示软件帮助信息;
    -e,–execute=COMMAND 执行一个 “.wgetrc”命令
    以上每一个功能有长短两个参数,长短功能一样,都可以使用。需要注意的是,这里的-e参数是执行一个.wgettrc的命令,.wgettrc命令其实是一个参数列表,直接将软件需要的参数写在一起就可以了。

    2、文件处理参数
    这类参数定义软件log文件的输出方式等;
    -o,–output-file=FILE 将软件输出信息保存到文件;
    -a,–append-output=FILE将软件输出信息追加到文件;
    -d,–debug显示输出信息;
    -q,–quiet 不显示输出信息;
    -i,–input-file=FILE 从文件中取得URL;
    以上参数对于攻击者比较有用,我们来看看具体使用;

    例1:下载192.168.1.168首页并且显示下载信息
    wget -d http://192.168.1.168

    例2:下载192.168.1.168首页并且不显示任何信息
    wget -q http://192.168.1.168

    例3:下载filelist.txt中所包含的链接的所有文件
    wget -i filelist.txt

    wget -np -m -l5  http://jpstone.bokee.com //不下载本站所链接的其它站点内容,5级目录结构

    3、下载参数
    下载参数定义下载重复次数、保存文件名等;
    -t,–tries=NUMBER 是否下载次数(0表示无穷次)
    -O –output-document=FILE下载文件保存为别的文件名
    -nc, –no-clobber 不要覆盖已经存在的文件
    -N,–timestamping只下载比本地新的文件
    -T,–timeout=SECONDS 设置超时时间
    -Y,–proxy=on/off 关闭代理

    例:下载192.168.1.168的首页并将下载过程中的的输入信息保存到test.htm文件中
    wget -o test.htm http://192.168.1.168

    4、目录参数

    目录参数主要设置下载文件保存目录与原来文件(服务器文件)的目录对应关系;
    -nd  –no-directories 不建立目录
    -x,–force-directories 强制建立目录
    可能现在我们对这里的目录还不是很了解,我们来看一个举例

    例:下载192.168.1.168的首页,并且保持网站结构
    wget -x http://192.168.1.168

    5、HTTP参数
    HTTP参数设置一些与HTTP下载有关的属性;
    –http-user=USER设置HTTP用户
    –http-passwd=PASS设置HTTP密码
    –proxy-user=USER设置代理用户
    –proxy-passwd=PASS设置代理密码
    以上参数主要设置HTTP和代理的用户、密码;

    6、递归参数设置
    在下载一个网站或者网站的一个目录的时候,我们需要知道的下载的层次,这些参数就可以设置;
    -r,–recursive 下载整个网站、目录(小心使用)
    -l,–level=NUMBER 下载层次
    例:下载整个网站
    wget -r http://192.168.1.168

    7、递归允许与拒绝选项参数
    下载一个网站的时候,为了尽量快,有些文件可以选择下载,比如图片和声音,在这里可以设置;
    -A,–accept=LIST 可以接受的文件类型
    -R,–reject=LIST拒绝接受的文件类型
    -D,–domains=LIST可以接受的域名
    –exclude-domains=LIST拒绝的域名
    -L,–relative 下载关联链接
    –follow-ftp 只下载FTP链接
    -H,–span-hosts 可以下载外面的主机
    -I,–include-directories=LIST允许的目录
    -X,–exclude-directories=LIST 拒绝的目录

    如何设定wget所使用的代理服务器
    wget可以使用用户设置文件”.wgetrc”来读取很多设置,我们这里主要利用这个文件来是
    设置代理服务器。使用者用什么用户登录,那么什么用户主目录下的”.wgetrc”文件就起
    作用。例如,”root”用户如果想使用”.wgetrc”来设置代理服务器,”/root/.wgetrc”就起
    作用,下面给出一个”.wgetrc”文件的内容,读者可以参照这个例子来编写自己的”wgetrc”文件:
    http-proxy = 111.111.111.111:8080
    ftp-proxy = 111.111.111.111:8080
    这两行的含义是,代理服务器IP地址为:111.111.111.111,端口号为:80。第一行指定
    HTTP协议所使用的代理服务器,第二行指定FTP协议所使用的代理服务器。

    WGet使用指南
    wget是一个从网络上自动下载文件的自由工具。它支持HTTP,HTTPS和FTP协议,可以使用HTTP代理.

    所谓的自动下载是指,wget可以在用户退出系统的之后在后台执行。这意味这你可以登录系统,启动一个wget下载任务,然后退出系统,wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去了极大的麻烦。

    wget 可以跟踪HTML页面上的链接依次下载来创建远程服务器的本地版本,完全重建原始站点的目录结构。这又常被称作”递归下载”。在递归下载的时候,wget 遵循Robot Exclusion标准(/robots.txt). wget可以在下载的同时,将链接转换成指向本地文件,以方便离线浏览。

    wget 非常稳定,它在带宽很窄的情况下和不稳定网络中有很强的适应性.如果是由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完 毕。如果是服务器打断下载过程,它会再次联到服务器上从停止的地方继续下载。这对从那些限定了链接时间的服务器上下载大文件非常有用。

    wget的常见用法
    wget的使用格式

    Usage: wget [OPTION]… [URL]…用wget做站点镜像:
    wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/
    # 或者
    wget -m http://www.tldp.org/LDP/abs/html/在不稳定的网络上下载一个部分下载的文件,以及在空闲时段下载
    wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &
    # 或者从filelist读入要下载的文件列表
    wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft – i filelist.txt -o down.log &上面的代码还可以用来在网络比较空闲的时段进行下载。我的用法是:在mozilla中将不方便当时下载的URL链接拷贝到内存中然后粘贴到文件 filelist.txt中,在晚上要出去系统前执行上面代码的第二条。

    使用代理下载
    wget -Y on -p -k https://sourceforge.net/projects/wvware/代理可以在环境变量或wgetrc文件中设定

    # 在环境变量中设定代理
    export PROXY=http://211.90.168.94:8080/
    # 在~/.wgetrc中设定代理
    http_proxy = http://proxy.yoyodyne.com:18023/
    ftp_proxy = http://proxy.yoyodyne.com:18023/wget各种选项分类列表
    启动
    -V,  –version           显示wget的版本后退出
    -h,  –help              打印语法帮助
    -b,  –background        启动后转入后台执行
    -e,  –execute=COMMAND   执行`.wgetrc’格式的命令,wgetrc格式参见/etc/wgetrc或~/.wgetrc记录和输入文件
    -o,  –output-file=FILE     把记录写到FILE文件中
    -a,  –append-output=FILE   把记录追加到FILE文件中
    -d,  –debug                打印调试输出
    -q,  –quiet                安静模式(没有输出)
    -v,  –verbose              冗长模式(这是缺省设置)
    -nv, –non-verbose          关掉冗长模式,但不是安静模式
    -i,  –input-file=FILE      下载在FILE文件中出现的URLs
    -F,  –force-html           把输入文件当作HTML格式文件对待
    -B,  –base=URL             将URL作为在-F -i参数指定的文件中出现的相对链接的前缀
    –sslcertfile=FILE     可选客户端证书
    –sslcertkey=KEYFILE   可选客户端证书的KEYFILE
    –egd-file=FILE        指定EGD socket的文件名下载
    –bind-address=ADDRESS   指定本地使用地址(主机名或IP,当本地有多个IP或名字时使用)
    -t,  –tries=NUMBER           设定最大尝试链接次数(0 表示无限制).
    -O   –output-document=FILE   把文档写到FILE文件中
    -nc, –no-clobber             不要覆盖存在的文件或使用.#前缀
    -c,  –continue               接着下载没下载完的文件
    –progress=TYPE          设定进程条标记
    -N,  –timestamping           不要重新下载文件除非比本地文件新
    -S,  –server-response        打印服务器的回应
    –spider                 不下载任何东西
    -T,  –timeout=SECONDS        设定响应超时的秒数
    -w,  –wait=SECONDS           两次尝试之间间隔SECONDS秒
    –waitretry=SECONDS      在重新链接之间等待1…SECONDS秒
    –random-wait            在下载之间等待0…2*WAIT秒
    -Y,  –proxy=on/off           打开或关闭代理
    -Q,  –quota=NUMBER           设置下载的容量限制
    –limit-rate=RATE        限定下载输率目录
    -nd  –no-directories            不创建目录
    -x,  –force-directories         强制创建目录
    -nH, –no-host-directories       不创建主机目录
    -P,  –directory-prefix=PREFIX   将文件保存到目录 PREFIX/…
    –cut-dirs=NUMBER           忽略 NUMBER层远程目录HTTP 选项
    –http-user=USER      设定HTTP用户名为 USER.
    –http-passwd=PASS    设定http密码为 PASS.
    -C,  –cache=on/off        允许/不允许服务器端的数据缓存 (一般情况下允许).
    -E,  –html-extension      将所有text/html文档以.html扩展名保存
    –ignore-length       忽略 `Content-Length’头域
    –header=STRING       在headers中插入字符串 STRING
    –proxy-user=USER     设定代理的用户名为 USER
    –proxy-passwd=PASS   设定代理的密码为 PASS
    –referer=URL         在HTTP请求中包含 `Referer: URL’头
    -s,  –save-headers        保存HTTP头到文件
    -U,  –user-agent=AGENT    设定代理的名称为 AGENT而不是 Wget/VERSION.
    –no-http-keep-alive  关闭 HTTP活动链接 (永远链接).
    –cookies=off         不使用 cookies.
    –load-cookies=FILE   在开始会话前从文件 FILE中加载cookie
    –save-cookies=FILE   在会话结束后将 cookies保存到 FILE文件中FTP 选项
    -nr, –dont-remove-listing   不移走 `.listing’文件
    -g,  –glob=on/off           打开或关闭文件名的 globbing机制
    –passive-ftp           使用被动传输模式 (缺省值).
    –active-ftp            使用主动传输模式
    –retr-symlinks         在递归的时候,将链接指向文件(而不是目录)递归下载
    -r,  –recursive          递归下载--慎用!
    -l,  –level=NUMBER       最大递归深度 (inf 或 0 代表无穷).
    –delete-after       在现在完毕后局部删除文件
    -k,  –convert-links      转换非相对链接为相对链接
    -K,  –backup-converted   在转换文件X之前,将之备份为 X.orig
    -m,  –mirror             等价于 -r -N -l inf -nr.
    -p,  –page-requisites    下载显示HTML文件的所有图片递归下载中的包含和不包含(accept/reject)
    -A,  –accept=LIST                分号分隔的被接受扩展名的列表
    -R,  –reject=LIST                分号分隔的不被接受的扩展名的列表
    -D,  –domains=LIST               分号分隔的被接受域的列表
    –exclude-domains=LIST       分号分隔的不被接受的域的列表
    –follow-ftp                 跟踪HTML文档中的FTP链接
    –follow-tags=LIST           分号分隔的被跟踪的HTML标签的列表
    -G,  –ignore-tags=LIST           分号分隔的被忽略的HTML标签的列表
    -H,  –span-hosts                 当递归时转到外部主机
    -L,  –relative                   仅仅跟踪相对链接
    -I,  –include-directories=LIST   允许目录的列表
    -X,  –exclude-directories=LIST   不被包含目录的列表
    -np, –no-parent                  不要追溯到父目录

    Wget使用技巧
    来源:Linux技术中坚站
    wget的使用形式是:

    wget [参数列表] URL
    首先来介绍一下wget的主要参数:
    · -b:让wget在后台运行,记录文件写在当前目录下”wget-log”文件中;
    · -t [nuber of times]:尝试次数,当wget无法与服务器建立连接时,尝试连接多少次
    。比如”-t
    120″表示尝试120次。当这一项为”0″的时候,指定尝试无穷多次直到连接成功为止,这个
    设置非常有用,当对方服务器突然关机或者网络突然中断的时候,可以在恢复正常后继续
    下载没有传完的文件;
    · -c:断点续传,这也是个非常有用的设置,特别当下载比较大的文件的时候,如果中
    途意外中断,那么连接恢复的时候会从上次没传完的地方接着传,而不是又从头开始,使
    用这一项需要远程服务器也支持断点续传,一般来讲,基于UNIX/Linux的Web/FTP服务器
    都支持断点续传;
    · -T [number of seconds]:超时时间,指定多长时间远程服务器没有响应就中断连接
    ,开始下一次尝试。比如”-T
    120″表示如果120秒以后远程服务器没有发过来数据,就重新尝试连接。如果网络速度比
    较快,这个时间可以设置的短些,相反,可以设置的长一些,一般最多不超过900,通常
    也不少于60,一般设置在120左右比较合适;
    · -w [number of seconds]:在两次尝试之间等待多少秒,比如”-w 100″表示两次尝试
    之间等待100秒;
    · -Y on/off:通过/不通过代理服务器进行连接;
    · -Q [byetes]:限制下载文件的总大小最多不能超过多少,比如”-Q2k”表示不能超过2K
    字节,”-Q3m”表示最多不能超过3M字节,如果数字后面什么都不加,就表示是以字节为单
    位,比如”-Q200″表示最多不能超过200字节;
    · -nd:不下载目录结构,把从服务器所有指定目录下载的文件都堆到当前目录里;
    · -x:与”-nd”设置刚好相反,创建完整的目录结构,例如”wget -nd
    http://www.gnu.org“将创建在当前目录下创建”www.gnu.org”子目录,然后按照服务器
    实际的目录结构一级一级建下去,直到所有的文件都传完为止;
    · -nH:不创建以目标主机域名为目录名的目录,将目标主机的目录结构直接下到当前目
    录下;
    · –http-user=username
    · –http-passwd=password:如果Web服务器需要指定用户名和口令,用这两项来设定;
    · –proxy-user=username
    · –proxy-passwd=password:如果代理服务器需要输入用户名和口令,使用这两个选项

    · -r:在本机建立服务器端目录结构;
    · -l [depth]:下载远程服务器目录结构的深度,例如”-l 5″下载目录深度小于或者等
    于5以内的目录结构或者文件;
    · -m:做站点镜像时的选项,如果你想做一个站点的镜像,使用这个选项,它将自动设
    定其他合适的选项以便于站点镜像;
    · -np:只下载目标站点指定目录及其子目录的内容。这也是一个非常有用的选项,我们
    假设某个人的个人主页里面有一个指向这个站点其他人个人主页的连接,而我们只想下载
    这个人的个人主页,如果不设置这个选项,甚至–有可能把整个站点给抓下来,这显然是
    我们通常不希望的;
    ü 如何设定wget所使用的代理服务器
    wget可以使用用户设置文件”.wgetrc”来读取很多设置,我们这里主要利用这个文件来是
    设置代理服务器。使用者用什么用户登录,那么什么用户主目录下的”.wgetrc”文件就起
    作用。例如,”root”用户如果想使用”.wgetrc”来设置代理服务器,”/root/.wgert”就起
    作用,下面给出一个”.wge
    trc”文件的内容,读者可以参照这个例子来编写自己的”wgetrc”文件:
    http-proxy = 111.111.111.111:8080
    ftp-proxy = 111.111.111.111:8080
    这两行的含义是,代理服务器IP地址为:111.111.111.111,端口号为:80。第一行指定
    HTTP协议所使用的代理服务器,第二行指定FTP协议所使用的代理服务器。

    wget 使用实例:
    wget是一个命令行工具,用于批量下载文件,支持HTTP和FTP。究竟比其他的工具好在哪里?看看内容吧 :)

    wget基本上所有的Linux版本都自己带了,但是有多少人在用呢?呵呵,如果你没有用过,不妨试试。Windows下面的用户可以使用GNUwin32的项目,wget,基本功能完全一致。好吧,我们来以几个简单的例子看看wget的威力。

    如果我们想下载ftp里面某个目录里面的所有文件,我们也可以不用ftp这个笨蛋,呵呵,可以享受cute ftp等图形化工具的拖一个目录的轻松了。如

    wget -r ftp://10.8.8.8/movie/

    呵呵,等吧!下完了,发觉有些不对劲,怎么出来个10.8.8.8的目录,进去看看,又是一个movie,哦,wget将目录结构和网站标题都给记录下来了,不要??没有问题!比如说还是这个例子

    wget -r -nd ftp://10.8.8.8/movie/

    结果什么目录都没有了,faint!怎么会这样?呵呵,你如果想要这样就让它这样吧,否则使用

    wget -r -nH ftp://10.8.8.8/movie/

    恩?movie也不要?OK,那就这样

    wget -r -nH –cut-dirs=1 ftp://10.8.8.8/movie/

    这有什么用啊?cuteftp比他好用多了,而且,你这断了线能连吗?呵呵,不好意思,可以连

    wget -c -r -nH –cut-dirs=1 ftp://10.8.8.8/movie/

    但 是cuteftp能做下面的事情吗?比如,现在很多网站使用Apache建站,并不提供ftp服务,但是Apache有一个indexing功能,可以提 供一个类似于ftp的界面,好多文件我想下啊,怎么办?由于是HTTP协议,CuteFTP无能为力了,倒是flash get等有什么get all这种功能,不知道他们对于目录处理怎么样。但是wget一点问题都没有,不信?我们拿CTAN为例(例子并不恰当,CTAN有FTP服务),我们下 载这里面所有的宏包,呵呵

    wget -r -k http://www.txia.com/blog

    -k表示将连接转换为本地连接。但是现在同样有上面的问题啊,那就把你需要的加上吧,另外也许你根本不需要向下走那么多层,比如,我们就要到第二层,那么

    wget -r -l2 -k http://www.txia.com/blog

    现在新的问题是,由于网页有一个排序功能,很讨厌,因为下载的时候把网页重复了好多次,那么我们可使用-A和-R开关控制下载类型,并且可以使用通配符,呵呵,现在随心所欲了吧

    wget -r -R ‘*.htm*\?*’ -k http://www.txia.com/blog

    这次没有那种网页了吧?-R的意义在于拒绝下载匹配类型的文件,-A表示仅仅接受的文件类型,如-A ‘*.gif’将仅下载gif图片,如果有多个允许或者不允许,可以使用,分开。

    那 么,我们现在在使用代理服务器,怎么办呢?呵呵,很高兴你选择了wget,你可以使用它的配置文件,环境变量来利用代理。这里推荐使用环境变量,如 在  bash里面我们可以把天天用的proxy加到.bash_profile里面,这是Linux标准写法(很多软件都用的,什么apt- get,yum 等等)

    export http_proxy=http://10.20.30.40:8080

    然后,proxy就默认打开了,如果需要暂时关闭,可以使用

    wget –proxy=off -r -k http://www.txia.com/blog

    当然,写一个.wgetrc文件也可以,该文件可以从/usr/local/etc里面找到,里面有很详细的注释,我就不多说了。

    下载网页的时候比较麻烦的事情是,有的网页被同时指向了很多遍,那么为了避免多次下载,我们使用

    wget -nc -r -k http://www.txia.com/blog

    可以避免这件事情。为了不被有的连接指向非http://www.txia.com/blog内层目录,我们还应该加上

    wget -nc -np -r -k http://www.txia.com/blog

    避免下载非该目录里面的文件,这也避免了到不同的host上面去。当然,如果你希望有这个功能,在多个host之间跳来跳去的下载,可以使用

    wget -nc -np -H -r -k http://www.txia.com/blog

    使得可以在多个host之间span,同时-I和-X可以使得我们仅仅跟踪某些目录或者不跟踪某些目录。如果某些HTML里面你需要的东西不是由这种东西作出来的,你就得使用–follow-tags和–ignore-tags了。

    嘿,我有个文件里面都是连接,怎么办?要是不是html你只需要

    wget -i your.file

    如果是,那也不繁

    wget -F -i your.file

    wget 使用指南
    wget是一个从网络上自动下载文件的自由工具。它支持HTTP,HTTPS和FTP协议,可以使用HTTP代理.

    所谓的自动下载是指,wget可以在用户退出系统的之后在后台执行。这意味这你可以登录系统,启动一个wget下载任务,然后退出系统,wget将在后台执行直到任务完成,相对于其它大部分浏览器在下载大量数据时需要用户一直的参与,这省去了极大的麻烦。

    wget 可以跟踪HTML页面上的链接依次下载来创建远程服务器的本地版本,完全重建原始站点的目录结构。这又常被称作”递归下载”。在递归下载的时候,wget 遵循Robot Exclusion标准(/robots.txt). wget可以在下载的同时,将链接转换成指向本地文件,以方便离线浏览。

    wget 非常稳定,它在带宽很窄的情况下和不稳定网络中有很强的适应性.如果是由于网络的原因下载失败,wget会不断的尝试,直到整个文件下载完毕。如果是服务 器打断下载过程,它会再次联到服务器上从停止的地方继续下载。这对从那些限定了链接时间的服务器上下载大文件非常有用。

    wget的常见用法
    wget的使用格式

    Usage: wget [OPTION]… [URL]…

    用wget做站点镜像:
    wget -r -p -np -k http://dsec.pku.edu.cn/~usr_name/
    - r 表示递归下载,会下载所有的链接,不过要注意的是,不要单独使用这个参数,因为如果你要下载的网站也有别的网站的链接,wget也会把别的网站的东西下载 下来,所以要加上 -np这个参数,表示不下载别的站点的链接. -k表示将下载的网页里的链接修改为本地链接.-p获得所有显示网页所需的元素,比如图片什么的.

    # 或者
    wget -m http://www.tldp.org/LDP/abs/html/

    在不稳定的网络上下载一个部分下载的文件,以及在空闲时段下载
    wget -t 0 -w 31 -c http://dsec.pku.edu.cn/BBC.avi -o down.log &
    # 或者从filelist读入要下载的文件列表
    wget -t 0 -w 31 -c -B ftp://dsec.pku.edu.cn/linuxsoft -i filelist.txt -o down.log &

    上面的代码还可以用来在网络比较空闲的时段进行下载。我的用法是:在mozilla中将不方便当时下载的URL链接拷贝到内存中然后粘贴到文件filelist.txt中,在晚上要出去系统前执行上面代码的第二条。

    使用代理下载
    wget -Y on -p -k https://sourceforge.net/projects/wvware/

    代理可以在环境变量或wgetrc文件中设定
    # 在环境变量中设定代理
    export PROXY=http://211.90.168.94:8080/
    # 在~/.wgetrc中设定代理
    http_proxy = http://proxy.yoyodyne.com:18023/
    ftp_proxy = http://proxy.yoyodyne.com:18023/

    wget各种选项分类列表
    启动
    -V,  –version           显示wget的版本后退出
    -h,  –help              打印语法帮助
    -b,  –background        启动后转入后台执行
    -e,  –execute=COMMAND   执行`.wgetrc’格式的命令,wgetrc格式参见/etc/wgetrc或~/.wgetrc

    记录和输入文件
    -o,  –output-file=FILE     把记录写到FILE文件中
    -a,  –append-output=FILE   把记录追加到FILE文件中
    -d,  –debug                打印调试输出
    -q,  –quiet                安静模式(没有输出)
    -v,  –verbose              冗长模式(这是缺省设置)
    -nv, –non-verbose          关掉冗长模式,但不是安静模式
    -i,  –input-file=FILE      下载在FILE文件中出现的URLs
    -F,  –force-html           把输入文件当作HTML格式文件对待
    -B,  –base=URL             将URL作为在-F -i参数指定的文件中出现的相对链接的前缀
    –sslcertfile=FILE     可选客户端证书
    –sslcertkey=KEYFILE   可选客户端证书的KEYFILE
    –egd-file=FILE        指定EGD socket的文件名

    下载
    –bind-address=ADDRESS   指定本地使用地址(主机名或IP,当本地有多个IP或名字时使用)
    -t,  –tries=NUMBER           设定最大尝试链接次数(0 表示无限制).
    -O   –output-document=FILE   把文档写到FILE文件中
    -nc, –no-clobber             不要覆盖存在的文件或使用.#前缀
    -c,  –continue               接着下载没下载完的文件
    –progress=TYPE          设定进程条标记
    -N,  –timestamping           不要重新下载文件除非比本地文件新
    -S,  –server-response        打印服务器的回应
    –spider                 不下载任何东西
    -T,  –timeout=SECONDS        设定响应超时的秒数
    -w,  –wait=SECONDS           两次尝试之间间隔SECONDS秒
    –waitretry=SECONDS      在重新链接之间等待1…SECONDS秒
    –random-wait            在下载之间等待0…2*WAIT秒
    -Y,  –proxy=on/off           打开或关闭代理
    -Q,  –quota=NUMBER           设置下载的容量限制
    –limit-rate=RATE        限定下载输率

    目录
    -nd  –no-directories            不创建目录
    -x,  –force-directories         强制创建目录
    -nH, –no-host-directories       不创建主机目录
    -P,  –directory-prefix=PREFIX   将文件保存到目录 PREFIX/…
    –cut-dirs=NUMBER           忽略 NUMBER层远程目录

    HTTP 选项
    –http-user=USER      设定HTTP用户名为 USER.
    –http-passwd=PASS    设定http密码为 PASS.
    -C,  –cache=on/off        允许/不允许服务器端的数据缓存 (一般情况下允许).
    -E,  –html-extension      将所有text/html文档以.html扩展名保存
    –ignore-length       忽略 `Content-Length’头域
    –header=STRING       在headers中插入字符串 STRING
    –proxy-user=USER     设定代理的用户名为 USER
    –proxy-passwd=PASS   设定代理的密码为 PASS
    –referer=URL         在HTTP请求中包含 `Referer: URL’头
    -s,  –save-headers        保存HTTP头到文件
    -U,  –user-agent=AGENT    设定代理的名称为 AGENT而不是 Wget/VERSION.
    –no-http-keep-alive  关闭 HTTP活动链接 (永远链接).
    –cookies=off         不使用 cookies.
    –load-cookies=FILE   在开始会话前从文件 FILE中加载cookie
    –save-cookies=FILE   在会话结束后将 cookies保存到 FILE文件中

    FTP 选项
    -nr, –dont-remove-listing   不移走 `.listing’文件
    -g,  –glob=on/off           打开或关闭文件名的 globbing机制
    –passive-ftp           使用被动传输模式 (缺省值).
    –active-ftp            使用主动传输模式
    –retr-symlinks         在递归的时候,将链接指向文件(而不是目录)

    递归下载
    -r,  –recursive          递归下载--慎用!
    -l,  –level=NUMBER       最大递归深度 (inf 或 0 代表无穷).
    –delete-after       在现在完毕后局部删除文件
    -k,  –convert-links      转换非相对链接为相对链接
    -K,  –backup-converted   在转换文件X之前,将之备份为 X.orig
    -m,  –mirror             等价于 -r -N -l inf -nr.
    -p,  –page-requisites    下载显示HTML文件的所有图片

    递归下载中的包含和不包含(accept/reject)
    -A,  –accept=LIST                分号分隔的被接受扩展名的列表
    -R,  –reject=LIST                分号分隔的不被接受的扩展名的列表
    -D,  –domains=LIST               分号分隔的被接受域的列表
    –exclude-domains=LIST       分号分隔的不被接受的域的列表
    –follow-ftp                 跟踪HTML文档中的FTP链接
    –follow-tags=LIST           分号分隔的被跟踪的HTML标签的列表
    -G,  –ignore-tags=LIST           分号分隔的被忽略的HTML标签的列表
    -H,  –span-hosts                 当递归时转到外部主机
    -L,  –relative                   仅仅跟踪相对链接
    -I,  –include-directories=LIST   允许目录的列表
    -X,  –exclude-directories=LIST   不被包含目录的列表
    -np, –no-parent                  不要追溯到父目录

    问题
    在递归下载的时候,遇到目录中有中文的时候,wget创建的本地目录名会用URL编码规则处理。如”天网防火墙”会被存为”%CC%EC%CD%F8%B7%C0%BB%F0%C7%BD”,这造成阅读上的极大不方便。

  • 0 Comments
  • Filed under: Kevin