环境：windows/Linux + Python2.7.x
单线程
在介绍多线程之前首先介绍单线程。编写单线程的思路为：
1.解析url；
2.连接web服务器；
3.构造http请求包；
4.下载文件。
接下来通过代码进行说明。
解析url
通过用户输入url进行解析。如果解析的路径为空，则赋值为'/'；如果端口号为空，则赋值为"80”；下载文件的文件名可根据用户的意愿进行更改（输入'y'表示更改，输入其它表示不需要更改）。
下面列出几个解析函数：
#解析host和path
def analyHostAndPath(totalUrl):
protocol,s1 = urllib.splittype(totalUrl)
host, path = urllib.splithost(s1)
if path == '':
path = '/'
return host, path
#解析port
def analysisPort(host):
host, port = urllib.splitport(host)
if port is None:
return 80
return port
#解析filename
def analysisFilename(path):
filename = path.split('/')[-1]
if '.' not in filename:
return None
return filename连接web服务器
使用socket模块，根据解析url得到的host和port连接web服务器，代码如下：
import socket from analysisUrl import port,host ip = socket.gethostbyname(host) s = socket.socket(socket.AF_INET,socket.SOCK_STREAM) s.connect((ip, port)) print "success connected webServer！！"
构造http请求包
根据解析url得到的path, host, port构造一个HTTP请求包。
from analysisUrl import path, host, port packet = 'GET ' + path + ' HTTP/1.1 Host: ' + host + ' '
下载文件
根据构造的http请求包，向服务器发送文件，抓取响应报文头部的"Content-Length"。
def getLength(self): s.send(packet) print "send success!" buf = s.recv(1024) print buf p = re.compile(r'Content-Length: (d*)') length = int(p.findall(buf)[0]) return length, buf
下载文件并计算下载所用的时间。
def download(self):
file = open(self.filename,'wb')
length,buf = self.getLength()
packetIndex = buf.index('
')
buf = buf[packetIndex+4:]
file.write(buf)
sum = len(buf)
while 1:
buf = s.recv(1024)
file.write(buf)
sum = sum + len(buf)
if sum >= length:
break
print "Success!!"
if __name__ == "__main__":
start = time.time()
down = downloader()
down.download()
end = time.time()
print "The time spent on this program is %f s"%(end - start)多线程
抓取响应报文头部的"Content-Length"字段，结合线程个数，加锁分段下载。与单线程的不同，这里将所有代码整合为一个文件，代码中使用更多的Python自带模块。
得到"Content-Length"：
def getLength(self):
opener = urllib2.build_opener()
req = opener.open(self.url)
meta = req.info()
length = int(meta.getheaders("Content-Length")[0])
return length根据得到的Length，结合线程个数划分范围：
def get_range(self): ranges = [] length = self.getLength() offset = int(int(length) / self.threadNum) for i in range(self.threadNum): if i == (self.threadNum - 1): ranges.append((i*offset,'')) else: ranges.append((i*offset,(i+1)*offset)) return ranges
实现多线程下载，在向文件写入内容时，向线程加锁，并使用with lock代替lock.acquire( )...lock.release( );使用file.seek( )设置文件偏移地址，保证写入文件的准确性。
def downloadThread(self,start,end): req = urllib2.Request(self.url) req.headers['Range'] = 'bytes=%s-%s' % (start, end) f = urllib2.urlopen(req) offset = start buffer = 1024 while 1: block = f.read(buffer) if not block: break with lock: self.file.seek(offset) self.file.write(block) offset = offset + len(block) def download(self): filename = self.getFilename() self.file = open(filename, 'wb') thread_list = [] n = 1 for ran in self.get_range(): start, end = ran print 'starting:%d thread '% n n += 1 thread = threading.Thread(target=self.downloadThread,args=(start,end)) thread.start() thread_list.append(thread) for i in thread_list: i.join() print 'Download %s Success!'%(self.file) self.file.close()
运行结果：
将(*.py)文件转化为(*.exe)可执行文件
当写好了一个工具，如何让那些没有安装Python的人使用这个工具呢？这就需要将.py文件转化为.exe文件。
这里用到Python的py2exe模块，初次使用，所以对其进行介绍：
py2exe是一个将Python脚本转换成windows上可独立执行的可执行文件（*.exe）的工具，这样，就可以不用装Python在windows上运行这个可执行程序。
接下来，在multiThreadDownload.py的同目录下，创建mysetup.py文件，编写：
from distutils.core import setup import py2exe setup(console=["multiThreadDownload.py"])
接着执行命令：Python mysetup.py py2exe
生成dist文件夹，multiTjhreadDownload.exe文件位于其中，点击运行即可：
demo下载地址：HttpFileDownload_jb51.rar
Copyright © 2019-2025 51dongshi.net 版权所有
违法及侵权请联系：TEL:177 7030 7066 E-MAIL:11247931@qq.com 本站由北京市万商天勤律师事务所王兴未律师提供法律服务
